云计算 mysql Python 开源 java nginx 程序员 Android Ubuntu google shell wordpress linux php apache 微软 编程 Firefox centos Windows

Linux概念架構的理解

Linux kernel成功的兩個原因:(1)架構設計支持大量的誌願開發者加入到開發過程中;(2)每個子系統,尤其是那些需要改進的,都支持很好的擴展性。正式這兩個原因使得Linux kernel可以不斷進化。

一、Linux內核在整個計算機系統中的位置

【翻译】Linux概念架构的理解

Fig 1 - 計算機系統分層結構

分層結構的原則:the dependencies between subsystems are from the top down: layers pictured near the top depend on lower layers, but subsystems nearer the bottom do not depend on higher layers.

這種子系統之間的依賴性只能是從上到下,也就是圖中top的子系統依賴bottom的子系統,反之則不行。

二、內核的作用

虛擬化(抽象) ,將計算機硬件抽象為一臺虛擬機,供用戶進程(process)使用;進程運行時完全不需要知道硬件是如何工作的,只要調用Linux kernel提供的虛擬接口(virtual interface)即可。
多任務處理 ,實際上是多個任務在並行使用計算機硬件資源,內核的任務是仲裁對資源的使用,制造每個進程都以為自己是獨占系統的錯覺。
ps:進程上下文切換就是要換掉程序狀態字、換掉頁表基地址寄存器的內容、換掉current指向的task_struct實例、換掉PC—— >也就換掉了進程打開的文件(通過task_struct的files可以找到)、換掉了進程內存的執行空間(通過task_struct的mem 可以找到);

三、Linux內核的整體架構

【翻译】Linux概念架构的理解

Linux內核的整體架構

中心系統是Process Scheduler(SCHED):所有其余的子系統都依賴於Process Scheduler,因為其余子系統都需要阻塞和恢復進程。當一個進程需要等待一個硬件動作完成時,相應子系統會阻塞這個進程;當這個硬件動作完成時,子 系統會將這個進程恢復:這個阻塞和恢復動作都要依賴於Processor Scheduler完成。

上圖中的每一個依賴箭頭都有原因:

Process Scheduler依賴Memory manager:進程恢復執行時,需要依靠Memory Manager分配供它運行的內存。
IPC子系統依賴於Memory manager:共享內存機制是進程間通信的一種方法,運行兩個進程利用同一塊共享的內存空間進行信息傳遞。
VFS依賴於Network Interface:支持NFS網絡文件系統;
VFS依賴於Memory Manager:支持ramdisk 設備
memory manager依賴於VFS,因為要支持swapping,可以將暫時不運行的進程換出到磁盤上的swap分區,進入掛起狀態。
四、高度模塊化設計的系統,利於分工合作。

只有極少數的程序員需要橫跨多個模塊開展工作,這種情況確實會發生,僅發生在當前系統需要依賴另一個子系統時;
硬件設備驅動(hardware device drivers)、文件系統模塊(logical filesystem modules)、網絡設備驅動(network device drivers)和網絡協議模塊(network protocol modules)這四個模塊的可擴展性最高。
五、系統中的數據結構

Task List 
Process Scheduler 針對每個進程維護一個數據結構 task_struct ;所有的進程用鏈表管理,形成 task list ;process scheduler還維護一個 current指針 指向當前正在占用CPU的進程。
Memory Map 
Memory Manager存儲每個進程的虛擬地址到物理地址的映射;並且也提供了如何換出特定的頁,或者是如何進行缺頁處理。這些信息存放在數據結構 mm_struct 中。每個進程都有一個mm_struct結構,在進程的task_struct結構中有一個指針mm指向次進程的mm_struct結構。 
在mm_struct中有一個指針pgd,指向該進程的頁目錄表(即存放頁目錄首地址)——>當該進程被調度時,此指針被換成物理地址,寫入控制寄存器CR3(x86體系結構下的頁基址寄存器)
I-nodes 
VFS通過inodes節點表示磁盤上的文件鏡像,inodes用於記錄文件的物理屬性。每個進程都有一個 files_struct 結構,用於表示該進程打開的文件,在task_struct中有個files指針。使用inodes節點可以實現文件共享。文件共享有兩種方式:(1)通過同一個系統打開文件 file 指向同一個inodes節點,這種情況發生於父子進程間;(2)通過不同系統打開文件指向同一個inode節點,舉例有硬鏈接;或者是兩個不相關的指針打開同一個文件。
Data Connection 
內核中所有的數據結構的根都在Process Scheduler維護的task list鏈表中。系統中每個進程的的數據結構task_struct中有一個指針mm指向它的內存映射信息;也有一個指針files指向它打開的文件(用 戶打開文件表);還有一個指針指向該進程打開的網絡套接字。
六、子系統架構

1. Process Scheduler 架構

(1)目標

process scheduler是Linux kernel中最重要的子系統。系統通過它來控制對CPU的訪問——不僅僅是用戶進程對CPU的訪問,也包括其余子系統對CPU的訪問。

(2)模塊

【翻译】Linux概念架构的理解

進程調度器

調度策略模塊(scheduling policy module):決定哪個進程獲得對CPU的訪問權;調度策略應該讓所有進程盡可能公平得共享CPU。

體系結構相關模塊(architecture-specific module)設計一組統一的抽象接口來屏蔽特定體系接口芯片的硬件細節。這個模塊與CPU交互以阻塞和恢復進程。這些操作包括獲取每個進程需要保存的寄 存器和狀態信息、執行匯編代碼來完成阻塞或者恢復操作。
體系結構無關模塊(architecture-independent module) 與調度策略模塊交互將決定下一個執行的進程,然後調用體系結構相關的代碼去恢復那個進程的執行。不僅如此,這個模塊還會調用memory manager的接口來確保被阻塞的進程的內存映射信息被正確得保存起來。
系統調用接口模塊(system call interface) 允許用戶進程訪問Linux Kernel明確暴露給用戶進程的資源。通過一組定義合適的基本上不變的接口(POSIX標準),將用戶應用程序和Linux內核解耦,使得用戶進程不會受到內核變化的影響。
(3). 數據表示

調度器維護一個數據結構——task list,其中的元素時每個活動的進程task_struct實例;這個數據結構不僅僅包含用來阻塞和恢復進程的信息,也包含額外的計數和狀態信息。這個數據結構在整個kernel層都可以公共訪問。

(4). 依賴關系、數據流、控制流

正如前面提到過的,調度器需要調用memory manager提供的功能,去為需要恢復執行的進程選擇合適的物理地址,正因為如此,所以Process Scheuler子系統依賴於內存管理子系統。當其他內核子系統需要等待硬件請求完成時,它們都依賴於進程調度子系統進行進程的阻塞和恢復。這種依賴性通 過函數調用和訪問共享的task list數據結構來體現。所有的內核子系統都要讀或者寫代表當前正在運行進程的數據結構,因此形成了貫穿整個系統的雙向數據流。

除了內核層的數據流和控制流,OS服務層還給用戶進程提供註冊定時器的接口。這形成了由調度器對用戶進程的控制流。通常喚醒睡眠進程的用例不在正 常的控制流範圍,因為用戶進程無法預知何時被喚醒。最後,調度器與CPU交互來阻塞和恢復進程,這又形成它們之間的數據流和控制流——CPU負責打斷當前 正在運行的進程,並允許內核調度其他的進程運行。

2. Memory Manager 架構

(1)目標

內存管理模塊負責控制進程如何訪問物理內存資源。通過硬件內存管理系統(MMU)管理進程虛擬內存和機器物理內存之間的映射。每一個進程都有自己 獨立的虛擬內存空間,所以兩個進程可能有相同的虛擬地址,但是它們實際上在不同的物理內存區域運行。MMU提供內存保護,讓兩個進程的物理內存空間不互相 幹擾。內存管理模塊還支持swap——將暫時不用的內存頁換出到磁盤上的swap分區,這種技術讓進程的虛擬地址空間大於物理內存的大小。虛擬地址空間的 大小由機器字長決定。

(2)模塊

【翻译】Linux概念架构的理解

內存管理子系統

架構相關模塊(architecture specific module)提供訪問物理內存的虛擬接口;

架構無關模塊(architecture independent module)負責每個進程的地址映射以及虛擬內存交換。當發生缺頁錯誤時,由該模塊負責決定哪個內存頁應該被換出內存——因為這個內存頁換出選擇算法幾 乎不需要改動,所以這裏沒有建立一個獨立的策略模塊。

系統調用接口(system call interface) 為用戶進程提供嚴格的訪問接口(malloc和free;mmap和ummap)。這個模塊允許用進程分配和釋放內存、執行內存映射文件操作。

(3)數據表示

內存管理存放每個進程的虛擬內存到物理內存的映射信息。這種映射信息存放在mm_struct結構實例中,這個實例的指針又存放在每個進程的 task_struct中。除了存放映射信息,數據塊中還應該存放關於內存管理器如何獲取和存儲頁的信息。例如:可執行代碼能夠將可執行鏡像作為備份存 儲;但是動態申請的數據則必須備份到系統頁中。(這個沒看懂,請高手解惑?)最後,內存管理模塊還應該存放訪問和技術信息,以保證系統的安全。

(4)依賴關系、數據流和控制流

內存管理器控制物理內存,當page fault發生時,接受硬件的通知(缺頁中斷)—— 這意味著在內存管理模塊和內存管理硬件之間存在雙向的數據流和控制流。內存管理也依賴文件系統來支持swapping和內存映射I/O——這種需求意味著 內存管理器需要調用對文件系統提供的函數接口(procedure calls),往磁盤中存放內存頁和從磁盤中取內存頁。因為文件系統請求非常慢,所以在等待內存頁被換入之前,內存管理器要讓進程需要進入休眠——這種需 求讓內存管理器調用process scheduler的接口。由於每個進程的內存映射存放在進程調度器的數據結構中,所以在內存管理器和進程調度器之間也有雙向的數據流和控制流。用戶進程 可以建立新的進程地址空間,並且能夠感知缺頁錯誤——這裏需要來自內存管理器的控制流。一般來說沒有用戶進程到內存管理器的數據流,但是用戶進程卻可以通 過select系統調用,從內存管理器獲取一些信息。

3. Virtual File System 架構

(1)目標

虛擬文件系統為存儲在硬件設備上數據提供統一的訪問接口。可以兼容不同的文件系統(ext2,ext4,ntf等等)。計算機中幾乎所有的硬件設 備都被表示為一個通用的設備驅動接口。邏輯文件系統促進與其他操作系統標準的兼容性,並且允許開發者以不同的策略實現文件系統。虛擬文件系統更進一步,允 許系統管理員在任何設備上掛載任何邏輯文件系統。虛擬文件系統封裝物理設備和邏輯文件系統的細節,並且允許用戶進程使用統一的接口訪問文件。

除了傳統的文件系統目標,VFS也負責裝載新的可執行文件。這個任務由邏輯文件系統模塊完成,使得Linux可以支持多種可執行文件。

(2)模塊

【翻译】Linux概念架构的理解

虛擬文件系統模塊

設備驅動模塊(device driver module)
設備獨立接口模塊(Device Independent Interface):提供所有設備的同一視圖
邏輯文件系統(logical file system):針對每種支持的文件系統
系統獨立接口(system independent interface)提供硬件資源和邏輯文件系統都無關的接口,這個模塊通過塊設備節點或者字符設備節點提供所有的資源。
系統調用模塊(system call interface)提供用戶進程對文件系統的統一控制訪問。虛擬文件系統為用戶進程屏蔽了所有特殊的特性。
(3)數據表示

所有文件使用i-nodes表示。每個inode都記錄一個文件在硬件設備上的位置信息。不僅如此,inode還存放著指向邏輯文件系統模塊和設 備驅動的的函數指針,這些指針能夠執行具體的讀寫操作。通過按照這種形式(就是面向對象中的虛函數的思想)存放函數指針,具體的邏輯文件系統和設備驅動可 以向內核註冊自己而不需要內核依賴具體的模塊特性。

(4)依賴關系、數據流和控制流

一個特殊的設備驅動是ramdisk,這個設備在主存中開辟一片區域,並把它當成持久性存儲設備使用。這個設備驅動使用內存管理模塊完成任務,所以在VFS與對內存管理模塊存在依賴關系(圖中的依賴關系反了,應該是VFS依賴於內存管理模塊)、數據流和控制流。

邏輯文件系統支持網絡文件系統。這個文件系統像訪問本地文件一樣,從另一臺機器上訪問文件。為了實現這個功能,一種邏輯文件系統通過網絡子系統完成它的任務——這引入了VFS對網絡子系統的一個依賴關系以及它們之間的控制流和數據流。

正如前面提到的,內存管理器使用VFS完成內存swap功能和內存映射I/O。另外,當VFS等待硬件請求完成時,VFS需要使用進程調度器阻塞 進程;當請求完成時,VFS需要通過進程調度器喚醒進程。最後,系統調用接口允許用戶進程調用來存取數據。不像前面的子系統,VFS沒有提供給用戶註冊不 明確調用的機制,所以沒有從VFS到用戶進程的控制流。

4. Network Interface 架構

(1)目標

網絡子系統讓Linux系統能夠通過網絡與其他系統相連。這個子系統支持很多硬件設備,也支持很多網絡協議。網絡子系統將硬件和協議的實現細節都屏蔽掉,並抽象出簡單易用的接口供用戶進程和其他子系統使用——用戶進程和其余子系統不需要知道硬件設備和協議的細節。

(2)模塊

【翻译】Linux概念架构的理解

網絡協議層模塊圖

網絡設備驅動模塊(network device drivers)
設備獨立接口模塊(device independent interface module)提供所有硬件設備的一致訪問接口,使得高層子系統不需要知道硬件的細節信息。
網絡協議模塊(network protocol modules)負責實現每一個網絡傳輸協議,例如:TCP,UDP,ip,HTTP,arp等等~
協議無關模塊(protocol independent interface)提供獨立於具體協議和具體硬件設備的一致性接口。這使得其余內核子系統無需依賴特定的協議或者設備就能訪問網絡。
系統調用接口模塊(system calls interface)規定了用戶進程可以訪問的網絡編程API
(3)數據表示

每個網絡對象都被表示為一個套接字(socket)。套接字與進程關聯的方法和i-nodes節點相同。通過兩個task_struct指向同一個套接字,套接字可以被多個進程共享。

(4)數據流,控制流和依賴關系

當網絡子系統需要等待硬件請求完成時,它需要通過進程調度系統將進程阻塞和喚醒——這形成了網絡子系統和進程調度子系統之間的控制流和數據流。不僅如此,虛擬文件系統通過網絡子系統實現網絡文件系統(NFS)——這形成了VFS和網絡子系統指甲的數據流和控制流。

七、結論

1、Linux內核是整個Linux系統中的一層。內核從概念上由五個主要的子系統構成:進程調度器模塊、內存管理模塊、虛擬文件系統、網絡接口模塊和進程間通信模塊。這些模塊之間通過函數調用和共享數據結構進行數據交互。、

2、Linux內核架構促進了他的成功,這種架構使得大量的誌願開發人員可以合適得分工合作,並且使得各個特定的模塊便於擴展。

可擴展性一 :Linux架構通過一項數據抽象技術使得這些子系統成為可擴展的——每個具體的硬件設備驅動都實現為單獨的模塊,該模塊支持內核提供的統一的接口。通過這種方式,個人開發者只需要和其他內核開發者做最少的交互,就可以為Linux內核添加新的設備驅動。
可擴展性二 :Linux內核支持多種不同的體系結構。在每個子系統中,都將體系結構相關的代碼分割出來,形成單獨的模塊。通過這種方法,一些廠家在推出他們自己的芯片時,他們的內核開發小組只需要重新實現內核中機器相關的代碼,就可以講內核移植到新的芯片上運行。

延伸阅读

    评论