硬體組織與程式執行 (Hardware Organization & Program Execution)

Overview Table

1.4 Processors Read and Interpret Instructions Stored in Memory (p.43)

編譯系統產出的可執行檔 hello 存於磁碟。在 Unix 系統上輸入 ./hello 交給 shell 執行:

• shell 是命令列直譯器 (command-line interpreter):印出提示字元 → 等待輸入命令列 → 執行命令。
• 若命令列第一個字不是內建 shell 命令,shell 便假設它是可執行檔名稱,將其載入並執行 (load and run),並等待它終止。
• hello 印出訊息後終止;shell 再印提示字元等待下一個命令。

linux> ./hello        ← shell 讀入命令
hello, world          ← hello 程式輸出
linux>                ← hello 終止,shell 重新印提示字元

1.4.1 Hardware Organization of a System (p.44-46)

典型系統(以近代 Intel 系統為原型,但各家系統大同小異)的硬體組織:

        CPU
  +-------------------+
  | Register file     |
  |  +----+           |
  |  | PC |    ALU    |
  |  +----+           |
  |                   |   System bus        Memory bus
  |  Bus interface  <=|=================+==================+
  +-------------------+                 |                  |
                                   +---------+        +---------+
                                   |   I/O   |        |  Main   |
                                   | bridge  |        | memory  |
                                   +---------+        | (DRAM)  |
                                        |             +---------+
  ======================================+=====================  I/O bus
      |               |                 |                |
  +--------+     +----------+     +------------+   Expansion slots
  |  USB   |     | Graphics |     |    Disk    |   (e.g. network
  | ctrlr  |     | adapter  |     | controller |    adapters)
  +--------+     +----------+     +------------+
   Mouse           Display            Disk ← hello executable
   Keyboard                                  stored on disk

Buses(匯流排)

• 貫穿系統的電氣導管 (electrical conduits),在元件間來回搬運位元組。
• 通常以固定大小的位元組區塊 —— word(字組) —— 為傳輸單位。
• word size 是基本系統參數,依系統而異;現今多為 4 bytes (32-bit) 或 8 bytes (64-bit)。

I/O Devices(輸入/輸出裝置)

• 系統與外部世界的連接。範例系統有四個:keyboard、mouse(輸入)、display(輸出)、disk(長期儲存;hello 最初就放在這)。
• 每個 I/O 裝置經由 controller 或 adapter 連上 I/O bus,兩者差異主要在封裝 (packaging):

Main Memory(主記憶體)

• 暫時性 (temporary) 儲存裝置:在處理器執行程式期間,同時存放程式與其操作的資料。
• 物理上:一組 DRAM (dynamic random access memory) 晶片。
• 邏輯上:線性位元組陣列 (linear array of bytes),每個 byte 有唯一位址(陣列索引),從 0 起算。
• 機器指令可由可變數目的位元組構成;C 變數大小依型別而定 —— x86-64 Linux 上:short 2 bytes、int / float 4 bytes、long / double 8 bytes。

Processor (CPU)

• 中央處理單元:解讀(執行)存放在主記憶體中指令的引擎。
• 核心是 word-size 暫存器 PC (program counter):任一時刻都指向(存放)主記憶體中某條機器語言指令的位址。
• 從開機到斷電,處理器不斷重複:執行 PC 所指的指令 → 更新 PC 指向下一條指令(下一條不一定與剛執行的指令在記憶體中相鄰,如 jump 之後)。
• 指令依 instruction set architecture (ISA) 定義的模型「看似」嚴格循序 (in strict sequence) 執行;單條指令的執行包含一連串步驟:讀取指令 → 解讀位元 → 執行簡單操作 → 更新 PC。

簡單操作環繞三個部件:main memory、register file(一組各有唯一名稱的 word-size 暫存器)、ALU (arithmetic/logic unit)(計算新的資料值與位址值):

1.4.2 Running the hello Program (p.46-47)

執行 ./hello 的完整資料流(big picture,省略許多細節):

[Step 1] 讀取命令 (Figure 1.5)
  Keyboard --(USB ctrlr → I/O bus → I/O bridge)--> CPU register
  CPU register --> Main memory        ("./hello" 逐字元存入記憶體)

[Step 2] 按下 Enter → shell 載入可執行檔 (Figure 1.6)
  Disk ====(DMA: 不經過 CPU)====> Main memory
       (hello 的 code + data,含字串 "hello, world\n")

[Step 3] CPU 執行 hello 的 main routine (Figure 1.7)
  Main memory --> Register file --> Display (graphics adapter)
       ("hello, world\n" 逐位元組送往螢幕顯示)

• Step 1:使用者鍵入 ./hello 時,shell 將每個字元讀入暫存器、再存入記憶體。
• Step 2:shell 執行一連串指令,把 hello object file 的 code 與 data 從磁碟複製到主記憶體;透過 DMA (direct memory access) 技術,資料直接從磁碟到主記憶體、不經過處理器(Ch.6 詳述)。
• Step 3:載入完成後處理器開始執行 hello 的 main routine 中的機器指令,把 hello, world\n 的位元組從記憶體複製到 register file,再送往顯示裝置顯示。

1.5 Caches Matter (p.47-49)

關鍵教訓:系統花大量時間在把資訊從一處搬到另一處(disk → memory → CPU → display)。對程式設計師而言這些複製都是拖慢「真正工作」的 overhead,故系統設計者的主要目標是讓複製操作盡可能快。

物理定律造成的基本取捨:

• 越大的儲存裝置越慢;越快的裝置造價越貴。
• 典型數字(p.49):disk 可能比 main memory 大 1,000 倍,但處理器讀 disk 上一個 word 可能比讀 memory 慢 10,000,000 倍。
• register file 只存幾百 bytes(vs. memory 數十億 bytes),但處理器讀 register file 比讀 memory 快近 100 倍。

解法:插入更小、更快的 cache memories(快取) 作為「處理器近期可能需要的資訊」的暫存集結區 (temporary staging areas):

   CPU chip
  +-----------------------------+
  |            Register file    |
  |  +--------+                 |
  |  | Cache  |        ALU      |
  |  | mems   |                 |
  |  +--------+                 |    System bus    Memory bus
  |        Bus interface  <=====|=========+============+
  +-----------------------------+    +--------+   +--------+
                                     | I/O    |   | Main   |
                                     | bridge |   | memory |
                                     +--------+   +--------+

• 快取奏效的原理是 locality(區域性):程式傾向於在局部區域存取資料與程式碼。讓快取保存可能常被存取的資料,多數記憶體操作就能由快速的 cache 完成 → 系統同時獲得「大記憶體」與「快記憶體」的效果。

1.6 Storage Devices Form a Hierarchy (p.50)

「在處理器與較大較慢的裝置之間插入較小較快的儲存裝置」是普遍性的想法:每個電腦系統的儲存裝置都組織成 memory hierarchy(記憶體階層):

              /\        L0: Regs (CPU registers)
             /  \       L1: L1 cache (SRAM)
   Smaller, /    \      L2: L2 cache (SRAM)
   faster, /      \     L3: L3 cache (SRAM)
   costlier        \    L4: Main memory (DRAM)
   per byte  ↑      \   L5: Local secondary storage (local disks)
             |       \  L6: Remote secondary storage
   Larger,   ↓        \     (distributed file systems, Web servers)
   slower, cheaper     \
   per byte  ----------->

• 由上到下:更慢、更大、每 byte 更便宜。
• register file 在最頂層 = L0;L1~L3 cache 佔階層第 1~3 層;main memory 是 L4;以下依序類推。
• 核心思想:某一層的儲存,作為下一個較低層儲存的 cache:

Exam/Test Patterns

Related Notes

• 01-Computer-Systems-Tour/01-Information-and-Program-Translation
• 01-Computer-Systems-Tour/03-OS-Abstractions-and-Networks
• 01-Computer-Systems-Tour/04-Amdahls-Law-and-Concurrency-Themes
• 06-Memory-Hierarchy/02-Locality-and-Memory-Hierarchy
• 06-Memory-Hierarchy/03-Cache-Memories
• 04-Processor-Architecture/04-Pipelining-Principles
• 08-Exceptional-Control-Flow/04-Process-Control