摘要：計算機組成中的大量原理和設計，都對應著性能這個詞。時間的倒數性能計算機的性能，其實和體力勞動很像，好比是我們要搬東西。對于計算機的性能，我們需要有個標準來衡量。花的時間越少，自然性能就越好。

學習計算機組成原理，就是學習計算機是如何協調運行的

計算機組成原理的英文叫Computer Organization

Organization 意"組織機構"。

該組織機構能夠進行各種計算、控制、讀取輸入，進行輸出，達成各種強大的功能。

把整個計算機組成原理的知識點拆分成了四大部分

計算機的基本組成

計算機的指令和計算

處理器設計

存儲器和I/O設備。

計算機的硬件組成

這些硬件，怎么對應到經典的馮·諾依曼體系結構的

除此之外，還需要了解計算機的兩個核心指標

性能

功耗

性能和功耗也是我們在應用和設計五大基本組件中需要重點考慮的因素。

需要搞明白，我們每天撰寫的一行行C、Java、PHP程序，是怎么在計算機里面跑起來的。

了解我們的程序是怎么通過編譯器和匯編器，變成一條條機器指令這樣的編譯過程（編譯過程展開，就是編譯原理）

知道我們的操作系統是怎么鏈接、裝載、執行這些程序的（深入學習，就是操作系統）。而這一條條指令執行的控制過程，就是由計算機五大組件之一的控制器來控制的。

計算部分，要從二進制和編碼開始，理解我們的數據在計算機里的表示，以及我們是怎么從數字電路層面，實現加法、乘法這些基本的運算功能的。

實現這些運算功能的ALU（Arithmetic Logic Unit/ALU），算術邏輯單元，計算機五大組件之一的運算器。

特別重要的就是浮點數（Floating Point）。

浮點數是我們在日常運用中非常容易用錯的一種數據表示形式。掌握浮點數能讓你對數據的編碼、存儲和計算能夠有一個從表到里的深入理解。尤其在AI火熱的今天，浮點數是機器學習中重度使用的數據表示形式，掌握它更是非常有必要。

CPU時鐘可以用來構造寄存器和內存的鎖存器和觸發器，因此，CPU時鐘應該是我們學習CPU的前導知識。搞明白我們為什么需要CPU時鐘（CPU Clock），以及寄存器和內存是用什么樣的硬件組成的之后，我們可以再來看看，整個計算機的數據通路是如何構造出來的。

數據通路，其實就是連接了整個運算器和控制器，并最終組成了CPU。而出于對于性能和功耗的考慮，你要進一步理解和掌握面向流水線設計的CPU、數據和控制冒險，以及分支預測的相關技術。

既然CPU作為控制器要和輸入輸出設備通信，那么我們就要知道異常和中斷發生的機制。在CPU設計部分的最后，我會講一講指令的并行執行，看看如何直接在CPU層面，通過SIMD來支持并行計算。

通過存儲器的層次結構作為基礎的框架引導，需要掌握從上到下的CPU高速緩存、內存、SSD硬盤和機械硬盤的工作原理，它們之間的性能差異，以及實際應用中利用這些設備會遇到的挑戰。存儲器其實很多時候又扮演了輸入輸出設備的角色，所以你需要進一步了解，CPU和這些存儲器之間是如何進行通信的，以及我們最重視的性能問題是怎么一回事；理解什么是IO_WAIT，如何通過DMA來提升程序性能。

對于存儲器，我們不僅需要它們能夠正常工作，還要確保里面的數據不能丟失。于是你要掌握我們是如何通過RAID、Erasure Code、ECC以及分布式HDFS，這些不同的技術，來確保數據的完整性和訪問性能。

相較于整個計算機科學中的其他科目，計算機組成原理更像是整個計算機學科里的“綱要”。這門課里任何一個知識點深入挖下去，都可以變成計算機科學里的一門核心課程。

程序怎樣從高級代碼變成指令在計算機里面運行，對應著“編譯原理”和“操作系統”這兩門課程

計算實現背后則是“數字電路”

如果要深入CPU和存儲器系統的優化，必然要深入了解“計算機體系結構”。

為了更快更好地學計算機組成，總結了三個學習方法

學完一個知識點之后，你可以從下面兩個方面，問一下自己。

我寫的程序，是怎樣從輸入的代碼，變成運行的程序，并得到最終結果的？

整個過程中，計算器層面到底經歷了哪些步驟，有哪些地方是可以優化的？

無論是程序的編譯、鏈接、裝載和執行，以及計算時需要用到的邏輯電路、ALU，乃至CPU自發為你做的流水線、指令級并行和分支預測，還有對應訪問到的硬盤、內存，以及加載到高速緩存中的數據，這些都對應著我們學習中的一個個知識點。建議你自己腦子里過一遍，最好時口頭表述一遍或者寫下來，這樣對你徹底掌握這些知識點都會非常有幫助。

計算機科學是一門實踐的學科。計算機組成中的大量原理和設計，都對應著“性能”這個詞。因此，通過把對應的知識點，變成一個個性能對比的示例代碼程序記錄下來，是把這些知識點融匯貫通的好方法。因為，相比于強記硬背知識點，一個有著明確性能對比的示例程序，會在你腦海里留下更深刻的印象。當你想要回顧這些知識點的時候，一個程序也更容易提示你把它從腦海深處里面找出來。

計算機的發展并不是一蹴而就的。從第一臺電子計算機ENIAC（Electronic Numerical Integrator And Computer，電子數值積分計算機）的發明到現在，已經有70多年了。現代計算機用的各個技術，都是跟隨實際應用中遇到的挑戰，一個個發明、打磨，最后保留下來的。這當中不僅僅有學術層面的碰撞，更有大量商業層面的交鋒。通過了解充滿戲劇性和故事性的計算機硬件發展史，讓你更容易理解計算機組成中各種原理的由來。

比如說，奔騰4和SPARC的失敗，以及ARM的成功，能讓我們記住CPU指令集的繁與簡、權衡性能和功耗的重要性，而現今高速發展的機器學習和邊緣計算，又給計算機硬件設計帶來了新的挑戰。

最有效的辦法還是“讀書百遍，其義自見”。對于不夠明白的知識點，多搜索，多看不同來源的資料，多和朋友、同事、老師一起交流，一定能夠幫你掌握好想要學習的知識點。

《計算機是怎樣跑起來的》

《程序是怎樣跑起來的》(入門微縮版“計算機組成原理”)

計算機組成中，硬件層面的基礎實現，比如寄存器、ALU這些電路是怎么回事Coursera上的北京大學免費公開課《Computer Organization》。

《計算機組成與設計：硬件/軟件接口》

《深入理解計算機系統（原書第3版》(CS APP的經典教材)

該書的配套視頻

- [Bilibili版](https://www.bilibili.com/video/av24540152/)
- [Youtube版](https://www.youtube.com/playlist?list=PLmBgoRqEQCWy58EIwLSWwMPfkwLOLRM5R)

《計算機組成：結構化方法》

《計算機體系結構：量化研究方法》

Redhat的What Every Programmer Should Know About Memory

LMAX開源的Disruptor實際應用程序

《編碼：隱匿在計算機軟硬件背后的語言》

《程序員的自我修養：鏈接、裝載和庫》

理解計算機硬件和操作系統層面代碼執行的優秀閱讀材料

學習不是死記硬背，學習材料也不是越多越好。

最有效的辦法，不是短時間沖刺，而是有節奏地堅持，多在留言區和其他朋友一起交流，就更容易能夠“積小步而至千里”，在程序員這個職業上有更長足的發展。

買電腦時，“原來的電腦性能跟不上啦”

寫程序時，“這個程序性能可以優化一下”

這虛無縹緲的“性能”到底指的是什么呢？

我們能不能給性能下一個明確的定義，然后來進行準確的比較呢？

在計算機組成原理乃至體系結構中，“性能”都是最重要的一個主題。

學習和研究計算機組成原理，就是在理解計算機是怎么運作的，以及為什么要這么運作。

“為什么”所要解決的事情，很多時候就是提升“性能”。

計算機的性能，其實和體力勞動很像，好比是我們要搬東西。

對于計算機的性能，我們需要有個標準來衡量。這個標準中主要有兩個指標。

讓計算機“跑得更快”。

我們執行一個程序，到底需要花多少時間。花的時間越少，自然性能就越好。

實際系統里性能監測工具NewRelic中的響應時間，代表了每個外部的Web請求的執行時間

讓計算機“搬得更多”。

服務器使用的網絡帶寬，通常就是一個吞吐率性能指標.吞吐率是指我們在一定的時間范圍內，到底能處理多少事情。這里的“事情”，在計算機里就是處理的數據或者執行的程序指令。

和搬東西對比，如果響應時間短，跑得快，我們可以來回多跑幾趟搬幾趟。

所以縮短程序的響應時間，一般來說都會提升吞吐率。

除了縮短響應時間，我們還有別的方法嗎？當然！

我們還可以多找幾個人一起來搬，這就類似服務器都是多核的。

人多力量大，同時處理數據，在單位時間內就可以處理更多數據，吞吐率自然也就上去了。

提升吞吐率的辦法有很多。大部分時候，我們只要多加一些機器，多堆一些硬件就好了。

但是響應時間的提升卻沒有那么容易，因為CPU的性能提升其實在10年前就處于“擠牙膏”的狀態了，所以我們得慎重地來分析對待。

下面我們具體來看。

我們一般把性能，定義成響應時間的倒數，也就是：

性能 = 1/響應時間

響應時間越短，性能數值越高。

同樣一個程序

在Intel最新的CPU Coffee Lake上，只需要30s就能運行完成

而在5年前CPU Sandy Bridge上，需要1min才能完成

那么我們自然可以算出來，Coffee Lake的性能是1/30，Sandy Bridge的性能是1/60，兩個的性能比為2。于是，我們就可以說，Coffee Lake的性能是Sandy Bridge的2倍。

過去幾年流行的手機跑分軟件，就是把多個預設好的程序在手機上運行，然后根據運行需要的時間，算出一個分數來給出手機的性能評估。

而在業界，各大CPU和服務器廠商組織了一個叫作SPEC（Standard Performance Evaluation Corporation）的第三方機構，專門用來指定各種“跑分”的規則

一份SPEC報告通常包含了大量不同測試的評分

SPEC提供的CPU基準測試程序，就好像CPU屆的“高考”，通過數十個不同的計算程序，對于CPU的性能給出一個最終評分。

這些程序豐富多彩，有編譯器、解釋器、視頻壓縮、人工智能國際象棋等等，涵蓋了方方面面的應用場景。感興趣的話，你可以點擊這里

雖然時間是一個很自然的用來衡量性能的指標，但是用時間來衡量時，有兩個問題。

如果用你自己隨便寫的一個程序，來統計程序運行的時間，每一次統計結果不會完全一樣。

為什么會不準呢？這里面有好幾個原因。

我們統計時間是用類似于“掐秒表”一樣，記錄 程序運行結束時間減去程序開始運行的時間。

這個時間也叫Wall Clock Time或者Elapsed Time

就是在運行程序期間，掛在墻上的鐘走掉的時間。

但計算機可能同時運行著好多個程序，CPU實際上不停地在各個程序之間進行切換。

在這些走掉的時間里，很可能CPU切換去運行別的程序了。

而且，有些程序在運行的時候，可能要從網絡、硬盤去讀取數據，要等網絡和硬盤把數據讀出來，給到內存和CPU。

要想準確統計某程序的實際運行時間，進而比較程序之間的性能，須把這些額外時間除掉

那這件事怎么實現呢？？？

Linux下有一個叫time的命令，可助我們一臂之力，同樣的Wall Clock Time下，程序實際在CPU上到底花了多少時間。

我們簡單運行一下time命令。它會返回三個值

第一個 real time

也就是我們說的Wall Clock Time，即運行程序整個過程中流逝掉的時間

第二個 user time

CPU在運行你的程序，在用戶態運行指令的時間

第三個sys time

CPU運行你的程序，在操作系統內核里運行指令的時間

程序實際花費的CPU執行時間（CPU Time），就是user time加上sys time

一般情況下，如果user+sys比real大，甚至僅user比real大的情況出現，都是因為對應的程序被多個進程或者多個線程并行執行了，也很常見。

在多核或者多cpu的機器上運行，seq和wc命令會分配到兩個cpu上，user和sys是兩個cpu時間相加的，而real只是現實時鐘里走過的時間，極端情況下user+sys可以到達real的兩倍

雖然seq和wc這兩個命令都是單線程運行的，但是這兩個命令在多核cpu運行的情況下，會分別分配到兩個不同的cpu，于是user和sys的時間都是兩個cpu上運行的時間之和，就可能超過real的時間。

可以這樣來快速驗證，運行

time seq 100000000 | wc -l &

讓這個命令多跑一會兒，并且在后臺運行。

然后利用 top 命令看不同進程的cpu占用情況

你會在top的前幾行里看到seq和wc的cpu占用都接近100，實際是各被分配到了一個不同的cpu執行。

即使我們已經拿到了CPU時間，我們也不一定可以直接“比較”出兩個程序的性能差異

即使在同一臺計算機上，CPU可能滿載運行也可能降頻運行，降頻運行的時候自然花的時間會多一些。

除CPU外，時間這個性能指標還會受到主板、內存這些其他相關硬件的影響。

所以，我們需要對“時間”這個我們可以感知的指標進行

程序的CPU執行時間=CPU時鐘周期數×時鐘周期時間

時鐘周期時間

你在買電腦的時候，一定關注過CPU的主頻
我手頭的這臺電腦就是

2.8 GHz Intel Core i7

這里的2.8GHz就是電腦的主頻（Frequency/Clock Rate）。

這個2.8GHz，我們可以先簡單地理解為，CPU在1秒時間內，可以執行的簡單指令的數量是2.8G條。

更準確點，這個2.8GHz就代表，我們CPU的一個“鐘表”能夠識別出來的最小的時間間隔。

就像我們掛在墻上的掛鐘，都是一秒一秒地走，所以通過墻上的掛鐘能夠識別出來的最小時間單位就是秒。

而在CPU內部，有一個叫晶體振蕩器（Oscillator Crystal）的東西，簡稱為晶振。

把晶振當成CPU內部的電子表來使用。

晶振帶來的每一次“滴答”，就是時鐘周期時間。

在我這個2.8GHz的CPU上，這個時鐘周期時間，就是1/2.8G。

我們的CPU，是按照這個“時鐘”提示的時間來進行自己的操作。

主頻越高，意味著這個表走得越快，我們的CPU也就走得越快。

“超頻”，這說的其實就相當于把買回來的CPU內部的鐘給調快了，于是CPU的計算跟著這個時鐘的節奏，也就自然變快了。當然這個快不是沒有代價的，CPU跑得越快，散熱的壓力也就越大。就和人一樣，超過生理極限，CPU就會崩潰了。

回顧之前的CPU執行時間的公式程序的CPU執行時間=CPU時鐘周期數×時鐘周期時間

最簡單的提升性能方案，自然縮短時鐘周期時間，也就是提升主頻。

換句話說，就是換一塊好一點的CPU。

不過，這個是我們這些底層的研發人員控制不了的，所以我們就把目光挪到了乘法的另一個因子——CPU時鐘周期數上。

如果能夠減少程序需要的CPU時鐘周期數量，一樣能夠提升程序性能。

對于CPU時鐘周期數，我們可以再做一個分解，把它變成CPU時鐘周期數 = 指令數×每條指令的平均時鐘周期數（Cycles Per Instruction，簡稱CPI）不同的指令需要的Cycles是不同的

加法和乘法都對應著一條CPU指令
但是乘法需要的Cycles就比加法要多，自然也就慢。
在這樣拆分了之后，我們的程序的CPU執行時間就可以變成這樣三個部分的乘積。

程序的CPU執行時間=指令數 × CPI × Clock Cycle Time

因此，要解決性能問題，就是要優化這三者。

時鐘周期時間

就是計算機主頻，取決于硬件。摩爾定律就一直在不停提高的主頻。
最早的80386主頻只有33MHz，現在手頭的筆記本電腦就有2.8GHz，在主頻層面，就提升了將近100倍。

每條指令的平均時鐘周期數CPI

一條指令到底需要多少CPU Cycle。在后面講解CPU結構的時候，我們會看到，現代的CPU通過流水線技術（Pipeline），讓一條指令需要的CPU Cycle盡可能地少。因此，對于CPI的優化，也是計算機組成和體系結構中的重要一環。

指令數

代表執行我們的程序到底需要多少條指令、用哪些指令。
這個很多時候就把挑戰交給了編譯器。
同樣的代碼，編譯成計算機指令時候，就有各種不同的表示方式。

把自己想象成一個CPU，坐在那里寫程序。
計算機主頻就好像是你的打字速度，打字越快，你自然可以多寫一點程序。

CPI相當于你在寫程序的時候，熟悉各種快捷鍵，越是打同樣的內容，需要敲擊鍵盤的次數就越少。

指令數相當于你的程序設計得夠合理，同樣的程序要寫的代碼行數就少。

如果三者皆能實現，你自然可以很快地寫出一個優秀的程序，“性能”從外面來看就是好的。

學完本文，對“性能”這個名詞，你應該有了更清晰的認識。

主要對于“響應時間”這個性能指標進行抽絲剝繭，拆解成了計算機時鐘周期、CPI以及指令數這三個獨立的指標的乘積，并且為指明了優化計算機性能的三條康莊大道。

也就是，提升計算機主頻，優化CPU設計使得在單個時鐘周期內能夠執行更多指令，以及通過編譯器來減少需要的指令數。

后面會講解，具體怎么在電路硬件、CPU設計，乃至指令設計層面，提升計算機的性能。

豆瓣讀書 - 計算機專題

深入淺出計算機組成原理

What do "real", "user" and "sys" mean in the output of time(1)?