中央处理器

CPU,磁芯内存及MSI PDP-8／I 总线界面

由于许多科技厂家投入更小更可靠的电子装置，使得设计CPU变得越来越复杂。晶体管的面世即是CPU第一个质的飞跃。1950到60年代的晶体管CPU不再以体积庞大、不可靠与易碎的开关元件（例如继电器与真空管）建造。借由这项改良，更加复杂与可靠的CPU便被建造在一个或多个包含分立（离散）元件的印刷电路板上，从而向体积小、可靠与不易损坏方向发展。

在此时期，将许多晶体管放置在拥挤空间中的方法大为普及。積體電路（IC）将大量的晶体管集中在一小块半导体片，或晶片（chip）上。刚开始只有非常基本、非特定用途的数字电路小型化到IC上（例如NOR逻辑閘）。以这些预装式IC为基础的CPU称为小规模集成电路（SSI）装置。SSI IC，例如装置在阿波罗导航计算机上的那些计算机，通常包含数十个晶体管。以SSI IC建构整个CPU需要数千个独立的晶片，但与之前的分立晶体管设计相比，依然省下很多空间与电力。肇因于微電子科技的进步，在IC上的晶体管数量越来越大，因此减少了建构一个完整CPU需要的独立IC数量。「中规模集成电路」（MSI）与「大规模集成电路」（LSI）将内含的晶体管数量增加到成百上千。

1964年IBM推出了System/360计算机架构，此架构让一系列速度与性能不同的IBM计算机可以运行相同的程序。此确实为一项创举，因为当时的计算机大多互不相容，甚至同一家厂商制造的也是如此。为了实践此项创举，IBM提出了微程序概念，此概念依然广泛使用在现代CPU上。[3]System/360架构由于太过成功，因此主宰了大型计算机数十年之久，并留下一系列使用相似架构，名为IBM zSeries的现代主机产品。同一年（1964），迪吉多（DEC）推出另一个深具影响力且瞄准科学与研究市场的计算机，名为PDP-8。DEC稍后推出非常有名的PDP-11，此产品原先计划以SSI IC构组，但在LSI技术成熟后改为LSI IC。与之前SSI和MSI的祖先相比，PDP-11的第一个LSI产品包含了一个只用了4个LSI IC的CPU。[4]

晶体管计算机有许多前一代产品沒有的优点。除了可靠度与低耗电量之外，由于晶体管的状态转换时间比继电器和真空管短得多，CPU也就拥有更快的速度。得益于可靠度的提升和晶体管转换器切换时间的缩短，CPU的时钟频率在此时期达到十几百万赫兹。另外，由于分立晶体管与IC CPU的使用量大增，新的高性能设计，例如SIMD（单指令多数据）、向量处理机开始出现。这些早期的实验性设计，刺激了之后超级计算机（例如克雷公司）的崛起。

CPU数字表示方法是一个设计上的选择，这个选择影响了设备的工作方式。一些早期的数字计算机内部使用电气模型来表示通用的十进制（基于10进位）記數系統数字。还有一些罕见的计算机使用三进制表示数字。几乎所有的现代的CPU使用二进制系统来表示数字，这样数字可以用具有两个值的物理量来表示，例如高低电平[註 7]等等。

MOS 6502微处理器，双列直插式封装格式，一种非常流行的8位芯片

与数表示相关的是一个CPU可以表示的数的大小和精度，在二进制CPU情形下，一个位（bit）指的是CPU处理的数中的一个有意义的位，CPU用来表示数的位数量常常被称作“字长”、“位宽”、“数据通路宽度”，或者当严格地涉及到整数（与此相对的是浮点数）时，称作“整数精度”，该数量因体系结构而异，且常常在完全相同的CPU的不同部件中也有所不同。例如：一个8位的CPU可处理在八个二进制数码（每个数码具有两个可能的取值，0或1）表示范围内的数，也就是说，2⁸或256个离散的数值。 实际上，整数精度在CPU可执行的软件所能利用的整数取值范围上设置了硬件限制。[註 8]

整数精度也可影响到CPU可寻址（定址）的内存数量。譬如，如果二进制的CPU使用32位来表示内存地址，而每一个内存地址代表一个八位元组，CPU可定位的容量便是2³²个位元组或4GB。以上是简单描述的CPU地址空间，通常实际的CPU设计使用更为复杂的寻址方法，例如为了以同样的整数精度寻址更多的内存而使用分页技术。

更高的整数精度需要更多线路以支持更多的数字位元，也因此结构更复杂、更巨大、更花费能源，也通常更昂贵。因此尽管市面上有许多更高精准度的CPU（如16，32，64甚至128位），但依然可见应用软件执行在4或8位的微控制器上。越简单的微控制器通常较便宜，花费较少能源，也因此产生较少热量。这些都是设计电子设备的主要考量。然而，在专业级的应用上，额外的精度给予的效益（大多是给予额外的地址空间）通常显著影响它们的设计。为了同时得到高与低位宽度的优点，许多CPU依照不同功用将各部分设计成不一样的位宽度。例如IBM System/370使用一个原为32位的CPU，但它在其浮点单元使用了128位精度，以得到更佳的精确度与浮点数的表示范围。[3]许多后来的CPU设计使用类似的混合位宽，尤其当处理器设计为通用用途，因而需要合理的整数与浮点数运算能力时。

逻辑分析仪显示一个同步的数据系统中的时间与状态

主頻＝外頻×倍頻。

大部分的CPU，甚至大部分的时序逻辑设备，本质上都是同步的。[註 9]也就是说，它们被设计和使用的前題是假设都在同一个同步信号中工作。这个信号，就是众所周知的时脈訊号，通常是由一个周期性的方波（构成）。通过计算电信号在CPU众多不同电路中的分支中循环所需要的最大时间，设计者们可为时脈訊号选择一个适合的周期。

该周期必须比信号在延迟最大的情況下移动或者传播所需的时间更长。设计整个CPU在时钟信号的上升沿和下降沿附近移动数据是可能的。无论是在设计还是元件的维度看来，均对简化CPU有显著的优点。同时，它也存在CPU必须等候回应较慢元件的缺点。此限制已透过多种增加CPU并行运算的方法下被大幅的补偿了。（见下文）

无论如何，结构上的改良无法解決所有同步CPU的弊病。比方說，时脈訊号易受其它的电子信号影响。在逐渐复杂的CPU中，越来越高的时钟频率使其更难与整个单元的时脈訊号同步。是故近代的CPU傾向发展多个相同的时脈訊号，以避免单一信号的延迟使得整个CPU失灵。另一个主要的问题是，时脈訊号的增加亦使得CPU产生的热能增加。持续变动的时钟频率使得许多元件切换（Switch）而不论它们是否处于运作状态。一般来說，一个处于切换状态的元件比处于静止状态还要耗费更多的能源。因此，时钟频率的增加使得CPU需要更有效率的冷却方案。

其中一个处理切换不必要元件的方法称为时脈閘控，即关闭对不必要元件的时钟频率（有效的禁止元件）。但此法被认为太难实行而不见其低耗能通用性。[註 10]另一个对全程时钟信号的方法是同时移除时钟信号。当移除全程时钟信号;使得设计的程序更加复杂时，非同步（或無時脈）设计使其在能源消耗与產生熱能的维度上更有优势。罕见的是，所有的CPU建造在沒有利用全程时钟信号的狀況。兩个值得注意的範例是ARM（"Advanced RISC Machine"）順从AMULET以及MIPS R3000相容MiniMIPS。与其完全移除时脈訊号，部份CPU的设计允许一定比例的装置不同步，比方說使用不同步算術邏輯單元連接超純量管線以達成一部份的算術效能增进。在不将时脈訊号完全移除的情況下，不同步的设计可使其表現出比同步計数器更少的数学运算。因此，结合了不同步设计極佳的能源耗损量及熱能產生率，使它更適合在嵌入式计算机上运作。[5]

低标量CPU的运算过程示意。注意其需要15个循環以完成三个指令

前面描述的CPU结构只能在同一时间点执行一个指令，这种类型的CPU被称为低标量。

这一类型的CPU有一很大的缺点：效率低。由于只能执行一个指令，此类的进程給与低标量CPU固有的低效能。由于每次僅有一个指令能夠被执行，CPU必须等到上个指令完成才能繼續执行。如此便造成下标量CPU延宕在需要兩个以上的时钟循環才能完成的指令。即便增加第二个执行單元（见下文）也不会大幅提升效能；除了單一通道的延宕以外，雙通道的延宕及未使用的晶体管数量亦增加了。如此的设计使得不论CPU可使用的資源有多少，都僅能一次运行一个指令並可能達到标量的效能（一个指令需一个时脈循環）。無论如何，大部份的效能均为下标量（一个指令需超过一个时脈循環）。

为了達成标量目标以及更佳的效能，导致使得CPU傾向平行运算的各種设计越来越多。提到CPU的平行，有兩个字彙常用来區分这些设计的技術。指令平行处理（Instruction Level Parallelism, ILP）以增加CPU执行指令的速率（换句話說，增加on-die执行資源的利用），以及执行緒平行处理（Thread Level Parallelism, TLP）目的在增加执行緒（有效的个別程序）使得CPU可以同时执行。每種方法均可由其如何嵌入或相对有效（对CPU的效能）来區分。[註 11]

指令級並行（Instruction level parallelism，ILP）：指令管線化与超純量架构

基本的管線结构示意。假設在最佳情況下，这種管線可以使CPU维持标量的效能

其中一種達成增加平行运算的方法，便是在主要指令完成执行之前，便进行指令提取及解碼。这種最簡易的技術，我們称为指令管線化，且其被利用在泰半現代的泛用CPU中。透过分解执行通道至離散階段，指令管線化可以兩个以上的指令同时执行。相较于已被淘汰的组合管線，指令管線化不再使用等候指令完全在管線中退出才执行下一指令的技術。

指令管線化產生了下一作業需要前一作業才可完成的可能性。此类狀況又常称为相依衝突。解決的方法是，对此类的情況增加额外的注意，及在相依衝突发生时延遲一部份的指令。自然地，此種解決方法需要额外的循環，是故指令管線化的处理器比低标量处理器还要复杂。（虽然不是很显著）一个指令管線化的处理器的效能可能十分接近标量，只需禁止管線推遲即可。（在一个階段需要超过一个以上的循環的指令）

简单的上标量管線。藉由同时提取和分派兩个指令，能夠在一个时脈循環中完成最多兩个指令

此外，对于指令管線化的改进啟发了減少CPU元件閒置时间的技術。称为超标量的设计包括了一條長指令管線化及多个相同的执行單元。上标量管線的分派器同时讀取及通过数个指令；分派器決定指令是否能夠平行执行（同时执行）並分配到可执行的执行單元。大致上来說，一个上标量的CPU能夠同时分派越多的指令給閒置的执行單元，就能夠完成越多的指令。

上标量CPU结构的设计中，最困難的部份便是創造一个有效率的分派器。分派器必须能夠快速且正確的決定指令是否能夠平行执行，並且讓閒置的执行單元最小化。其需要指令管線化常时的充滿指令流，且提升了在上标量结构中一定数量的CPU快取。其亦催生了危害迴避的技術，如分支預測、投機执行与跨序执行以维持高層次的效能。藉由嘗試預測特定的指令選擇何分支（路徑），CPU能夠最小化整个指令管線等待特定的指令完成的次数。投機执行則是藉著执行部份的指令以得知其是否在整个作業完成后仍被需要而提供適度的效能提升。跨序执行則是重新整理指令执行的命令以降低資料相依。

当不是所有的CPU元件均有上标量效能时，未達上标量的元件效能便会因定序推遲而降低。奔腾的原型有兩个每一时脈循環可接收一个指令的上标量算術逻辑單元，但其浮點算術处理器（Floating Point Unit, FPU）不能在每一时脈循環接收一个指令。因此P5的效能只能算是整数上标量而非浮點上标量。英特爾Pentium结构的下一代P6加入了浮點运算处理器的上标量能力，因此在浮點指令上有显著的效能提升。

此兩種简单的管線及上标量设计，均能透过允许單一处理器在一个时钟循环完成一个指令[註 12]，提升指令管線化的效能。多数的近代CPU设计至少都在上标量以上，且几乎所有十年内的泛用CPU均達上标量。近年来，一些重視高指令管線化的计算机将其从CPU的硬体移至软件。超長指令字元（的策略使得一部份的指令管線化成为软件，減少CPU推动指令管線化的工作量，並降低了CPU的设计复杂度。

執行緒級並行（Thread-level parallelism，TLP）：同时执行緒执行或线程级并行处理

另一个常用以增加CPU平行运算效能的策略是讓CPU有同时执行多个执行緒的能力。大致上說来，高同时执行緒平行执行（TLP）CPU比高指令平行执行来的有用。许多由克雷公司（Cray）公司于1970年代及1980年代晚期所首創的同时执行緒平行执行，專于該方法而啟发了龐大的計算效力。（就时间上而言）事实上，TLP多线程运算自从1950年就已经开始被运用了(Smotherman 2005)。在单处理器设计中，两种主要实现TLP的设计方法是芯片级多处理（CMP）芯片层多线程处理和同步多執行緒（simultaneous multithreading，SMT）。同级别层多线程处理。在更高级层中，一台计算机中有多个单独的处理器，常常运用对称多处理机（SMP）和non-uniform memory access（NUMA）非独立内存访问的方式来组织。[註 13]这些非常不同的方法，全部为了实现同一个目标，就是增加CPU同时处理多个线程的能力。

CMP和SMP这两种方法其实是非常相似的，而且是最直接的方法。这里有一些概念上的东西关于如何实两个或是两个以上完全单独的CPU。在CMP中，多个处理器内核会被放入同一个包中，有时会在非常相近的集成电路中。[註 14]另一方面SMP包含多个包在其中，NUMA和SMP很相像，但是NUMA使用非单一的内存访问方式。这些对于一台有着多个CPU的电脑来说是非常重要的，因为每个处理器访问内存的时间会很快的被SMP分享的模块消耗掉，因些会造成很严重的延迟，因为CPU要等待可用的内存．这时NUMA是个不错的选择，它可以允许有多个CPU同时存在一台电脑中而且SMP也可以同时实现．SMT有一些不同之处，就是SMT会尽可能的减少CPU处理能力的分布。TLP的实现实际上和超标量体系结构的实现有些相似，其实上它常常被用在超标量体系结构处理器中，如IBM的POWER5。相比于复制整个CPU，SMT会复制需要的部分来提取指令，加密和分配，就像计算机中的一般的寄存器一样。因此这样会使SMT CPU保持处理单位运作的连续，一些通常会提供给处理单位多个指令而且来自不同的软件线程，这和ILP结构很相似。相比于处理多个指令来自同一个线程，它会同时处理来自不同线程的多个指令。

上面提及过的处理器都是一些常量儀器[註 15]，而針对向量处理的CPU是较不常见的类型，但它的重要性却越来越高。事实上，在计算机計算上，向量处理是很常见的。顾名思義，向量处理器能在一个命令週期（one instruction）处理多項数據，这有別于只能在一个命令週期内处理單一数據的常量处理器。这兩種不同处理数據的方法，普遍分別称为『單指令，多資料』（SIMD）及『單指令，單資料』（SISD）。向量处理器最大的优點就是能夠在同一个命令週期中对不同的工作进行优化，例如：求一大堆数據的總和及向量的数量积，更典型的例子就是多媒体應用程序（畫像、影像、及聲音）与及眾多不同總类的科學及工程上的工作。当常量处理器只能針对一组数據于單一命令週期内完全执行提取、解碼、执行和写回四个階段的同时，向量处理器已能对较大型的数據如相同时间内执行相同动作。当然，这假設了这个應用程序于單一命令週期内对处理器进行多次要求。

大多数早期的向量处理器，例如Cray-1，大多都只会用于和科研及密碼學有關的應用程序。但是，隨著多媒体向数位媒体轉移，对于能做到『單指令，多資料』的普通用途处理器需求大增。于是，在浮點計算器普及化不久，擁有『單指令，多資料』功能的普通用途处理器便面世了。有些早期的『單指令，多資料』規格，如英特爾的MMX，只能作整数运算。因为大多数要求『單指令，多資料』的應用程序都要处理浮點数字，所以这个規格对软件开发者無疑是一个主要障礙。幸好，这些早期的设计慢慢地被改进和重新设计为現时普遍的『單指令，多資料』新規格，AMD公司也推出了第一个真正能执行浮點SIMD指令集3DNow!，在每个时脈週期可得到4个單精確度浮點数结果，是当时一般x87浮點处理器的4倍。新規格通常都于一ISA關連著。近年，一些值得注意的例子一定要数英特爾的SSE和PowerPC相關的AltiVec（亦称为VMX）。[註 16]

AMD Opteron六核心處理器

多核心中央處理器是在中央處理器晶片或封裝中包含多個處理器核心，以偶數為核心數目較為常見，一般共用快取。現今使用雙核心和四核心以上處理器的個人電腦已相當普遍。

第一颗双核心处理器为IBM POWER4处理器，2012年IBM发布了最新8核心的POWER 7＋处理器，拥有80MB L3缓存/芯片。