計(jì)算機(jī)組織與系統(tǒng)結(jié)構(gòu)-GAOQS-IHA

計(jì)算機(jī)組織與系統(tǒng)結(jié)構(gòu)

AA

成本和性能

CostandPerformance

（第三講）

程旭

2009.3.2

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

本講進(jìn)度安排

■上講內(nèi)容復(fù)習(xí)

■集成電路的成本

■性能的定義和測(cè)度(Measures)

■總結(jié)

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

計(jì)算機(jī)硬件和軟件層次結(jié)構(gòu)簡(jiǎn)圖

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

計(jì)算機(jī)系統(tǒng)的分解示例

ApplicationsSystems

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

如何理解“計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)〃

Application

Operating

A-System

CompilerFirmware

InstructionSet

Architecture

Instr.SetProc.I/Osystem

Datapath&Control

DigitalDesign

ICircuitDaLignI

--------Layout----------

Coordinationofmanylevelsofabstraction

Underarapidlychangingsetofforces

北京大學(xué)D計(jì)e算s機(jī)i神g摯n皴,術(shù)M系easurement,andEvaluatio北n京

表示(Representation)的不同級(jí)別

temp=v[k];

高級(jí)語言程序v[k]=v[k+1];

v[k+1]=temp;

編譯器Iw$15,0($2)

Iw$16,4($2)

sw$16,0($2)

sw$15,4($2)

00001001110001101010111101011000

10101111010110000000100111000110

11000110101011110101100000001001

01011000000010011100011010101111

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

計(jì)算機(jī)組織的級(jí)別

AA

SPARCstation20

Computer

SPARCMemoryDevices

Processor

ControlInput

DatapathOutput

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

數(shù)字邏輯基礎(chǔ)回顧

■同步時(shí)序電路

■有窮狀態(tài)自動(dòng)機(jī)FSM

■數(shù)據(jù)通路+控制=數(shù)字系統(tǒng)

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

馮諾依曼結(jié)構(gòu)-存儲(chǔ)程序的概念

VonNeumanndescribedhowacomputercomprisesfiveunits-input,output,

arithmeticprocessor,controlunit,andmemory-andhowtatthediscretionof

thecontrolunit,theinstructionscanbestoredinthesameinternalmemoryunit

asdataandbeprocessedinthesamewayasdatabythearithmeticunit.

CentralprocessingunitMemory

InputProgram

OutputData

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

存儲(chǔ)程序的概念

?計(jì)算機(jī)由運(yùn)算器、控制器、存儲(chǔ)器和輸

入設(shè)備、輸.出設(shè)備五大部件組成

?指令和數(shù)據(jù)以同等的地位存放于存儲(chǔ)器

中，并按地址訪存

?指令和數(shù)據(jù)都用二進(jìn)制數(shù)表示

?指令由操作碼和地址碼組成，操作碼用

來表示操作的性質(zhì)，地址碼用來表示操

作數(shù)存在存儲(chǔ)器中的位置

?指令是順序存放、順序執(zhí)行的，并可根

據(jù)運(yùn)算結(jié)果或設(shè)定的條件改變執(zhí)行順序

-w—

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

計(jì)算機(jī)的簡(jiǎn)單模型IAS中央處理踹

■程序計(jì)數(shù)器：

?ProgramCounter(PC)

AA

■累加器

?ACC

■存儲(chǔ)地址寄存器

?MAR

■存儲(chǔ)數(shù)據(jù)寄存器

?MDR/MBR

■指令寄存器

?IR

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

集成電路

年代計(jì)算機(jī)使用的工藝相對(duì)性能/元件成本

1951真空電子管1

1965分離晶體管35

1975集成電路900

1995超大規(guī)模集成電路2,400,000

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

DRAM發(fā)展規(guī)律（摩爾定律）

每三年，容量增長(zhǎng)四倍

Yearofintroduction

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

芯片制作流程

SiliconingotBlankwafers

20to30processingsteps

TestedIndividualdies

Patternedwafers

dies(onewafer)

133

國QI展?3HQB

Bonddieto

3B□□□Dicer

packageaaL,

r

I4A

PackageddiesTestedpackageddies

PartShiptocustomers

tester

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

■■■■■■■■■■■A

|患患||患I,

DieArea:91mm2

直徑8inch(200mm)的

Wafer最多可做196個(gè)Die

?3,300,000Transistors

Cache:MMTransistors

296Pins

北京大學(xué)微處理器研究中心

PentlumPro芯片內(nèi)的主要功能塊

?DieArea:306mm2

?直徑8inch(200mm)的

Wafer最多可做78個(gè)Die

??5,500,000Transistors

?Cache:?1MTransistors

?ExternalCache:

31MTransistors

PentiumProPackage=

PentiumPro+ExternalCache

387Pins

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

考慮Wafer的邊界問題(等價(jià)于"Squarepegsina

roundhole55probelm)后：

2

八.「兀義｛Wafer_diameter/2)兀xWaferdiameter

Diesperwafer=------------；------------------/.一—

——DieareaA/2xDiearea

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

集成電路的成本

?.八ec.八(DefectsperunitareaxDiearea、

Die_yield=Wafer_yieldx1+-------—-----------------

a_a<a>

Defects_j)erjunit_areaisameasureoftherandomand

manufacturingdefectsthatoccur.In1995,thesevaluestypically

rangebetween0.6to1.2persquarecentimeter,dependingonthe

maturityoftheprocess.

CCisaparameterthatcorrespondsroughlytothenumberof

maskinglevels^ameasureofmanufacturingcomplexity^critical

todieyield.Fortoday'smultilevelmetalCMOSprocesses,agood

estimateisa=3.0!

Inthefollowing,weassumethewaferyieldis100%,

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

集成電路的成本

c.Wafercost

Die_cost=-----------------=--------------------

Dies_per_waferxDie_yield

AA

八._^Wafer_area

Dies_per_wafer=---------------

Die_area

(

Defects_per_unit_areaxDie_area)”

Die_yield=7+

aj

c.Wafer_cost

Die_cost=------------------7-----------------=--------------------------------

Wafer_area[1

Die_area(+Defects_per_areaxDie_areaIa》)

Wafer_costxDie_areax(/+Defects_per_areaxDie_area/

Wafer_area

=f((Die_area)a+1)

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系■*'北京大學(xué)微處理器研究中心

集成電路的成本

Die_8st=------------Wafers-----------

Dies_per_waferxDie_yield

AA

~『nX(Wafer_diameter/2)2/rxWaferdiameter

Dies_per_wajer=------；----------------/一一

——Die_areayj2xDie_area

、—CL

Die_yield=Wafer__

J

若a=2,晶模成本大致以晶模大小的立方增長(zhǎng)

DieCostisgoesroughlywiththecubeofthearea.

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系■北京大學(xué)微處理器研究中心

真實(shí)示例

ChipMetalLineWaferDefectAreaDies/YieldDieCost

layerswidthcost/cm2mm2wafer

AA

386DX20.90$9001.04336071%$4

486DX230.80$12001.08118154%$12

PowerPC60140.80$17001.312111528%$53

HPPA710030.80$13001.01966627%$73

DECAlpha30.70$15001.22345319%$149

SuperSPARC30.70$17001.62564813%$272

Pentium30.80$15001.5296409%$417

From“EstimatingICManufacturingCosts,byLinleyGwennap,Microprocessor

Report,August2,1993,p.15

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

其他成本

ICoost=Diecost+T回ngcost+Packagingcod

Finaltestyield

封裝成本：取決于管腳數(shù)量和散熱要求

ChipDiePackageTest&Total

costpinstypecostAssembly

386DX$4132QFP$1$4$9

486DX2$12168PGA$11$12$35

PowerPC601$53304QFP$3$21$77

HPPA7100$73504PGA$35$16$124

DECAlpha$149431PGA$30$23$202

SuperSPARC$272293PGA$20$34$326

Pentium$417273PGA$19$37$473

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

Eos改進(jìn)情況

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

工藝的發(fā)展趨勢(shì)

容量速度

AA

邏輯電路

(Logic)2xin3years2xin3years

DRAM4xin3years1.4xin10years

磁盤

(disk)4xin3years1.4xin10years

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

處理器性能

120

IBMPower2/590，七

P

e100AA

r

PECAXF

f8093000

o

r60

.9000/750

m1.54X/yr

a40

n

c20"---"片MlRS-M200lKS6600/5401.35X/yr

.一仃

e§肝4/2所IflfhS-M7T2D

0

1987198819891990199119921993

Year

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

如何定義計(jì)算機(jī)系統(tǒng)的“生育巨？

學(xué)計(jì)算機(jī)科學(xué)技術(shù)素大學(xué)微處理器研究中心

如何定義計(jì)算機(jī)系統(tǒng)的“生》巨？

Thegoalofperformanceevaluationin

thischapterisiobeabletocompare,for

example,

?differentarchitectures

?differentimplementationsofanarchitecture

?differentcompilersforagivenarchitecture

Generalsense:

howwellthecomputerperforms

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系■"北京大學(xué)微處理器研究中心

為什么需要了解影響機(jī)器性能的要素？

為了了解

?程序的執(zhí)行情況

?指令系統(tǒng)的不同實(shí)現(xiàn)情況

?一些硬件特征對(duì)性能的影響

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

商業(yè)客機(jī)

巡航距離巡航速度吞吐率

飛機(jī)載客量(miles)(m.p.h.)載客量*巡航速度

Boeing7773754630610228,750

Boeing7474704150610286,700

BAC/SudConcorde13240001350178,200

DouglasDC-8-50146872054479,424

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

性能(和成本)

Performance(andcost)

飛機(jī)華盛頓?巴黎速度乘客數(shù)量吞吐率(pmph)

Boeing7476.5小時(shí)610mph470286,700

BAD/Sud

3小時(shí)1350mph132178,200

Concodre

?完成任務(wù)的時(shí)間(執(zhí)行時(shí)間)

?執(zhí)行時(shí)間(executiontime),響應(yīng)時(shí)間(responsetime),延遲(latency)

?單位時(shí)間(每天、小時(shí)、星期、秒、納秒…等等)內(nèi)完成的任務(wù)數(shù)量(性能)

?吞吐率(throughput),帶寬(bandwidth)

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

吞吐率與響應(yīng)時(shí)間與？

計(jì)算機(jī)系統(tǒng)發(fā)生如下變化，對(duì)吞吐率和相應(yīng)時(shí)

間分別有如何影響？

?更換成更快的處理器

?增加處理器數(shù)量，對(duì)不同任務(wù)分別使用不

同的處理器

減少響應(yīng)時(shí)間總是可以改進(jìn)吞吐率

對(duì)于每個(gè)任務(wù)（不可在并行處理），增加處理器從理

論上看，對(duì)響應(yīng)時(shí)間沒有改進(jìn)。

實(shí)際系統(tǒng)中，通常，任務(wù)需要排隊(duì)等待響應(yīng)處理，因

而，執(zhí)行時(shí)間和吞吐率常常相互影響。

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

性能(和成本)

Performance(andcost)

a_a]

Performace(X)=----------------

ExTime(X)

“X比Y快n倍”(“XisntimesfasterthanY")

是指

ExTime(Y)Performance(X)

ExTime(X)Performance(Y)

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

性能的計(jì)量(Metricsofperformance)

每月的響應(yīng)

應(yīng)用程序每秒的操作

編程語言

編譯器

(millions)ofInstructionspersecond-MIPS

IISAI(millions)of(F.P.)operationspersecond-MFLOP/s

數(shù)據(jù)通路

控制Megabytespersecond

功能部件

晶體管導(dǎo)線bCyclespersecond(clockrate)

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

TheNatureofTime

AA

real(i.e.walFclock)time

=UserTime:timespentexecutinginstructionsintheuser

process

=SystemTime:timespentexecutinginstructionsinthe

kernelonbehalfoftheuserprocess

=allothertime(eitheridleorelseexecutinginstructions

unrelatedtotheuserprocess)

++II=real(wallclock)time

Unlessotherwisespecified,atimenoftenrefersto“usertime”.

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

ExecutionTime

ElapsedTime

?countseverything(diskandmemoryaccesses,I/O,

etc.)

?ausefulnumber,butoftennotgoodforcomparison

purposes

CPUtime

?doesn'tcountI/Oortimespentrunningotherprograms

?canbebrokenupintosystemtime,andusertime

Ourfocus:userCPUtime

?timespentexecutingthelinesofcodethatare''in''our

program

北京大學(xué)計(jì)益機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

時(shí)間

Wall-clocktime,responsetime,orelapsed

time：thetot卻timetocompleteatask,

includingdiskaccesses,memoryaccesses,

input/outputactivities,operatingsystem

overhead-everything!

CPUexecutingtimeorCPUtime：thetime

theCPUspendscomputingforthistaskand

doesnotincludetimespentwaitingforI/Oor

runningotherprograms.

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

時(shí)間

CPUtime=userCPUtime+systemCPUtime

AA

Unixtimecommand:

90.7u12.9s2:3965%

90.7+12.9

=0.65

2x60+39

Systemperformancereferstoelapsedtimeon

anunloadedsystem

CPUperformancereferstouserCPUtime

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系■"北京大學(xué)微處理器研究中心

ClockCycles

?Insteadofreportingexecutiontimeinseconds,weoftenuse

cycles

secondscyclesseconds

—X

programprogramcycle

ClockTicksindicatewhentostartactivities(one

abstraction)

time

cycletime=timebetweenticks=secondspercycle

clockrate(frequency)=cyclespersecond(1Hz.=1

cycle/sec)

—^-io9=5nanoseconds

A200Mhz.clockhasacycletime200x1()6.

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

Howmanycyclesarerequiredforaprogram?

Couldassumethat#ofcycles=#of

instructions

JZ-C-C

-I—,-I—?-I—?

寸99

time

Thisassumptionisincorrect,

differentinstructionstakedifferentamountsoftimeondifferentmachines.

Why?

hint:rememberthatthesearemachineinstructions,notlinesofCcode

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

不同指令的指令周期也不同

IIIIIII"me

?Multiplicationtakesmoretimethanaddition

?Floatingpointoperationstakelongerthanintegerones

?Accessingmemorytakesmoretimethanaccessingregisters

?Importantpoint:changingthecycletimeoftenchangesthenumberof

cyclesrequiredforvariousinstructions(morelater)

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

相關(guān)的處理器性能計(jì)量

CPUExTime=CPUclockcycles/pgmxclockcycletime

或者CPUExTime3CPUclockcycles/pgm+clockrate

CPUclockcycles/pgm=Instructions/pgmxavg.clockcycles

perinstr.

或者CPI=CPUclockcycles/pgm+Instructions/pgm

■CPI可以揭示一些有關(guān)

指令系統(tǒng)體系結(jié)構(gòu)(InstructionSetArchitecture)

該系統(tǒng)結(jié)構(gòu)的實(shí)現(xiàn)(theImplementationofthat

architecture)

以及，被評(píng)測(cè)的程序(theprogrammeasured)

的情況

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

改進(jìn)性能

某程序在A機(jī)器上執(zhí)行時(shí)間為10秒，時(shí)鐘頻率:400Mhz

希望設(shè)計(jì)的B機(jī)器通過改進(jìn)時(shí)鐘頻率（將導(dǎo)致機(jī)器周期

增加1.2倍）,用6秒執(zhí)行完該程序

B機(jī)器的時(shí)鐘頻率應(yīng)該怎樣？

CPU_ClockCyclesA=CPU_TimexClockRateA

6CyCleS6

二10sx400x10=4000x10cycles

second

1.2x4000xlO6cycles

==800MHz

ClcokRateB6seconds

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

CPU性能的幾個(gè)方面

CPUm寸間秒數(shù)指令數(shù)二時(shí)鐘數(shù)二秒數(shù)

程序程序八指令八周期

指令總數(shù)CPI時(shí)鐘頻率

程序X

編譯器體系結(jié)構(gòu)研究

|惻:刪跚/的重點(diǎn)

指令系統(tǒng)體系結(jié)構(gòu)(X)

組成mm*

X

工藝技術(shù)

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

組織上的權(quán)衡

?Howtoimproveperformance

應(yīng)用程序?increasesinclockrate

(withoutadverseCPI

編程語言affects)

?improvementsinprocessor

organizationthatlowerCPI

?compilerenhancements

指令分布thatlowerCPIand/or

IISAIInstructionMixinstructioncount

數(shù)據(jù)通路CPI

控制

功能部件

晶體管導(dǎo)線管腳"時(shí)鐘時(shí)間

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

CPI

CPU時(shí)間X時(shí)鐘頻率每條指令的平均周期數(shù)

CPI(Averagecyclesperinstruction)

指令總數(shù)

時(shí)鐘周期數(shù)一

指令總數(shù)

CPU時(shí)間=時(shí)鐘周期時(shí)間xfcPIjXlj

j=i

n

CPI=fCPIjXFj這里F二—L------

j=iJ指令總數(shù)

“指令頻率”

("instructionfrequency95)

哪是瓶頸（時(shí)間不婚用）就對(duì)

北京大學(xué)計(jì)算機(jī)科題里的資源增加投資L…器研…

示例

基本機(jī)器（寄存器/寄存器）

Op頻度周期CPI(i)%時(shí)間

ALU50%1.533%

Load20%2,427%

Store10%2.213%

Branch20%2,427%

/

1.5

典型指令頻度

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

『旬］ACompilerdesigneristryingtodecide

betweentwocodesequencesforaparticula?^5M

machine

Thehardwaredesignerssupplies:

—

InstructionclassCPIforthisinstructionset

A1

B2

C3

ForaparticularHigh-Level-Languagestatement:

Instructioncountsforinstruction

Codeclass

SequenceABC

1212

2411

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

示例

Sequence1executes:2+1+2=5

AA

Sequence2executes:4+1+1=6

n

CPU_clock_cycles=Z（CPIjxI.）

j=i

CPU_clock_cycles]=（2x7）+（7x2）+（2x3）

=2+2+6=10cycles

CPU_clock_cycles2=（4x7）+Qx2）+Qx3）

=4+2+3=9cycles

109

CPI,=—=2CPI=-=L5

15226

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

Hardware-independentmetricspredictperformance

InstructionsCodesizeinCodesize

Timeexecutedinstructionsinbits

0-

追

①

U。

E

E

一

。

①七

d

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

Performanceexpressedasarate

Ratesareperformancemeasuresexpressedin

unitsofworkpbrunittime.

Examples:

?millionsofinstructions/sec(MIPS)

?millionsoffloatingpointinstructions/sec(MFLOPS)

?millionsofbytes/sec(MBytes/sec)

?millionsofbits/sec(Mbits/sec)

?images/sec

?samples/sec

?transactions/sec(TPS)

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

行銷計(jì)量(MarketingMetrics)

指令總數(shù)〉；10-6

MIPS二

時(shí)間

:時(shí)鐘頻率X10一6

-CTIX

?具有不同指令系統(tǒng)的機(jī)器？

?具有不同指令頻度的程序？

?指令的動(dòng)態(tài)頻度

?與性能沒有直接相關(guān)關(guān)系

浮點(diǎn)操作總數(shù)總數(shù)

MFLOPS=x106

?與機(jī)器有關(guān)

?通常,沒能揭示最費(fèi)時(shí)的操作

北京大學(xué)計(jì)算機(jī)科學(xué)技術(shù)系北京大學(xué)微處理器研究中心

MIPS

InstructionclassCPIforthisinstructionset