处理器结构--MicroOp &&MacroOp Fusion

MicroOp Fusion

也成为微指令操作融合，将多个相同的汇编指令编译的uops融合到一个微指令中，使得ALU在执行指令时可以在一个Cycle中执行完毕，提高指令执行的吞吐量

指令融合背景

RAT（Register Renaming Table）以及RRF（Retirement Register File）在PipeLine中已经到了瓶颈，最大吞吐量只能到每个Clock Cycle执行3条uop。为了突破该瓶颈，设计者们将在以前分割成两个uop的指令进行合并处理，他们称之为微指令融合（uop fusion）。

融合操作在大多数的PipeLine流程中共享同一条uop，并且在ROB(Reorder Buffer)中只占一个Entry。但是单条ROB Entry代表了两个操作，这两个操作必须由两个不同的执行单元完成。而融合后的ROB Entry也会也会被分发到两个不同的执行端口，但是最后会作为单个单元返回到ROB Entry。

微指令融合技术只能用于两种：

• 内存写操作
• 读-修改操作

内存写操作(Memory Write)

一个内存写操作包括计算内存地址，传输数据。在以前的处理器中，这两个操作会被分成两个uops，第一个uop使用端口3只关心内存地址的计算，而第二个uop使用端口4关心数据的传输。 而读操作只需要在一个uop使用端口2，所以它和之前的处理器是一样的。

内存读-修改(Read-Modify)

例如ADD EAX,[mem32]包含了两个操作：

• 从端口2读[mem32]的数据
• 从端口0或者1将数据与EAX寄存器中数据相加

这些指令在Pentium M之前的处理器都是被分成两个uop，而在Pentium M之后就被融合了。这种融合只适用于常规的寄存器，浮点栈指针寄存器，MMX寄存器，而不适用于XMM寄存器。

而一个读-改-写的操作，例如ADD [mem32],EAX则不会融合读-修改的uop，不过它可以融合成两个写的uop。 例如以下的指令融合：

; Example 7.2. Uop fusion
mov [esi], eax ; 1 fused uop
add eax, [esi] ; 1 fused uop
add [esi], eax ; 2 single + 1 fused uop
fadd qword ptr [esi] ; 1 fused uop
paddw mm0, qword ptr [esi] ; 1 fused uop
paddw xmm0, xmmword ptr [esi] ; 4 uops, not fused
addss xmm0, dword ptr [esi] ; 2 uops, not fused
movaps xmmword ptr [esi], xmm0 ; 2 fused uops

Pentium M的ROB已经重新设计，以至于ROB中的每一个Entry都可以拥有三个输入依赖，而以前的设置只允许两个。

例如，指令MOV [ESI+EDI],EAX以及ADD EAX,[ESI+EDI]都有三个输入依赖，也就是ESI，EDI以及EAX都必须全部都准备好指令才能被执行。进入执行单元却没有融合的uop依旧只有两个输入依赖。MOV [ESI+EDI],EAX被分割成地址计算的uop，而该uop依赖于ESI以及EDI，以及一个保存的uop，而该uop依赖于地址计算的uop以及EAX的输出。 相似的是，ADD EAX,[ESI+EDI]被分割成一个读uop依赖于ESI以及EDI寄存器，以及一个ADD的uop依赖于读up以及EAX的输出。这些不能融合的uop只能拥有两个输入依赖。 ADC EAX,EBX以及CMOVE EAX,EBX都有三个输入依赖：EAX以及EBX以及Flags```寄存器。这些指令不能融合，他们必须生成两个uop。

微指令融合

一个CMP与TEST指令后一定会有一条有条件的跳转指令，而这两条指令则可以融合（Fused）到单条Macro-op中。所有版本的CMP与TEST指令以及所有的有条件跳转的指令都适用Macro-op融合。 除了：CMP以及TEST后拥有一条Rip相对寻址或者一个位移与立即操作数操作的指令无法融合 例如：

; Example 19.1. Instruction fusion on Bulldozer  

test eax,4
jnz L1 ;       // fused into one op
cmp [Mydata],eax ;     //  rip-relative address in 64 bit mode
jb L2 ;     //  not fused if rip-relative address
cmp dword ptr[rsi+8],2 ;    //  both displacement and immediate operand
jl L3 ;    //  not fused
cmp [Mydata+rbx*4],eax ;    //  32-bit absolute address + scaled index
jg L3 ;     //  fused
dec ecx
jnz L4 ;     //  not fused. Only cmp and test can fuse

没有其他的ALU指令可以与有条件跳转的指令融合。最大程度的解码速度不会因为指令融合而增加。

优势

uop融合有以下优点：

• 解码更加高效，因为生成一个融合的OP的指令可以进入三个解码器中的任何一个，而生成两个OP的指令只能到解码器D0
• 当生成更少的OPS时，寄存器重命名和Retirement的负载减少
• uop融合后，ROB的容量会增加

参考资料

Microbenchmarking fused instruction MicroFusion in Intel CPUs MacroFusion in Intel CPUs microarchitecture