摩尔定律终结了吗？大规模集成电路的后摩尔时代怎么发展？

摩尔定律（Moore's Law）是指当价格不变，集成电路上可容纳的元器件的数目，每隔18-24个月就会增加一倍，性能亦将提高一倍。自诞生之日起，摩尔定律就成为计算机领域最重要的定律之一，预测和指导了整个信息技术产业的蓬勃发展。然而，当前全球半导体行业已经逐渐认可一直在推动mT行业前进的摩尔定律正在走向终结。那么在后摩尔时代，高性能软件的开发将面临哪些棘手的挑战呢？

在20世纪80年代，芯片设计和制造工艺的进步和高级编程语言的问世极大程度地推动了指令集的发展和完善。精简指令集（RISC）、多级缓存和先进编译器（特别是在寄存器分配方面）等技术创新使得处理器性能每年以高达50%的速度增长，由此，开创了计算机架构的黄金时代。随着处理器性能的不断攀升和晶体管体积的缩小，能耗成为架构设计的关键约束条件。进入21世纪后，预言晶体管能耗随着其面积的缩小而降低的登纳德缩放定律（Dennard Scaling）开始显著放缓，单核速度性能提升的比例逐年下降，芯片多核时代随之来临。然而，多核技术并不能解决登纳德缩放比例定律结束所带来的能耗问题。这是因为阿姆达尔定律（Amdahl's Law）指出并行计算机的加速比严重受制于串行执行部分的速度。2011年至2015年，晶体管数量每6年才翻一番。更不幸的是，自2015年起，单核速度性能提升的比例由上世纪80年代的每年22%降低至现在的3%。随着摩尔定律失效、登纳德缩放比例定律减速、阿姆达尔定律继续发挥影响我们将如何加快处理速度？

摩尔定律的终结给我们带来了很多启示。首先，既然晶体管的数量无法增长，那么我们需要关心的问题就是如何更高效地利用芯片上有限的晶体管。专用硬件构建模块被认为是主要的解决方案，例如谷歌的TPU、Volta的Tensor Cores等。除此以外，我们可以对层次存储中的数据移动进行更多更明确的控制。当然，我们还可以使用非冯·诺伊曼（Nonvon Neumann）的体系结构。然而，硬件体系结构的变化将使得高性能软件的开发工作比以往更加困难。因此，一个很有潜力的研究方向是通过编译器有效利用这些日益复杂的定制架构。如此一来，我们将发挥出不同类型架构的特性，获得软件高性能的同时，提高应用程序设计与实现的高生产率和可移植性。

目前编译器最大的挑战在于优化数据移动（data movement）。硬件的浮点计算能力已经十分充足，而数据移动的时间开销和能耗开销却占比巨大。因此，如何为数据移动建模并进行优化，已然成为一个巨大的难题。不同于算法的计算复杂度，许多算法的数据移动复杂度是未知的。