半导体市场与几年前相比发生了巨大变化。云服务提供商希望定制硅片并与合作伙伴合作进行设计。长期以来被讨论为未来时态的芯片和 3D 设备是市场中一个不断增长的领域。摩尔定律？它仍然存在，但制造商和设计师遵循它的方式不同于简单地缩小晶体管。

纯属巧合的是，推动这些变化的许多力量都发生在同一年：2006 年

扩展的魔力减缓

尽管摩尔定律已经放缓，但它仍然存在；半导体公司继续能够以某种可预测的节奏缩小晶体管的尺寸。

然而，好处发生了变化。有了所谓的“登纳德缩放”，芯片设计师可以通过缩小晶体管来提高时钟速度、降低功耗（或两者兼而有之）。从实际意义上讲，这意味着个人电脑制造商、手机设计师和软件开发人员可以规划出源源不断的硬件进步。

登纳德缩放比例在 2006 年实际上已经停止了。需要找到让“仓鼠轮”继续转动的新技术——而且要快。

在 2000 年代中期，频率和单线程性能开始下降，但晶体管数量却持续攀升

GPU 开始发挥作用

2006 年 11 月 8 日，NVIDIA 推出了 G80 GPU，这是首款针对 HPC 和通用计算的 NVIDIA GPU。这款 90 纳米并行协处理器上市时，拥有当时数量惊人的 6.86 亿个晶体管。

NVIDIA 还创建了 CUDA  ，以简化在 GPU 上编程的过程。到 2012 年，基于 GPU 的超级计算机已荣登 500 强榜单。现在，榜单上近 90% 的系统都配备了 GPU。

NVIDIA G80 和 GeForce 8800。G80 成为首款针对 HPC 的 GPU。

XPU 诞生

虽然 GPU 在训练和推理方面的表现优于 CPU，但针对特定工作负载设计的优化设备可以同时胜过 CPU 和 GPU。21 世纪初的 IBM Cell 处理器和 Cavium 系列安全处理器引领了优化芯片的第一波浪潮。

在阅读了一篇关于人工智能中概率计算兴起的文章后 ，麻省理工学院的学生 Ben Vigoda 改变了他的博士论文方向，并于 2006 年创立了Lyric Semiconductor，以制造专注于计算概率的设备，以降低深度学习推荐模型或欺诈检测等任务所需设备的成本、功耗和尺寸。该公司于2010 年 正式成立 ，Analog Devices 于 2011 年将其收购。（Vigoda 也抢在谷歌之前：这家搜索巨头 在 2006 年就考虑过 TPU 的想法 ，然后在 2013 年推动了这一概念的发展。）

未来：用于训练和推理的定制 AI 加速器 ( XPU ) 是半导体行业增长最快的细分市场之一。粗略地说，650 Group 等分析师认为，XPU 可以（或者应该）比 GPU 降低 20% 或更多的功耗。Lyric 可以说提出了两个关键思想。第一，AI 需要自己的芯片架构。第二，设备设计（而不是晶体管密度）可以推动该领域的进步。

Chiplet 诞生

他是 RISC 的先驱。他帮助创建了 RAID。如果你把加州大学伯克利分校的 Dave Patterson 撰写的所有教科书都堆起来，你可能会达到平流层。

Patterson 和他的实验室在这篇论文中首次公开提出了 Chiplet 这一名称和概念 。Chiplet 解决了许多问题。它们可以用由可整体运作的分立硅片组成的芯片取代巨大的单片芯片，从而降低将新设备推向市场的风险、成本和时间。它们可以推迟重新组装设备组以适应这些大型单片芯片。

随着时间的推移，chiplet 还将使公司能够专注于自己的优势：拥有出色 SerDes 或内存控制器的公司可以专注于该子系统并将其出售给多个致力于完整 chiplet 的设计师。简而言之，chiplet 消除了高级开发中的许多摩擦。

已故 Marvell 联合创始人 Sehat Sutardja 在2015 年的国际固态电路会议上 推出了首个用于制造小芯片的商用平台，名为MoChi。随后不久，首批商用小芯片也问世了。

Marvell 联合创始人于 2006 年开始研究小芯片的概念。他在 2015 年 ISSCC 关于 MoChi 的主题演讲中介绍了一个多芯片模块（上图）和一个内存堆叠概念，这与后来高带宽内存或 HBM 的首次亮相相呼应。

AWS成立

云计算的概念诞生于1999年。那一年，康柏公司的George Favorolo和Sean Sullivan提出了“云计算”一词，惠普CEO Lew Platt发起了一项提供计算能力作为服务的计划，同时Salesforce公司也成立了。

然而，芯片的转变始于2006年AWS的创立以及通用型云服务提供商（CSP）的兴起。跨国CSP作为新型公司，其规模足够大，促使了专为特定工作负载或任务优化的处理器（如DPU）或定制版传统处理器（如CPU）的发展。换句话说，CSP庞大的基础设施规模为以上所有技术打开了市场之门。

那么，接下来会发生什么？

尽管从芯片“急转直下”算起已经18年了，但大部分概念仍处于早期阶段。使用专用和/或定制计算来降低功耗或提高性能的实践仍主要限于大型客户，并且至今这些尝试大多集中在少数几个产品上。

未来，预计将会有越来越多的客户寻求定制化解决方案。“定制”范围可能从完全独特的设计到更改固件以实现性能的增量提升，但最终制造商和终端用户将拥有一系列带有自己“签名”的硅产品。许多这种优化的定制设计将基于小芯片（chiplet）设计。

这些设计原则还将扩展到更广泛的产品中。用于5G基础设施的定制基带控制器、用于提升服务器内存容量的CXL控制器和网络接口卡（NIC）控制器已经在生产中。未来几乎所有东西都将被定制化。

产品的种类也将更加多样化。GPU、XPU和DPU是首批进入市场的新型芯片类别，而PCIe重定时器和CXL控制器则构成了第二波新兴产品浪潮，专注于提升互连能力。

半导体行业的前50年常常致力于减少主板上的芯片数量，而我们正进入一个将更多芯片集成到主板上，同时配合将不同芯片和功能集成到一个封装中的系统级封装（System-in-Package, SiP）设备的时代。

换句话说，摩尔已经演变成“更多（客户）、更多（定制化）和更多（芯片种类）”。