英特尔、AMD、英伟达，三大厂商同台竞技混合GPU+CPU官网

如果说NVIDIA中的Grace CPU超级芯片的架构是CPU GPU是一种巧合的话，那么英特尔和AMD推出的Falcon Shores XPU芯片和Instinct MI300芯片也是CPU GPU结构。

CPU和GPU集成在一起很难称之为巧合。更“巧合”的是，上述三款芯片均应用于数据中心场景，这意味着AMD、NVIDIA和英特尔未来两年都将有混合CPU GPU芯片进入数据中心市场。

可以说，CPU GPU的形式已经成为未来芯片设计的趋势。

CPU和GPU进一步结合英特尔推出XPU英特尔宣布推出一款特殊的融合处理器“Falcon Shores”，官方称之为XPU。它的核心是一种新的处理器架构，

英特尔的x86 CPU和Xe GPU硬件被放在同一个至强芯片中。Falcon Shores芯片基于Tile设计，具有非常高的可扩展性和灵活性，可以更好地满足HPC和AI应用的需求。

根据英特尔给出的数字，与今天的水平相比，猎鹰海岸的能耗比增加了5倍以上，x86计算密度增加了5倍以上，内存容量和密度增加了5倍以上。猎鹰海岸芯片将于2024年推出。

AMD在数据中心领域推出了APU，AMD也展示了自己的雄心。APU是AMD传统上用于集成显卡客户端CPU的“加速处理单元”的术语。自2006年Opteron CPU鼎盛时期以来，

AMD一直梦想使用APU，并于2010年开始推出第一款适用于PC的APU。随后，定制的APU系列游戏主机在索尼Play Station4和5以及微软Xbox XS推出。

还在2013年推出了部分骁龙APU——2013和2017年推出了X2100。最近，AMD的路线图显示，它将在2023年推出Instinct MI300芯片。

这是AMD首款价值10亿美元的APU，AMD称之为“全球首款数据中心APU”。而且这个APU是一个将CPU和GPU核心组合到一个封装中的芯片。

仔细地说，它是将基于Zen4的Epyc CPU与使用其新的CDNA3架构的GPU相结合。AMD表示，与Instinct MI250X相比，Instinct MI300预计将提供8倍以上的人工智能训练性能提升。

与支持Instinct MI200系列的CDNA2 GPU架构相比，Instinct MI300的CDNA3架构将为AI工作负载提供5倍以上的性能功耗比提升。

Instinct MI300将于2023年问世。NVIDIA的Grace超级芯片NVIDIA一直专注于GPU设计，去年宣布进军基于Arm架构的CPU领域时引起了轰动。今年三月，

英伟达推出格蕾丝赫柏超级芯片解决高性能计算和大规模人工智能应用。该芯片通过NVLink-C2C将NVIDIA Hopper GPU和Grace CPU结合在一个集成模块中。

CPU GPU中的格蕾丝赫柏内核数量减半，LPDDR5X的内存只有512GB。但采用显卡的80GBHBM3内存，总带宽可以达到3.5TB/s，代价是1000W功耗，每个机架可以容纳42个节点。

英伟达还承诺将在2023年上半年推出其超级芯片。

为什么巨头纷纷使用这种形式？从时间节点来看，

英特尔猎鹰海岸芯片、AMD Instinct MI300和英伟达格蕾丝赫柏超级芯片分别于2024年、2023年和2023年上半年推出。以CPU GPU的形式，

为什么引起了三大巨头的兴趣并在数据中心布局？首先，数字经济时代，算力正在成为新的生产力，广泛融入社会生产生活的方方面面。数据中心是计算能力的物理承载，是数字化发展的关键基础设施。

全球数据中心获得了新的稳定性。2022年全球数据中国戏曲市场规模超过679亿美元，较2022年增长9.8%。因此，拥有巨大市场的数据中心长期以来一直受到科技巨头的密切关注。其次，数据中心会收集大量数据。

因此，数据中心需要构建的芯片具有很大的计算能力，CPU和GPU的结合可以提高计算能力。英特尔高级副总裁兼加速计算系统和图形（AXG）事业部总经理Raja Koduri在演讲中提到，如果您想成功占领HPC市场，

它要求芯片能够处理海量数据集。尽管GPU具有强大的计算能力，可以同时并行处理数百个内核，但当今的独立GPU仍有一个很大的缺点，即大型数据集无法轻松放入独立GPU内存中。

等待内存数据缓慢刷新需要时间。特别是对于内存问题，将CPU和GPU放在同一个架构中可以消除冗余的内存副本以改善该问题，处理器不再需要将数据复制到自己的专用内存池来访问/更改数据。

统一的内存池也意味着不需要第二个内存芯片池，即连接到CPU的DRAM。例如，Instinct MI300将把CDNA3 GPU小芯片和Zen4 CPU小芯片结合到一个处理器封装中。

两个处理器池将共享封装的HBM内存。NVIDIA官方表示，使用NVLink-C2C互联，Grace CPU向Hopper GPU传输数据的速度比传统CPU快15倍；但是对于具有大型数据集的场景，

即使使用NVLink和AMD的Infinity Fabric等高速接口，由于HPC级处理器的速度非常快，CPU和GPU之间交换数据的延迟和带宽成本仍然相当高。

因此，如果我们能够尽可能缩短这一链路的物理距离，就可以节省大量能源并提高性能。AMD表示，与使用独立CPU和GPU的实现相比，这种架构的设计将允许APU使用更低的功耗；英特尔还表示，

其Falcon Shores芯片将显著提高带宽、性能功耗比、计算密度和内存容量。

集成多个独立组件的定制模型的吸引力通常会带来许多长期好处，但它不仅仅是简单地将CPU和GPU集成到一个芯片中。英特尔、NVIDIA和AMD的GPU CPU都选择小芯片模式。传统上，

为了开发复杂的IC产品，供应商设计了一种将所有功能集成在同一芯片上的芯片。在随后的每一代中，每个芯片的功能数量都急剧增加。在最新的7纳米和5纳米节点上，成本和复杂性飙升。

使用小芯片设计，将具有不同功能和工艺节点的模块化芯片或小芯片封装在同一芯片中，芯片客户可以选择这些小芯片中的任何一个并将其组装在高级封装中，从而产生一种新的复杂的芯片设计。

作为片上系统（SoC）的替代品。正是因为小芯片的特性，三大巨头都开发了自己的多芯片互联，并且还推出了定制服务。当英特尔发布猎鹰海岸时，它介绍说其架构将使用小芯片方法。

由不同制造工艺制造的多个芯片和不同处理器模块可以紧密封装在一个芯片封装中。这使英特尔能够对CPU、GPU、I/O、内存类型、电源管理和其他可以放入芯片的电路类型进行更高级别的定制。

最特别的是，Falcon Shores可以根据需要配置不同的块模块，尤其是x86CPU核心和XeGPU核心。数量和比例非常灵活，取决于它的用途。目前，英特尔已经开放其x86架构进行授权。

并且制定了小芯片战略，允许客户将Arm和RISC-V内核放在一个封装中。最近，AMD也打开了定制化的大门。

AMD首席技术官Mark Papermaster在分析师日会议上表示：“我们专注于使芯片更容易、更灵活地实施。

AMD允许客户在一个紧凑的芯片封装中实现多个内核（也称为小芯片或计算瓦片）。AMD已经在使用瓦片，但现在AMD允许第三方制造加速器或其他芯片。

将其与x86 CPU和GPU一起包含在其2D或3D包中。AMD的定制芯片战略将专注于新的Infinity架构4.0，这是芯片封装中内核的互连。

专有的Infinity架构将与CXL 2.0互连兼容。Infinity interconnect还将支持UCIE（通用小芯片互连快速）以连接封装中的小芯片。

UCIe已经得到了英特尔、AMD、Arm、谷歌、Meta等公司的支持。

下一代顶级芯片会是多芯片设计吗？一般来说，AMD的服务器GPU轨迹与英特尔和NVIDIA非常相似。这三家公司都在朝着CPU和GPU组合产品的方向发展。

英伟达的Grace hopper（Grace H100）和英特尔的Falcon Shores XPU（混合和匹配CPU GPU），现在MI300在单个封装中同时使用CPU和GPU小芯片。

在这三种情况下，这些技术旨在将最好的CPU和最好的GPU结合起来，用于不受两者完全限制的工作负载。

市场研究公司Counterpoint Research的研究分析师Akshara Bassi表示：“随着芯片面积越来越大，晶圆产量变得越来越重要，

多芯片模块封装设计可以实现比单芯片设计更好的功耗和性能。Chiplet将继续存在，但就目前而言，这个领域是一个孤岛。AMD、苹果、英特尔和NVIDIA正在将自研的互连设计方案应用于特定的封装技术。

2022年，英特尔将EMIB（嵌入式多晶硅芯片）技术升级为逻辑晶圆的3D堆叠技术。2019年，英特尔推出了Co-EMIB技术，该技术可以将两个或多个Foveros芯片互连。

AMD率先提出小芯片模式，并于2019年全面采用小芯片技术取得技术优势。苏姿丰在演讲中表达了她未来的计划。“我们与台积电在他们的3D结构方面密切合作，将小芯片封装与芯片堆叠结合起来。

为未来的高性能计算产品创建3D小芯片架构。今年3月2日，包括英特尔、AMD、Arm、高通、台积电、三星、日月星、谷歌云、Meta和微软在内的十大巨头宣布成立小芯片标准联盟。

推出了通用小芯片互连标准（UCIe），希望将行业聚合起来。迄今为止，只有少数芯片巨头开发和制造了基于Chiplet的设计。由于先进节点开发芯片的成本不断上升，

业界比以往任何时候都更需要Chiplet。在多芯片潮流下，下一代顶级芯片必然也将是多芯片设计。