Nvidia 推出全球首款配备 HBM3e 内存的全新 Grace Hopper 超级芯片，旨在抓住生成式人工智能的发展机遇
Nvidia 推出了最新的 超级芯片 超级芯片，旨在为数据中心提供动力，以支持生成式人工智能或其他加速计算。尽管 Nvidia 仍在以不同形式为消费者生产基于 Arm 的芯片，但几年前它已转向优先发展基于 Arm 的服务器 SoC，通过将 Grace Hopper 平台与其服务器级 GPU 集成，可以进一步加速这些 SoC。随着 ChatGPT 和 Midjourney 等生成式人工智能技术的兴起，该公司的赌注获得了丰厚的回报，自今年年初以来，其股价飙升了约 200%。
与最初的格雷斯-霍珀（Grace Hopper）超级芯片一样，新的 GH200 采用双配置，增加到 144 个 Arm V 系列 Neoverse 内核。与之前一样，CPU（Grace）与 Nvidia 的 H100 Tensor Core GPU（Hopper）配对使用。H100 GPU 可提供至少 51 teraflops 的 FP32 计算能力，而 GH200 架构的组合则可提供惊人的 8 petaflops AI 性能。
为了使 GH200 达到这些新的性能水平（尽管芯片架构保持不变），Nvidia 升级了内存架构，采用了 282GB 的最新 HBM3e 内存。HBM3e 比普通 HBM3 内存快 50%，总带宽达 10TB/秒。这使得 GH200 可以处理比第一代芯片大 3.5 倍的模型，并成为全球首款采用 HBM3e 内存的产品。
Nvidia 还表示，Grace Hopper 平台是可扩展的，支持使用 Nvidia 的 NVLink 互连连接更多的 Grace Hopper 芯片。相干内存（集群中所有 CPU 和 GPU 共享）最高可达 1.2TB。Nvidia表示，领先的服务器制造商预计将在2024年第二季度提供100多种服务器配置的GH200系统。
资料来源
