Elon Musk 宣布在孟菲斯使用 NVIDIA H100 GPU 进行 GROK 3 训练

Elon Musk 正式宣布在孟菲斯超级计算机设施开始 GROK 3 训练，该设施配备了 NVIDIA 当前一代 H100 GPU。 该设施被马斯克称为“世界上最强大的人工智能训练集群”，于周一开始运行，在单个 RDMA 结构上配备了 100,000 个液冷 H100 GPU。

训练定于当地时间凌晨4点20分在孟菲斯举行。 马斯克在随后的推文中表示，世界上“最先进的人工智能”可能会在今年 12 月之前开发出来。 马斯克还在推特上发布了 X 的成就，并对 xAI、X 和 NVIDIA 团队的出色工作表示祝贺。  

xAI 改变战略并取消 Oracle 服务器交易

该公告是在 xAI 与 Oracle 最近取消了一项价值 100 亿美元的服务器交易之后发布的。 马斯克表示，最初预计于 2025 年秋季投入运营的 xAI 计算超级工厂已提前开始运营。

xAI 此前曾将其人工智能芯片外包给甲骨文，但后来决定退出，以开发自己的先进超级计算机。 该项目现在计划利用最先进的 H100 GPU 的潜力，每个 GPU 的成本约为 30,000 美元。 GROK 2 使用了 20,000 个 GPU，GROK 3 需要五倍的 GPU 来构建更复杂的 AI 聊天机器人。  

另请阅读： 埃隆·马斯克就特斯拉 50 亿美元 xAI 投资征求公众意见

这是相当令人惊讶的，特别是因为 NVIDIA 最近刚刚宣布即将发布基于 Hopper 架构的 H200 GPU。 决定开始使用 H100 GPU 进行训练，而不是等待 H200 或即将推出的基于 Blackwell 的 B100 和 B200 GPU。 H200 GPU 于第二季度开始量产，有望显着提高性能，但 xAI 的当前重点是利用现有的 H100 基础设施来实现其雄心勃勃的目标。

分析师质疑孟菲斯超星系团的电力供应

人工智能和半导体专家迪伦·帕特尔最初对运行孟菲斯超级集群的电力问题 表示担忧 他指出，目前7兆瓦的电网供应只能维持约4000个GPU。 田纳西河谷管理局 (TVA) 预计将向该设施供应 50MW，协议预计将于 8 月 1 日签署。 然而，满足全部电力需求所需的变电站要到 2024 年底才能完工。

帕特尔在分析卫星图像时指出，马斯克使用了 14 台 VoltaGrid 移动发电机，每台可发电 2. 5 兆瓦。 这些发电机总共可产生 35 兆瓦的电力。 除了来自电网的 8MW 之外，总计 43MW，足以为约 32,000 个 H100 GPU（在一定功率上限下）供电。