前两天看到英伟达那则公告,黄仁勋辞去总裁、CEO和董事职务,CFO Colette Kress接手临时CEO。说实话第一反应是“这公司要变天了”,但冷静下来一想,对像我这种自己攒推理集群的散户来说,最该关注的不是谁上位,而是之前传闻里提到的Rubin Ultra延期和Kyber机架改动。大摩路演里黄仁勋否认了Rubin Ultra延期,说按计划明年推,但Kyber机架架构调整了。这玩意儿才是真正的痛点。
我去年底刚搞完一个小型推理集群,主要是跑开源LLM的推理服务,规模不大,就32张A100和十几张H100混着用。当时布线时最头疼的就是供电。标准机架通常走380V直流或480V交流,但H100单个节点峰值功耗能到700W,32张卡加上交换机、存储,单机架功率密度轻松破20kW。我一开始想用800V直流供电,结果发现国内机房能提供800V直流母线的供应商极少,大部分只走380V或240V。最后妥协成480V交流转直流,效率降低了大概3-4%,多出来的热还得额外风冷。现在英伟达那边要推800V直流,对大型数据中心是利好,但对中小玩家来说,意味着要么改造配电柜,要么等新规格的PDU上市,周期至少半年。
另一个改动是光互连。老架构里机架间通信主要靠铜缆,距离一长信号衰减大,带宽受限。Kyber机架据说要集成光互连,直接走光纤。这玩意儿对推理延迟改善明显,尤其是跨机架做张量并行的时候。我之前用H100跑Llama 3 70B,跨机架通信延迟占推理总延迟的15%左右,换成光互连应该能压到5%以下。但光模块的到货周期现在是个问题,我认识的做光模块的朋友说,800G光模块交期已经排到12周以上,英伟达自己又囤了不少,小厂想拿货得加价。
机架功率密度这块,Rubin系列传闻是单GPU功耗可能到1500W,比H100翻倍还多。这意味着散热方案得从风冷转液冷。我现在的集群是风冷,夏天最热时进风口温度35度,GPU温度能飙到85度,风扇转速拉满噪音堪比吸尘器。如果下一代卡真到1500W,风冷根本压不住,必须上冷板式液冷。液冷改造包括管道、水泵、冷板、CDU,一套下来成本至少是风冷的1.5倍,而且机房需要有排水和防漏设计。我算过一笔账,如果全换液冷,现有集群的改造费用接近新购一半卡的价格,所以暂时只能观望。
这三个改动——800V供电、光互连、液冷——对自建集群的影响是实打实的。到货周期上,新架构卡可能要等8-12周,配套的供电和散热设备可能更久。大摩路演里提到管理层对增长偏乐观,单季营收逼近1000亿,说明需求还在涨,但供应链瓶颈没解决。小玩家要么加钱插队,要么等两三个季度后产能爬坡。
最后说句实在的,技术路线调整是常态,但每次改架构都等于重新布线、重新算散热、重新调网络,成本和时间都不小。
随便看看
- 每天一分钟,知晓天下事!2025年2月5日
- 居家少妇发情[11P]
- [欧美] 我的爱 [21P]
- 多伴侣男性的安全提示
- 小玩具的激情 [13P]
- [F1]荷兰站赢家输家:诺里斯遭遇重大打击,现眼包法拉利
- 形势升级,15号B-52轰炸机出现在委内瑞拉
- [历史上的今天]2026年1月9日,历史上的今天大事件
- 胖东来真能借鉴的话,就不会只待在河南许昌了,连郑州都
- 404文章|成都客|开封,2024年深秋的首都[2P]
- [微博谈 2026/11/16] 还得是洋大爷啊
- [亚洲] 一起去度假 [28P]
- 你不知道的小技巧:女人高潮不起来试试这11招+防水素
- [亚洲] 白嫩大奶子感觉太美妙了[36P]
- [欧美] 这个女人可以吗 [30P]
- 每天一分钟,知晓天下事!2025年5月31日
- 乌克兰情报:俄罗斯四成弹药来自朝鲜
- [欧美] 裸体少女Zara在未铺设的床上自信地展示她美
- [欧美] Helen [20P]
- [兲朝浮世绘2025/06/07] 黄之锋狱中被捕 香港当局残
- 苏联死于一个哲学悖论
- [欧美] Scarlet Muse[20P]
- 这女友越来越骚了 [16P]
- 孙立平:金字塔底层:拼多多崛起与困境的谜底
- 绝顶恼杀闷绝动图之(180)打飞机-4
- [欧美] 她那双黑色的眼睛则预示着情色的幸福[23P]
- 个人收集的国外小姐姐精彩瞬间342 [180P]
- 伊朗外长:不希望发生战争 相信特朗普会作正确决定
- 被执行4.66亿,亲手把小三送进监狱,他的一生全都这毁这
- 《天道》中的败笔
- 刘备见曹操就崩?正史里那几次对决,比演义还惨
- [欧美] Steffi[20P]
- 骚气外漏[12P]
- [技术分享!俺老张来了,第八弹] 免费!!在线!!老照片复活,轻
- [前蓝志] 我又想起那句话:多好的人民啊!再加一句:不
- JUR-362 开始抗拒慢慢喜欢 小兔女郎甘受凌辱 [400P]
- 微语录精选 1211:科普救不了所有人
- 革命领袖通常是什么人