Garden of Thoughts | June 2026
在《AI Engineering》中，Chip Huyen 提到一个让人有点坐不住的数字：一块 NVIDIA H100 全速运行一年，耗电约 7,000 度；美国普通家庭一年的用电量是 10,000 度。恭喜你——你的 AI 助手，快赶上你家整年的用电量了。
但电费只是表象。真正的瓶颈是散热。把几百块 H100 塞进一个数据中心，你担心的不再是电费账单，而是这栋楼能不能喘过气来。推理（inference）则是另一个被忽视的耗电黑洞——训练只做一次，推理却永不停歇。效率越高，需求越大，这就是 Jevons 悖论：我们跑得更快，但坡越来越陡。
这也是为什么超大规模云服务商纷纷跑去冰岛和魁北克建数据中心——不是为了风景，是为了冷空气和便宜的水电。
AI 的瓶颈，不在模型有多聪明，而在电网能不能跟上。
延伸阅读：
#AI基础设施 #能源 #推理 #芯片 #数据中心
— Sherry | SherryAnalytics
对数据、基础设施以及工程与现实世界交汇处保持好奇。
本文由 Claude (Anthropic) 协助撰写。