2026-09-02 23:39:02
谷歌供应链基础设施高级总监尼基尔·切里安（NikhilCherian）近日在出席峰会论坛时透露，人工智能产业已迅速由“算力受限”转变为“内存受限”。在单台典型的AI服务器中，高性能内存占其物料清单的成本比例已高达约75%。切里安表示，为了“突破内存瓶颈，谷歌正同时从软件和硬件两端协同发力”。为此，谷歌甚至拆解了退役服务器以回收尚具利用价值的元器件，从而构建出一套内部循环利用的供应链体系。在某些应用场景下，谷歌似乎已被迫妥协——不得不重新采用规格较旧的DDR4内存模组，以替代其新型AI服务器原本规划的DDR5模组。事实上，谷歌设计了专用的硬件转接卡，使得DDR4等上一代内存方案能够接入其新一代AI服务器。切里安坦言，谷歌正是特意将这批退役服务器调回机房，目的就是拆解并回收其中的DDR4内存模组。亚汇网注：为模型推理任务进行针对性优化的TPU8i芯片采用专用分层存储体系，在整机层面依托高速DDR5内存体系结构，专门负责处理数据预处理等任务。此外，每颗TPU8i芯片均搭载288GB的HBM3e高带宽内存。与此同时，这家科技巨头还在持续优化底层函数库、模型架构以及KV缓存压缩算法，竭力降低单位算力下的内存开销。
您正在访问亚汇网香港分站，本站所提供的内容均遵守中华人民共和国香港特别行政区法律法规。
