“HBM之父”金正浩：AI算力核心正从GPU转向内存，未来十年HBF将成主流 - 果核剥壳

7月6日消息，被誉为“HBM之父”的韩国科学技术院（KAIST）电气系教授金正浩近日在接受《东亚日报》专访时指出，人工智能（AI）的核心竞争力正在发生根本性转移——从GPU转向内存。

AI瓶颈显现：GPU有效计算时间仅10%-30%

金正浩直言，AI的本质其实就是内存。在AI推理过程中，数据必须先从HBM读取并传输至GPU进行计算，随后再写回内存。这一来回的数据搬运导致GPU的利用率远低于理论值。他强调：“即便系统部署了100万块GPU，真正用于计算的时间占比也只有10%到30%。”

从“训练”到“推理”：内存能力决定AI性能

过去，AI的发展重心在于模型训练，GPU自然成为决定性能的核心。但金正浩指出，随着AI全面迈入推理时代，决定性能的指标已变成“单次能处理多少数据”以及“处理速度有多快”。因此，内存的带宽与容量将直接决定AI的最终表现。

内存技术演进：从HBM到HBF，最终走向HBS

虽然目前HBM（高带宽内存）已成为AI算力的重要支撑，但随着多模态AI和Agentic AI（代理式人工智能）的崛起，海量的视频、文档及长期记忆等“冷数据”需要被妥善保存。为此，金正浩预测，将NAND闪存进行类似HBM堆叠的HBF技术将成为新主流，并在未来10年内市场需求超越HBM。

而在更长远的技术规划中，读写速度比DRAM快1000倍的HBS（高带宽SRAM）将成为终极方案。其构想是在整片12英寸晶圆上铺设SRAM，将容量提升至约1600GB，以实现海量数据的高速处理。

未来架构愿景：百层规模的“3D数据高楼”

金正浩为未来的AI计算机描绘了一幅3D复合架构的蓝图。他将其比作一座庞大的“三维建筑”：HBM扮演“商场”角色进行高频交互，HBF层如同“住宅区”承载海量存储，HBS则承担极速的“高速缓存”功能。这三种形态组合叠加，形成约100层规模的立体架构，源源不断地为GPU供给数据。