随着AI芯片与内存加速向三维堆叠演进，热管理正成为制约人工智能基础设施扩展的关键瓶颈。据韩媒报道，韩国科学技术院（KAIST）教授金正浩（Kim Joung-ho）警告称，系统半导体与存储器同步采用3D堆叠技术，将使散热挑战日益严峻，进而可能限制AI算力的进一步扩张。他指出，基于AI的设计自动化和数字孪生技术，有望成为降低AI基础设施功耗与发热的有效工具。
在存储领域，堆叠层数增加将带来尤为突出的难题。金教授预测，继HBM（高带宽DRAM堆叠）之后，基于NAND闪存堆叠的HBF以及基于SRAM堆叠的HBS，有望成为AI时代的下一代存储技术。随着架构日趋复杂，热管理必须引入新思路，尤其是AI驱动的设计自动化。他以其实验室目前使用的“HBM设计AI智能体”为例，说明AI能够帮助优化散热结构。他同时呼吁开发具备自主处理复杂封装设计、基于物理定律寻找最优方案的AI工具，并推动高散热架构的研发。
散热问题已直接影响下一代存储设计。据路透社报道，三星的zHBM技术将存储芯片垂直堆叠于AI加速器之上，其晶圆键合技术预计可实现HBM5十倍以上的存储密度、三倍的能效提升，以及超过50%的热阻降低。
与此同时，AI芯片功耗的持续攀升也给冷却系统带来更大压力。据TrendForce数据，英伟达、AMD、谷歌等厂商的单颗AI芯片热设计功耗（TDP）已突破1千瓦，机架级系统功耗达数百千瓦。液冷在AI芯片中的渗透率预计将从2025年的约33%提升至2026年的53%，2027年逼近60%。
首尔科学技术大学教授金成东（Kim Sung-dong）也指出，热管理已成为先进半导体封装面临的主要挑战。据ETNews报道，金教授认为，AI产业正将热管理优先级置于进一步提升性能之上，并指出共封装光学（CPO）和系统技术协同优化（STCO）是两大关键路径。CPO将电信号转换为光信号，相比传统铜互连可提升性能与能效，同时减少发热；STCO则致力于从系统层面优化整体性能，涵盖散热管理。
此外，金教授表示，从基础数据分析与仿真支持向AI驱动的数字孪生转变正在加速，物理信息神经网络（PINNs）和深度强化学习正迅速成为自主设计优化基板翘曲与配电网络（PDN）的新兴工具。
