华为云黄瑾:传统计算架构难支撑 AI 代际跃迁,超节点架构是创新
5 月 16 日

华为云副总裁黄瑾在华为云 AI 峰会上指出,大模型训练和推理对算力需求激增,传统计算架构难以满足,超节点架构成为突破。华为云推出 CloudMatrix 384 超节点,解决通信效率、内存墙和可靠性问题,提供 300Pflops 算力,较英伟达提升 67%。该超节点具备六大技术优势,通过 EMS 弹性内存存储技术大幅提升资源利用率和性能,同时降低首 Token 时延最高达 80%。

专业版功能专业版功能
登录
体验专业版特色功能,拓展更丰富、更全面的相关内容。

行业标签

二维码

更多体验

前往小程序

二维码

24 小时

资讯推送

进群体验

logo
科技新闻,每天 3 分钟