群联:已在联发科天玑9500平台单机运行 20B 大型语言模型

存储器 2026-05-15 11:42

群联与联发科携手于MediaTek天玑开发者大会上宣布,已在天玑9500平台上,单机运行20B (200亿个参数)大型语言模型,展现新一代地端AI推论的关键突破。通过群联专利aiDAPTIV Hybrid UFS 解决方案,结合aiDAPTIV Cache Memory 与aiDAPTIV Middleware 技术,成功将部分MoE 模型权重动态卸载至UFS存储层,有效降低对DRAM 的依赖,原需16GB+ DRAM 的大模型,可在12GB DRAM 环境下流畅运行,大幅提升大模型在终端设备部署的可行性。

简讯快报

更多