群联推出独创AI服务方案:可有效降低硬件构建成本
编辑:AVA 发布:2023-07-18 16:27群联电子宣布推出自主研发的AI服务方案『aiDAPTIV+』,扩大公司的IMAGIN+存储设计服务于AI应用市场。
群联指出,近期随着ChatGPT等超大型AI模型的兴起,带动AI人工智能于未来可能辅助企业与个人的无穷想像空间,也因为AI模型的成长速度极快,导致提供AI服务的硬件建构成本大幅提升,其主要原因为现行AI模型主要运行于GPU与DRAM当中,但未来AI模型的成长速度将远超过GPU与DRAM可供给的量。
据微软研究报告指出,AI模型的成长速度将会是GPU卡中的DRAM成长速度的200倍,换言之,现行的AI运算硬件架构成长速度可能已无法满足AI应用的需求。
因此,群联发布自主研发的AI人工智能运算服务『aiDAPTIV+』,此AI架构通过群联独创整合SSD的AI运算架构,对大型AI模型做结构性拆分,并将模型参数随应用时间序列与SSD协同运行,以达到在有限的GPU与DRAM资源下,最大化可执行的AI模型,预计能有效降低提供AI服务所需投入的硬件建构成本。
群联强调,首波的应用场景为全球首款导入整合SSD协同运算的量产aiDAPTIV+ AOI光学检测系统(简称Phison aiDAPTIV+ AOI服务),助力SMT工厂加速进入工业4.0,并进一步提升检测精准度,消除人力检测所导致的不稳定性。
凌华科技边缘运算平台事业处总经理陈少华说,凌华与群联在工业存储应用方面已有多年合作经验与默契,近期更携手布局AI应用市场,群联已将AI机制导入NAND控制芯片的设计,可强化产品效能与可靠度,再搭配凌华新一代的NVIDIA Jetson Orin平台,将可提供工控与AI领域客户更完整可靠的方案。
目前凌华的边缘AI推论平台DLAP-211-Orin Nano以及DLAP-211-Orin NX已成为群联自主研发的aiDAPTIV+ AOI自动光学检测系统的首批认证边缘运算设备,未来将持续扩大合作。
群联的本业与核心竞争力是NAND控制芯片研发,因此,如何扩大NAND存储与AI应用的连接一直是群联近几年努力的方向。