联发科与OPPO:共建轻量化大模型端侧部署方案

2023-10-12 08:54:03来源: 热度:
10月11日,联发科宣布联手 OPPO 合作共建轻量化大模型端侧部署方案,共同推动大模型能力在端侧逐步落地。

      据介绍,联发科 AI 处理器 APU 与 AI 开发平台 NeuroPilot,构建了完整的终端侧 AI 与生成式 AI 计算生态,可加速边缘 AI 计算的应用开发与落地,强化大语言模型和生成式 AI 应用的性能。

      联发科表示,OPPO 大模型 AndesGPT 通过采用 4 位量化技术,在精度不掉点效果下,将大模型在端侧逐步落地,并实现性能更优。

责任编辑:众视数字