10月11日,联发科宣布联手 OPPO 合作共建轻量化大模型端侧部署方案,共同推动大模型能力在端侧逐步落地。
据介绍,联发科 AI 处理器 APU 与 AI 开发平台 NeuroPilot,构建了完整的终端侧 AI 与生成式 AI 计算生态,可加速边缘 AI 计算的应用开发与落地,强化大语言模型和生成式 AI 应用的性能。
联发科表示,OPPO 大模型 AndesGPT 通过采用 4 位量化技术,在精度不掉点效果下,将大模型在端侧逐步落地,并实现性能更优。
据介绍,联发科 AI 处理器 APU 与 AI 开发平台 NeuroPilot,构建了完整的终端侧 AI 与生成式 AI 计算生态,可加速边缘 AI 计算的应用开发与落地,强化大语言模型和生成式 AI 应用的性能。
联发科表示,OPPO 大模型 AndesGPT 通过采用 4 位量化技术,在精度不掉点效果下,将大模型在端侧逐步落地,并实现性能更优。
责任编辑:众视数字