华为发布 AI 训推全流程工具链 ModelEngine

2024-08-16 17:16:59来源: 热度:
8 月 15 日,由开源中国与上海浦东软件园联合举办的全球开源技术峰会(GOTC2024)在上海举行。华为数据存储软件首席专家张群辉分享了 ModelEngine 在垂域大模型领域的应用实践。  
 
▲ 华为数据存储软件首席专家张群辉

据张群辉介绍,ModelEngine 是华为 DCS(Data Center Stack)全栈的 AI 训推全流程工具链,业界首个采用 AI 流式编程框架,提供从数据处理、知识生成,到模型微调和部署,以及 RAG 应用开发、应用部署,为数据处理工程师、模型工程师、应用开发者提供开箱即用的全流程 AI 开发体验。
 
张群辉在演讲中称,基于 ModelEngine 开放的数据使能、模型使能和应用使能工具链,支持使用开放的数据处理算子、主流的模型和开放的应用算子,语料生成时间从月缩短到天。面向开发者提供一站式 AI 应用开发、评估优化和部署,帮助快速构建 AI 应用,支持 LangChain、LlamaIndex 等插件,保护已有 AI 资产

责任编辑:汪雪惠