YAYI-Ultra – 中科闻歌推出的混合专家模型-爱论文

YAYI-Ultra是什么

YAYI-Ultra （雅意）是中科闻歌研发的企业级大语言模型的旗舰版本，具备强大的多领域专业能力和多模态内容生成能力。支持数学、代码、金融、舆情、中医、安全等多个领域的专家组合，能缓解垂直领域迁移中的“跷跷板”现象。YAYI-Ultra 支持最长128k的输入和更长的上下文窗口，具备1000万+图文数据对齐的多模态能力。支持多轮对话角色扮演、内容安全风控以及10+智能插件调用。

YAYI-Ultra的主要功能

多领域专业能力：YAYI-Ultra 是混合专家模型，支持数学、代码、金融、舆情、中医、安全等多种领域专家组合，缓解稠密模型在垂直领域迁移过程中普遍存在的“跷跷板”现象。多模态内容生成：支持图文并茂的输出，能根据用户的问题从知识库中提取相关信息，同步给出对应的图片内容。超长文输出：支持最长20万字输入和10万字超长输出，形成从“输入理解”到“内容创作”的全链路长文本能力闭环。数据分析与可视化：能准确完成数据分析、计算和图表绘制任务。复杂任务智能规划：YAYI-Ultra 增强了多工具串行调用场景下的规划合理性，能将复杂任务拆解为多个子任务，通过调用搜索引擎、代码解释器、图像解析等基础工具，以及新闻热榜追踪、传播影响力分析等垂直领域工具来完成任务。联网智能创作：支持联网收集信息完成创作，例如写一篇关于中国儒家文化发展历史的分析报告。

YAYI-Ultra的技术原理

混合专家架构：YAYI-Ultra 采用混合专家模型架构，支持多种领域专家组合，如数学、代码、金融、舆情、中医、安全等。能显著缓解稠密模型在垂直领域迁移过程中普遍存在的“跷跷板”现象，为不同领域提供高精度、低能耗的智能化解决方案。指令微调与数据驱动：YAYI-Ultra 的训练基于大规模的高质量多语言语料，结合指令微调技术，在不同领域和任务上表现出色。

YAYI-Ultra的评测表现

在OpenCompass大模型公开学术榜单中，YAYI-Ultra以64.5分首次闯入前十，成为TOP10中五个中国大模型之一。具体表现如下：

代码生成：在LiveCodeBench中排名第五，表现优于GPT-4o-20241120版本。复杂指令理解：在IFEval中排名第九。知识推理能力：在MMLU-Pro中排名第九。

YAYI-Ultra的项目地址

Github仓库：https://github.com/wenge-research/YAYI2HuggingFace模型库：https://huggingface.co/wenge-research

YAYI-Ultra的应用场景

媒体领域：帮助客户将内容创作时间缩短30%-50%，内容发布频率提升20%-40%，内容差错率从5%降至0.5%左右。医疗领域：基于YAYI的大医金匮中医大模型，可精准诊断500余种常见病症，辨证推理准确率高达90%，并面向C端用户推出了“大医金匮”中医健康管理APP。财税领域：基于YAYI的财税知识大模型，模型回答准确率90.1%，高于其他同类型模型，客户实现24小时不间断的咨询服务。