SPAR – 智谱团队推出的自我博弈训练框架-爱论文

SPAR是什么

SPAR是智谱团队推出的自我博弈框架，能增强大型语言模型在遵循指令方面的能力。框架基于内部的生成者和完善者两个角色进行互动，生成者执行指令生成回复，完善者对回复进行分析和改进。SPAR基于树搜索技术精细化和优化回复，排除无关的干扰因素，从而突出对指令遵循至关重要的关键差异。这一过程提升了模型执行指令的准确性，增强了模型的自我完善能力。实验结果显示，SPAR框架能显著提高模型在IFEval等评估基准上的性能，证明在提升大型语言模型指令遵循能力方面的有效性。

SPAR的主要功能

提升指令遵循能力：提高大型语言模型（LLMs）准确理解和执行指令的能力。构造有效偏好对：基于自我博弈和树搜索策略，够构造出有效且可比较的偏好对，偏好对不含干扰因素，帮助模型学习关键差异。自我博弈迭代改进：模型基于扮演生成者和完善者两个角色，进行自我博弈，用迭代的方式不断改进指令遵循能力。树搜索策略：用树搜索算法精细化模型的响应，确保生成的回复能够更准确地遵循指令。模型性能优化：基于优化生成者和完善者两个模型，提高整体的指令遵循性能。可扩展性和可转移性：展示了对不同大小模型的可扩展性和可转移性，能提升各种规模模型的指令遵循能力。

SPAR的技术原理

自我博弈框架：SPAR框架中，LLMs扮演生成者和完善者两个角色，生成者生成回复，完善者对回复进行评估和改进。树搜索算法：基于树搜索算法（包括广度优先搜索BFS和深度优先搜索DFS）探索可能的回复路径，并找到最佳回复。去除干扰因素：基于精细化回复对，排除与指令遵循无关的干扰因素，让模型能专注于学习指令的关键要求。迭代训练：基于迭代训练的方式，不断优化生成者和完善者模型，每轮迭代都基于前一轮的结果进行改进。数据构建：构建高质量的数据集，包含复杂指令遵循提示和相应的监督式微调（SFT）数据，用在初始化和训练行动者和精炼者模型。模型优化：用树搜索策略生成的精细化回复对，SPAR基于直接偏好优化（DPO）和拒绝重采样微调（RFT）训练行动者和精炼者模型，实现持续的自我提升。

SPAR的项目地址

GitHub仓库：https://github.com/thu-coai/SPaRHuggingFace模型库：https://huggingface.co/datasets/CCCCCC/SPaRarXiv技术论文：https://www.arxiv.org/pdf/2412.11605

SPAR的应用场景

智能助手：在个人或企业智能助手中帮助模型更好地理解用户的指令，提供更准确的服务和响应。客户服务：在客户服务领域，训练聊天机器人更准确地遵循客户的请求，提高问题解决的效率和客户满意度。教育技术：在教育应用中，辅助开发智能教学助手，理解并执行教师或学生的复杂指令，提供定制化的学习体验。医疗咨询：在医疗咨询系统中，提升模型对患者问题的理解能力，确保提供安全、准确的医疗建议和信息。智能家居控制：在智能家居领域，帮助语音控制助手更准确地理解和执行用户的家居控制指令。