Agent-S – 基于图形用户界面实现人机交互自动化的代理框架-爱论文

Agent S是什么

Agent-S 是创新的代理框架，旨在基于图形用户界面（GUI）实现人机交互的自动化。Agent-S 基于模拟人类的操作方式，用鼠标和键盘直接与计算机交互，处理复杂的多步骤任务。Agent-S 引入经验增强的分层规划方法，结合在线网络知识和内部记忆，将复杂任务分解为可管理的子任务。Agent-S 基于一种特定的代理-计算机接口（ACI），提高基于多模态大型语言模型（MLLMs）的GUI代理的推理和控制能力。Agent-S在 OSWorld 基准测试中表现出色，成功率显著高于基线，证明在自动化计算机任务方面的有效性。框架不仅提高效率，基于自动化交互增强可访问性，为有障碍人士提供与技术互动的新方式。

Agent-S 的主要功能

自主交互与任务自动化： Agent-S 基于图形用户界面（GUI）与计算机进行自主交互，自动化执行复杂的多步骤任务。经验增强的分层规划：框架使用在线网络知识和内部经验分解复杂任务，生成一系列可执行的子任务。代理-计算机接口（ACI）：Agent-S 用ACI 提升基于多模态大型语言模型（MLLMs）的GUI代理的推理和控制能力，确保与计算机界面的精确交互。持续学习和记忆更新： Agent-S 用自我评估和经验总结，不断更新叙事记忆和情景记忆，适应环境变化和提升任务执行能力。跨操作系统的通用性：框架在不同的操作系统上展示良好的通用性，能在多种环境下执行任务。

Agent-S 的技术原理

经验增强的分层规划：Agent-S 结合在线网络搜索和内部经验检索，使用叙述记忆和情景记忆规划和执行任务。代理-计算机接口（ACI）： ACI 作为抽象层，定义与环境交互的范式，用视觉输入和图像增强的可访问性树精确定位元素，限制代理的动作空间，确保安全和精确的执行。叙事记忆与情景记忆：叙事记忆存储高层次的任务经验，而情景记忆则包含具体的子任务执行细节，两者共同支持任务规划和执行。自我评估与记忆更新： Agent-S 基于自我评估模块来总结经验，用文本奖励的形式更新内部记忆，实现持续学习。多模态大型语言模型（MLLMs）：作为推理的核心，MLLMs 能处理和生成语言，理解环境变化，执行基于语言的原始动作，以控制 GUI。

Agent-S 的项目地址

项目官网：simular.ai/agent-sGitHub仓库：https://github.com/simular-ai/Agent-SarXiv技术论文：https://arxiv.org/pdf/2410.08164v1

Agent-S 的应用场景

办公自动化：处理日常办公任务，如数据录入、日程安排、文档创建和编辑，及办公软件（如文字处理、表格计算、演示制作等）的自动化操作。网页交互：执行网络导航任务，如在线购物、填写表单、搜索信息、管理电子邮件账户等。个人助理：作为个人助理，帮助用户管理日程、提醒重要事件、预订服务（如餐厅、酒店、机票）等。客户服务：在客户服务领域，自动处理常见的查询和交易，提供24*7的自动化支持。教育和培训：自动化教学辅助任务，如创建教学材料、评估学生作业、管理在线课程平台等。