首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >Agent 评估 >GAIA 基准在 Agent 评估中重点考察哪些能力?

GAIA 基准在 Agent 评估中重点考察哪些能力?

词条归属:Agent 评估

1. 任务结构

  • 共 466 道人工标注任务,答案为唯一可验证短文本,采用精确匹配评分
  • 分三级难度:一级少于 5 步、二级 5~10 步多工具、三级 10 步以上(任意长短)的长程规划

2. 考察能力

  • 网页浏览、文件处理(PDF / 表格 / 图片 / 音频)、计算、跨多源信息综合与逻辑推理

3. 表现水平

  • 人类基线整体约 92%;2026 年领先 Agent(如 HAL 榜 Claude Sonnet 4.5)整体约 74.6%,一级约 82%、二级约 73%、三级约 65%,整体仍显著低于人类 92%,三级差距揭示当前 Agent 在长程推理上的主要短板
相关文章
GAIA 测评体系
GAIA 全称是 “General AI Assistant”。它的目标不是只评估一个大语言模型(LLM)能不能写一段自然语言回答,而是评估它能不能像“智能助理”一样,去完成一项现实世界的小型任务。
吃猫的鱼Code
2025-11-04
2.1K0
统一20+多智能体方法,MASLab震撼发布
OpenAI 在通向 AGI(通用人工智能)的五大阶段中,将「组织级」智能列为最终目标:即 AI 能像一个组织般管理复杂流程、决策高层任务、协调大规模操作。 近两年来,大量多智能体系统(Multi-Agent Systems, MAS)研究陆续涌出,不断朝这这一里程碑迈进。
机器之心
2025-06-15
4930
人类考92分的题,GPT-4只能考15分:测试一升级,大模型全都现原形了
GPT-4 自诞生以来一直是位「优等生」,在各种考试(基准)中都能得高分。但现在,它在一份新的测试中只拿到了 15 分,而人类能拿 92。
机器之心
2023-11-27
8900
Agent评测机制概述
随着基于大语言模型的智能代理(LLM-based Agents)迅速走向实际应用,如何有效评估这些系统的真实能力成为关键问题。表面上的流畅对话或单一任务完成率已不足以判断Agent在复杂环境中的可靠性。
tunsuy
2026-04-09
1.5K0
Manus 刷屏,全网求邀请码!这款 AI Agent 究竟有多强?
北京时间 3 月 6 日凌晨 Monica 团队推出了 Manus -- 全球首款通用型 AI Agent。Manus 能够独立思考、规划和执行复杂任务,并直接交付完整的任务成果,而不是仅仅提供建议或答案。Manus 拥有强大的工具调用能力,能自主完成从任务规划到执行的全流程,如文件处理、数据分析、代码编写、内容创作等。Manus 的产品名,意思为“手”,来自拉丁文 "mens et manus",象征着将知识从脑中转化为实际行动。
Se7en258
2025-05-21
7030
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券