跳到正文
10月10日周六
  1. HF Daily Papers57

    Last Secure Code Benchmark:AI 编码智能体 vibe coding 代码的安全性评测

    研究者提出 Last Secure Code Benchmark,用 450 个任务覆盖 Java、C、C++、JavaScript、Python、PHP、Go 七种语言和 24 个 CWE(含 21 个 2025 CWE Top 25 与 8 个 Top 10 KEV 弱点)。

    推荐理由:覆盖 7 种语言与 450 个真实漏洞任务,给出 6 款前沿编码智能体在功能与安全两个维度的通过率差距。

10月9日周五
  1. HF Daily Papers37

    OmniCapBench 面向细粒度音视频字幕的多层级诊断评测基准

    研究团队发布音视频字幕评测基准 OmniCapBench,把预测目标从自由文本改为可验证的原子单元,覆盖实体指代、视觉镜头和音频事件三条轨道。基准包含 786 个密集标注视频,通过确定性约束检查和局部语义对比定位 MLLM 在时间对齐、身份漂移、跨模态错位和幻觉描述上的具体错误。评测前沿 MLLM 显示其局部感知较强,但长程音视频推理明显偏弱,尤其在身份漂移和跨模态错位上问题突出。

    推荐理由:该基准把音视频字幕评估拆成三条可验证轨道,能精确定位 MLLM 的具体感知错误,为全模态模型的改进提供可迁移的诊断路径。

  2. HF Daily Papers40

    推理驱动视觉编辑:RISEBench++ 基准与 RISE-Agent

    论文提出 RISEBench 与升级版 RISEBench++,面向推理驱动的视觉编辑任务,并发布训练免费的智能体框架 RISE-Agent。RISEBench++ 拆出六类推理维度共 65 个细粒度任务类型,包含 1000 条英中人工标注样本;评测 58 种编辑方法后,最强的 GPT-Image-2.5 Sunburst 也仅取得 56.6% 准确率。

    推荐理由:RISEBench++ 把视觉编辑任务拆成六类推理维度并评测 58 个方法,最强模型仅有 56.6% 准确率,为推理型视觉编辑的能力差距给出可复用的基准。

  3. 腾讯混元67

    腾讯优图实验室开源 5B 全模态解析模型 Youtu-Parsing-Omni

    腾讯优图实验室开源 5B 参数的全模态解析模型 Youtu-Parsing-Omni,统一处理文档页、自然图像、图表、流程图、几何图、音频与音视频,并按任务提示统一输出 JSON。

    推荐理由:5B 全模态解析模型在 OmniDocBench 居首、OmniParsingBench 仅次 Gemini-3-Pro,是评估小尺寸多模态模型能力上限的参考。

  4. 量子位55

    星动纪元 VPP2 登顶 RoboDojo 仿真榜,领先 GPT-6-Astra 等基线

    星动纪元发布的世界动作模型 VPP2 在 RoboDojo 仿真榜单中以 32.26% 平均成功率、39.26 分综合得分两项指标登顶,分别领先 GPT-6-Astra 9.78 个百分点和 10.29 分。

    推荐理由:原文同时给出仿真榜单与真机零样本两组对照数据,读者可据此比较 VPP2 与 π0.5 等基线模型的差距。

  5. HF Daily Papers42

    Learn2Play Bench:面向 LLM 智能体经验学习能力的评测基准

    论文提出 Learn2Play Bench,用规则新颖或反直觉的文本游戏评测 LLM 智能体在陌生环境中靠交互学习而非调用预训练知识的能力,并通过多次尝试与变体实例做受控评估。

    推荐理由:原文给出一套区分预训练知识与真实交互学习的评测方法与三项发现,为改进智能体的经验学习机制提供可对照的实验基线。

  6. HF Daily Papers39

    TerminalHorizon:面向长程终端智能体的数据合成引擎与监督微调

    TerminalHorizon 是一个面向长程终端智能体的全自动数据合成引擎,通过独立执行识别真实职业任务中被省略的关键工作,并以证据引导环境重构、围绕同一目标逐步扩展任务序列。

    推荐理由:原论文给出从数据合成到微调训练的完整方法与多基准结果,读者可直接对照自己的智能体训练管线和数据构造思路。

  7. HF Daily Papers46

    AgentSWE 基准:编码 Agent 能否真正交付用户想要的智能体

    AgentSWE 是面向智能体软件工程的 25 任务基准,覆盖创建、编辑、优化三个阶段,测试发现受测编码 Agent 均无法交付真正符合需求的智能体。每个任务用少量示例供构建者迭代,再以冻结提交在覆盖完整需求的隐藏用例上按派生 rubric 通过或不通过打分,论文还归纳了对可见用例过拟合、空壳运行时与虚假完成声明三类失败模式。

    推荐理由:AgentSWE 用 25 个任务以可见示例与冻结提交对照评估编码 Agent 是否真正满足需求,指出交付差距是常态而非个例。

  8. HF Daily Papers37

    APEX-Harm:评估共享专业工作区中的智能体安全性

    APEX-Harm 是一个用于评估长时程智能体在大型多工具工作区中抵御 prompt 与脚本注入攻击能力的新基准。任务覆盖金融、咨询和法律场景,每个任务含 115–328 个文件,并通过 MCP server 提供邮件、日历、聊天、文档、电子表格、PDF 与代码执行工具。

    推荐理由:在 12 个前沿模型上测得具体攻击成功率与任务得分,提供了多工具场景下智能体安全性的横向比较依据。

  9. HF Daily Papers28

    GraphDecisionBench:评测 System One 模型在图任务上的表现

    研究提出 GraphDecisionBench 模型无关基准,评测 Jev 等 System One 模型在图任务上的决策能力,覆盖 14 种模型接口配置。测试发现:精确的邻接识别并不保证更广泛的结构正确性,联合图-文输入未必提升预测质量,可行构造也不等于高解质量。代码与汇总结果已在 GitHub 开源。

  10. HF Daily Papers33

    Artisan:迈向物理可用关节化 3D 资产的多智能体流水线与基准

    Artisan 扩展 Articraft 方法,引入多智能体流水线与物理仿真反馈,使关节化 3D 资产生成支持碰撞规避、重力稳定及准确的质量与材质属性。配套基准涵盖 100 个 ArtVIP 与 LightWheel 参考资产、50 条稳定性提示与 50 个带参考质量的 ABO 物体,从空间保真、物理合理性、下游任务与整体质量四个维度评估。

10月8日周四
  1. Hugging Face Blog49

    阿布扎比技术创新研究所发布 Falcon-ASR:1.6B 参数阿拉伯语语音识别模型

    阿布扎比技术创新研究所(TII)发布 1.6B 参数语音识别模型 Falcon-ASR,主打阿拉伯语尤其是阿联酋方言,使用同一组模型权重还支持英语、法语、西班牙语和葡萄牙语。

    推荐理由:把模型在公开榜单和内部阿联酋方言评估上的具体 WER 与 CER 数字直接列出,读者可对照已发表系统查看差距。

  2. 量子位67

    Claude Haiku 5.5正式发布 跑分超GPT-6 Luna等小档模型

    Anthropic发布Claude Haiku 5.5小型号,在OSWorld 2.1、GDPval-AA v2.1、Terminal-Bench 4.0等基准上跑分超过GPT-6 Luna、DeepSeek V4.1 Flash等同档对手,是首个支持effort五档调节的Haiku型号。

    推荐理由:文章将Haiku 5.5与GPT-6 Luna、DeepSeek V4.1 Flash等小档模型逐项跑分与价格对比,并列出从4.5迁移的五处接口改动,便于评估替代成本。

  3. HF Daily Papers48

    论文提出 HSS 基准评估多模态模型的直观视觉推理能力

    论文提出 Humanity's Sixth Sense(HSS)基准,用于评估多模态大语言模型的直观视觉推理能力。HSS 覆盖图像与视频输入,按直觉性的时间、空间、社交和抽象结构组织题目,人类受试者准确率达 93.1%,而最强模型 GPT-6-astra 在最大推理强度下仅 53.6%;引入动态视觉操作的智能体设置能缩小差距,但仍未弥合人与模型之间的鸿沟。

    推荐理由:论文提出直观视觉推理这一评测轴,人类准确率 93.1% 而最强模型仅 53.6%,为多模态模型的差距对比提供了可量化的标尺。

  4. HF Daily Papers44

    SWE-Duel:面向编码智能体的自扩展对战评测方法

    论文提出 SWE-Duel 评测方法,由两个编码智能体在评测时互相出题与判题,任务在测试时动态生成以避免训练数据泄漏。在 11 个模型与 15 个跨语言仓库的 1,500 轮对战里,GPT-5.5 搭配 Codex CLI 修复 98.3% 被审核缺陷,Claude Opus 4.8 搭配 mini-swe-agent 作为出题方胜率 27.3%。

    推荐理由:原文给出在评测时动态生成任务与题解的自扩展基准方法,可与传统静态编码基准在抗训练污染和抗饱和上做对比。

  5. HF Daily Papers32

    Pumpire:面向度量距离估计的统一基准

    研究者提出 Pumpire 统一基准,用于评估 3D 基础模型在图像与视频层级上的逐点度量距离估计能力,覆盖有无深度先验两种场景。团队构建了包含 100 个真实场景、每场景 64 帧共计 6,400 帧的数据集 pumpire-6k,并为每帧标注物理实测的点对距离。论文在 29 种代表性 3D 基础模型配置上展开实验,直接衡量重建几何中的点对距离误差。

  6. HF Daily Papers43

    AI 智能体能否通过学习登顶:AAArena 基准上的启发式学习评估

    研究提出 Adversarial Heuristic Learning(AHL)范式与 AAArena 评测基准,涵盖 12 款对抗游戏和 1,920 份人类存档程序。在固定对局与评估预算下,Opus 4.5 与 Claude Code 配置获得 6 枚金牌,其余 6 个排行榜未被任何受测配置登顶。实验还发现,对手选择、密集反馈以及自身与他人的对局回放都能支持策略改进。

    推荐理由:原文给出 AHL 范式与 AAArena 评测基准,可作为衡量智能体在对抗博弈中相对人类存档程序策略改进表现的参考。

  7. HF Daily Papers36

    DataVista:面向多模态大模型的数据视频理解评测基准

    研究团队发布 DataVista 基准,包含 961 个真实数据视频和 6775 道评估题,按数据感知、时序推理、叙事理解三层能力框架、10 类细粒度问题与 5 个主题领域组织,用于系统评测多模态大模型的数据视频理解能力。

    推荐理由:原文提出数据视频理解新基准,并系统对比 19 个主流多模态模型在感知、推理、叙事三层能力上的差距。

  8. HF Daily Papers35

    CheckerBench:长程编码智能体能否从零开发静态分析检查器?

    CheckerBench 是一个面向静态分析检查器开发的端到端智能体评测基准,包含源自 297 个 CVE、覆盖 167 个仓库与 85 类 CWE 的 300 个任务,每个任务附带漏洞版本、修复版本、固化分析环境与检查器脚手架。

    推荐理由:提出了覆盖 297 个 CVE 的端到端检查器开发基准,并量化了当前编码智能体在该长程任务上的实际能力上限。

10月7日周三
10月6日周二
  1. HF Daily Papers39

    Gan Jiang:面向 X 射线衍射的自学习科学智能体

    Gan Jiang 是一个面向粉末 X 射线衍射的自学习科学智能体,在 DeltaXRDbench 的单相与多相识别任务上均领先所对比方法。

    推荐理由:原文展示了无需重训模型即可从失败诊断中迭代出可复用技能的方法,并给出了多基准上的精度对比,可作为科学智能体技能积累机制的参考。

  2. GitHub Blog · AI & ML61

    GitHub 发布开源 AI 代码评审基准 ReviewBench

    GitHub 发布开源 AI 代码评审基准 ReviewBench,包含 219 个跨 19 种语言的公开 PR,提供 grounded 和 augmented 两类精度/召回指标。

    推荐理由:原文公开了 ReviewBench 的语料来源、评测指标和接入方式,读者可据此构建可复现的 AI 代码评审离线评测体系。

  3. Anthropic News66

    Anthropic 发布 Claude Mythos 5.1,定位网络安全与生物学研究的最强模型

    Anthropic 发布 Claude Mythos 5.1,定位网络安全与生物学研究的最强模型,仅向通过审核的机构开放。Mythos 5.1 与面向更广范围的 Claude Fable 5.1 共享同一底层模型,Fable 5.1 可识别源代码中的软件漏洞,生物学相关安全策略的误触发率比 Fable 5 降低 85%。

    推荐理由:原文同时介绍了 Claude Mythos 5.1 的能力进展与分级访问机制,读者可以据此理解高端模型在网络安全与生命科学方向的扩散控制思路。

10月4日周日
  1. Hugging Face Blog68

    Microsoft 与 Hugging Face 联合发布 ThinkingBox 基准,按数据库终态评估 Agent 一致性

    Microsoft 与 Hugging Face 联合发布 ThinkingBox 基准,通过 OpenEnv 接口开放,覆盖 507 个有状态业务工作流,每个任务重复运行 20 次,按终端数据库状态和副作用评分。

    推荐理由:原文用 507 个任务和 20 次重复,量化了一次成功与每次都成的差距,可用于挑选真正可用的 Agent 模型。

  2. HF Daily Papers33

    Agentic RAG 评估预算分配研究:问题数、搜索轨迹与读取间的取舍

    一项 Agentic RAG 评估预算分配研究在 HotpotQA 与 MuSiQue 上表明,扩大问题覆盖比增加读取次数或搜索轨迹更有效。在 34.14–34.39M tokens 预算下,问题覆盖更广可使标准误比五次读取低 33%、比三条轨迹低 12.6%。当搜索价格为 0–1 美元/千次请求时增加问题数优于增加轨迹;温度设为 0 可将回答分歧率从 14.3% 降至 3.4%。

10月1日周四
  1. HF Daily Papers30

    Argo-Bench:在企业级工作流上评估数据智能体

    Argo-Bench 是一个新发布的预印本基准,专注于评估 LLM 数据智能体在企业级工作流中的日常决策能力。作者指出,现有 text-to-SQL 基准(如 Andon Labs 的 Vending-Bench 2)多止步于微观决策,而 Argo-Bench 旨在测试大语言模型在预测、欺诈预防等多业务领域的大型企业级表现。项目页已上线演示。

  2. HF Daily Papers33

    EditHero:长时程部件级 3D 编辑与 vibe modeling 基准

    EditHero 是首个面向长时程部件级 3D 编辑的基准,提供自然语言指令与几何/纹理目标图像,编辑序列经人工审核。研究对比自上而下从学习到的 3D 表示重新生成对象的非智能体方法,以及通过代码自下而上修改网格的 LLM/VLM 智能体。非智能体方法常遗漏目标改动并扰动其他区域,多数 LLMs 遵循指令更准确且更好保留未编辑部分,但每次编辑耗时数分钟。

  3. HF Daily Papers33

    SimuVerity:面向工程级 Simulink 模型生成的智能体评测基准

    SimuVerity 是面向工程级 Simulink 模型生成的智能体评测基准,包含 10 个工程领域的 101 个任务。该基准采用分层评估器,从交付物、可执行性、工程合格性及 6 个维度对生成模型打分。在 6 个智能体系统的评测中,最佳系统总分仅 42.86,部分高分模型仍存在严重视觉布局混乱。

9月23日周三
9月21日周一
  1. xAI News71

    xAI 发布 Grok 4.7,主打编码与知识工作

    xAI 发布 Grok 4.7,定位其在编码与知识工作方面能力最强的模型,基于比 4.6 更大的新基座模型,价格不变(每百万 token 输入 $2、输出 $6),并提供 2 倍输出速度的快速版本。

    推荐理由:原文给出 Grok 4.7 与 GPT-5.6 Sol、Fable 5.1 在多项基准与价格上的横向对比,读者可据此判断它在同类模型中的性价比位置。

9月16日周三
  1. Hugging Face Blog67

    IBM Research 为 ALTK-Evolve 引入一致性指南,把 GPT-4.1 ReAct 智能体的一致性差距减半

    IBM Research 在 ALTK-Evolve 中新增一致性指南与 Consistency Analyzer 诊断,将 GPT-4.1 ReAct 智能体在 AppWorld 上的一致性差距从 24.4pp 砍到 12.0pp。

    推荐理由:在意智能体稳定性的团队可直接参考 Pass^k 与一致性差距的诊断方式,以及从历史轨迹自动生成并回灌上下文的一致性指南。

9月1日周二
8月27日周四
  1. Google DeepMind56

    Google DeepMind 试点全球首个前沿 AI 模型双盲评测方法

    Google DeepMind 推出全球首个针对前沿 AI 模型的双盲评测,通过密码学安全环境防止模型提前接触测试题目以避免基准污染。合作方包括新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons,将在一组保密基准上测试 Gemini Flash Lite 模型。

    推荐理由:原文详细介绍了双盲评测的密码学机制与合作方,读者可据此了解前沿模型评测如何避免基准污染以提高评测完整性。

8月21日周五
8月13日周四
8月12日周三