AI 模型众包评测平台 Arena 获 2 亿美元 B 轮融资,估值 31 亿美元,10 个月内几近翻倍
AI 模型众包评测平台 Arena 获 2 亿美元 B 轮融资,估值升至 31 亿美元,较 1 月的 17 亿美元几近翻倍。
推荐理由:原文同时给出估值翻倍、年化营收变化和新增 alignment 排行榜的细节,可帮助读者判断众包评测在当前 AI 评估赛道的商业位置。
AI 模型众包评测平台 Arena 获 2 亿美元 B 轮融资,估值升至 31 亿美元,较 1 月的 17 亿美元几近翻倍。
推荐理由:原文同时给出估值翻倍、年化营收变化和新增 alignment 排行榜的细节,可帮助读者判断众包评测在当前 AI 评估赛道的商业位置。
阿布扎比技术创新研究所(TII)发布 1.6B 参数语音识别模型 Falcon-ASR,主打阿拉伯语尤其是阿联酋方言,使用同一组模型权重还支持英语、法语、西班牙语和葡萄牙语。
推荐理由:把模型在公开榜单和内部阿联酋方言评估上的具体 WER 与 CER 数字直接列出,读者可对照已发表系统查看差距。
UniPat AI发布PaperBenchX基准,在93个跨学科论文复现任务上测试10组前沿模型与Agent框架配置,最强的GPT-6 Astra完整复现率仅13.98%。
推荐理由:从破解千禧难题到端到端复现论文不到七分之一的成功率,给出了衡量AI科研能力与数学解题之间差距的一把尺子。
Cekura 发布 Cekura Bench,在真实电话场景中横向评测 9 款实时语音模型并公开每通电话转写与得分。测试覆盖 GPT Realtime 2.1、Gemini Live、Grok、Phonic 等模型,每款在 82 个场景上各跑 3 次,按可靠性、数据准确率、卡顿、响应时间和成本排名。
推荐理由:在真实电话场景里横向评测 9 个实时语音模型并公开全部转写与工具调用,可作为挑选语音 AI 模型时的对比参考。
Anthropic发布Claude Haiku 5.5小型号,在OSWorld 2.1、GDPval-AA v2.1、Terminal-Bench 4.0等基准上跑分超过GPT-6 Luna、DeepSeek V4.1 Flash等同档对手,是首个支持effort五档调节的Haiku型号。
推荐理由:文章将Haiku 5.5与GPT-6 Luna、DeepSeek V4.1 Flash等小档模型逐项跑分与价格对比,并列出从4.5迁移的五处接口改动,便于评估替代成本。
OpenAI于10月8日起向ChatGPT免费和Go用户推送GPT-6 Luna,替换此前的GPT-5.6 Luna;Plus、Pro等付费用户使用GPT-6 Sol。
推荐理由:汇总了GPT-6相对GPT-5.6在Intelligent UI、回答长度、多轮越狱和情感依赖等安全评测上的具体变化。
论文提出 Humanity's Sixth Sense(HSS)基准,用于评估多模态大语言模型的直观视觉推理能力。HSS 覆盖图像与视频输入,按直觉性的时间、空间、社交和抽象结构组织题目,人类受试者准确率达 93.1%,而最强模型 GPT-6-astra 在最大推理强度下仅 53.6%;引入动态视觉操作的智能体设置能缩小差距,但仍未弥合人与模型之间的鸿沟。
推荐理由:论文提出直观视觉推理这一评测轴,人类准确率 93.1% 而最强模型仅 53.6%,为多模态模型的差距对比提供了可量化的标尺。
论文提出 SWE-Duel 评测方法,由两个编码智能体在评测时互相出题与判题,任务在测试时动态生成以避免训练数据泄漏。在 11 个模型与 15 个跨语言仓库的 1,500 轮对战里,GPT-5.5 搭配 Codex CLI 修复 98.3% 被审核缺陷,Claude Opus 4.8 搭配 mini-swe-agent 作为出题方胜率 27.3%。
推荐理由:原文给出在评测时动态生成任务与题解的自扩展基准方法,可与传统静态编码基准在抗训练污染和抗饱和上做对比。
研究者提出 Pumpire 统一基准,用于评估 3D 基础模型在图像与视频层级上的逐点度量距离估计能力,覆盖有无深度先验两种场景。团队构建了包含 100 个真实场景、每场景 64 帧共计 6,400 帧的数据集 pumpire-6k,并为每帧标注物理实测的点对距离。论文在 29 种代表性 3D 基础模型配置上展开实验,直接衡量重建几何中的点对距离误差。
研究提出 Adversarial Heuristic Learning(AHL)范式与 AAArena 评测基准,涵盖 12 款对抗游戏和 1,920 份人类存档程序。在固定对局与评估预算下,Opus 4.5 与 Claude Code 配置获得 6 枚金牌,其余 6 个排行榜未被任何受测配置登顶。实验还发现,对手选择、密集反馈以及自身与他人的对局回放都能支持策略改进。
推荐理由:原文给出 AHL 范式与 AAArena 评测基准,可作为衡量智能体在对抗博弈中相对人类存档程序策略改进表现的参考。
研究团队发布 DataVista 基准,包含 961 个真实数据视频和 6775 道评估题,按数据感知、时序推理、叙事理解三层能力框架、10 类细粒度问题与 5 个主题领域组织,用于系统评测多模态大模型的数据视频理解能力。
推荐理由:原文提出数据视频理解新基准,并系统对比 19 个主流多模态模型在感知、推理、叙事三层能力上的差距。
论文在 6 个 LLM 上用 6 种提示干预评测无思考行为,发现显式关闭思考模式后模型仍持续输出推理痕迹,称之为 Thinking Inertia。
推荐理由:论文提出三层评估指标来衡量无思考行为,发现显式关闭思考模式后模型仍持续输出推理痕迹,提示该能力需独立评测。
Anthropic 发布 Claude Haiku 5.5,定位为最快、最便宜的小模型,主打摘要、数据库查询、分类、实时客服等高吞吐场景;平均价格较 Haiku 4.5 低约 75%,100k token 以内 prompt 价格降幅最高达 90%。
同一件事,精选收录的是《Claude Haiku 5.5正式发布 跑分超GPT-6 Luna等小档模型》
Anthropic 发布 Claude Haiku 5.5,称其为迄今最便宜、最快且能力最强的小模型,主打高吞吐、成本敏感任务。
推荐理由:原文给出了 Haiku 5.5 与 Haiku 4.5 的价格和性能对比,以及 Sonnet 5.5 cache reads 降价信息,便于判断小模型在成本敏感场景里的适配位置。
CheckerBench 是一个面向静态分析检查器开发的端到端智能体评测基准,包含源自 297 个 CVE、覆盖 167 个仓库与 85 类 CWE 的 300 个任务,每个任务附带漏洞版本、修复版本、固化分析环境与检查器脚手架。
推荐理由:提出了覆盖 297 个 CVE 的端到端检查器开发基准,并量化了当前编码智能体在该长程任务上的实际能力上限。
Ai2 博客最近发布 5 篇研究文章,涵盖 LLM 基准逐题审计方法 BenchMIRT、地理空间推理平台 OlmoEarth,以及构建 Shippy 智能体的经验。
LiveMACEBench 提出一种过程感知基准,以实时金融市场为持续演化的测试环境,对 5 个前沿 LLM 智能体在统一工具调用、持久记忆、规则遵循与多智能体协作配置下进行 30 天评估。
Gan Jiang 是一个面向粉末 X 射线衍射的自学习科学智能体,在 DeltaXRDbench 的单相与多相识别任务上均领先所对比方法。
推荐理由:原文展示了无需重训模型即可从失败诊断中迭代出可复用技能的方法,并给出了多基准上的精度对比,可作为科学智能体技能积累机制的参考。
GitHub 发布开源 AI 代码评审基准 ReviewBench,包含 219 个跨 19 种语言的公开 PR,提供 grounded 和 augmented 两类精度/召回指标。
推荐理由:原文公开了 ReviewBench 的语料来源、评测指标和接入方式,读者可据此构建可复现的 AI 代码评审离线评测体系。
Anthropic 发布 Claude Mythos 5.1,定位网络安全与生物学研究的最强模型,仅向通过审核的机构开放。Mythos 5.1 与面向更广范围的 Claude Fable 5.1 共享同一底层模型,Fable 5.1 可识别源代码中的软件漏洞,生物学相关安全策略的误触发率比 Fable 5 降低 85%。
推荐理由:原文同时介绍了 Claude Mythos 5.1 的能力进展与分级访问机制,读者可以据此理解高端模型在网络安全与生命科学方向的扩散控制思路。
Microsoft 与 Hugging Face 联合发布 ThinkingBox 基准,通过 OpenEnv 接口开放,覆盖 507 个有状态业务工作流,每个任务重复运行 20 次,按终端数据库状态和副作用评分。
推荐理由:原文用 507 个任务和 20 次重复,量化了一次成功与每次都成的差距,可用于挑选真正可用的 Agent 模型。
一项 Agentic RAG 评估预算分配研究在 HotpotQA 与 MuSiQue 上表明,扩大问题覆盖比增加读取次数或搜索轨迹更有效。在 34.14–34.39M tokens 预算下,问题覆盖更广可使标准误比五次读取低 33%、比三条轨迹低 12.6%。当搜索价格为 0–1 美元/千次请求时增加问题数优于增加轨迹;温度设为 0 可将回答分歧率从 14.3% 降至 3.4%。
全球最大独立AI原生影视公司Utopai Studios的定制视频生成模型Utopai X在Artificial Analysis文生视频排行榜中排名全球第二、全美第一,也是该盲评榜单首次由影视公司定制模型取得这一成绩。榜单完全基于盲评输出质量,由观众在不知晓模型品牌的前提下对同提示词生成的视频进行偏好评价,数据截至2026年9月30日。
推荐理由:报道给出了影视公司定制模型跻身盲评榜单前列的具体排名与背景,可作为评估影视定制模型与厂商模型差距的参考。
Google DeepMind 发布 Gemini 4 Argon,面向编码、企业知识工作与网络防御场景,通过 Long Decode Continuation 把输出上限提到行业首创的 1M token(此前 64K),在 19 项公开基准中 13 项超过 GPT-6 Astra 和 Claude Opus 5.5。
推荐理由:把 Gemini 4 Argon 的 1M 输出、定价与对 Astra、Opus 5.5 的基准对比汇于一篇,便于横向定位其在当前前沿中的位置。
Argo-Bench 是一个新发布的预印本基准,专注于评估 LLM 数据智能体在企业级工作流中的日常决策能力。作者指出,现有 text-to-SQL 基准(如 Andon Labs 的 Vending-Bench 2)多止步于微观决策,而 Argo-Bench 旨在测试大语言模型在预测、欺诈预防等多业务领域的大型企业级表现。项目页已上线演示。
EditHero 是首个面向长时程部件级 3D 编辑的基准,提供自然语言指令与几何/纹理目标图像,编辑序列经人工审核。研究对比自上而下从学习到的 3D 表示重新生成对象的非智能体方法,以及通过代码自下而上修改网格的 LLM/VLM 智能体。非智能体方法常遗漏目标改动并扰动其他区域,多数 LLMs 遵循指令更准确且更好保留未编辑部分,但每次编辑耗时数分钟。
SimuVerity 是面向工程级 Simulink 模型生成的智能体评测基准,包含 10 个工程领域的 101 个任务。该基准采用分层评估器,从交付物、可执行性、工程合格性及 6 个维度对生成模型打分。在 6 个智能体系统的评测中,最佳系统总分仅 42.86,部分高分模型仍存在严重视觉布局混乱。
Anthropic Frontier Red Team 在内部 Binary Exploitation 基准上对 GLM-5.3 与 Claude Mythos Preview 各跑 100 项任务,分别在 4% 与 6% 的试次中实现完整控制流劫持,跨过了此前的零成功率门槛;同批评估的 Claude Opus 4.6 与 GLM-5.2 在所有任务上均未成功。
推荐理由:在内部漏洞利用基准上,GLM-5.3 与 Claude Mythos Preview 都跨过了此前模型无法取得成功的门槛,给出了具体的数字对照。
Claude Opus 5.5 本周上线,在 SimpleBench 上以 88.4% 居首,社区认为它在由代码生成解说视频方面表现突出。
推荐理由:汇总 Opus 5.5 的核心基准与社区实测反应,同时覆盖多款模型与产品的周度动态。
Latent Space 发布 9/23–9/24 AINews 周报,重点梳理前沿模型发布与 Agent 基建。
推荐理由:集中整理 Claude Opus 5.5、GPT-6 系列评测与 TypeSafe Jev 等动态,覆盖前沿模型与 Agent 基建的同期走势。
OpenAI 发布 MentalHealthBench 心理健康评测基准,由心理健康领域专家参与设计。该基准覆盖真实心理健康对话场景,用于评估 AI 回复在帮助性与安全性两个维度的表现。
AI 日报 Latent Space 汇总:Anthropic 发布 Claude Opus 5.5,官方称多数任务达到 Fable 5.1 水平、运行成本较 Opus 5 低约 40%,API token 价格从 $5/$25 降至 $4/$20 每百万,并在 Claude Code 与 API 中设为默认模型。
推荐理由:两款旗舰模型同日发布并集体降价,文中给出基准对比、token 成本逐项拆解与社区多组实测数据。
xAI 发布 Grok 4.7,定位其在编码与知识工作方面能力最强的模型,基于比 4.6 更大的新基座模型,价格不变(每百万 token 输入 $2、输出 $6),并提供 2 倍输出速度的快速版本。
推荐理由:原文给出 Grok 4.7 与 GPT-5.6 Sol、Fable 5.1 在多项基准与价格上的横向对比,读者可据此判断它在同类模型中的性价比位置。
Latent Space AINews 周报报道非生成式决策模型 Jev 发布两天内出现 6 个开源复现项目,包括 Laya(421M 参数 ModernBERT-large)。
推荐理由:它把过去两天的 Jev 开源复现方向关键作品与本周 Claude Code、Anthropic 独立评估合作等进展集中整理,方便一次性对照。
9/16–9/17 期间 OpenAI、Anthropic、Google 等厂商集中上线 Agent 协调层与垂直产品。
推荐理由:同日 Anthropic、OpenAI、Google 集中更新 Agent 协调层与垂直产品,横向对比可看出同一周期各家在多会话、垂直化与凭证隔离上的设计选择。
IBM Research 在 ALTK-Evolve 中新增一致性指南与 Consistency Analyzer 诊断,将 GPT-4.1 ReAct 智能体在 AppWorld 上的一致性差距从 24.4pp 砍到 12.0pp。
推荐理由:在意智能体稳定性的团队可直接参考 Pass^k 与一致性差距的诊断方式,以及从历史轨迹自动生成并回灌上下文的一致性指南。
Ai2 提出 BenchMIRT 方法,基于多维项目反应理论(MIRT)在单条提示词粒度审计 LLM 评测实际测量的能力维度。
推荐理由:原文给出在逐题粒度拆解基准能力信号的审计方法与多基准对照结果,可帮助研究者识别评测分数与底层能力之间的偏差。
Google DeepMind 推出全球首个针对前沿 AI 模型的双盲评测,通过密码学安全环境防止模型提前接触测试题目以避免基准污染。合作方包括新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons,将在一组保密基准上测试 Gemini Flash Lite 模型。
推荐理由:原文详细介绍了双盲评测的密码学机制与合作方,读者可据此了解前沿模型评测如何避免基准污染以提高评测完整性。
Liquid AI 发布 LFM2.5-DSpark 推测解码草稿模型,覆盖 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 三个模型。
推荐理由:原文给出了 DSpark 推测解码在 GPU 与端侧的实测吞吐与函数调用延迟数据,并开源了 llama.cpp 与 SGLang 集成。
Import AI 第 469 期汇总 DiG-bench 评测、Inherent 公司的 Faraday 科学复现模型研究,以及对扎克伯格 AI 战略文章的批评。
推荐理由:这期综述对 DiG-bench 新基准、Faraday 科学复现模型和扎克伯格 AI 战略做出同步观察,方便读者快速对齐本周 AI 研究与产业讨论。