跳到正文
10月23日周五
  1. HF Daily Papers42

    Principia:通过测试时假设构建并迭代科学原理

    Principia 是一个基于大语言模型的框架,可在测试时从相关输入及其观测结果构建因果假设,并持续合成和修订科学原理。它将归纳出的原理用于任务以获得新观测,再依据新观测修订假设并重建原理,形成持续迭代的发现流程。

    推荐理由:Principia 在四类科学任务上与依赖内部知识、外部来源和经验总结的基线进行了比较,展示测试时构建科学原理的效果。

  2. HF Daily Papers51

    测试时记忆演化能否在科学发现中胜过测试时训练?

    论文提出测试时记忆演化(TTME),在科学发现任务中以更低计算成本超过测试时训练(TTT)。该方法持续更新外部记忆并蒸馏经验以指导后续发现,不更新模型权重。在同一发现框架下仅替换适配方法的评测中,TTME 在五项数学任务上均胜过 TTT,FLOPs 降低 82.8-84.6%,运行时开销降低 47.7-58.4%。

    推荐理由:统一发现框架下仅替换测试时适配方法,五项数学任务的对照结果量化了 TTME 相对 TTT 的性能与计算效率差异。

  3. HF Daily Papers51

    DeepEvolve 提出开放世界递归自我改进预测系统

    论文提出 DeepEvolve,一种以未来事件预测为基础、在动态开放环境中持续实现递归自我改进的智能体系统。它在按周更新、以真实世界结果验证预测的 FutureX 榜单中连续 3 周位居所有系统第一,评分最高提升 195%。在合成评测中,它在 4 个基础 LLM 上均进入前三,较最强基线最高领先 10.7 Bradley--Terry points。

    推荐理由:论文把开放环境中的递归进化机制与 FutureX 榜单及合成评测结果对应呈现,便于比较其设计思路和量化表现。

10月22日周四
  1. HF Daily Papers36

    SpatialBrain:基于经验积累的空间推理框架

    SpatialBrain 提出一种分离场景证据与推理经验的空间推理框架,在保持视觉语言骨干网络固定的同时提升空间推理能力。3DFusionMemory 将当前场景观测融合为可查询的空间关系,Spatial Skill Library 提供可复用的工具流程,Spatial Cognition 关联任务条件与使用记忆和技能的经验。

    推荐理由:论文将场景证据与推理经验分离,并在固定视觉语言骨干网络下对比直接回答,为空间推理系统积累和复用经验提供了具体路径。

  2. HF Daily Papers43

    ALLOT 提出按输出敏感度分配视频扩散 Transformer 块稀疏注意力的免训练方法

    ALLOT 是一种免训练方法,可在延迟预算下按层与去噪步骤分配视频扩散 Transformer 的块稀疏注意力密度,以最大化输出保真度。该方法通过 cell probing 和 trajectory calibration 估计各层与步骤组合对最终视频误差的贡献,并保留现有选择策略和 kernel,仅替换分配组件。

    推荐理由:论文将块稀疏注意力的分配从启发式规则转为输出敏感度驱动,并说明如何仅替换分配组件接入现有策略与 kernel。

  3. HF Daily Papers51

    研究溯源推理模型中的 {wait} 标记:其来自训练数据,RL 效应因配方而异

    一项对开放模型训练历程的研究发现,推理模型中的 {wait} 标记可由训练数据继承,而非由强化学习(RL)自行发明。在缺少该词的基座上,RL 显著提升 MATH-500 准确率时,{wait} 仍接近缺席;该词会在 OLMo-3 的中期训练阶段出现,并能由推理轨迹微调植入大多数缺少该词的基座。

    推荐理由:论文区分了 {wait} 的训练继承与特定 RL 配方的放大作用,并指出标记频率和 LLM 评审可能误判推理趋势。

  4. HF Daily Papers48

    掩码扩散语言模型中,什么构成好的解掩码策略?受控研究

    掩码扩散语言模型的受控研究发现,轨迹收缩标签结合置信度与隐藏状态,可形成更优的解掩码策略。低 NFE 下,仅把与最终输出一致的预测标为可提交过于宽松;约 10% 的 NFE 降幅已可抵消最高 7.5M 参数策略的开销。

    推荐理由:论文通过受控实验拆解解掩码监督标签与输入特征,为设计兼顾准确率、吞吐量与 NFE 的解掩码策略提供依据。

  5. HF Daily Papers48

    R²Orch:通过技能内化循环中的自博弈实现智能体编排的递归自我改进

    R²Orch提出递归自博弈智能体编排范式,以可学习的任务选择和技能撤回训练编排器,无需人工设计课程。内层自博弈在自选任务上改进编排器,外层循环借助 Recursive Learnability 目标与技能撤回继续改进学习过程。在十二个数据集的问答、数学、代码和交互任务上,R²Orch均优于基线,代码见 https://github.com/beita6969/R2Orch。

    推荐理由:R²Orch将任务选择、技能撤回与双层递归自博弈组成闭环,呈现了应对人工课程和优势坍塌的训练设计。

  6. HF Daily Papers50

    Lafa 将连续流语言模型扩展至 8B 参数

    Lafa 将连续流语言模型扩展至 8B 参数,对前缀采用因果注意力,并在块内使用双向异步流,实现高效训练与快速并行推理。论文在 0.5B、7B 和 8B 规模上使用少于 30B tokens 训练,并在指令遵循、推理和编码评测中达到或超过自回归(AR)模型的质量。Lafa 还可蒸馏为支持单步和少步生成的流映射,并通过自推测解码在可比质量下达到 AR 模型 2.54x 的吞吐量。

    推荐理由:论文把连续流语言模型扩展到 8B,并给出训练数据量、生成质量和吞吐量对比,便于评估这条技术路线的取舍。

  7. Microsoft Research68

    Xinzhi Zhang 与 Zhao Song 证明历时 31 年的 KLS 猜想

    Microsoft Research 研究人员 Xinzhi Zhang 与合作者 Zhao Song 证明 Kannan–Lovász–Simonovits(KLS)猜想,确立了简单平面切割能在与维度无关的固定因子内捕捉对数凹分布最窄瓶颈的原则。

    推荐理由:文章详细拆解研究者引导 AI 探索约百条轨迹、筛选候选方向并通过递归改进完成证明的人机协作研究流程与关键环节。

10月21日周三
  1. HF Daily Papers52

    DecisionPivot:评估 LLM 系统决策模型的诊断基准

    该研究提出 DecisionPivot 诊断基准,用于评估 LLM 系统中决策模型在受控变化下的表现。它包含 48 项任务和 40,033 个条目,覆盖 7 类决策角色,并评估了 40 个决策模型和 14 个通用模型。实验中,两个 27B 模型在参考轨的聚合得分仅差 2.6 分,但对比组准确率分别为 70.1% 和 44.2%,显示总分无法完整反映模型的决策表现。

    推荐理由:该基准把对比组表现、校准与推理投入拆开评估,可用于识别总分相近模型在决策正确性和高置信预测可靠性上的差异。

  2. HF Daily Papers43

    S-Agent 2.0 用通用编码智能体增强空间推理

    S-Agent 2.0 将命令行3D感知工具、持久场景记忆和自然语言解释接入通用编码智能体,提升空间推理表现。在 MMSI-Bench 和 ReVSI 上,工具使 Qwen3.8-27B 相比无工具版本分别提升 +13.9 和 +20.5 分,使 Gemini-3.8-Flash 分别提升 +11.2 和 +9.6 分。

    推荐理由:论文将命令行3D感知工具、持久场景记忆与自然语言解释组合进通用编码智能体,并提供跨模型和框架的实验对比。

  3. HF Daily Papers46

    PAR用进度对齐递归提升状态跟踪的长度泛化

    PAR提出进度对齐递归,通过在第k次循环预测前k步后的状态,并在每次循环后重缩放隐藏状态,改善循环语言模型的长度外推。在swap-S5上,使用最多32步序列训练的0.5B模型在512步达到95.5%完整状态准确率,高于RLT的55.7%和CoT的0.8%。

    推荐理由:论文将循环次数与任务步数对齐,并给出PAR在512步长度外推任务上相对RLT和CoT的准确率对比,便于理解循环语言模型的失效与改进机制。

  4. 量子位77

    MiniMax 发布 M3.1 Flash,Agent 评测居国模第一且综合成本降至前代 30%

    MiniMax 正式发布 M3.1 Flash,国庆期间在 OpenRouter 匿名屠榜的 Space Bunny 被确认就是该模型。在 Agents’ Last Exam(ALE)中得分 29.6%,AA 榜单得 43 分,文中称其 Agent 成绩居国模第一。

    推荐理由:原文并列多项基准、速度与 API 价格,便于比较 M3.1 Flash 和 DeepSeek V4.1 Flash 1017 的能力与成本。

  5. AWS Machine Learning Blog64

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 提升多语言推理能力

    AWS 团队在 Amazon SageMaker HyperPod 上用 SFT 和 GRPO 微调 GPT-OSS-20B,使模型能按指令以英语、法语、德语、西班牙语或意大利语进行推理和回答。

    推荐理由:文章提供从数据、LoRA 训练到评测的完整流程,并用 SFT 与 GRPO 对照给出按模型能力缺口选择微调方法的判断框架。

10月20日周二
  1. HF Daily Papers47

    AdaExploreBench:面向演化环境中主动探索与测试时适应能力的 LLM 智能体基准

    AdaExploreBench 是一个面向 LLM 智能体的新基准,要求智能体主动发现隐藏规则并适应未宣告的规则变化。在八款主流大语言模型上的实验显示,GPT-6 Sol 仅取得 61.9% 校准准确率,提供充分证据或移除规则漂移可使平均性能提升约 10 个百分点,表明当前模型的关键瓶颈在于主动获取证据和识别失效知识。

    推荐理由:针对智能体在演化环境中的主动探索与隐式规则变化下的适应能力,该基准在八款主流大语言模型上量化了能力差距,并指出了关键瓶颈。

  2. HF Daily Papers43

    RLSplat 提出前馈 3D Gaussian Splatting 的资源线性预算控制框架

    RLSplat 提出资源线性预算可控的前馈 3D Gaussian Splatting 框架,使表示规模、推理延迟和峰值内存随高斯预算降低而线性下降。框架学习区域分配策略,恰好生成指定数量的高斯,并通过高效分层邻居搜索让每个高斯只关注邻近高斯,取代先密集预测再剪枝或筛选的路径。

    推荐理由:论文将高斯预算按局部区域分配,并用局部注意力完成解码,提供了让资源开销随高斯数量线性下降的实现思路。

  3. HF Daily Papers45

    Ask-to-Distill:利用合成数据实现在策略蒸馏

    Ask-to-Distill 提出一种无需参考答案、正确性奖励或逐候选学生更新的合成问题优化框架,用于在策略蒸馏。它以冻结的师生模型组合计算问题价值,在数学推理、代码生成和智能体任务上提升平均表现及师生差距恢复效果,并在评测设置中达到或超过真实题库 OPD。代码、数据和模型已公开:https://github.com/GasolSun36/Ask_to_Distill。

    推荐理由:论文提出在无参考答案时按蒸馏信号价值优化合成问题,并比较其在推理、编码和智能体任务中的效果。

10月19日周一
  1. HF Daily Papers47

    RouteWeaver 统一 LLM 路由的模式选择与执行

    RouteWeaver 提出统一 LLM 路由框架,在单一策略中联合学习路由模式选择与模式内模型执行。其 COMET-GRPO 将轨迹级优势拆分为两类决策信号,并通过渐进式探索从外部指定模式过渡到自主选择。该框架在数学、编码、知识、逻辑推理和事实召回五类任务上取得平均 61.4% 准确率,较最强基线相对提升 11.03%。

    推荐理由:论文将路由模式选择与模式内模型执行纳入同一策略,并提供分阶段训练方法,便于对照既有 LLM 路由方案理解适配思路。

  2. HF Daily Papers37

    DRLMs 通过完整草稿修订实现并行推理

    该研究提出 Draft Refinement Language Models(DRLMs),以生成完整草稿并迭代修订的方式实现并行推理,而非逐 token 生成或遵循扩散模型的反向过程。

    推荐理由:论文展示了用单一去噪器并行修订并评估完整草稿的方法,无需独立验证或评分模型即可筛选候选结果。

  3. HF Daily Papers35

    SpecKCast 通过频域 Kalman 预测加速扩散模型推理

    SpecKCast 提出无需训练的扩散模型推理加速方法,以 2D DCT 分解输出,并用逐频带 Kalman 滤波和自适应步长调度预测跳步结果。在 FLUX.1-dev、Qwen-Image、Wan2.1-14B 和 HunyuanVideo 上,该方法最高实现 6x 加速,额外内存低于 0.05 GiB,较现有缓存和预测方法呈现更好的加速与保真度权衡。

    推荐理由:论文将频域分带 Kalman 预测与不确定性触发的自适应跳步结合,为扩散模型缓存优化提供了一种可迁移的方法。

10月18日周日
  1. HF Daily Papers68

    Épi:迈向持久且可自我改进的自主研究智能体

    Épi 是一种跨模型会话持续研究,并通过累积经验改进方法的自主研究智能体。它结合持久研究历史、分层记忆、分支探索、独立审查和固定验证器;论文报告 Épi 产出 120 项纪录结果,包括将 n-queens 常数区间收窄约 84 倍。

    推荐理由:论文将持久研究历史、分层记忆、分支探索与固定验证器组合用于自主研究智能体,并提供数学结果和 FrontierOR 对比数据,可用于评估研究延续性与成本效率。

10月17日周六
  1. HF Daily Papers48

    Jev 决策模型控制器增加智能体成本但未提高成功率

    Jev 决策模型控制器使 Claude Sonnet 5.5 终端智能体每次尝试成本增加 19%,通过率与无控制器基线同为 73.0%。在 Terminal-Bench 2.1 的 21 个留出任务、315 次试验中,Jev 的成本比 Claude Haiku 5.5 控制器低 19%,但比采样开发阶段选择频率的安慰剂控制器高 22%,未检测到组间通过率差异。

    推荐理由:研究固定智能体循环并比较无控制器、规则、小型 LLM 与 Jev,量化了决策信号排序与实际干预效果之间的落差。

  2. HF Daily Papers45

    ECHO 以因果自递归实现无辅助模块的多时间跨度预测

    ECHO 将多时间跨度预测直接集成到模型主干,以因果自递归和动态深度采样替代辅助模块,分别改善预训练效率与推理草稿生成。其最终层预测所有跨度,DDS 以随深度衰减的概率选择训练深度,使预训练模型能够充当自身草稿器。论文称,相较于训练所有深度的 MTP,额外训练开销减半,且优势在 token 预算加倍、重复预训练和监督微调后仍存在。

    推荐理由:论文将多步预测从辅助模块移入主干,并通过 DDS 控制深度成本,便于比较其与 MTP 的训练效率。

10月16日周五
  1. HF Daily Papers40

    MJev-Spatial 基于 Qwen3.5-4B 把空间推理统一为分类任务,推理速度达自回归基线 5.6 倍

    MJev-Spatial 把三类空间推理任务统一为单次前向分类,免去自回归解码生成的答案 token。它基于 Qwen3.5-4B、用 1230 万问答对训练,整体得分 65.64%,在 12 项基准中拿下 7 项第一,推理速度达自回归基线的 5.6 倍。

    推荐理由:把空间推理统一为单次前向分类,免去答案 token 的解码开销,在 12 项基准中拿下 7 项第一,可作为高效多模态推理的参考方案。

  2. HF Daily Papers34

    Mosaic:多会话智能体强化学习方法

    Mosaic 提出多会话智能体强化学习方法与 critic-free 分层优化,在 BrowseComp 上以 Qwen3.5-4B 验证,在 context compaction 与 subagent forking 两类场景下均优于广播基线,且平均使用更少会话。其轨迹级融合会话使用信号、会话级按边际贡献调整优势的机制被视为后续多会话智能体 RL 的潜力方向。

  3. HF Daily Papers46

    MLExpert:面向自主机器学习工程流程的 35B MoE 智能体模型

    MLExpert 是一个 35B 的 MoE 智能体模型,通过分层智能体 SFT 和 Windowed Interaction RL(WIRL)进行后训练,用于自主完成长链路机器学习工程工作流。

    推荐理由:原文给出了分层 SFT 与 WIRL 后训练方法及在 MLE-Bench Lite 上的具体成绩,可作为评估自主机器学习工程智能体的参照。

  4. HF Daily Papers35

    Waypoint-OPD:通过门控的 On-Policy 蒸馏迁移强化学习引起的策略变化

    Waypoint-OPD 通过门控教师早晚期策略变化的方向一致性来改进从强化学习教师到学生的策略迁移蒸馏,在数学和代码推理六个领域-学生设置上均取得最高领域平均分。该方法以 Qwen3-4B 为教师、Qwen3-8B/14B/30B-A3B 为学生,相比仅用端点策略变化只需额外一次冻结教师打分;消融显示移除或打乱门控会降低数学推理表现。论文地址:arxiv.org/abs/2610.21601。

    推荐理由:原文提出按教师早晚期策略变化的方向一致性来门控策略迁移蒸馏,为相关蒸馏改进提供了一种可复用思路。

  5. HF Daily Papers43

    循环语言模型设计三轴拆解(拓扑、输入注入与循环状态)

    在 730M 参数、336B token 训练预算下,Huginn 循环语言模型架构在全部十个基准上优于 Ouro;这一优势可迁移到 8BA0.8B(展开 32BA3B)的 MoE 设置,仍在知识、推理与编码基准上几乎全面领先。

    推荐理由:论文按拓扑、输入注入与循环状态三条设计轴拆解循环语言模型,在 730M 与 MoE 两组设置下对比 Huginn 与 Ouro 的实际表现,并给出可迁移的设计取舍。

  6. HF Daily Papers40

    DLite:面向智能体 AI 的无历史投机解码方法

    DLite 提出一种面向智能体 AI 的无历史投机解码框架,在通用、长上下文和智能体工作负载下达到 2–6 的接受长度,相对 DSpark 最高提升 70%。该方法直接复用目标模型的上下文隐藏状态进行局部投机预测,配合轻量级序列头恢复块内因果依赖,并采用专门的两阶段训练策略;原文同时指出智能体负载下现有 draft 模型接受长度最高下降 80%。

    推荐理由:原文给出在智能体长上下文场景下 speculative decoding 的实测对比与训练策略,读者可据此评估相对 DSpark 的收益。

10月15日周四
  1. HF Daily Papers43

    CALIF:诊断并修正可验证指令跟随中的奖励作弊

    论文针对可验证指令跟随基准在强化学习中引发的奖励作弊问题,提出 CALIF 方法,将验证器奖励与基于冻结参考策略的校准似然奖励相加,无需额外评判器或学习得到的奖励模型。在 1.7B 到 8B 规模的推理与非推理模型上,CALIF 在 IFBench 上提升约束满足率并把响应质量维持在与 RL 前相当或更高的水平,在三个评分式指令跟随基准的 45 项模型-指标对比中有 40 项优于对应基座策略。

    推荐理由:针对可验证指令跟随基准中的奖励作弊现象,给出一种在不引入额外奖励模型的前提下兼顾约束满足与响应质量的训练方法。

  2. HF Daily Papers39

    RuleTrek:复杂场景下智能体规则推理基准

    RuleTrek 是面向复杂场景下智能体规则推理的多领域基准,评估大语言模型在规则识别、规则推导和端到端推理三项能力上的表现。其构建流程从材料中提取结构化规则图,并增量组合规则子场景以保证一致性与可解性。

    推荐理由:给出了11个前沿大语言模型在规则识别、推导和端到端推理上的具体分数,可用作当前水平的参考。