跳到正文
10月18日周日
  1. HF Daily Papers39

    CoworkEnv:为长程协作智能体合成训练环境

    CoworkEnv 提出能力导向框架,通过工作流引导的任务构建与可编程校验合成 AI 协作智能体的可执行训练环境。基于合成数据训练的 PocketWorker 模型在 Claw-Eval 上显著提升:Qwen3-VL-8B-Instruct 经 SFT 后均分从 46.6 提升到 64.1,其中多轮任务获得 31.9 分提升。

    推荐理由:原文把工作流约束直接编码进训练环境合成与评分检查,并用 Qwen3-VL-8B 在 Claw-Eval 上给出可验证的多轮增益。

  2. HF Daily Papers35

    MT Forcing:利用自回归扩散提升多轮图像编辑稳定性与一致性

    MT Forcing 提出一种基于自回归扩散的多轮图像编辑训练范式,面向统一多模态模型,结合单轮分布匹配蒸馏和教师强制引导。Single-Turn DMD 以单轮累积编辑教师指导学生自主生成,减少递归误差累积;Teacher-Forcing Guidance 在预热和蒸馏阶段约束依赖历史的转场,以保持跨轮内容一致。实验显示,该方法提升了视觉质量稳定性和跨轮一致性。

    推荐理由:论文把多轮编辑中的质量退化与内容漂移拆成两类问题,并给出对应训练机制,便于理解统一多模态模型的稳定性改进路径。

  3. HF Daily Papers42

    Deep Fusion Memory:面向大语言模型的块级参数记忆架构

    研究提出 Deep Fusion Memory(DFM),用因果记忆预测器生成 chunk 级参数记忆,并通过门控交叉注意力将其融入大语言模型的中间隐藏状态。训练时以语料检索到的 chunk 嵌入作为监督,在冻结骨干的条件下端到端训练预测与融合,推理时无需显式检索,构建训练数据所需的检索查询量和条目量分别少 32 times 和 2048 times。

    推荐理由:论文将参数记忆预测与门控交叉注意力融入模型中间层,并给出相对现有方法的训练数据构建成本和问答性能对比。

  4. 量子位56

    智谱发布开源法律模型 GLM-Legal,登顶 Harvey LAB 与 LegalBench 开放权重双榜

    智谱推出法律专用开源模型 GLM-Legal,在 Vals AI 法律评测中以 19.2% 的任务全通过率和 86.23% 的准确率位列 Harvey LAB 与 LegalBench 双榜开放权重模型榜首。

    推荐理由:给出了 GLM-Legal 在 Harvey LAB 等榜单上的通过率与和 Gemini 4 Argon 的成本对比,读者可据此评估法律垂直模型在真实律所任务中的取舍。

10月17日周六
  1. HF Daily Papers40

    LayerEditor 通过组合式编辑先验蒸馏生成可复用 RGBA 图层

    LayerEditor 将指令引导的图像编辑与可控的 RGBA 图层生成统一建模,在单一 token 序列中表示编辑画布和有序图层。其 In-Context RGB-Alpha Token Modeling 支持语义编辑与单图层内容控制,Compositional Edit-Prior Distortion 将编辑先验迁移到编辑画布及预测图层合成图像。

    推荐理由:论文将指令图像编辑与可复用 RGBA 图层生成统一建模,并构建配对数据集和专项基准,便于对照分层编辑方案。

  2. HF Daily Papers45

    ECHO 以因果自递归实现无辅助模块的多时间跨度预测

    ECHO 将多时间跨度预测直接集成到模型主干,以因果自递归和动态深度采样替代辅助模块,分别改善预训练效率与推理草稿生成。其最终层预测所有跨度,DDS 以随深度衰减的概率选择训练深度,使预训练模型能够充当自身草稿器。论文称,相较于训练所有深度的 MTP,额外训练开销减半,且优势在 token 预算加倍、重复预训练和监督微调后仍存在。

    推荐理由:论文将多步预测从辅助模块移入主干,并通过 DDS 控制深度成本,便于比较其与 MTP 的训练效率。

10月16日周五
  1. HF Daily Papers42

    Data World:先描述世界机制再合成数据环境以训练分析模型

    Data World 是一套多智能体数据合成引擎,先指定文件背后的世界机制再生成数据环境、任务与评分规则,用于训练模型的开放性分析能力。

    推荐理由:给出了一套先描述世界机制再合成数据环境与任务的方法,使开放式分析题也能用 RL-zero 训练并通过审计评估。

  2. HF Daily Papers41

    MRTPO:面向多奖励 RL 的按 token 相关性分配优势方法

    论文提出 MRTPO,在多奖励强化学习训练中把每个奖励的优势仅分配给其验证器实际检查的相关 token,避免被均匀摊到整个回复上。该方法通过对每个奖励重放带和不带验证器信息的下一 token 分布,以 Jensen-Shannon 距离衡量 token 相关性,无需辅助模型或 token 级标注。

    推荐理由:针对多奖励 RL 中优势被均匀分配到全序列的问题,给出可复用的 token 级 credit assignment 思路与实测任务。

  3. HF Daily Papers46

    MLExpert:面向自主机器学习工程流程的 35B MoE 智能体模型

    MLExpert 是一个 35B 的 MoE 智能体模型,通过分层智能体 SFT 和 Windowed Interaction RL(WIRL)进行后训练,用于自主完成长链路机器学习工程工作流。

    推荐理由:原文给出了分层 SFT 与 WIRL 后训练方法及在 MLE-Bench Lite 上的具体成绩,可作为评估自主机器学习工程智能体的参照。

  4. HF Daily Papers35

    Waypoint-OPD:通过门控的 On-Policy 蒸馏迁移强化学习引起的策略变化

    Waypoint-OPD 通过门控教师早晚期策略变化的方向一致性来改进从强化学习教师到学生的策略迁移蒸馏,在数学和代码推理六个领域-学生设置上均取得最高领域平均分。该方法以 Qwen3-4B 为教师、Qwen3-8B/14B/30B-A3B 为学生,相比仅用端点策略变化只需额外一次冻结教师打分;消融显示移除或打乱门控会降低数学推理表现。论文地址:arxiv.org/abs/2610.21601。

    推荐理由:原文提出按教师早晚期策略变化的方向一致性来门控策略迁移蒸馏,为相关蒸馏改进提供了一种可复用思路。

  5. HF Daily Papers41

    3DCodeVerse:把 3D 世界表达为可执行代码

    3DCodeVerse 是一个面向 3D 内容生成的研究生态,让编码智能体通过可执行代码产出可编辑且可验证的 3D 内容,包含大规模数据集、多智能体验证框架与系统实验。

    推荐理由:把 3D 内容生成统一到可执行代码路径,并配套 2M 数据集与多智能体验证框架,为开放模型的 3D 编码能力提供了可复现的基线。

  6. HF Daily Papers44

    DiscoveryRSI:通过递归学习生成可验证的科学假设

    DiscoveryRSI 用多智能体进化搜索和递归学习生成可验证的科学假设,在生命科学四个领域将假设质量从 4.86 提升至 5.39。DiscoveryRSI-27B 在模型截止后新发表论文上的假设对应率为 6.3%,高于 GPT-6 的 2.5% 与 Claude Opus 5 的 2.3%。文章同时给出 DFM-Bench 多维度评估基准与项目主页。

    推荐理由:原文用 DFM-Bench 把假设生成拆成可复测的多维度评分,并给出 DiscoveryRSI-27B 与 GPT-6、Claude Opus 5 的对照数据。

  7. HF Daily Papers40

    MTEdit:基于打包轨迹的多轮图像编辑数据集与基准

    MTEdit 提出基于打包轨迹画布的多轮图像编辑数据集生成方法,包含 50 万条最多 8 轮、平均 5.38 轮的编辑轨迹,并同步推出 MTEdit-Bench 基准,用于评估指令遵循、内容一致性与视觉漂移等能力。

    推荐理由:原文给出多轮图像编辑的数据集、基准与训练方法,对评估编辑模型的多轮一致性和视觉漂移有参考价值。

  8. HF Daily Papers34

    RAP:基于人工范例与声明式标记的论文到海报生成数据集

    RAP(Reconstruct A Poster)提出面向论文到海报视觉编码任务的数据集与基准,覆盖 2022–2026 年间多场机器学习会议的 25K+ 经核验论文-海报对,并提供 150 篇留出测试集。自动化反向渲染流水线可将每张海报转为带类型化可填充槽位的 HTML/CSS,同时支持 PosterRAG 训练-free 多智能体检索填充和 SFT+RL 专用模型训练两种生成方法。

10月15日周四
  1. HF Daily Papers43

    CALIF:诊断并修正可验证指令跟随中的奖励作弊

    论文针对可验证指令跟随基准在强化学习中引发的奖励作弊问题,提出 CALIF 方法,将验证器奖励与基于冻结参考策略的校准似然奖励相加,无需额外评判器或学习得到的奖励模型。在 1.7B 到 8B 规模的推理与非推理模型上,CALIF 在 IFBench 上提升约束满足率并把响应质量维持在与 RL 前相当或更高的水平,在三个评分式指令跟随基准的 45 项模型-指标对比中有 40 项优于对应基座策略。

    推荐理由:针对可验证指令跟随基准中的奖励作弊现象,给出一种在不引入额外奖励模型的前提下兼顾约束满足与响应质量的训练方法。

  2. HF Daily Papers39

    τ-Emotion-Bench:揭示 LLM 智能体在真实用户情绪下的交互脆弱性

    论文提出 τ-Emotion-Bench 基准与 Tracer 数据生成流水线,用于在情绪化用户交互下评估并提升 LLM 工具调用智能体的可靠性。该基准覆盖十个领域,实验显示前沿智能体在平均任务成功率与持续完成度之间仍存在显著差距;Tracer 生成的监督数据可稳定改进不同规模的模型,并可泛化到未见领域以及 τ-Bench 和 τ-Trait。项目页与代码已在 GitHub 开源。

    推荐理由:τ-Emotion-Bench 与 Tracer 数据流水线为评估和提升工具调用智能体在情绪化用户交互下的可靠性提供了可迁移框架。

  3. HF Daily Papers39

    Cortex:把上下文巩固进大语言模型的参数化记忆

    论文提出记忆巩固框架 Cortex,通过生成前瞻性查询把上下文条件输出蒸馏为低秩或结构化 FFN 更新,使大语言模型在不损失非目标能力的前提下把上下文增益内化为参数。

    推荐理由:原文给出把上下文增益内化为参数的记忆巩固方法与连续编辑下的保留数据,读者可据此与现有模型编辑或蒸馏方案对比。

  4. HF Daily Papers37

    ActionOPD:以动作而非 token 为单位蒸馏智能体决策

    ActionOPD 提出面向智能体的动作级在线蒸馏方法,通过最大化学生在自身状态下的教师动作似然来对齐决策,不要求师生共享 tokenizer,也无需访问教师 token 概率。用两位教师在工具调用任务上训练 Qwen3-4B 和 Qwen3-8B,在四个分布外基准上平均提升 3.3-6.9 个百分点,并在 τ^2-bench 上与离线蒸馏及 token 级 OPD 表现相当。

    推荐理由:用动作级对齐替代 token 级蒸馏,使师生不必共享 tokenizer,并通过 Qwen3 系列验证了方法在不同规模学生模型上的稳定收益。

  5. HF Daily Papers41

    Player-1:从合成经验中学习游戏操作

    Player-1 是一个用合成经验训练游戏智能体的后训练框架,在 Player-1-Gym 的 16 个 2D/3D 合成环境上以 PPO 进行强化学习。

    推荐理由:原文给出合成环境后训练的具体流程与增益数据,展示了不依赖大规模演示也能提升游戏控制能力的方法路径。

  6. HF Daily Papers35

    LensErase:面向任意擦除的基础模型

    LensErase 是一个 mask-based Erase Anything 基础模型,覆盖物体、视觉文本、水印、多物体移除及不同尺度、宽高比与分辨率的真实擦除场景。

    推荐理由:原文同时发布模型、1.01 亿配对样本数据集和评测基准,可作为图像擦除任务的复现起点。

  7. HF Daily Papers38

    ACEdit 通过非对称条件实现稳定的多轮图像编辑

    ACEdit 提出一种稳定多轮图像编辑的训练方案,让模型在自身前序编辑输出上训练,并利用教师蒸馏提供可靠监督。学生模型连续编辑自己的输出,教师模型则以原始干净图像和复合编辑指令为条件,缓解自生成轨迹偏离真值轨迹的问题。实验显示,该方法能大幅减少长序列编辑中的性能退化,同时保持编辑质量与指令遵循能力。

    推荐理由:论文将自生成轨迹、教师蒸馏和非对称条件结合,为缓解多轮图像编辑中的累积分布偏移提供了可迁移的训练思路。

  8. HF Daily Papers56

    LLM-Attacker:用于拆分与分布式大语言模型隐私评估的统一红队框架

    LLM-Attacker 提出面向拆分及分布式大语言模型的统一隐私评估框架,通过记录攻击者配置,支持重建攻击结果的复核、比较与扩展。框架要求防御方案关联未设防基线,并分别报告未测试攻击与实现检查。

    推荐理由:框架把攻击者配置、未设防基线和未测试攻击纳入统一报告,便于跨研究比较、复核拆分模型的隐私评估结果。

  9. HF Daily Papers42

    稀疏自编码器表征的行为组合性研究

    作者提出 SAE Additivity Residuals (SAR) 指标,用以衡量单个 SAE 特征及低阶交互无法解释的行为变化,并在 18 组模型与行为设定中验证 SAE 学习坐标比匹配随机旋转更具行为可加性。

    推荐理由:提出 SAR 指标量化 SAE 特征间高阶交互,并在 steering 实验中验证建模二元交互可提升排位保真度。

  10. HF Daily Papers41

    视觉语言模型属性-对象绑定研究:提出 SABER 基准与合成文本微调方案

    论文提出 SABER 基准,揭示 CLIP 类双编码器和 MLLM 嵌入器在多模态检索中存在广泛的属性-对象绑定失败。SABER 覆盖四种图文模态配对、最多十个对象等更复杂设置;论文还展示仅用合成属性绑定文本微调 MLLM 嵌入器(无需图像监督),即可将性能迁移到跨模态和图像-图像检索,在 SABER 上取得 SOTA,同时在否定和实例检索基准上也有提升。

    推荐理由:SABER 给出了跨四种图文配对的属性-对象绑定评测维度,并展示了不依赖图像监督的合成文本微调路径,对多模态检索相关工作有直接参考价值。

  11. HF Daily Papers48

    CoSTA:通过解耦生成与合成 token 空间加速语音对话模型

    论文提出 CoSTA,通过解耦语音对话模型的生成与合成 token 空间,在保留原 tokenizer 和 decoder 的同时提升推理效率。在双语语音对话基准上,扩展语音 token 的生成速度达到约 1.7times,完整响应延迟降低、吞吐量提高,同时保持回答质量。

    推荐理由:论文将语音对话模型的生成与合成 token 空间解耦,在保持回答质量的同时呈现推理加速效果及压缩、效率与质量之间的权衡。

10月14日周三
  1. HF Daily Papers37

    WorkRover:通过递归环境演化扩展长程协作智能体训练

    WorkRover 是一个通过递归环境演化训练长程协作智能体的框架,提出 Factorial Compatibility Replay(FCR)和 Verifier-to-Turn Credit Assignment(VTCA)来支持环境迭代修正并细化训练信号。

    推荐理由:论文提出用递归环境演化训练长程协作智能体的框架,给出环境修正和信用分配机制,并在多个办公基准上报告了具体提升幅度。

  2. HF Daily Papers45

    Tev:通过稠密进度奖励扩展长程智能体训练环境

    Tev 论文提出长程智能体训练数据集 Tev-Gym(含 1170 个跨 7 领域任务)和进度-势能奖励塑形方法 PPRS,并据此训练 Tev-27B。该模型在 ALE-CM 上 Pass@5 与 GPT-6 Astra、Claude Opus 5 持平,并泛化到 Terminal-Bench 3.0/4.0,超过 GLM 5.2 和 Gemini 3.7 Flash。

    推荐理由:原文同时给出长程智能体训练数据集 Tev-Gym 和稠密奖励塑形方法 PPRS,可作为同类智能体训练流程的参考方案。

  3. HF Daily Papers39

    EgoExplorer:100小时穿戴式人类移动操作观测集与重建流程

    EgoExplorer是一个100小时的人类移动操作穿戴式观测集,将第一人称视频、重建全身动作、手指精细关节和触觉观测对齐,并配有步骤级描述。

    推荐理由:论文给出100小时穿戴式多模态数据集与Calibrate-Complete-Constrain重建流程,可作为具身智能与仿真重定向的数据与方法参考。

  4. 量子位47

    破晓智能发布全身全模态数据采集系统SeePhys Hub,瞄准全模态世界模型

    破晓智能联合天珑移动发布全身全模态数据采集系统SeePhys Hub,由四目头环、双腕手环、三个腰腿动作追踪器与可选触觉手套组成,用于补足Ego数据中缺失的全身姿态与触觉信号。设备多路同步精度不超过0.5毫秒,头环重量不超过220克,单个腕部手环不超过75克。创始人杨朔1998年出生,现任哈工大(深圳)长聘教授,团队计划2027年推出全模态世界模型。

    推荐理由:原文给出了采集设备的工程取舍与团队的世界模型路线,便于读者理解具身数据从Ego走向全身全模态的过渡逻辑。

  5. HF Daily Papers41

    Interlock 用类型化完成图提升长程智能体任务完成能力

    Interlock 提出用于长程智能体任务合成的类型化完成图框架,通过跨组件约束、智能体验证和自训练改善任务完成表现。完成图会被编译为可重置工作区、公开请求与评估量表,系统保留被判定满足全部强制要求的执行轨迹。

    推荐理由:Interlock以类型化完成图表示长程任务,并结合智能体验证与自训练,在三项外部任务基准上均取得提升。

  6. HF Daily Papers43

    PrismaCoder:通过分解式评分标准合成推进开放多模态代码智能

    PrismaCoder 论文提出基于分解式评分标准的数据合成流水线 PrismaForge,并据此训练发布了 PrismaCoder-9B 与 PrismaCoder-35B 两个开源模型,在多模态代码任务上领先开源 SOTA 并接近闭源系统表现。

    推荐理由:原文提出了基于评分标准的多模态代码数据合成与强化学习流程,并开源了模型与数据集,可作为其他视觉编程任务的数据构建参考。

10月13日周二
  1. HF Daily Papers36

    Virtual Head Attention:兼顾 KV cache、FLOPs 与模型质量的长上下文注意力机制

    Virtual Head Attention (VHA) 通过 Q Premix 与 Linear Postmix 两个轻量线性变换,在不引入非线性操作的前提下同时降低 KV cache 与训练/预填计算开销,并可在推理时折叠回标准 GQA-2 架构复用现有推理优化。

    推荐理由:原文给出了 VHA 在长上下文推理中相对 GQA、MLA 的具体收益与边界,方便读者评估该方案替代现有注意力机制的可行性。

  2. HF Daily Papers36

    ReMaRk:合并多份有效回复打分,去除 LLM 推荐 GRPO 训练中的回复选择噪声

    ReMaRk 提出一种面向 LLM 推荐场景的强化学习方法,把每个请求的多份有效回复合并评分,去掉 Rank-GRPO 随机挑一条回复所引入的方差(占训练方差 85%)。

    推荐理由:把同一请求下多份有效回复合并打分,作者在 7 个基座、3 个数据集上验证了这一可迁移规则对 RL 训练的提速效果。

10月12日周一
  1. HF Daily Papers38

    VRSD 通过言语正则化改进大语言模型自蒸馏

    本文提出 VRSD(带言语正则化的自蒸馏),针对在策略自蒸馏(OPSD)中特权信息导致推理捷径与输出熵骤降的偏差,用系统提示词调节教师模型对特权信息的使用,鼓励反思与探索。

    推荐理由:针对自蒸馏中特权信息引发的熵骤降与捷径推理,给出可迁移的提示词正则化方案、理论条件与多模型多任务验证。

  2. HF Daily Papers34

    LLM-to-Flow Distillation:用自然语言目标引导科学生成器

    LLM-to-Flow Distillation(LFD)方法用冻结的大语言模型作为自适应教师,通过 DPO 蒸馏偏好信号,将科学生成器对齐到自然语言描述的高层发现目标,无需显式代理奖励。在治疗性肽和 small-molecule 结构设计任务上,LFD 能引导生成器从初始概率极低的分布外区域逐步适配到目标分布,实现对生成过程的新型控制。

  3. HF Daily Papers36

    LongR:通过密集效用奖励强化学习提升长上下文推理能力

    LongR 是一个通过强化学习提升大语言模型长上下文推理能力的统一框架,将「思考-阅读」机制与基于相对信息增益的上下文密度奖励相结合,无需证据标注即可量化相关文档的效用。

    推荐理由:原文提出了基于相对信息增益的密度奖励设计,并在多套长上下文基准上给出可复用的提升幅度,为长上下文强化学习的奖励工程提供了一种具体方案。