跳到正文
10月22日周四
  1. HF Daily Papers51

    研究溯源推理模型中的 {wait} 标记:其来自训练数据,RL 效应因配方而异

    一项对开放模型训练历程的研究发现,推理模型中的 {wait} 标记可由训练数据继承,而非由强化学习(RL)自行发明。在缺少该词的基座上,RL 显著提升 MATH-500 准确率时,{wait} 仍接近缺席;该词会在 OLMo-3 的中期训练阶段出现,并能由推理轨迹微调植入大多数缺少该词的基座。

    推荐理由:论文区分了 {wait} 的训练继承与特定 RL 配方的放大作用,并指出标记频率和 LLM 评审可能误判推理趋势。

  2. AWS Machine Learning Blog35

    U.S. Hunger 如何利用 Amazon Quick 连接领导团队与组织数据

    U.S. Hunger 已向 17 名同事开放 Amazon Quick,用于探索组织数据、共享 KPI 定义,并支持家庭援助研究和财务规划。Quick 每晚 2 AM ET 通过定时刷新将 SQL Server 数据载入内存引擎 SPICE,Quick Spaces 集中管理文档、定义和分析,Amazon Quick Research 用于调查当前事件并关联政策问题。

    推荐理由:案例梳理了 Amazon Quick 在数据探索、共享 KPI 定义和财务规划中的实际用法,并说明非营利组织可从已有问题与信息开始接入。

  3. HF Daily Papers50

    UserArena:长程购物智能体的交互式用户模拟基准

    UserArena推出面向长程购物智能体的真实电商交互基准,含11,010名用户的64,729条会话轨迹,并支持生产A/B结果离线验证。基准覆盖566,102个商品和13种动作类型,五级评估涵盖输出有效性、局部决策、序列行为、个性化和结果。论文还提出On-Policy Trajectory Distillation(OPTD),在所评估模拟器中取得最高整体保真度,并最接近复现生产策略效应。

    推荐理由:UserArena提供真实购物长程轨迹与五级评估框架,可对照模拟器保真度及其对生产策略效应的复现程度。

  4. HF Daily Papers42

    TWIG 用共享离散决策路径统一神经网络权重压缩

    TWIG 将神经网络权重表示为共享离散决策路径,统一剪枝、量化、低秩分解、码本和权重共享,并支持构造几乎完全由连线和加法器组成的固定权重电路。一个优化器可在全网络选择这些压缩方式,离散决策也可表述为高阶 Boltzmann machine 的基态问题,供退火机和量子优化器处理。

    推荐理由:TWIG 将多种压缩操作统一到共享决策路径,并以相同层误差下的加法器数量与 GPTQ 对比,为模型压缩与固定权重硬件提供统一视角。

  5. HF Daily Papers51

    DirCast:用单一流式视频语言模型完成电竞导播与实时解说

    DirCast 是一种流式视频语言模型,可仅依据过去上下文同时选择电竞直播镜头并生成实时解说。模型每秒低分辨率扫描所有摄像头,以保持或切换策略决定是否转场,再以高分辨率读取选中画面并解说;上下文保留已播画面与已生成解说,让其余视角移出,从而约束任意长度流的成本。

    推荐理由:论文把每秒选镜头与实时解说统一进单一流式模型,并提供规则系统、GPT-5、GPT-4o及11个流式解说器的对照结果。

  6. HF Daily Papers49

    SCOPE 论文将自然语言策略编译为用于 LLM 智能体的神经符号谓词程序

    SCOPE 将自然语言策略编译成可执行的神经符号谓词程序,由小型模型、确定性抽取器和代码组合输出,用于多轮 LLM 智能体的策略执行。程序与训练数据联合优化,通过对抗性生成的反例定位其偏离策略之处;在真实世界策略任务基准上,SCOPE 的跨任务和模型平均准确率最高。

    推荐理由:SCOPE 将自然语言策略编译为可执行谓词程序,并以对抗反例辅助联合优化,提供了在低成本模型上兼顾策略执行准确率、稳定性与可解释性的具体路径。

  7. HF Daily Papers48

    R²Orch:通过技能内化循环中的自博弈实现智能体编排的递归自我改进

    R²Orch提出递归自博弈智能体编排范式,以可学习的任务选择和技能撤回训练编排器,无需人工设计课程。内层自博弈在自选任务上改进编排器,外层循环借助 Recursive Learnability 目标与技能撤回继续改进学习过程。在十二个数据集的问答、数学、代码和交互任务上,R²Orch均优于基线,代码见 https://github.com/beita6969/R2Orch。

    推荐理由:R²Orch将任务选择、技能撤回与双层递归自博弈组成闭环,呈现了应对人工课程和优势坍塌的训练设计。

  8. Hugging Face Blog74

    NVIDIA 发布无需任务特定训练的 Kumo Relational 关系型基础模型

    NVIDIA 发布预训练关系型基础模型 Kumo Relational,连接数据库并描述预测目标后,可在一次前向计算中直接生成结果,无需任务特定训练或特征工程。

    推荐理由:Kumo Relational直接面向关系型数据库预测,并以41项任务结果对照监督学习和专家特征流水线,呈现免任务训练的结构化数据建模路径。

  9. Hugging Face Blog53

    用 Isaac Lab 3.0 训练并部署 Microduck 双足机器人步态策略

    Pollen Robotics 与 Hugging Face 联合发布开源双足机器人 Microduck,并演示如何用 NVIDIA Isaac Lab 3.0 与 Newton 在仿真中训练步态策略、导出为 ONNX 并部署到真机。

    推荐理由:文章给出 Isaac Lab 仿真训练到 ONNX 真机部署的完整命令与配置,读者可据此复现 Microduck 步态策略工作流。

  10. HF Daily Papers50

    Lafa 将连续流语言模型扩展至 8B 参数

    Lafa 将连续流语言模型扩展至 8B 参数,对前缀采用因果注意力,并在块内使用双向异步流,实现高效训练与快速并行推理。论文在 0.5B、7B 和 8B 规模上使用少于 30B tokens 训练,并在指令遵循、推理和编码评测中达到或超过自回归(AR)模型的质量。Lafa 还可蒸馏为支持单步和少步生成的流映射,并通过自推测解码在可比质量下达到 AR 模型 2.54x 的吞吐量。

    推荐理由:论文把连续流语言模型扩展到 8B,并给出训练数据量、生成质量和吞吐量对比,便于评估这条技术路线的取舍。

10月21日周三
  1. 量子位47

    千诀科技发布Polibrain预测式世界模型,推进多类机器人适配

    千诀科技在首届2026物理AI与世界模型大会上发布预测式世界模型Polibrain,连接环境感知、行动预测、任务决策、执行与反馈调整。该模型不追求完整生成未来每一帧画面,而是聚焦影响行动的关键状态,已在四足、人形、轮式和双臂等机器人形态上开展适配。文章还介绍千诀与清华团队2025年在ICML发表的世界模型研究,并称相关公开探索比LeCun团队的相近工作早约一年,复杂场景可靠性仍需更多实测。

    推荐理由:文章拆解了Polibrain预测关键状态、闭环调整和跨本体复用的设计,并交代其在四足、人形、轮式等机器人上的适配情况。

  2. 量子位36

    生数科技 Motubrain 团队启动 Motubrain 2.0 训练全流程公开直播

    生数科技世界模型团队于 10 月 21 日正式开启 Motubrain 2.0 训练全流程公开直播,计划持续半个月。直播涵盖预训练、后训练、AI 智能体任务执行和 RSI(递归自我改进)探索,展示模型从训练、测试到能力迭代的过程。Motubrain 2.0 即将开源,相关研究仍处于探索阶段,直播入口为 www.motubrain.com/motubrain2.0-live。

    推荐理由:此次直播覆盖预训练、后训练、任务执行和递归自我改进,为观察具身模型能力形成与训练迭代提供了具体窗口。

  3. Hugging Face Blog42

    NVIDIA Kumo Forecast 融合预训练时间序列表示、历史模式检索与可解释性

    NVIDIA Kumo Forecast 将预训练时间序列表示与历史模式检索结合,用于多变量时间序列预测并提供可解释结果。它以 MOMENT-1-large Transformer 为骨干,DARR 模式通过最近邻方式检索历史模式,并按预测步长提供滞后项和特征归因。

    推荐理由:文章拆解了直接预测与 DARR 历史模式检索的组合方式,并给出输入限制和应用评测路径,便于设计自有数据验证。

  4. HF Daily Papers46

    FRED 通过自蒸馏与时序条件增强世界动作模型的未来视频表征

    FRED 通过自蒸馏与历史观测时序条件,提升世界动作模型从单步去噪中生成的未来视频表征。在多种真实世界操作场景中,FRED 优于对比 WAM;在仅有人类视频示范、未进入机器人训练数据的任务上,任务成功率达到 50.0%,最佳对比 WAM 为 19.4%。论文地址为 arxiv.org/abs/2610.30320。

    推荐理由:论文在长时程、域外任务与人类视频迁移场景中给出对比,未见机器人训练数据的任务成功率为 50.0%,最佳对比 WAM 为 19.4%。

  5. HF Daily Papers65

    codec4AI 重构 AI 训练视频存储,解耦跨帧依赖提升随机帧访问效率

    北京大学高文团队提出 codec4AI,以稀疏解码和依赖解耦编码提升 AI 训练视频的随机帧访问效率。论文在 LeRobot v3 配置下评测,DDRA H.265 在重建质量可比时使媒体载荷减少 58.7%,数据加载吞吐量达到 1.45×。单独实验显示,在合适压缩设置下,下游 VLA、WAM 和 VLM 性能可比;论文、代码和文档均已公开。

    推荐理由:论文针对视频训练中的随机帧访问,比较依赖解耦编码与稀疏解码在存储占用和数据加载吞吐量上的表现。

  6. HF Daily Papers47

    Foundation4D:面向自动驾驶的统一感知与重建模型

    Foundation4D是一种面向自动驾驶的统一前馈模型,可从多摄像头驾驶视频联合估计几何、检测目标、预测语义占据并进行高斯重建。其共享骨干以分解式时空注意力融合跨相机和跨时间观测,位姿图优化用于细化相机轨迹并组装目标轨迹。

    推荐理由:Foundation4D将多摄像头驾驶视频的几何、检测、语义占据与高斯重建纳入统一前馈框架,并发布含1,253段稠密标注驾驶片段的基准,便于比较联合训练的多任务收益。

  7. HF Daily Papers47

    LaLa-World:通过自然语言动作扩展潜世界模型

    LaLa-World 提出语言条件潜世界模型,联合学习仿真、机器人轨迹及更广泛的图像和视频数据,平均 MPC 规划性能高于按域或任务分别训练的 LWM。它把数值动作和视觉变化都描述为语言,并基于语言模型预测未来潜状态,用同一预测器联合训练异构数据集。

    推荐理由:论文用匹配比较呈现 LaLa-World 的效率,在规划性能与 RAEv2 基线相当时,训练成本低 6times、规划速度快 13.9times。

  8. AWS Machine Learning Blog64

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 提升多语言推理能力

    AWS 团队在 Amazon SageMaker HyperPod 上用 SFT 和 GRPO 微调 GPT-OSS-20B,使模型能按指令以英语、法语、德语、西班牙语或意大利语进行推理和回答。

    推荐理由:文章提供从数据、LoRA 训练到评测的完整流程,并用 SFT 与 GRPO 对照给出按模型能力缺口选择微调方法的判断框架。

10月20日周二
  1. HF Daily Papers35

    SpecMRL:通过参数化谱基底改进 Matryoshka 表示学习

    SpecMRL 提出在 Matryoshka 表示学习(MRL)中引入由参数导出的谱基底,按特征重要性重排特征空间,从而改进压缩嵌入的读取。SpecMRL 在 MTEB 评测的各压缩维度上均优于标准 MRL,压缩越激进增益越大;仅用一半嵌入维度即可超过全维度 MRL 的表现。

    推荐理由:原文给出在 MTEB 上的对比结果,读者可以据此判断 SpecMRL 相对 MRL 的实际收益与适用场景。

  2. HF Daily Papers45

    EgoXperience 从人类经验中学习世界坐标下的第一人称表征

    EgoXperience 提出统一框架,用自动标注数据和单次前向模型,从第一人称视频联合重建相机运动、场景几何、手部与物体。EgoX-Engine 将几何验证的目标跟踪与基于 SLAM 的世界对齐结合,生成含 50 小时室内外任务数据和秒级任务字幕的 EgoX-Data-6M,并选取其中 1 小时构建 EgoX-Bench。

    推荐理由:EgoXperience 将数据采集、自动标注、统一建模与基准评测串成完整流程,并公开 50 小时数据集,呈现了多组件联合重建的一体化设计。

  3. HF Daily Papers44

    HOLI-WORLD:从人类第一人称经验构建整体世界智能的生态

    HOLI-WORLD 论文提出一套从人类第一人称视频自动构建大规模学习资源的完整生态,覆盖采集、世界表征、自动数据构建、模型学习与独立评测五个环节。

    推荐理由:原文给出从第一人称视频自动构建训练数据与评测基准的完整管线,读者可据此评估其在具身场景理解方向的可迁移性。

  4. HF Daily Papers47

    Brain LoRA:用参数高效微调扩展 104B 多模态脑编码模型

    本研究提出 Brain LoRA 方法,用 LoRA 低秩适配器对多达 104B 参数的多模态 backbone 做参数高效微调用于脑编码,并在 Qwen3-Omni 上取得 Algonauts 2025 Challenge 已发表最佳成绩。

    推荐理由:对想用大模型做神经科学数据的读者,这篇给出了把 LoRA 扩展到 104B 多模态模型的具体工程路径和性能基准。

  5. HF Daily Papers40

    ScaleNav 通过互联网视频预训练实现语言条件局部导航

    ScaleNav 提出统一的世界—动作框架,利用互联网第一视角视频学习目标导向视觉动态,并据此生成语言条件局部导航所需的机器人动作。训练分为指令条件视频预训练、使用带动作标签的仿真数据进行动作对齐,以及联合微调三个阶段。

    推荐理由:论文把互联网第一视角视频预训练、仿真动作对齐与联合微调串成三阶段流程,并给出仿真基准及真实四足机器人部署结果。

  6. HF Daily Papers47

    AgenticRoboRL 将编码智能体后训练引入具身机器人规划器

    AgenticRoboRL 提出面向不同机器人执行框架的规划器后训练方法,将监督微调与多轮强化学习结合。在 LIBERO-PRO 上,9B 参数规划器在无外部记忆时将成功率从 18.1% 提升至 71.0%,接近使用外部记忆的 Codex (GPT-5.5) 的 72.1%。

    推荐理由:论文把监督微调与多轮强化学习用于机器人规划器,并给出不同执行框架下的适配方式和 LIBERO-PRO 成功率对比,便于评估后训练方案。

  7. HF Daily Papers37

    TextRIRO:仅用真实数据能否完成场景文本编辑?

    TextRIRO 通过真实图像扰动构造自配对训练数据,并基于条件扩散模型完成场景文本编辑。Shuffle&Crop 在破坏文本语义的同时保留关键风格线索,使模型在真实场景基准上提升准确性与视觉真实性,并缓解合成到真实的域差距。团队还构建了用于长文本识别的 TextRIRO-3M,训练识别模型后显著提高识别准确率,代码已公开。

    推荐理由:将字符列打乱与图像裁剪组合成自配对训练数据,为减少场景文本编辑对合成数据的依赖提供了可复用路径。

  8. HF Daily Papers47

    HyperDrone 四旋翼模拟器实现每秒数百万帧的仿真到现实迁移

    HyperDrone 提出一款GPU加速四旋翼模拟器,以每秒数百万帧渲染高保真观测,并支持视觉策略从仿真迁移到实机。其批处理仿真速度比现有先进四旋翼批处理模拟器快20x以上,HyperLux支持Nvidia OptiX、Vulkan、Apple Metal和WebGPU后端,并可输出RGB、深度、语义或实例分割、表面法线和光流观测。

    推荐理由:论文报告批处理仿真速度比同类方案快20x以上,并验证纯仿真训练的偏航控制策略可迁移至Crazyflie实机,适合作为高速具身仿真的对照案例。

  9. HF Daily Papers48

    Scaling in Games:多元虚拟世界具身智能体持续预训练的扩展研究

    一项针对多元虚拟世界具身智能的研究发现,在持续预训练中扩大数据规模、多样性和模型容量可改善学习,但对遥远世界泛化有限,仍需超越模仿的更丰富训练。研究比较120种配置,覆盖0.8B至27B的4个模型规模、50至1,600 hours的6档数据预算和5种数据混合,还拟合了验证损失与三因素之间的经验扩展规律。

    推荐理由:该研究比较120种训练配置,拆解数据量、环境多样性与模型规模对具身学习的影响,并呈现遥远世界泛化的能力边界。

  10. HF Daily Papers45

    Ask-to-Distill:利用合成数据实现在策略蒸馏

    Ask-to-Distill 提出一种无需参考答案、正确性奖励或逐候选学生更新的合成问题优化框架,用于在策略蒸馏。它以冻结的师生模型组合计算问题价值,在数学推理、代码生成和智能体任务上提升平均表现及师生差距恢复效果,并在评测设置中达到或超过真实题库 OPD。代码、数据和模型已公开:https://github.com/GasolSun36/Ask_to_Distill。

    推荐理由:论文提出在无参考答案时按蒸馏信号价值优化合成问题,并比较其在推理、编码和智能体任务中的效果。

  11. HF Daily Papers55

    OvisOCR3 技术报告:0.8B 视觉语言模型统一五类 OCR 任务

    OvisOCR3 技术报告提出一个0.8B视觉语言模型,以单一模型统一文档解析、通用OCR、关键信息提取、文档图注生成和跨页表格重建五类任务。模型通过继续预训练、领域平衡中期训练、5个领域专用4B教师模型的on-policy蒸馏,以及带领域特定奖励的混合任务强化学习完成训练。

    推荐理由:报告给出了0.8B OvisOCR3统一五类OCR任务的训练路径,涵盖领域平衡中期训练、多教师on-policy蒸馏和混合任务强化学习。

  12. HF Daily Papers41

    循环 Transformer 缩放研究显示完整 BPTT 在匹配计算量下胜过截断方案

    研究团队通过近 600 次训练运行比较循环 Transformer 的完整 BPTT(按时间反向传播)与截断方案,发现匹配计算量时完整 BPTT 始终更优。统一缩放律显示,模型大小可调时,完整训练两轮循环是最佳设置;其验证损失低于计算最优的非循环模型,非嵌入参数约少 27%,训练计算量仅多 8%。论文地址为 https://arxiv.org/abs/2610.26030。

    推荐理由:近 600 次训练与统一缩放律为循环 Transformer 的截断取舍提供了匹配计算量比较,并给出参数效率与训练成本的具体结果。

10月19日周一
  1. HF Daily Papers50

    Ropedia W0:利用人类经验扩展跨具身移动操控世界模型

    Ropedia W0 是面向人类与机器人的跨具身移动操控世界基础模型,通过统一运动学表示融合两类数据,并在五项跨具身基准上取得 SOTA。其 Xp-Data 包含 10k 小时第一视角人类数据和 3k 小时机器人数据,并配有统一多模态标注与质量控制;Xp-Teleop 基于灵巧人形机器人遥操作数据构建。

    推荐理由:论文将10k小时人类第一视角数据与3k小时机器人数据统一建模,并提供跨具身基准,便于比较人类经验对机器人移动操控性能的影响。

  2. HF Daily Papers43

    StreamingSwap 提出从短片段到实时视频流的身份感知监督与上下文高效视频换脸生成

    论文提出 StreamingSwap,一种基于流匹配的实时视频换脸框架,在单张 NVIDIA RTX 4090 GPU 上实现稳定 20 FPS 生成。

    推荐理由:论文将身份重建损失、空间 token 缩减和短上下文训练组合到实时换脸流程中,并报告单卡 RTX 4090 上稳定 20 FPS、最长 10 分钟视频的实验结果。

  3. HF Daily Papers43

    WildAWM:计算机操作智能体环境合成方法

    WildAWM 提出一条完全由开源模型驱动的可扩展流程,合成可控环境与任务,用于训练通用计算机操作智能体。其环境同时支持 GUI、MCP 服务和 CLI,并以异构智能体轨迹、跨评审一致性和反事实探针组成执行式质量门控,检查任务可解性、难度及验证器可靠性。

    推荐理由:给出从环境合成、质量门控到跨基准验证的完整链路,并公开代码,便于比较计算机操作智能体训练方案。

  4. HF Daily Papers43

    HarnessRL:面向开放式 RL 的策略与即时训练框架协同演化方法

    HarnessRL 提出一种训练时框架,让任务采样、rollout 引导和 rubric 标准随策略协同演化,以应对开放式 RL 中的奖励失效。框架维护训练时记忆,将奖励失效归因于可更新的接口,并通过 proposer 与 just-in-time critic 循环测试和筛选候选更新。

    推荐理由:HarnessRL 在 4B 和 9B 模型上较最强基线高 2.8 至 3.1 分,训练步数近乎减半,为开放式 RL 方案比较提供具体参照。

  5. HF Daily Papers40

    SWIFT:通过目标外推实现自引导弱到强扩散模型训练

    SWIFT 提出一种自引导训练方法,利用冻结的弱去噪器将回归目标沿远离其预测的方向外推,以改进更强的扩散模型且不增加推理开销。弱引导器可采用训练早期检查点,主模型训练无需反向传播,之后可将其丢弃。

    推荐理由:论文给出目标外推机制、理论证明及 CIFAR-10 和 ImageNet-256 实验,可用于比较弱到强扩散模型的训练效率。

10月18日周日
  1. HF Daily Papers43

    CoEvo-RSI:执行框架演进时,哪些模型应随之适配

    CoEvo-RSI 论文提出递归自我改进智能体框架,由 meta-agent 基于共享进化档案和执行反馈进行双向历史继承,减少模型与执行框架错配。框架仅使用自身拒绝采样轨迹进行 SFT,使 Qwen3.5-9B 在多智能体故障归因、角色感知 Text-to-SQL 和智能家居指令遵循任务中与更大模型具有竞争力。

    推荐理由:论文在多智能体故障归因、Text-to-SQL 和智能家居任务中比较不同模型,展示双向历史继承缓解模型与执行框架错配的表现。