跳到正文
10月9日周五
  1. HF Daily Papers34

    《Foundations of Large Language Models》:一本覆盖预训练、对齐、推理等六大主题的大语言模型教材

    一本名为《Foundations of Large Language Models》的大语言模型教材已在 arXiv 发布,聚焦基础概念而非前沿技术综述。全书共六章,分别讨论预训练、生成模型、提示词、对齐、模型推理与链式推理,面向高校学生及 NLP 领域从业者。论文同时提供 PDF 全文与配套 GitHub 仓库(arXiv:2501.09223)。

  2. HF Daily Papers43

    MiMo-V2.6:扩展强化学习算力推动模型自我提升

    MiMo-V2.6 是一个面向自我提升的全模态模型系列,沿三条维度扩展强化学习算力:在最长 1M 上下文下,每步处理 1,568 样本、2.7-3.7B token 的异步训练;覆盖代码、通用、视觉和赛博领域的智能体环境;以及通过分组智能体评分提供更长链任务奖励信号。为稳定训练,论文还冻结 MoE 路由器并建立多层防奖励作弊机制,并开源训练动态、RL 环境和 RL 框架。

    推荐理由:报告给出了训练算力、采样与环境三维度扩展的具体数字与稳定策略,并开源训练动态与框架,可作为大规模 RL 训练的参考路径。

  3. 量子位55

    星动纪元 VPP2 登顶 RoboDojo 仿真榜,领先 GPT-6-Astra 等基线

    星动纪元发布的世界动作模型 VPP2 在 RoboDojo 仿真榜单中以 32.26% 平均成功率、39.26 分综合得分两项指标登顶,分别领先 GPT-6-Astra 9.78 个百分点和 10.29 分。

    推荐理由:原文同时给出仿真榜单与真机零样本两组对照数据,读者可据此比较 VPP2 与 π0.5 等基线模型的差距。

  4. HF Daily Papers42

    Learn2Play Bench:面向 LLM 智能体经验学习能力的评测基准

    论文提出 Learn2Play Bench,用规则新颖或反直觉的文本游戏评测 LLM 智能体在陌生环境中靠交互学习而非调用预训练知识的能力,并通过多次尝试与变体实例做受控评估。

    推荐理由:原文给出一套区分预训练知识与真实交互学习的评测方法与三项发现,为改进智能体的经验学习机制提供可对照的实验基线。

  5. HF Daily Papers35

    ME-World:面向多智能体细粒度具身交互的自我中心世界模型

    研究提出多智能体自我中心世界模型 ME-World,把共享环境中多个智能体的细粒度交互建模为多个自我视角流的同步去噪生成。模型在共享 token 序列中联合去噪多路自我视角流,条件于全部智能体的目标视角位姿,并以共享环境记忆锚定生成。论文在真实与合成多智能体数据上训练和评估,并新增共享世界一致性指标,实验显示 ME-World 在共享世界一致性、动作控制、身份保持和视频质量上优于已有方法。

    推荐理由:原文给出同步去噪多路自我视角流的建模思路与共享世界一致性指标,可供多智能体具身交互研究复用。

  6. 量子位48

    openJiuwen开源企业级AgentOS,集成多智能体协同与自演进能力

    由华为2012实验室、华为云等团队联合构建的开源AI Agent平台openJiuwen,正式发布并开源企业级AgentOS,支持多智能体蜂群协同与工作流编排、基于执行轨迹和记忆的自演进机制、软硬协同的算力调度,以及多租户隔离与安全沙箱。

    推荐理由:原文给出了企业级智能体平台的架构、能力分层与开源交付形态,读者可以据此判断其作为同类落地参考的价值。

  7. HF Daily Papers37

    SuperNav:面向任意场景与任务的智能体导航系统

    SuperNav 是一个面向通用服务机器人的智能体导航系统,通过为预训练多模态大语言模型加装专用 agent harness 而不进行导航特定微调,让模型专注解析请求、理解场景和做决策,把运动执行交给导航工具。

    推荐理由:原文给出将 MLLM 决策与运动执行解耦的 harness 设计,对通用机器人导航与具身智能体的方法迁移有参考价值。

  8. HF Daily Papers41

    TokenRouter:面向 token 级 LLM 路由的高效推理服务系统

    TokenRouter 是面向 token 级 LLM 路由推理的高效服务系统,采用请求中心编程、模型中心执行架构,每个 LLM 启动独立子服务器并配合延迟批处理调度器,调度器超参数由吞吐模型推导得出。

    推荐理由:原文给出 token 级路由推理的系统设计与吞吐提升幅度,读者可据此判断该方案对多模型协同推理栈的实际可用性。

  9. HF Daily Papers39

    DreamTrue:通过反事实后训练实现动作一致的机器人世界模型

    DreamTrue 是一个多视角、跨本体机器人的世界模型,通过将动作轨迹渲染到图像空间条件并加入离线几何校准,以及反事实后训练,显著改善了动作跟随与物理合理性。

    推荐理由:读者可对比 DreamTrue 与既有机器人世界模型在动作跟随和物理一致性上的差距,并参考其离线几何校准与反事实后训练的组合方法。

  10. HF Daily Papers39

    AgentGarten:面向持续进化智能体的代码化交互世界框架

    AgentGarten 是一个构建实时交互环境的框架,将仿真器或游戏引擎与共享的神经渲染器耦合,通过统一接口从结构化条件生成视觉观测。为训练该渲染器,作者提出 Adversarial Forcing,使历史预填通过精确回放变得可微分,并加入真实数据对抗监督提升视觉质量。实验显示智能体仅需 4 轮交互即可达到传统强化学习方法需数百万轮才能达到的水平,且新世界可作为代码编写并通过同一接口渲染。

    推荐理由:它把仿真后端与神经渲染解耦为统一接口,并给出可微的历史回放方案,为可扩展的智能体训练环境提供了具体工程路径。

  11. OpenAI News34

    LegalOn 借助 Codex 按任务分级调用模型,将开发成本减半并维持开发速度

    LegalOn Technologies 按任务复杂度在 GPT-6 Astra、GPT-6.1 Sol 和 GPT-6 Luna 三款 Codex 模型间分级调用,并将 Fast mode 设为默认关闭、按部门和团队设置月度预算上限,使估算日均成本相比 GPT-5.5 降低约 65%,开发速度未受影响。成熟业务被要求提升约 20% 的成本效率,新业务则获得充足预算以鼓励 AI 广泛使用。

  12. Hugging Face Blog72

    用 HuggingChat 的 ML Intern 训练定制小模型:6 个项目提示词与成本公开

    作者用 HuggingChat 的 ML Intern 在几天内训练了 6 个定制小模型,包括柑橘病害分类器、Huggy 角色 LoRA、相机视角 LoRA、涂鸦替换 LoRA、0.8B 口袋改写器与 Agate 4 步蒸馏模型,总算力约 103 美元。

    推荐理由:作者公开了用 ML Intern 训练小模型的 7 段提示词与项目流程,强调 Verified facts、基线、smoke test 与预算上限等可被迁移使用的写法。

  13. NVIDIA Blog67

    NVIDIA 开发者如何用 GPT-6 Astra 等前沿 AI 智能体构建 Omniverse 仿真应用

    NVIDIA 展示了开发者如何用 GPT-6 Astra 等前沿 AI 模型驱动智能体,结合 NVIDIA Omniverse 库把仿真创意构建为可运行应用。案例覆盖建筑数字重建、燃气轮机故障分析、机器人控制与仓储扩容;其中 80 条输送带、40 个机械臂和 800 个箱子的仓储仿真在 2 分钟测试中维持 30 FPS,并完成 640 次箱体放置。

    推荐理由:文章以建筑重建、涡轮测试和仓储扩容为例,展示自然语言驱动智能体连接仿真库、生成应用并定位瓶颈的方法。

  14. Anthropic News63

    Anthropic 启动 Cyber Mission,推出关键基础设施防御计划与 OSS Scanner

    Anthropic 启动名为 Cyber Mission 的网络安全长期计划,同步推出关键基础设施防御计划(CIDP)与开源项目安全扫描工具 OSS Scanner。

    推荐理由:原文同时公布了关键基础设施防御计划的合作框架与免费开源扫描工具的接入方式,读者可据此了解 Claude 在网络安全防御中的落地路径。

  15. HF Daily Papers39

    TerminalHorizon:面向长程终端智能体的数据合成引擎与监督微调

    TerminalHorizon 是一个面向长程终端智能体的全自动数据合成引擎,通过独立执行识别真实职业任务中被省略的关键工作,并以证据引导环境重构、围绕同一目标逐步扩展任务序列。

    推荐理由:原论文给出从数据合成到微调训练的完整方法与多基准结果,读者可直接对照自己的智能体训练管线和数据构造思路。

  16. HF Daily Papers34

    SpatialASM:为 LVLM 引入主动空间心智化提升空间推理能力

    SpatialASM 提出主动空间心智化(ASM)训练框架,让 LVLM 从被动观察图像转为主动规划视角并在内部重建缺失的空间证据,推理时无需额外视图或渲染器。该方法借助 allocentric 新视角生成器合成可验证的"规划—想象—推理"轨迹,在四个 LVLM 主干与七个空间基准上提升了空间推理能力,同时保持通用视觉能力。

  17. HF Daily Papers36

    CompactSplat:基于空间自适应高斯分布的前馈3D场景重建

    CompactSplat 提出前馈3D场景重建框架,通过纹理引导的空间分区和分层采样自适应分配3D高斯图元,改善几何与纹理恢复。该方法支持推理时动态控制稀疏度,无需重新训练即可权衡渲染保真度与内存占用。

    推荐理由:论文将纹理引导的空间分区与分层采样结合,给出动态控制稀疏度、减少图元并改善几何与纹理恢复的可复用方法。

  18. HF Daily Papers42

    Representation Guidance 引导像素扩散 Transformer 学习生成可用表示

    论文针对像素扩散 Transformer,提出 Representation Guidance(RG):通过低维瓶颈把生成相关信息压缩进紧凑表示,并据此修改流匹配目标来引导解码器生成。

    推荐理由:论文提出 Representation Guidance,用低维瓶颈压缩生成相关表示并据此修正流匹配目标,在 ImageNet 256x256 上以 459M 参数跑出 FID 1.55。

  19. HF Daily Papers46

    AgentSWE 基准:编码 Agent 能否真正交付用户想要的智能体

    AgentSWE 是面向智能体软件工程的 25 任务基准,覆盖创建、编辑、优化三个阶段,测试发现受测编码 Agent 均无法交付真正符合需求的智能体。每个任务用少量示例供构建者迭代,再以冻结提交在覆盖完整需求的隐藏用例上按派生 rubric 通过或不通过打分,论文还归纳了对可见用例过拟合、空壳运行时与虚假完成声明三类失败模式。

    推荐理由:AgentSWE 用 25 个任务以可见示例与冻结提交对照评估编码 Agent 是否真正满足需求,指出交付差距是常态而非个例。

  20. HF Daily Papers37

    APEX-Harm:评估共享专业工作区中的智能体安全性

    APEX-Harm 是一个用于评估长时程智能体在大型多工具工作区中抵御 prompt 与脚本注入攻击能力的新基准。任务覆盖金融、咨询和法律场景,每个任务含 115–328 个文件,并通过 MCP server 提供邮件、日历、聊天、文档、电子表格、PDF 与代码执行工具。

    推荐理由:在 12 个前沿模型上测得具体攻击成功率与任务得分,提供了多工具场景下智能体安全性的横向比较依据。

  21. HF Daily Papers44

    Harness^2:面向开放世界的递归式智能体 Harness 演化框架

    Harness^2 提出一个即插即用的递归式智能体 Harness 演化框架,通过任务级与 Harness 级两层递归,在缺乏真实验证器的开放场景下自动改进 LLM 智能体的执行 Harness。

    推荐理由:针对开放场景下 LLM 智能体 Harness 自动演化缺乏可靠验证器的难题,提出两层递归的即插即用框架,并报告在多个专业基准上的具体提升幅度。

  22. HF Daily Papers28

    GraphDecisionBench:评测 System One 模型在图任务上的表现

    研究提出 GraphDecisionBench 模型无关基准,评测 Jev 等 System One 模型在图任务上的决策能力,覆盖 14 种模型接口配置。测试发现:精确的邻接识别并不保证更广泛的结构正确性,联合图-文输入未必提升预测质量,可行构造也不等于高解质量。代码与汇总结果已在 GitHub 开源。

  23. HF Daily Papers36

    MSAR:面向多视角的多流注意力残差架构

    论文提出 Multi-Stream Attention Residuals(MSAR),将 Attention Residuals 沿深度轴的单流 softmax 注意力推广为多流多尺度结构,通过多尺度因果卷积为不同注意力头提供不同上下文视图,再经轻量自适应混合生成层输入,无需持久多流存储或通信。

    推荐理由:原文给出 MSAR 在 18B 与 28B MoE 规模下相对 AttnRes、mHC 的加速对比,可作为残差结构选型的参照。

  24. HF Daily Papers39

    APEX:面向极限压缩的异步前缀去噪方法

    APEX 用分层潜空间加异步去噪把扩散生图压到 64 个 token,匹配训练与推理算力时画质仍超过 256 token 基线,token 用量降到原来的 1/4。该方法还让通道缩放在高压缩场景下保持可用,缓解其他方法出现的画质退化。

    推荐理由:APEX 用分层潜空间配合异步去噪把生成 token 压到 64 个,仍超过 256 token 基线,给高压缩场景下的扩散生图提供了一条可借鉴路线。

  25. HF Daily Papers40

    PreSTO:通过预测子树预取加速 LLM 幂次采样

    PreSTO 提出针对 PowerMH 幂次采样的子树预取加速方法,在不改变 Metropolis–Hastings 转移核的前提下,把未来提议以一个模型调用批量预取,再沿已实现路径用原 MH 规则接受。

    推荐理由:在保持 MH 转移核不变的前提下给出可复现的推理加速方法,并附带在多个数据集与模型上的实测数据,便于迁移到其他采样器优化。

  26. HF Daily Papers37

    MixTok:结合全局 1D token 与稀疏 2D 精修的自适应视觉分词方法

    MixTok 提出一种混合视觉分词器,用紧凑 1D 全局表示结合稀疏 2D token 做局部精修,并通过内容自适应路由器在平均 token 预算下选定需要精修的位置。在 ImageNet 256x256 上,平均约 128 个内容 token 重建 rFID 达 1.195,约 131 个 token 生成 gFID 达 1.95。项目页与 GitHub 仓库已公开。

    推荐理由:提出 1D 全局加 2D 稀疏精修的混合视觉分词方案,并给出在 ImageNet 上具体的重建与生成指标,可作为对比参考。

  27. HF Daily Papers35

    SimVTA:面向自动驾驶世界动作模型的仿真锚定视频-轨迹对齐框架

    SimVTA 提出一种面向自动驾驶世界动作模型的后训练框架,将仿真器渲染的视频监督与 GRPO 轨迹优化结合,用 3D Gaussian Splatting 重建的真实场景为高奖励候选轨迹生成匹配的视频,并以 flow-matching 损失更新共享表征。

    推荐理由:原文给出 SimVTA 框架在 NAVSIM v1 上把 PDMS 从 86.2 提升到 91.3 的具体后训练路线,并附带闭环仿真评测结果。

  28. HF Daily Papers38

    On-Policy 蒸馏中相对策略差异迁移的重新审视

    一篇论文研究 On-Policy 蒸馏(OPD)中相对策略差异的迁移条件,提出以代理 expert 与参考策略之间的对数概率比作为 KL 正则策略优化的隐式奖励,可实现跨规模、跨训练阶段、跨生成方式的任意对任意迁移。

    推荐理由:论文给出了哪些相对策略差异能有效迁移到目标策略的判定条件,对做 On-Policy 蒸馏的读者具有直接参考价值。

  29. HF Daily Papers33

    Artisan:迈向物理可用关节化 3D 资产的多智能体流水线与基准

    Artisan 扩展 Articraft 方法,引入多智能体流水线与物理仿真反馈,使关节化 3D 资产生成支持碰撞规避、重力稳定及准确的质量与材质属性。配套基准涵盖 100 个 ArtVIP 与 LightWheel 参考资产、50 条稳定性提示与 50 个带参考质量的 ABO 物体,从空间保真、物理合理性、下游任务与整体质量四个维度评估。

  30. HF Daily Papers35

    ProgramGym:为长程程序复现智能体扩展训练环境

    作者提出 ProgramGym 框架,包含 Program-Env 与 Program-Agent 两部分,用于长程程序复现智能体的可扩展训练环境。Program-Env 通过反馈驱动循环从仓库构建可验证训练环境,覆盖 C、C++、Go、Rust 共 1,648 个环境;Program-Agent 串联分析、实现、评审三阶段工作流并加入修订控制。

    推荐理由:原文给出 1644 个跨 C、C++、Go、Rust 的可验证训练环境构建方法与长程编码智能体在 ProgramBench 上的具体提升数字,可作为同类智能体训练环境的参考。

  31. HF Daily Papers43

    OpenMobile-2:开源可扩展移动智能体框架与 MobileGym++ 基准

    OpenMobile-2 发布并全部开源,聚焦移动智能体的可扩展训练环境与 App 原生工具。MobileGym++ 包含 35 个高保真、可控的商业风格应用并支持跨应用工作流,连同模拟器应用共提供 110+ 应用,用于大规模数据合成和智能体强化学习。

    推荐理由:原文同时给出开源环境、基准与模型,并提出混合 GUI/CLI 设置,可作为移动智能体可复现实验的比较起点。

  32. HF Daily Papers32

    GeoFix:面向 4D 一致性生成的几何修复方法

    GeoFix 提出了一种统一框架,仅用单一几何奖励即可在训练和推理阶段提升视频扩散模型的 4D 生成质量,规避了现有方法在纹理和细节上的退化。该方法通过评估静态场景区域的跨视角深度一致性,并针对相机视场重叠带来的偏差进行奖励校准。实验显示,GeoFix 使 WorldScore 3D consistency 提升 39%,VBench Quality Score 提升 4%。

  33. HF Daily Papers43

    InstantFusion:面向异构图像生成模型的共享潜在空间接口

    论文 InstantFusion 提出一个轻量级共享潜在空间接口,通过模型特定的 Latent AutoEncoders 将不同扩散/流生成模型的中间态投影到同一空间,使其去噪轨迹能在不同生成器之间无缝切换,无需为每对模型训练专用映射。

    推荐理由:给出了异构扩散/流模型间的中间态共享映射方案,读者可据此评估它对加速与多模型组合场景的迁移价值。

  34. HF Daily Papers36

    SynthSelf:通过合成自蒸馏实现小模型的持续后训练

    论文提出 SynthSelf 方法,利用同族稍大的对齐模型为小模型生成 in-distribution 监督信号,配合 off-policy 监督与拒绝采样,缓解持续后训练中能力获取与遗忘的矛盾。在 4 个获取数据集、14 个保留基准与 3 个小模型规模上均优于 6 种基线方法。

    推荐理由:针对小模型持续后训练的能力获取与遗忘权衡,给出可由同族稍大模型蒸馏出的 in-distribution 监督方案,并把方法在多基准、多模型规模上做了对照。

  35. HF Daily Papers37

    ClawLoop:面向沙箱环境智能体的自改进训练框架

    ClawLoop 提出一种让大语言模型智能体在沙箱工作空间中自改进的训练框架,不依赖外部教师模型。该框架由任务合成、SFT/RL 训练和诊断反馈三阶段组成循环。

    推荐理由:提出不依赖外部教师的智能体自改进训练框架,在多个评测基准上取得稳定提升,并验证了合成任务可迁移到更小模型。

  36. HF Daily Papers43

    RSI-Anything:用世界模型解锁递归自改进

    RSI-Anything 提出一个基于 JEPA-Anything 的领域通用递归自改进框架,用预测式世界模型指导动作选择和学习数据筛选,并通过组件与兼容性检查决定是否保留更新后的策略-模型配对。

    推荐理由:原文给出在代码修复、GUI、实验规划和反应优化等多个领域的统一自改进框架,读者可以参照其世界模型筛选与版本保留机制设计自己的递归改进流程。

  37. HF Daily Papers34

    LLM 推测解码的多层隐藏状态选择:基于信息熵与 CKA 的分析框架

    研究者提出一套基于信息量(矩阵熵)与多样性(CKA)的多层隐藏状态选择框架,用于优化推测解码中的层选择策略。该框架引入 token-entropy 过滤和熵/CKA 层选择算法,在 EAGLE3 风格的推测解码中,所选层集优于默认的 [2, N//2, N-3] 等固定规则,同时为理解 LLM 解码器隐藏状态的几何与信息结构提供了实用分析工具。

  38. HF Daily Papers39

    研究称 Qwen3 模型的强化学习增益主要来自思考泄漏而非新推理能力

    针对 Qwen3 系列模型(1.7B–8B)以 NO-THINK 模式训练并施加强化学习的研究发现,RL 带来的精度提升主要来自思考泄漏,NO-THINK 模型逐渐表现出原本 THINK 模式的行为。

    推荐理由:论文通过权重、激活和注意力头干预给出因果证据,提示读者重新评估强化学习对推理能力的实际增益来源。