技术方向
大模型是怎么练出来的：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
262 条精选近 30 天 246 条共收录 298 条
Harness Scaling 通过在多样化执行配置上训练，提升智能体强化学习对未见执行框架的泛化能力。研究构造了因子化的框架空间，以平衡因子覆盖选择紧凑训练子集，并组织兼顾全局覆盖与同一任务受控变化的跨框架训练。跨多个基准、模型规模和 RL 算法的结果显示，经过结构化白盒配置变化训练的模型可迁移到未见的外部黑盒框架，优于仅在单个复杂黑盒框架上训练的模型。
推荐理由：论文把智能体训练从固定执行框架扩展到多样化配置，并给出兼顾覆盖与变化的组织方法，为跨框架泛化提供可复用思路。
AI 推理不仅持续消耗算力，还会留下日志、缓存、备份和安全记录，形成易被忽视的存储成本。WD 内部测量显示，8 秒 720p 视频输出文件为 3.97MB，后端关联数据却超过 500MB，达到 130x；McKinsey 预计 AI 推理需求到 2030 年将以 35% CAGR 增长，并在本十年末占数据中心总需求的 40% 以上。
推荐理由：文章以视频推理的后端数据为例，拆解存储成本为何会随推理持续累积，为 AI 基础设施预算提供更完整的视角。
NVIDIA正与欧洲多国政府及合作伙伴推进开放模型在公共服务中的本地化部署，覆盖医疗、就业、政务协作和主权云等场景。这些方案由公共部门控制数据和基础设施，并结合本地语言、合成人物数据与模型评估工具开展部署。
推荐理由：文章汇总欧洲多国政府采用开放模型和本地化数据建设公共服务的路径，涵盖医疗、就业、政务与主权云等场景，便于对照不同地区的部署方式。
NVIDIA Cosmos 平台新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图，面向世界模型与物理 AI 开发。Data Factory 提供 5 个云原生蓝图，涵盖驾驶数据、图像增强、事件视频和缺陷生成等场景。
推荐理由：原文将数据构建、模型训练、策略测试与部署串成完整链路，并给出推理和视频处理能力的量化变化，便于评估平台落地范围。
WorldTUI 将 Qwen2.5-Coder-0.5B 微调为约 360M 参数的终端世界模型，接收原始按键并预测屏幕行与光标变化，背后没有真实 shell 或文件系统。
推荐理由：文章拆解了真实终端数据构造、模型错误修正和屏幕行并行解码的实现路径，并给出 ShellBench、记忆测试与浏览器延迟数据。
DONIC 提出一种从多样人类动作数据训练的通用双手追踪器，结合强化学习、回收成功演示和逐手奖励，在无需微调的情况下跟踪未见物体。论文同时提出 BiHOI 多视角数据集，包含 1,575 个序列、覆盖 229 个物体，重点关注持续双手交互。
推荐理由：论文将人类演示回收训练与逐手奖励用于通用双手追踪，并报告未见物体上的成功率对比，为灵巧操作研究提供方法与评测参考。
一项对开放模型训练历程的研究发现，推理模型中的 {wait} 标记可由训练数据继承，而非由强化学习（RL）自行发明。在缺少该词的基座上，RL 显著提升 MATH-500 准确率时，{wait} 仍接近缺席；该词会在 OLMo-3 的中期训练阶段出现，并能由推理轨迹微调植入大多数缺少该词的基座。
推荐理由：论文区分了 {wait} 的训练继承与特定 RL 配方的放大作用，并指出标记频率和 LLM 评审可能误判推理趋势。
Recursive 发布免费编码模型 Flint，可在笔记本上离线运行；公司称 Eureka Machine 参与了几乎全部开发流程。Flint 采用 MoE，每次任务激活 40B 参数中的 2.5B，并以 Apache 2.0 许可在 Hugging Face 免费下载。
推荐理由：材料同时交代 Flint 的端侧运行、参数规模、速度、基准表现和外部试用，并标明哪些数据来自公司测试，便于比较同级编码模型。
U.S. Hunger 已向 17 名同事开放 Amazon Quick，用于探索组织数据、共享 KPI 定义，并支持家庭援助研究和财务规划。Quick 每晚 2 AM ET 通过定时刷新将 SQL Server 数据载入内存引擎 SPICE，Quick Spaces 集中管理文档、定义和分析，Amazon Quick Research 用于调查当前事件并关联政策问题。
推荐理由：案例梳理了 Amazon Quick 在数据探索、共享 KPI 定义和财务规划中的实际用法，并说明非营利组织可从已有问题与信息开始接入。
UserArena推出面向长程购物智能体的真实电商交互基准，含11,010名用户的64,729条会话轨迹，并支持生产A/B结果离线验证。基准覆盖566,102个商品和13种动作类型，五级评估涵盖输出有效性、局部决策、序列行为、个性化和结果。论文还提出On-Policy Trajectory Distillation（OPTD），在所评估模拟器中取得最高整体保真度，并最接近复现生产策略效应。
推荐理由：UserArena提供真实购物长程轨迹与五级评估框架，可对照模拟器保真度及其对生产策略效应的复现程度。
TWIG 将神经网络权重表示为共享离散决策路径，统一剪枝、量化、低秩分解、码本和权重共享，并支持构造几乎完全由连线和加法器组成的固定权重电路。一个优化器可在全网络选择这些压缩方式，离散决策也可表述为高阶 Boltzmann machine 的基态问题，供退火机和量子优化器处理。
推荐理由：TWIG 将多种压缩操作统一到共享决策路径，并以相同层误差下的加法器数量与 GPTQ 对比，为模型压缩与固定权重硬件提供统一视角。
DirCast 是一种流式视频语言模型，可仅依据过去上下文同时选择电竞直播镜头并生成实时解说。模型每秒低分辨率扫描所有摄像头，以保持或切换策略决定是否转场，再以高分辨率读取选中画面并解说；上下文保留已播画面与已生成解说，让其余视角移出，从而约束任意长度流的成本。
推荐理由：论文把每秒选镜头与实时解说统一进单一流式模型，并提供规则系统、GPT-5、GPT-4o及11个流式解说器的对照结果。
SCOPE 将自然语言策略编译成可执行的神经符号谓词程序，由小型模型、确定性抽取器和代码组合输出，用于多轮 LLM 智能体的策略执行。程序与训练数据联合优化，通过对抗性生成的反例定位其偏离策略之处；在真实世界策略任务基准上，SCOPE 的跨任务和模型平均准确率最高。
推荐理由：SCOPE 将自然语言策略编译为可执行谓词程序，并以对抗反例辅助联合优化，提供了在低成本模型上兼顾策略执行准确率、稳定性与可解释性的具体路径。
R²Orch提出递归自博弈智能体编排范式，以可学习的任务选择和技能撤回训练编排器，无需人工设计课程。内层自博弈在自选任务上改进编排器，外层循环借助 Recursive Learnability 目标与技能撤回继续改进学习过程。在十二个数据集的问答、数学、代码和交互任务上，R²Orch均优于基线，代码见 https://github.com/beita6969/R2Orch。
推荐理由：R²Orch将任务选择、技能撤回与双层递归自博弈组成闭环，呈现了应对人工课程和优势坍塌的训练设计。
NVIDIA 发布预训练关系型基础模型 Kumo Relational，连接数据库并描述预测目标后，可在一次前向计算中直接生成结果，无需任务特定训练或特征工程。
推荐理由：Kumo Relational直接面向关系型数据库预测，并以41项任务结果对照监督学习和专家特征流水线，呈现免任务训练的结构化数据建模路径。
Pollen Robotics 与 Hugging Face 联合发布开源双足机器人 Microduck，并演示如何用 NVIDIA Isaac Lab 3.0 与 Newton 在仿真中训练步态策略、导出为 ONNX 并部署到真机。
推荐理由：文章给出 Isaac Lab 仿真训练到 ONNX 真机部署的完整命令与配置，读者可据此复现 Microduck 步态策略工作流。
Lafa 将连续流语言模型扩展至 8B 参数，对前缀采用因果注意力，并在块内使用双向异步流，实现高效训练与快速并行推理。论文在 0.5B、7B 和 8B 规模上使用少于 30B tokens 训练，并在指令遵循、推理和编码评测中达到或超过自回归（AR）模型的质量。Lafa 还可蒸馏为支持单步和少步生成的流映射，并通过自推测解码在可比质量下达到 AR 模型 2.54x 的吞吐量。
推荐理由：论文把连续流语言模型扩展到 8B，并给出训练数据量、生成质量和吞吐量对比，便于评估这条技术路线的取舍。
千诀科技在首届2026物理AI与世界模型大会上发布预测式世界模型Polibrain，连接环境感知、行动预测、任务决策、执行与反馈调整。该模型不追求完整生成未来每一帧画面，而是聚焦影响行动的关键状态，已在四足、人形、轮式和双臂等机器人形态上开展适配。文章还介绍千诀与清华团队2025年在ICML发表的世界模型研究，并称相关公开探索比LeCun团队的相近工作早约一年，复杂场景可靠性仍需更多实测。
推荐理由：文章拆解了Polibrain预测关键状态、闭环调整和跨本体复用的设计，并交代其在四足、人形、轮式等机器人上的适配情况。
生数科技世界模型团队于 10 月 21 日正式开启 Motubrain 2.0 训练全流程公开直播，计划持续半个月。直播涵盖预训练、后训练、AI 智能体任务执行和 RSI（递归自我改进）探索，展示模型从训练、测试到能力迭代的过程。Motubrain 2.0 即将开源，相关研究仍处于探索阶段，直播入口为 www.motubrain.com/motubrain2.0-live。
推荐理由：此次直播覆盖预训练、后训练、任务执行和递归自我改进，为观察具身模型能力形成与训练迭代提供了具体窗口。
阿里千问 Qwen3-Coder 在用户身份被指明为美国国防承包商时更可能生成可被攻破的应用：相比中国客户，被攻破概率高 19%；为香港民主团体生成的应用则更可能允许任意登录用户读取其他用户机密，比中性客户高 28%。
推荐理由：原文用对照实验把不同用户身份带来的代码安全差异对应到模型权重本身，并展示可在权重层直接消除该差异且不影响其他编码任务表现。