跳到正文

技术方向

数据与训练 最新动态

大模型是怎么练出来的:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

262 条精选近 30 天 246 条共收录 298 条

更新

精选归档 · 第 9 页

10月20日周二第 161–180 条
  1. HF Daily Papers47

    AgenticRoboRL 将编码智能体后训练引入具身机器人规划器

    AgenticRoboRL 提出面向不同机器人执行框架的规划器后训练方法,将监督微调与多轮强化学习结合。在 LIBERO-PRO 上,9B 参数规划器在无外部记忆时将成功率从 18.1% 提升至 71.0%,接近使用外部记忆的 Codex (GPT-5.5) 的 72.1%。

    推荐理由:论文把监督微调与多轮强化学习用于机器人规划器,并给出不同执行框架下的适配方式和 LIBERO-PRO 成功率对比,便于评估后训练方案。

  2. HF Daily Papers37

    TextRIRO:仅用真实数据能否完成场景文本编辑?

    TextRIRO 通过真实图像扰动构造自配对训练数据,并基于条件扩散模型完成场景文本编辑。Shuffle&Crop 在破坏文本语义的同时保留关键风格线索,使模型在真实场景基准上提升准确性与视觉真实性,并缓解合成到真实的域差距。团队还构建了用于长文本识别的 TextRIRO-3M,训练识别模型后显著提高识别准确率,代码已公开。

    推荐理由:将字符列打乱与图像裁剪组合成自配对训练数据,为减少场景文本编辑对合成数据的依赖提供了可复用路径。

  3. HF Daily Papers47

    HyperDrone 四旋翼模拟器实现每秒数百万帧的仿真到现实迁移

    HyperDrone 提出一款GPU加速四旋翼模拟器,以每秒数百万帧渲染高保真观测,并支持视觉策略从仿真迁移到实机。其批处理仿真速度比现有先进四旋翼批处理模拟器快20x以上,HyperLux支持Nvidia OptiX、Vulkan、Apple Metal和WebGPU后端,并可输出RGB、深度、语义或实例分割、表面法线和光流观测。

    推荐理由:论文报告批处理仿真速度比同类方案快20x以上,并验证纯仿真训练的偏航控制策略可迁移至Crazyflie实机,适合作为高速具身仿真的对照案例。

  4. HF Daily Papers48

    Scaling in Games:多元虚拟世界具身智能体持续预训练的扩展研究

    一项针对多元虚拟世界具身智能的研究发现,在持续预训练中扩大数据规模、多样性和模型容量可改善学习,但对遥远世界泛化有限,仍需超越模仿的更丰富训练。研究比较120种配置,覆盖0.8B至27B的4个模型规模、50至1,600 hours的6档数据预算和5种数据混合,还拟合了验证损失与三因素之间的经验扩展规律。

    推荐理由:该研究比较120种训练配置,拆解数据量、环境多样性与模型规模对具身学习的影响,并呈现遥远世界泛化的能力边界。

  5. HF Daily Papers45

    Ask-to-Distill:利用合成数据实现在策略蒸馏

    Ask-to-Distill 提出一种无需参考答案、正确性奖励或逐候选学生更新的合成问题优化框架,用于在策略蒸馏。它以冻结的师生模型组合计算问题价值,在数学推理、代码生成和智能体任务上提升平均表现及师生差距恢复效果,并在评测设置中达到或超过真实题库 OPD。代码、数据和模型已公开:https://github.com/GasolSun36/Ask_to_Distill。

    推荐理由:论文提出在无参考答案时按蒸馏信号价值优化合成问题,并比较其在推理、编码和智能体任务中的效果。

  6. HF Daily Papers55

    OvisOCR3 技术报告:0.8B 视觉语言模型统一五类 OCR 任务

    OvisOCR3 技术报告提出一个0.8B视觉语言模型,以单一模型统一文档解析、通用OCR、关键信息提取、文档图注生成和跨页表格重建五类任务。模型通过继续预训练、领域平衡中期训练、5个领域专用4B教师模型的on-policy蒸馏,以及带领域特定奖励的混合任务强化学习完成训练。

    推荐理由:报告给出了0.8B OvisOCR3统一五类OCR任务的训练路径,涵盖领域平衡中期训练、多教师on-policy蒸馏和混合任务强化学习。

  7. HF Daily Papers41

    循环 Transformer 缩放研究显示完整 BPTT 在匹配计算量下胜过截断方案

    研究团队通过近 600 次训练运行比较循环 Transformer 的完整 BPTT(按时间反向传播)与截断方案,发现匹配计算量时完整 BPTT 始终更优。统一缩放律显示,模型大小可调时,完整训练两轮循环是最佳设置;其验证损失低于计算最优的非循环模型,非嵌入参数约少 27%,训练计算量仅多 8%。论文地址为 https://arxiv.org/abs/2610.26030。

    推荐理由:近 600 次训练与统一缩放律为循环 Transformer 的截断取舍提供了匹配计算量比较,并给出参数效率与训练成本的具体结果。

  8. Hacker News43

    CERN 与 Mistral 签署战略合作意向,共同开发首个对撞机物理基础模型

    欧洲核子中心 CERN 与法国 AI 公司 Mistral 签署战略合作意向,将共同训练首个面向对撞机物理的预训练基础模型 Large Physics Model。该模型基于 CERN 大型强子对撞机的数十亿次模拟质子-质子碰撞训练,计划把粒子碰撞重建、粒子识别、异常信号标记和未来探测器设计评估等多个任务整合到同一模型中。合作初期聚焦高能物理,长期希望向更广泛的科学社区输出可复用的 AI 方法。

    推荐理由:CERN 与 Mistral 这次合作的目标是为大型强子对撞机数据训练首个对撞机物理基础模型,读者可以借此了解科学基础模型的训练数据来源与任务范围。

10月19日周一
  1. 36氪32

    具身智能数据产业爆发,数据资产价值迎来重估

    随着具身智能机器人训练需求上升,真机数据、无本体采集数据、仿真数据成为具身智能训练的三大类数据来源,相关产业规模快速扩充。据中证报报道,从业者认为行业在扩充数据规模的同时,数据质量和数据评测标准同样关键,数据资产由此迎来价值重估。

    推荐理由:把具身智能训练拆成真机、无本体采集、仿真三类数据来源,便于看清当前数据供给的边界与瓶颈所在。

  2. HF Daily Papers50

    Ropedia W0:利用人类经验扩展跨具身移动操控世界模型

    Ropedia W0 是面向人类与机器人的跨具身移动操控世界基础模型,通过统一运动学表示融合两类数据,并在五项跨具身基准上取得 SOTA。其 Xp-Data 包含 10k 小时第一视角人类数据和 3k 小时机器人数据,并配有统一多模态标注与质量控制;Xp-Teleop 基于灵巧人形机器人遥操作数据构建。

    推荐理由:论文将10k小时人类第一视角数据与3k小时机器人数据统一建模,并提供跨具身基准,便于比较人类经验对机器人移动操控性能的影响。

  3. HF Daily Papers43

    StreamingSwap 提出从短片段到实时视频流的身份感知监督与上下文高效视频换脸生成

    论文提出 StreamingSwap,一种基于流匹配的实时视频换脸框架,在单张 NVIDIA RTX 4090 GPU 上实现稳定 20 FPS 生成。

    推荐理由:论文将身份重建损失、空间 token 缩减和短上下文训练组合到实时换脸流程中,并报告单卡 RTX 4090 上稳定 20 FPS、最长 10 分钟视频的实验结果。

  4. HF Daily Papers43

    WildAWM:计算机操作智能体环境合成方法

    WildAWM 提出一条完全由开源模型驱动的可扩展流程,合成可控环境与任务,用于训练通用计算机操作智能体。其环境同时支持 GUI、MCP 服务和 CLI,并以异构智能体轨迹、跨评审一致性和反事实探针组成执行式质量门控,检查任务可解性、难度及验证器可靠性。

    推荐理由:给出从环境合成、质量门控到跨基准验证的完整链路,并公开代码,便于比较计算机操作智能体训练方案。

  5. HF Daily Papers43

    HarnessRL:面向开放式 RL 的策略与即时训练框架协同演化方法

    HarnessRL 提出一种训练时框架,让任务采样、rollout 引导和 rubric 标准随策略协同演化,以应对开放式 RL 中的奖励失效。框架维护训练时记忆,将奖励失效归因于可更新的接口,并通过 proposer 与 just-in-time critic 循环测试和筛选候选更新。

    推荐理由:HarnessRL 在 4B 和 9B 模型上较最强基线高 2.8 至 3.1 分,训练步数近乎减半,为开放式 RL 方案比较提供具体参照。

  6. HF Daily Papers40

    SWIFT:通过目标外推实现自引导弱到强扩散模型训练

    SWIFT 提出一种自引导训练方法,利用冻结的弱去噪器将回归目标沿远离其预测的方向外推,以改进更强的扩散模型且不增加推理开销。弱引导器可采用训练早期检查点,主模型训练无需反向传播,之后可将其丢弃。

    推荐理由:论文给出目标外推机制、理论证明及 CIFAR-10 和 ImageNet-256 实验,可用于比较弱到强扩散模型的训练效率。

10月18日周日
  1. Hacker News49

    法律专家警告 Meta 新条款仍保留广泛爬虫授权

    Meta 更新服务条款后,法律专家警告尽管措辞有所调整,新条款仍保留了广泛的内容爬虫授权。原文由 Nieman Lab 刊出,链接:https://www.niemanlab.org/2026/10/legal-experts-warn-metas-new-terms-still-grant-broad-scraping-permissions-despite-language-changes/

    推荐理由:读者可对照条款修改前后的措辞,判断实际授权范围是否真的收窄。

  2. The Decoder55

    Taste-Bench 基准显示 AI 智能体长周期决策品味欠佳

    Pan 等人提出 Taste-Bench 基准,从 SWE-bench Pro 和 METR 的 MALT 转录数据中提炼 502 个路径分叉点,让模型在每个分叉点从两条路径中选择更优方向。

    推荐理由:文章把端到端测试看不到的长路径选择问题量化成基准,并展示用知识蒸馏即可显著提升智能体判断力的做法,对评估长周期智能体有参考价值。

  3. TechCrunch57

    Meta 删除引发数据抓取与 AI 训练争议的条款措辞

    Meta 已从其商业服务条款中删除此前引发法律专家担忧的措辞,该条款曾允许其使用商业账户关联网站的内容来提供、开发、改进、研究和训练其产品与服务。Meta 声明相关抓取条款仅适用于广告与商业产品,并澄清此举不改变其网络爬虫的实际使用方式。

    推荐理由:原文记录了 Meta 因条款措辞引发 AI 训练数据抓取争议后撤回并澄清的过程,便于读者判断平台数据使用条款的可信度。

  4. HF Daily Papers43

    CoEvo-RSI:执行框架演进时,哪些模型应随之适配

    CoEvo-RSI 论文提出递归自我改进智能体框架,由 meta-agent 基于共享进化档案和执行反馈进行双向历史继承,减少模型与执行框架错配。框架仅使用自身拒绝采样轨迹进行 SFT,使 Qwen3.5-9B 在多智能体故障归因、角色感知 Text-to-SQL 和智能家居指令遵循任务中与更大模型具有竞争力。

    推荐理由:论文在多智能体故障归因、Text-to-SQL 和智能家居任务中比较不同模型,展示双向历史继承缓解模型与执行框架错配的表现。

  5. HF Daily Papers39

    CoworkEnv:为长程协作智能体合成训练环境

    CoworkEnv 提出能力导向框架,通过工作流引导的任务构建与可编程校验合成 AI 协作智能体的可执行训练环境。基于合成数据训练的 PocketWorker 模型在 Claw-Eval 上显著提升:Qwen3-VL-8B-Instruct 经 SFT 后均分从 46.6 提升到 64.1,其中多轮任务获得 31.9 分提升。

    推荐理由:原文把工作流约束直接编码进训练环境合成与评分检查,并用 Qwen3-VL-8B 在 Claw-Eval 上给出可验证的多轮增益。