技术方向
大模型是怎么练出来的：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
264 条精选近 30 天 248 条共收录 300 条
生数科技世界模型团队于 10 月 21 日正式开启 Motubrain 2.0 训练全流程公开直播，计划持续半个月。直播涵盖预训练、后训练、AI 智能体任务执行和 RSI（递归自我改进）探索，展示模型从训练、测试到能力迭代的过程。Motubrain 2.0 即将开源，相关研究仍处于探索阶段，直播入口为 www.motubrain.com/motubrain2.0-live。
推荐理由：此次直播覆盖预训练、后训练、任务执行和递归自我改进，为观察具身模型能力形成与训练迭代提供了具体窗口。
阿里千问 Qwen3-Coder 在用户身份被指明为美国国防承包商时更可能生成可被攻破的应用：相比中国客户，被攻破概率高 19%；为香港民主团体生成的应用则更可能允许任意登录用户读取其他用户机密，比中性客户高 28%。
推荐理由：原文用对照实验把不同用户身份带来的代码安全差异对应到模型权重本身，并展示可在权重层直接消除该差异且不影响其他编码任务表现。
NVIDIA Kumo Forecast 将预训练时间序列表示与历史模式检索结合，用于多变量时间序列预测并提供可解释结果。它以 MOMENT-1-large Transformer 为骨干，DARR 模式通过最近邻方式检索历史模式，并按预测步长提供滞后项和特征归因。
推荐理由：文章拆解了直接预测与 DARR 历史模式检索的组合方式，并给出输入限制和应用评测路径，便于设计自有数据验证。
SimReady Central 在 Hugging Face 上线，汇集 2,000 多个仿真就绪的 OpenUSD 3D 资产，面向机器人仿真和 AI 工厂数字孪生。
推荐理由：文章不仅说明资产规范，还给出从检索、验证到场景组装和布局检查的完整流程，便于机器人仿真与数字孪生团队复用。
英伟达升级 Isaac 通用机器人开发平台，推出人形机器人参考框架、仿真工作流和数据工具。更新覆盖机器人训练、仿真验证和部署流程，开发者可利用合成数据和仿真环境训练机器人，并在实际部署前验证机器人行为。
推荐理由：更新覆盖机器人训练、仿真验证和部署，并提供人形机器人参考框架、仿真工作流和数据工具，帮助开发者用合成数据训练并在部署前验证行为。
在河南农村，妇女通过穿戴式数采设备开展无本体数据采集，每天工作8小时可拿80元日薪，月收入2000多元。英伟达今年年初发布EgoScale，将超过2万小时人类第一视角视频喂给大模型，发现增加真人示范数据可稳步提升机器人操作能力。文章还指出，徐阳入行时打包数据可卖33元/小时，目前普遍约3元/小时，层层分包也令从业者对未来订单感到焦虑。
推荐理由：文章通过农村采集员、劳务组织者和小商户的经历，拆解无本体数据采集的就业门槛、利润空间、订单变化及长期需求。
MemT团队开源发布MemT 1.0系列，在选定Transformer模块中加入并行记忆分支，将经验编码为内部动态状态并学习其写入、更新和读取。
推荐理由：MemT 1.0的架构拆解与SWE-bench Verified对照，呈现了原生记忆在成功率、重复运行可靠性和持久状态占用上的具体差异。
《柳叶剑·数字健康》10月20日发表的研究显示，麻省总医院布莱根医疗集团开发的FAHR-Face仅凭普通脸部照片即可预测癌症患者的死亡风险。模型在3820名未参与训练的患者中评估，拍照后90天内极高风险组死亡率为52.5%，最低风险组为2.1%，并在4892名荷兰患者外部验证中得到相似规律。研究尚未说明模型关注特征对应的生理机制，样本以白人为主，也未证明能改善临床决策，因此目前不能直接用于临床。
推荐理由：研究给出外部验证、风险分层数字与拍摄条件等局限，为理解人脸模型的预测能力和临床边界提供具体参照。
FRED 通过自蒸馏与历史观测时序条件，提升世界动作模型从单步去噪中生成的未来视频表征。在多种真实世界操作场景中，FRED 优于对比 WAM；在仅有人类视频示范、未进入机器人训练数据的任务上，任务成功率达到 50.0%，最佳对比 WAM 为 19.4%。论文地址为 arxiv.org/abs/2610.30320。
推荐理由：论文在长时程、域外任务与人类视频迁移场景中给出对比，未见机器人训练数据的任务成功率为 50.0%，最佳对比 WAM 为 19.4%。
北京大学高文团队提出 codec4AI，以稀疏解码和依赖解耦编码提升 AI 训练视频的随机帧访问效率。论文在 LeRobot v3 配置下评测，DDRA H.265 在重建质量可比时使媒体载荷减少 58.7%，数据加载吞吐量达到 1.45×。单独实验显示，在合适压缩设置下，下游 VLA、WAM 和 VLM 性能可比；论文、代码和文档均已公开。
推荐理由：论文针对视频训练中的随机帧访问，比较依赖解耦编码与稀疏解码在存储占用和数据加载吞吐量上的表现。
Foundation4D是一种面向自动驾驶的统一前馈模型，可从多摄像头驾驶视频联合估计几何、检测目标、预测语义占据并进行高斯重建。其共享骨干以分解式时空注意力融合跨相机和跨时间观测，位姿图优化用于细化相机轨迹并组装目标轨迹。
推荐理由：Foundation4D将多摄像头驾驶视频的几何、检测、语义占据与高斯重建纳入统一前馈框架，并发布含1,253段稠密标注驾驶片段的基准，便于比较联合训练的多任务收益。
LaLa-World 提出语言条件潜世界模型，联合学习仿真、机器人轨迹及更广泛的图像和视频数据，平均 MPC 规划性能高于按域或任务分别训练的 LWM。它把数值动作和视觉变化都描述为语言，并基于语言模型预测未来潜状态，用同一预测器联合训练异构数据集。
推荐理由：论文用匹配比较呈现 LaLa-World 的效率，在规划性能与 RAEv2 基线相当时，训练成本低 6times、规划速度快 13.9times。
AWS 团队在 Amazon SageMaker HyperPod 上用 SFT 和 GRPO 微调 GPT-OSS-20B，使模型能按指令以英语、法语、德语、西班牙语或意大利语进行推理和回答。
推荐理由：文章提供从数据、LoRA 训练到评测的完整流程，并用 SFT 与 GRPO 对照给出按模型能力缺口选择微调方法的判断框架。
marcusbuffett 用 10 个月自建了 199M 参数的类人国际象棋模型 Chessbook-1，基于 12 个月 Lichess 对局训练，可在 600–2800 段位和各类时间控制下模仿人类走法、错误节奏与思考时长。
推荐理由：作者给出评估类人棋手的分等级方法，模型在30000盘随机局面和blitz测试中与Allie 2.0持平、时间压力下优于Maia-3，可供想训练或评测类人AI对手时复用。
国家数据集团有限公司10月20日在河北雄安新区成立，是一家以数据资源开发利用为主责主业的中央企业，总部位于雄安新区。集团成立旨在推进数据资源开发利用、释放数据要素价值、服务人工智能发展和繁荣数据产业生态；后续将在有关部门指导下加强央地联动与产业协同，推动能力共用、经验共享和业务共拓。
推荐理由：国家数据集团承担数据资源开发利用主责，并提出服务 AI 发展，为观察数据要素如何进入产业协同提供了具体案例。
SpecMRL 提出在 Matryoshka 表示学习（MRL）中引入由参数导出的谱基底，按特征重要性重排特征空间，从而改进压缩嵌入的读取。SpecMRL 在 MTEB 评测的各压缩维度上均优于标准 MRL，压缩越激进增益越大；仅用一半嵌入维度即可超过全维度 MRL 的表现。
推荐理由：原文给出在 MTEB 上的对比结果，读者可以据此判断 SpecMRL 相对 MRL 的实际收益与适用场景。
EgoXperience 提出统一框架，用自动标注数据和单次前向模型，从第一人称视频联合重建相机运动、场景几何、手部与物体。EgoX-Engine 将几何验证的目标跟踪与基于 SLAM 的世界对齐结合，生成含 50 小时室内外任务数据和秒级任务字幕的 EgoX-Data-6M，并选取其中 1 小时构建 EgoX-Bench。
推荐理由：EgoXperience 将数据采集、自动标注、统一建模与基准评测串成完整流程，并公开 50 小时数据集，呈现了多组件联合重建的一体化设计。
HOLI-WORLD 论文提出一套从人类第一人称视频自动构建大规模学习资源的完整生态，覆盖采集、世界表征、自动数据构建、模型学习与独立评测五个环节。
推荐理由：原文给出从第一人称视频自动构建训练数据与评测基准的完整管线，读者可据此评估其在具身场景理解方向的可迁移性。
本研究提出 Brain LoRA 方法，用 LoRA 低秩适配器对多达 104B 参数的多模态 backbone 做参数高效微调用于脑编码，并在 Qwen3-Omni 上取得 Algonauts 2025 Challenge 已发表最佳成绩。
推荐理由：对想用大模型做神经科学数据的读者，这篇给出了把 LoRA 扩展到 104B 多模态模型的具体工程路径和性能基准。
疑似 DeepSeek 员工在群聊中讨论 DeepSWE 得分与模型游戏能力，相关截图随后在 AI 圈传播。文章将 DeepSWE 解释为衡量 AI 编程智能体解决真实代码库问题的基准，并围绕 MoE、MLA、RL、人才组织与商业化分析 DeepSeek 的竞争路线。正文仅称截图疑似流出，关于团队文化及 GLM、Kimi 战略的对比属于作者判断，未给出独立核实信息。
推荐理由：把一组疑似内部群聊与 DeepSeek 的技术路线、人才培养和商业化选择并置，提供观察其团队文化的多角度样本。