Olmo-core 3 发布:面向大型 MoE 的开源可扩展训练基础设施
Allenai 发布开源训练框架 Olmo-core 3,将 MoE 训练基础设施扩展到万亿参数规模。
推荐理由:Olmo-core 3 把万亿参数 MoE 的训练栈完整开源,并附带各项优化在 B300 上的实测对比,为后续训练基础设施的复现与改写提供了具体基准。
Allenai 发布开源训练框架 Olmo-core 3,将 MoE 训练基础设施扩展到万亿参数规模。
推荐理由:Olmo-core 3 把万亿参数 MoE 的训练栈完整开源,并附带各项优化在 B300 上的实测对比,为后续训练基础设施的复现与改写提供了具体基准。
Ai2 发布开源训练基础设施 Olmo-core 3,面向大模型 MoE 架构设计,可扩展到万亿参数规模。系统从 FSDP 切到 DDP,保留专家权重驻留在 GPU 上;在 8 张 NVIDIA B300 GPU 上,47B 参数 MoE 吞吐约 52,000 tokens/s/GPU,较旧实现约 2.7 倍。
推荐理由:完整公开了面向万亿参数 MoE 的训练栈设计、关键优化和吞吐量基准数据,对自建大模型训练系统的团队有参考价值。
研究者提出 Architect-Ant 框架与 AntPlan 数据集(505 张专业平面图、92 类家具、10 种房间),对真实建筑平面图自动生成可编辑家具布局,无需预设推理轨迹。其功能完整性与布局规则得分在对比基线中最高,几何违规更低,生成速度显著快于迭代式 agentic 方法,输出可直接转为 3D 场景。
NVIDIA 发布开源表格预测基础模型 Kumo Tabular,无需训练或特征工程即可在单次前向中对分类与回归任务预测新行标签。模型分 28M 到 215M 三种参数量,在 TabArena、BeyondArena、TALENT 和 ScoringBench 四个公开榜单上均排名第一。
推荐理由:原文给出无需训练、单次前向即可预测的表格预测基础模型,在四个公开榜单上均居首位,可作为评估其相对现有表格方法的精度与效率参考。
MemFold 提出固定预算软记忆方案,将查询条件化的文本记忆压缩为 K 个连续向量作为 reader 的记忆接口,并通过组相对奖励与置信度门控的在线策略蒸馏在 reader 自身 rollouts 上训练;冻结的文本记忆教师仅对采样 token 重打分,不做自回归解码,推理时完全移除。
Hugging Face Hub 上线 RL Environments 专区,新增 rl-environment 数据集筛选器和 harbor、verifiers、openenv、nemo-gym 四个框架标签。
推荐理由:原文说明了把任务数据放回 Hub、由框架负责运行时的分工思路,并给出多框架的实际运行命令。
NVIDIA 与 Google DeepMind、EMBL-EBI 等机构在 AlphaFold Database 公开 2800 余种病毒的蛋白复合物 3D 结构预测数据,并开源了 BioNeMo Structure Prediction Pipeline。
推荐理由:展示了 AlphaFold2 与 BioNeMo 推理栈在病毒蛋白复合物预测上的规模化能力,并标注具体数据集规模与新增蛋白相互作用比例。
Hex 的数据智能体利用 GPT-6 Astra 将查询结果转化为员工乐于分享的交互式可视化报告,把复杂数据分析以直观的视觉形式呈现。
Google Research 在 ICML 2026 论文中提出 Retrieve-for-Train 框架,先用离线强化学习让 Gemma3-4B 与 Qwen3-4B 生成满足多样性、对齐和 groundedness 的子查询,再蒸馏为一个 53.9M 参数的非自回归扩散模型。
推荐理由:用离线强化学习把检索策略蒸馏成轻量扩散模型,给搜索类推理加速提供了一条不依赖增大推理预算的迁移路径。
Google 官方博客发布 AI 应用综合进展,宣布其技术已支持 300 多种语言、覆盖全球 86% 人口,并集中展示多项新发布:AlphaGenome Atlas 开放 90 亿种单碱基基因变化预测。
推荐理由:横向展示了 Google 当前把 AI 落到健康、灾害、教育和经济等领域的实际产品和合作案例,可作为参照看 AI 落地的成熟度边界。
Google DeepMind 与 Google Research 推出 WeatherNext 3 天气预报 AI 模型,是其迄今最先进且精度最高的全球天气模型。
推荐理由:对比上一代在分辨率、刷新频率和降水精度上的提升,以及在搜索、Gemini、地图等产品中的落地范围。
Google Research发布时序基础模型TimesFM-3,首次原生支持多变量零样本预测。模型拥有3.3亿参数,在超过1万亿时间点的真实与合成数据上预训练。
推荐理由:对比了TimesFM-3与Chronos-2、Toto 2.0等模型在Gift-Eval等基准上的排名,读者可据此了解多变量时序基础模型的当前能力。
Sentence Transformers v6.0 新增 MultiVectorEncoder 类型,配套教程展示 ColBERT 式多向量检索模型从预训练 checkpoint 微调的完整流程。
推荐理由:给出在单卡消费级 GPU 上微调 ColBERT 式多向量检索模型的完整配方和实测对比,读者可据此复现并迁移到自己的领域。
Import AI 第 469 期汇总 DiG-bench 评测、Inherent 公司的 Faraday 科学复现模型研究,以及对扎克伯格 AI 战略文章的批评。
推荐理由:这期综述对 DiG-bench 新基准、Faraday 科学复现模型和扎克伯格 AI 战略做出同步观察,方便读者快速对齐本周 AI 研究与产业讨论。
Microsoft Research 开源了面向可扩展 Agent AI 的框架 Orchard,核心是基于 Kubernetes 的可复用环境服务 Orchard Env,并配套发布 Orchard-SWE、Orchard-GUI、Orchard-Claw 三个领域的训练配方。
推荐理由:Orchard 将环境层与训练流程解耦并开源,约 30 亿参数的小模型在 SWE-bench Verified 上逼近十倍参数量的前沿系统,展示了开源 Agent 训练栈的可行路径。
Brain2Qwerty v2 是 Meta 的非侵入式脑到文本解码研究,用 MEG 设备记录 9 名志愿者共约 22000 句打字时的脑信号,经端到端大语言模型解码,词准确率达 61%,最佳参与者为 78%。团队开源了 v1 与 v2 训练代码,合作方 BCBL 同步发布 v1 数据集,并指出准确率随数据量对数线性提升。
推荐理由:原文用 MEG 非侵入信号做端到端文本解码并给出具体词准确率,为评估非侵入方案相对侵入式脑机接口的差距提供了可比数字。