使用 torchtitan 在 AWS Trainium 上训练 Qwen3
AWS 教程演示如何在单台 trn2.48xlarge 上使用 torchtitan 以三种配置训练 Qwen3。
推荐理由：教程给出 Qwen3 的三种训练路径及自定义 NKI 算子接入流程，可作为在 Trainium 上迁移分布式训练实践的参考。
技术方向
部署工程 最新动态
怎么把模型跑得更快更省钱：推理加速、显存与成本、服务部署与基础设施选型。
491 条精选近 30 天 451 条共收录 563 条
更新
精选归档 · 第 14 页
AWS Machine Learning Blog精选AI 评分6464 HF Daily Papers精选AI 评分4848 掩码扩散语言模型中，什么构成好的解掩码策略？受控研究
掩码扩散语言模型的受控研究发现，轨迹收缩标签结合置信度与隐藏状态，可形成更优的解掩码策略。低 NFE 下，仅把与最终输出一致的预测标为可提交过于宽松；约 10% 的 NFE 降幅已可抵消最高 7.5M 参数策略的开销。
推荐理由：论文通过受控实验拆解解掩码监督标签与输入特征，为设计兼顾准确率、吞吐量与 NFE 的解掩码策略提供依据。
HF Daily Papers精选AI 评分5151 OPTIC：通过跨层潜向量量化实现逐层嵌入的极限压缩
论文提出 OPTIC，在 Gemma 4 E4B 的 BF16 配置下实现 1,002x 的逐层嵌入（PLE）压缩，并保留未压缩模型 84.1% 的总体性能。
推荐理由：论文将 OPTIC 与 6 种传统量化基线对比，并给出 7 项基准上的性能保留率，便于判断高压缩率下不同量化方案的表现差异。
HF Daily Papers精选AI 评分4040 T²Quant 提出面向扩散语言模型的时间步任务感知量化框架
T²Quant 提出面向扩散语言模型的时间步任务感知混合精度量化框架，按下游任务和去噪步骤分配激活精度。该方法仅用少量无标签校准提示词预测精度敏感度，在固定 bit-width 预算下不增加平均精度预算，并将现有量化方法的结果最多提升 6.7 个百分点。实验覆盖 3 个扩散语言模型和 6 个基准，论文地址为 https://arxiv.org/abs/2610.31198。
推荐理由：论文将量化敏感度拆解为任务与去噪步骤两个维度，并给出固定预算下的精度分配方法及跨模型基准结果。
HF Daily Papers精选AI 评分4242 TWIG 用共享离散决策路径统一神经网络权重压缩
TWIG 将神经网络权重表示为共享离散决策路径，统一剪枝、量化、低秩分解、码本和权重共享，并支持构造几乎完全由连线和加法器组成的固定权重电路。一个优化器可在全网络选择这些压缩方式，离散决策也可表述为高阶 Boltzmann machine 的基态问题，供退火机和量子优化器处理。
推荐理由：TWIG 将多种压缩操作统一到共享决策路径，并以相同层误差下的加法器数量与 GPTQ 对比，为模型压缩与固定权重硬件提供统一视角。
HF Daily Papers精选AI 评分4949 SCOPE 论文将自然语言策略编译为用于 LLM 智能体的神经符号谓词程序
SCOPE 将自然语言策略编译成可执行的神经符号谓词程序，由小型模型、确定性抽取器和代码组合输出，用于多轮 LLM 智能体的策略执行。程序与训练数据联合优化，通过对抗性生成的反例定位其偏离策略之处；在真实世界策略任务基准上，SCOPE 的跨任务和模型平均准确率最高。
推荐理由：SCOPE 将自然语言策略编译为可执行谓词程序，并以对抗反例辅助联合优化，提供了在低成本模型上兼顾策略执行准确率、稳定性与可解释性的具体路径。
Hugging Face Blog精选AI 评分5353 用 Isaac Lab 3.0 训练并部署 Microduck 双足机器人步态策略
Pollen Robotics 与 Hugging Face 联合发布开源双足机器人 Microduck，并演示如何用 NVIDIA Isaac Lab 3.0 与 Newton 在仿真中训练步态策略、导出为 ONNX 并部署到真机。
推荐理由：文章给出 Isaac Lab 仿真训练到 ONNX 真机部署的完整命令与配置，读者可据此复现 Microduck 步态策略工作流。
Hacker News精选AI 评分7070 GitHub 如何以按引用仲裁和对象存储扩展 Git 基础设施
GitHub 已把 99.99999% 仓库的一份副本迁至 Azure，正通过按引用仲裁和对象存储改造 Spokes，以迁移剩余仓库并扩展 Git 读写。将仲裁范围从整个仓库缩小到单个引用后，不同引用的写入可以并行，内部测试显示吞吐提高 3–4x 且延迟更低。读取侧由不加入仲裁的虚拟副本按需扩展，缓存从 Azure Blob Storage 预热，并以对象存储作为事实来源。
推荐理由：GitHub 以按引用仲裁和对象存储解耦读写，解释迁移剩余仓库并独立扩展读写的架构路径与实现机制。
Hugging Face Blog精选AI 评分6161 TorchNeuron 在 AWS Trainium 上的系统级推理性能分析教程
torch.profiler 与 Neuron Explorer 可组合用于分析 AWS Trainium 上 TorchNeuron 的推理性能与耗时分布。教程从 NeuronConfig 配置和 key_averages() 读取入手，并沿框架调度、运行时调度到 NeuronCore 硬件执行追踪操作。
推荐理由：给出一套从 key_averages() 定位设备耗时操作、再用 Neuron Explorer 跨框架、运行时和硬件层核验的分析流程。
Hacker News精选AI 评分8181 DuckDB 2.0.0 LTS（Cinnamon Teal）正式发布
DuckDB 团队发布 2.0.0 LTS 版本，代号 Cinnamon Teal，支持周期至 2027 年 10 月。
推荐理由：DuckDB 2.0 LTS 在 server 化、异步 I/O 与 CLI 的 agent 模式上都有具体变化，为数据基础设施团队评估迁移成本与代理工具集成提供了直接依据。
OpenAI News精选AI 评分4141 OpenAI 如何构建 ChatGPT 广告栈以提升用户信任与相关性
OpenAI 介绍其如何构建由 LLM 驱动的 ChatGPT 广告栈，用于理解对话意图、保持广告与回答分离，并规模化交付相关广告。
推荐理由：文章概述 ChatGPT 广告栈利用 LLM 理解对话意图并隔离广告与回答的构建思路，便于对照其相关性与信任设计。
量子位精选AI 评分5252 清华AIR孵化紫荆智康升级紫荆AI医院系统，多智能体协同支持医生跨科会诊
清华AIR孵化的紫荆智康升级紫荆AI医院系统，推出多分身智能体协同技术，让不同专科的AI医生分身支持首诊并参与跨科会诊。系统采用SEAL双层进化架构，在虚拟世界由智能体扮演患者和医生完成大规模训练，再经现实门诊验证与微调。截至2026年7月已构建54位AI医生和数百万AI患者，北京清华长庚医院18个临床科室门诊测试中，医生诊疗效率提升30%，MedQA准确率超96%。
推荐理由：对比微软 MAI-DxO 介绍了多智能体医疗系统的协作模式，可供做医疗 Agent 的团队参考其 SEAL 训练架构。
OpenAI News精选AI 评分5959 OpenAI 模型与 Codex 将接入 Google Cloud
OpenAI 与 Google Cloud 达成合作，将 OpenAI 前沿模型与 Codex 工作流接入 Gemini 的 Model Garden，企业可通过 Google Cloud Marketplace 调用。
推荐理由：两大云厂商的模型分销合作让企业多了采购入口，跨云可用性对现有云绑定策略构成新变量。
Hugging Face Blog精选AI 评分4242 NVIDIA Kumo Forecast 融合预训练时间序列表示、历史模式检索与可解释性
NVIDIA Kumo Forecast 将预训练时间序列表示与历史模式检索结合，用于多变量时间序列预测并提供可解释结果。它以 MOMENT-1-large Transformer 为骨干，DARR 模式通过最近邻方式检索历史模式，并按预测步长提供滞后项和特征归因。
推荐理由：文章拆解了直接预测与 DARR 历史模式检索的组合方式，并给出输入限制和应用评测路径，便于设计自有数据验证。
36氪精选AI 评分5555 AWS据悉提前接收约50亿美元的英伟达GB300服务器机架
据报道，AWS通过新的提前接收流程，预计在美国设施接收约50亿美元的英伟达GB300服务器机架。此后AWS每月还将接收约30亿美元的相关设备。
推荐理由：原文给出了AWS接收英伟达AI服务器机架的金额和月度节奏，可用于了解其美国设施相关设备的接收规模。
NVIDIA Blog精选AI 评分6565 NVIDIA 面向欧洲工业界开放 FOX 工厂运营智能体蓝图早期体验并发布 cuDSS
欧洲工业制造商正采用 NVIDIA CUDA-X、Omniverse、Cosmos 和 Nemotron，FOX 工厂运营智能体蓝图已在 GitHub 开放早期体验。
推荐理由：FOX 涵盖工厂管理、视觉质检、根因分析和车队管理，并列出 Siemens 的成本与校准时间数据，便于评估工业智能体落地方式。
NVIDIA Blog精选AI 评分6767 Google Cloud 与 NVIDIA 宣布基于 Vera Rubin 的 A5X 实例将于下月正式可用
Google Cloud 与 NVIDIA 宣布，基于 Vera Rubin 的 A5X 实例将于下月正式可用，并计划扩展至欧洲。A5X 把 Vera Rubin NVL72、ConnectX-9 SuperNIC、Virgo Network 和第四代先进液冷技术纳入 AI Hypercomputer，为训练、推理和大规模强化学习提供一体化平台。
推荐理由：A5X 将 Vera Rubin、网络与液冷能力集成进 Google Cloud，并披露扩展计划和客户案例，便于评估强化学习基础设施的落地方式。
NVIDIA Blog精选AI 评分7777 NVIDIA 在 GTC Berlin 展示并更新 RTX Spark、DGX Spark 与 DGX Station 本地 AI 阵容
NVIDIA 在 GTC Berlin 展示 RTX Spark、DGX Spark 和 DGX Station，并公布模型、集群与软件更新。DGX Spark 64GB 将于周五（10 月 23 日）由合作伙伴开始铺货，手动集群最多支持 8 台设备并提供 1TB 统一内存；DGX Station for Windows 预计 12 月推出。
推荐理由：三类本地 AI 硬件分别面向个人智能体、开发集群和企业工作站，文中还给出模型兼容、开放方式与推理优化信息。
36氪精选AI 评分6262 谷歌云拟将 Vera Rubin 基础设施扩展至多站点，部署最多 96 万颗 Rubin GPU
谷歌云计划将基于英伟达 Vera Rubin 的基础设施扩展至多站点，部署最多 96 万颗 Rubin GPU。伦敦人工智能公司 Ineffable Intelligence 已率先接入 A5X 实例，用于大规模强化学习及持续学习系统研发。该公司由 AlphaGo 创作者 David Silver 创立。
推荐理由：材料给出了谷歌云多站点 GPU 部署上限和早期接入案例，有助于理解 Vera Rubin 基础设施的规划规模与强化学习研发用途。
Hugging Face Blog精选AI 评分6969 SimReady Central 在 Hugging Face 上线，开放 2,000 多个仿真就绪 3D 资产
SimReady Central 在 Hugging Face 上线，汇集 2,000 多个仿真就绪的 OpenUSD 3D 资产，面向机器人仿真和 AI 工厂数字孪生。
推荐理由：文章不仅说明资产规范，还给出从检索、验证到场景组装和布局检查的完整流程，便于机器人仿真与数字孪生团队复用。