Ai2 用 GPU 时间预算、分层公平份额和时间片合同替换了原有优先级调度器，覆盖约 150 名研究人员使用的数千张 H100、B200、B300 GPU 集群。30 天测试期内团队实际获得的 GPU 小时数达到应得的 98%，15 个团队中 13 个达到 95% 以上，集群占用率维持在 98%，调试任务 p90 排队等待时间从 2 小时降到 30 秒，需要人工介入的维修工单减少 74%。
推荐理由：原文给出了把 GPU 调度从优先级改为预算加公平份额的具体设计与实测结果，集群运维者可据此判断能否迁移到自己的环境。
Ai2 基础设施团队将基于优先级的集群调度器替换为包含 GPU 时间预算、分层公平分配和时间分片合约的新系统，把 GPU 资源分配从逐案操作改为透明的预算流程。
同一件事，精选收录的是《Ai2 改造 GPU 集群调度：用预算与公平份额替代优先级》
字节Seed团队发现DeepSeek-V4在同一信息仅改变输入位置时，检索准确率会随分块KV Cache压缩步长周期性波动，最高差距达40.2个百分点。
推荐理由：分块KV Cache压缩会随步长引入周期性检索弱点，文中给出按压缩相位分别评测的方法，对评估同类长上下文模型有参考价值。
由华为2012实验室、华为云等团队联合构建的开源AI Agent平台openJiuwen，正式发布并开源企业级AgentOS，支持多智能体蜂群协同与工作流编排、基于执行轨迹和记忆的自演进机制、软硬协同的算力调度，以及多租户隔离与安全沙箱。
推荐理由：原文给出了企业级智能体平台的架构、能力分层与开源交付形态，读者可以据此判断其作为同类落地参考的价值。
SparseDecoding 提出一种面向大语言模型解码阶段的感知剪枝框架，把校准数据改为模型自回归生成时的激活以对齐解码分布。
推荐理由：原文把剪枝校准对齐到解码阶段真实激活并搭配 SpMV 内核，给出 A100 上 1.48x 加速，可作为推理部署剪枝优化的参考。
TokenRouter 是面向 token 级 LLM 路由推理的高效服务系统，采用请求中心编程、模型中心执行架构，每个 LLM 启动独立子服务器并配合延迟批处理调度器，调度器超参数由吞吐模型推导得出。
推荐理由：原文给出 token 级路由推理的系统设计与吞吐提升幅度，读者可据此判断该方案对多模型协同推理栈的实际可用性。
NVIDIA 展示了开发者如何用 GPT-6 Astra 等前沿 AI 模型驱动智能体，结合 NVIDIA Omniverse 库把仿真创意构建为可运行应用。案例覆盖建筑数字重建、燃气轮机故障分析、机器人控制与仓储扩容；其中 80 条输送带、40 个机械臂和 800 个箱子的仓储仿真在 2 分钟测试中维持 30 FPS，并完成 640 次箱体放置。
推荐理由：文章以建筑重建、涡轮测试和仓储扩容为例，展示自然语言驱动智能体连接仿真库、生成应用并定位瓶颈的方法。
研究者提出一套基于信息量（矩阵熵）与多样性（CKA）的多层隐藏状态选择框架，用于优化推测解码中的层选择策略。该框架引入 token-entropy 过滤和熵/CKA 层选择算法，在 EAGLE3 风格的推测解码中，所选层集优于默认的 [2, N//2, N-3] 等固定规则，同时为理解 LLM 解码器隐藏状态的几何与信息结构提供了实用分析工具。
Amazon Bedrock AgentCore payments 正式可用，让 AI agent 通过 x402 协议按次向推理服务付费。
推荐理由：文章给出了 AgentCore payments 与 x402 推理服务对接的端到端实现，以及支出上限在基础设施层强制生效的具体做法。
AWS 在官方博客发布基于 SageMaker HyperPod 与 EKS 的多租户参考架构，让多个团队共用同一 GPU 集群。
推荐理由：原文给出在 EKS 集群上串联身份、命名空间、配额与成本归属的多租户模板，便于企业按团队粒度复用并改造 GPU 资源分配方式。
英伟达与微软在旧金山联合活动上宣布，RTX Spark 笔记本今日起开始预售、10 月 16 日上市，搭载 Blackwell RTX GPU 与 20 核 Grace CPU，提供最高 1 petaFLOPS FP4 算力和 128GB 统一内存，可在本地运行 Qwen 3.8 Flash Next 等模型，紧凑型台式机版本将于 11 月开售。
推荐理由：读者可以借此了解 RTX Spark 与 DGX Station for Windows 在本地运行大模型的硬件配置、产品定位与上市时间。
GitHub 与微软 Applied Sciences 联合训练了一个 ModernBERT 分类器，可在 2 毫秒内评估候选密钥，把推送保护扩展到非结构化密钥，使可被拦截的密钥数量翻倍以上。
推荐理由：用九个季度数据论证密钥泄露量随代码量而非开发者粗心同步增长，检测能力需随算力扩展。
微软研究院开源 Agent Lightning v1.0，一个约 3,500 行的轻量级智能体强化学习框架，主打 Harnessed Agentic RL 训练范式，让部署用的 agent 框架直接参与 RL 训练。
推荐理由：把部署阶段的 agent 框架直接接入 RL 训练的方案，并给出 Qwen3.5-9B 在 SWE-bench Verified 上的具体增益，读者可据此评估迁移到自身智能体栈的成本。
Cornerstone OnDemand 基于 Amazon Bedrock 与 Strands Agents 构建多智能体系统 Orion AI，将数据库诊断时间从 45 分钟压缩到 10 分钟，降幅 78%。
AWS 官方博客发布教程，演示用 Lambda Durable Functions、Amazon EventBridge 与 Amazon Bedrock 在 AWS DevOps Agent 完成根因分析后自动推进修复。
推荐理由：给出把调查摘要转成可一键批准修复动作的端到端参考架构，并把只读自治与变更操作审批分离的模式留给读者复用。
miniTE 开源框架通过数值与系统优化，弥合原生 NVFP4（W4A4）强化学习中的训练与推理执行差距。相同权重和精度并不保证相同策略，不同引擎的数值执行差异可能造成训练与推理不匹配并使 RL 失稳；严格对齐设置可将 log-probability 差距降至约 1e-8。
推荐理由：miniTE 从数值和系统两侧拆解原生 NVFP4 强化学习的训练与推理差异，并公开诊断工具、算子和训练配方，为低比特 RL 复现提供可操作材料。
电信运营商正将 AI 战略建立在开源模型之上，NVIDIA 最新电信 AI 报告显示 89% 受访运营商认为开源模型对其 AI 战略至关重要。开源模型可降低前沿智能成本、支持基于自有数据微调，并便于跨云与边缘环境灵活部署。
X-energy 开发的 Xe-100 小型模块化反应堆采用氦气冷却与 TRISO 燃料，单机可输出 80 MW 电力或高温工艺热，主要面向工业脱碳与数据中心供电需求。
Naver AI 提出循环式投机解码方法 DLoop，在目标模型验证前自适应执行多轮草稿生成并一次性验证全部 token，减少目标模型前向传播次数。该方法在 EAGLE-3、DFlash、Domino、DSpark 及多 token 预测模块上将 wall-clock 加速提升 5%-41%，并保持无损解码；配套的循环感知训练让草稿模型在额外草稿阶段保持可靠。
推荐理由：原文提出循环式投机解码策略，在验证前合并多轮草稿生成，可叠加在多种已有方案上额外提速 5%-41%。
VisionWeave 为多模态大模型引入端到端学习弹性视觉表征的能力，结合门控空间池化器与粒度路由器两个组件。基于 Qwen3.8-27B（自蒸馏训练超过 30K A100 GPU 小时），平均节省 43.0% token 同时在八个基准上保持 98.9% 原生性能，显著优于固定 50% 剪枝基线仅保留的 88%。
推荐理由：给出了在多模态大模型中端到端学习弹性视觉表征的具体方法，并以 token 节省与吞吐数据展示相对固定剪枝方案的效率优势。
SoloQ 提出面向扩散语言模型的免校准后训练量化框架，用结构化 K-RPBH 旋转与轻量重缩放把权重和激活映射到可预测分布，从而支持分布匹配码本和硬件原生 NVFP4。
推荐理由：提出面向扩散语言模型的免校准量化方法，保留 4-bit 精度并给出 NVFP4 部署下的显存与推理加速数据。
MetaKernelBench 是一个面向 GPU kernel 优化智能体的评测基准，包含 74 道题（分属 6 类 fused subgraph，每题配 CuTe DSL 和 TIRx 两个变体），衡量智能体从一个 DSL 提炼的经验能否迁移到同一问题的另一 DSL。
推荐理由：它把 kernel 优化智能体的能力评估从代码本身扩展到经验能否跨 DSL 复用，并给出 6 个模型的具体迁移幅度。
Anthropic 投入 1 亿美元推出 Claude Frontier Academy，计划在 2027 年底前培训 1 万名 Frontier Deployed Engineer。
推荐理由：Anthropic 以培养自家工程师的标准对外培训客户与合作伙伴人才，合作名单与训练路径给出了规模与时间表。
OpenAI 发布 GPT-6 模型家族实用指南，介绍如何根据能力、推理力度和延迟在 GPT-6 Astra、Sol 与 Luna 之间取舍，并通过提示词缓存（最多减少 95% 成本）、compaction 与监控管理生产中的成本与上下文。
推荐理由：原文给出模型选型、推理级别与提示词配置的具体取舍方法，可帮助读者把 GPT-6 接到生产链路里。
AWS 博客提出 Adjudicated Query 设计模式，把 Amazon Quick 作为聊天入口，由确定性规则引擎完成合规判定，模型只把自然语言翻译成有限 MCP 工具调用并复述结果，判定环节不调用大模型。
推荐理由：原文给出把生成式 AI 限制在对话层、把合规判定留在确定性规则引擎的 Adjudicated Query 架构，并附可部署参考实现，便于迁移到制裁筛查、保险理赔等高风险场景。
DGX Spark 64GB 配置将于 10 月 23 日通过 Acer、ASUS、Dell、Gigabyte、HP、MSI 开售，起售价 $4,999，搭载 GB10 Grace Blackwell Superchip，可本地运行最高 100B 参数模型。
推荐理由：DGX Spark 64GB 把本地 AI 部署门槛压到 $4,999，双机集群可扩展到 200B 参数并带来约 1.7 倍性能，给本地与云端工作流的成本对比提供了一个具体参考点。
openJiuwen（华为2012实验室等团队）开源自演进模型路由技术 X-Router，在 Agent 与模型之间引入路由层，按任务复杂度动态选模并通过反馈闭环持续优化。
推荐理由：提供了按任务复杂度动态选模在 PinchBench 和 Terminal-Bench 上的成本与得分对照数据，对评估 Agent 多模型调用时的成本控制有具体参考价值。
AWS Professional Services 在 Amazon Bedrock AgentCore 上推出四智能体云迁移架构，在一个 300+ 应用迁移项目里把单应用 IaC 开发时间从 3 到 4 周压缩到分钟级（数据来自内部项目跟踪）。
推荐理由：给出了四智能体模式的代码与架构细节，以及 MCP 工具与 Bedrock Guardrails 的接入方式，可作为云迁移或 IaC 自动化的参考实现。
Amazon Payments 用 LinUCB 上下文 bandit 在 Amazon SageMaker AI 上做整漏斗多目标个性化，7 周 A/B 测试中一位客群获得高单数位的最终转化相对提升，另一客群则未见改进。
推荐理由：Amazon Payments 给出 LinUCB 上下文 bandit 在 SageMaker AI 上做整漏斗个性化的生产架构与 Python 代码，含上线后人群分化的经验。
台湾统一企业集团旗下数字平台 uniopen 通过 Amazon SageMaker AI 对 Amazon Nova 2 Lite 进行监督微调并叠加提示词级优化，使其适配自有零售内容审核策略。
Allenai 发布开源训练框架 Olmo-core 3，将 MoE 训练基础设施扩展到万亿参数规模。
推荐理由：Olmo-core 3 把万亿参数 MoE 的训练栈完整开源，并附带各项优化在 B300 上的实测对比，为后续训练基础设施的复现与改写提供了具体基准。
NVIDIA 将 AI 工厂的投资回报最大化归结为生产力、耐久性与通用性三大特性。SemiAnalysis AgentX 数据显示，Vera Rubin NVL72 较 GB300 NVL72 每兆瓦吞吐量提升超 30 倍，在 DeepSeek V4 Pro 模型上单百万 token 成本最高降低 45 倍。CUDA 跨代兼容令 2020 年出货的 A100 GPU 服役至今仍持续创造收益。
Ai2 发布开源训练基础设施 Olmo-core 3，面向大模型 MoE 架构设计，可扩展到万亿参数规模。系统从 FSDP 切到 DDP，保留专家权重驻留在 GPU 上；在 8 张 NVIDIA B300 GPU 上，47B 参数 MoE 吞吐约 52,000 tokens/s/GPU，较旧实现约 2.7 倍。
推荐理由：完整公开了面向万亿参数 MoE 的训练栈设计、关键优化和吞吐量基准数据，对自建大模型训练系统的团队有参考价值。
Amazon Bedrock 在首尔区域上线 Claude Opus 5 与 Claude Sonnet 5、在新加坡区域上线 Claude Sonnet 5 的区域内推理能力，请求与数据全程不离开所调用的 AWS 区域。
推荐理由：介绍在首尔和新加坡区域使用 Bedrock 调用 Claude Opus 5 与 Sonnet 5 的方式，便于有本地数据驻留需求的用户评估接入路径。
GitHub Copilot 应用重构了 Pull Request 视图，在面对 2200 个文件、超百万行改动和 400 多条评审评论的极端开源 PR 时仍保持流畅渲染。
推荐理由：原文把巨大 PR 渲染拆成虚拟化、动态块测量与滚动锚定三部分，给出了在评论高度不可预测时仍保持流畅的实现路径，技术思路可迁移到其他长列表场景。
Sakeena Fiza 是 NVIDIA 数据中心系统工程实验室的验证工程师，专责在新品量产前以极端条件压测整机系统，曾见证 NVIDIA Rubin GPU 首次在系统级成功点亮。她的工作覆盖固件、硬件、软件、热设计与制造全链路协同，单块板卡含数万个元器件，单机柜接近 50 万颗部件。
OpenAI 为 GPT-6 推出改进版提示词缓存系统，默认缓存命中率更高，对 30 分钟窗口内复用的前缀提供最高 90% 的输入 token 折扣。新增 Prompt Caching Dashboard、缓存诊断工具、显式缓存断点、推理力度调整推理不破坏缓存以及缓存预热等能力。
推荐理由：GPT-6 的缓存系统更新给出更高的默认命中率和监控工具，文中合作方数据可作为 Agent 类应用优化成本与延迟的参考。
NVIDIA 在 ROSCon 大会发布 Isaac ROS 5.0，新增对 ROS Lyrical 与 Ubuntu 24.04 的支持，并引入面向 AI 智能体的开发流程。
推荐理由：Isaac ROS 5.0 把 AI 智能体工作流引入 ROS 开源生态，并打通从 Jetson Orin Nano 到 Jetson Thor 的端侧部署路径，读者可据此了解当前具身智能开发栈的具体形态。
Transformers 新增对 GGUF 格式模型的直接加载支持，可通过 from_pretrained 配合 gguf_file 参数运行 Unsloth 等发布的 GGUF 量化检查点。
推荐理由：transformers 现已原生支持 GGUF 模型加载，通过复用 ggml Metal kernel 在 Apple Silicon 上获得接近 llama.cpp 的本地推理速度。
NVIDIA 推出 DSX Ready 认证计划，为 AI 工厂的电力和散热产品提供资质审核，首批纳入电池储能系统（BESS）和冷却分配单元（CDU）两类。首批通过认证的 BESS 供应商包括 Hitachi Energy、LG Energy Solution 和 Tesla，CDU 供应商包括 LG Electronics、LiquidStack 和 Vertiv。