跳到正文
10月20日周二
  1. 量子位40

    达摩院玄铁发布车规处理器E908A和自动驾驶产品路线图

    达摩院在RISC-V中国峰会上发布车规增强处理器玄铁E908A和面向自动驾驶、具身智能的处理器产品路线图。E908A是首款同时满足ASIL-B和ASIL-D标准的RISC-V CPU IP,单点安全度量SPFM首次超过90%;下一代C950A目标性能达到现有RISC-V车规产品的5倍。

    推荐理由:原文给出玄铁E908A车规IP与下一代C950A性能目标,便于评估RISC-V在车载领域相对X86和Arm的落地节奏

  2. AWS Machine Learning Blog77

    Amazon Bedrock 为 Anthropic Claude 模型上线结构化输出功能

    Amazon Bedrock 现已在 bedrock-runtime 和 bedrock-mantle 两个端点上为全部 Anthropic Claude 模型上线结构化输出并进入正式可用,通过受约束解码在生成阶段强制模型遵循 JSON Schema,避免事后校验与重试。

    推荐理由:原文给出了受约束解码的原理与两条端点的启用方式,读者可直接判断如何迁移到符合 schema 的输出。

  3. AWS Machine Learning Blog41

    Amazon SageMaker JumpStart 2026 年度回顾

    Amazon SageMaker JumpStart 在 2026 年前 9 个月新增来自 30 家供应商的 100 多款模型,覆盖千问(Qwen)、NVIDIA、Google、Mistral 等多家厂商。

    推荐理由:原文梳理了 2026 年 1–9 月上线的 100 多款模型和多项部署增强,读者可以据此了解 JumpStart 的当前覆盖范围。

  4. HF Daily Papers45

    AKV 提出面向智能体的缓存工程方法

    AKV 提出缓存工程方案,让大语言模型智能体在不修改轨迹的情况下直接管理活跃 KV cache。智能体可用 drop 操作将选定缓存排除出后续注意力计算,或用 repos 操作调整保留键的位置编码;配套服务引擎提供兼容现有 serving API 的无状态接口,并在内部管理有状态缓存复用、淘汰和恢复。

    推荐理由:AKV的滚动丢弃策略在基准测试中与阈值触发摘要比较,量化了平均分、成本、吞吐和P95延迟的差异。

  5. HF Daily Papers47

    HyperDrone 四旋翼模拟器实现每秒数百万帧的仿真到现实迁移

    HyperDrone 提出一款GPU加速四旋翼模拟器,以每秒数百万帧渲染高保真观测,并支持视觉策略从仿真迁移到实机。其批处理仿真速度比现有先进四旋翼批处理模拟器快20x以上,HyperLux支持Nvidia OptiX、Vulkan、Apple Metal和WebGPU后端,并可输出RGB、深度、语义或实例分割、表面法线和光流观测。

    推荐理由:论文报告批处理仿真速度比同类方案快20x以上,并验证纯仿真训练的偏航控制策略可迁移至Crazyflie实机,适合作为高速具身仿真的对照案例。

  6. HF Daily Papers43

    RLSplat 提出前馈 3D Gaussian Splatting 的资源线性预算控制框架

    RLSplat 提出资源线性预算可控的前馈 3D Gaussian Splatting 框架,使表示规模、推理延迟和峰值内存随高斯预算降低而线性下降。框架学习区域分配策略,恰好生成指定数量的高斯,并通过高效分层邻居搜索让每个高斯只关注邻近高斯,取代先密集预测再剪枝或筛选的路径。

    推荐理由:论文将高斯预算按局部区域分配,并用局部注意力完成解码,提供了让资源开销随高斯数量线性下降的实现思路。

  7. AWS Machine Learning Blog49

    在 vLLM 中通过双向 KV 传输改善多轮智能体工作负载的 TTFT

    vLLM 引入双向 KV 缓存传输机制,让 P-D 分离部署中的 decode 节点把保留的 KV 回传给 prefill 复用,从而降低多轮智能体场景的反复预填充开销。

    推荐理由:在 1P1D 部署上以 Qwen3-32B 与 GLM-5-FP8 对比双向与单向 KV 传输的 TTFT 数据,读者可据此判断多轮智能体场景下是否值得启用。

  8. AWS Machine Learning Blog54

    vLLM 中基于推送模式的 KV 传输降低拆分解码推理的 TTFT 与 TPOT

    AWS 工程师向开源推理引擎 vLLM 贡献了基于推送模式的 NIXL KV 传输连接器,将传输准备移到后台线程以缩短到首个 token 的关键路径。在 EC2 P5en 搭配 EFA 的 1P1D 部署中以 Qwen3-32B 基准测试,高负载下推送模式 TTFT 最高约为拉取模式的 3 倍,TPOT 改善约 30%;拉取模式仍适用于需要负载感知路由的工作负载。

    推荐理由:给出了在 vLLM 中实现 push 模式 KV 传输的架构与复现步骤,读者可在自己的拆分解码部署中参考其后台线程与注册时机设计。

  9. AWS Machine Learning Blog38

    Deepgram 如何借助 AWS Trainium 规模化优化语音 AI 推理

    Deepgram 与 AWS Forward Deployed Engineering 团队合作,将 Nova-3 语音转文字模型移植到 AWS Trainium2,在离线批量任务上每美元可处理的音频量较此前方案提升 11–70%。

    推荐理由:完整记录 Nova-3 移植到 Trainium2 的工程步骤与吞吐成本收益,可作为同类语音模型推理优化的实操参照。

10月19日周一
  1. NVIDIA Blog36

    NVIDIA 携手 EBU 扩展欧洲公共媒体主权云框架,并加速 Adobe Frame.io 视频搜索

    NVIDIA 在柏林宣布两项合作:与欧洲广播联盟 EBU 扩展去年提出的主权云框架,引入 Microsoft Sovereign Cloud、Nebius 与 Nemotron 开源模型。

    推荐理由:原文给出了 EBU 主权云框架扩展与 Frame.io 视频搜索加速的合作方和技术指标,可对照了解 AI 智能体在广电领域的部署方式。

  2. HF Daily Papers48

    扩散语言模型在不同任务和语言中的解码速度研究

    一项分析两个扩散语言模型、覆盖10项任务的研究发现,每个token所需的前向传播次数高度依赖任务,开放式写作成本高于复制或轻量编辑。在 DiffusionGemma 中,故事写作每个token需要超过语法纠错3倍的前向传播,输出相对输入的新颖度与词汇在任务中的稀有度解释了大部分差异。

    推荐理由:研究量化了任务、语言和答案正确性对解码成本的影响,并给出按解码速度加权候选答案的低成本方法。

  3. HF Daily Papers35

    SpecKCast 通过频域 Kalman 预测加速扩散模型推理

    SpecKCast 提出无需训练的扩散模型推理加速方法,以 2D DCT 分解输出,并用逐频带 Kalman 滤波和自适应步长调度预测跳步结果。在 FLUX.1-dev、Qwen-Image、Wan2.1-14B 和 HunyuanVideo 上,该方法最高实现 6x 加速,额外内存低于 0.05 GiB,较现有缓存和预测方法呈现更好的加速与保真度权衡。

    推荐理由:论文将频域分带 Kalman 预测与不确定性触发的自适应跳步结合,为扩散模型缓存优化提供了一种可迁移的方法。

10月18日周日
  1. 腾讯混元49

    腾讯混元开源长记忆写入模型 Hy-Memory-30B-A3B 的 FP8 量化版

    腾讯混元在 Hugging Face 开源长记忆写入模型 Hy-Memory-30B-A3B 的 FP8 量化版(约 3B 激活参数),可在 Mem0、MemOS、Hy-Memory 等记忆框架中替代通用大模型。

    推荐理由:原文给出长记忆写入模型的架构、两阶段训练流程与跨框架评测对比,附开源代码与权重,可作为 Agent 框架中记忆层替换通用大模型的参考。

10月17日周六
  1. 量子位47

    范式智能联合睿思智联开源上线一站式 AI 部署平台「模域 ModelSphere」

    范式智能联合睿思智联推出一站式生产级 AI 部署平台「模域 ModelSphere」,已在 GitHub 以 Apache 2.0 协议免费开源。

    推荐理由:原文给出了该开源平台在多芯片适配和模型支持上的具体清单,为评估国产算力部署方案的团队提供了一处可参照的工程选项。

  2. AWS Machine Learning Blog44

    AWS 基于 Amazon Bedrock AgentCore 构建九阶段 AI 智能体评估框架

    AWS SMGS 团队基于 Amazon Bedrock AgentCore 构建了一套覆盖智能体全生命周期的九阶段评估框架,从定义质量标准(Stage 1)到反馈循环(Stage 9),在工具、Agent 和多 Agent 三个层级同时运行。

    推荐理由:原文给出九阶段智能体评估框架与可量化的改进结果,可作为构建生产级智能体质量体系的参考。

  3. HF Daily Papers47

    EdgeKernelBench:统一评估异构边缘后端的 LLM 内核生成

    EdgeKernelBench 与 LEKA 提出面向异构边缘后端的 LLM 内核生成统一评估和分层优化框架。EdgeKernelBench 通过统一 IR 和编译器接口连接目标后端,以 TVM 为参考编译器验证,基准范围从单个算子逐步扩展到紧凑模型图。

    推荐理由:论文以统一 IR 跨边缘后端评估内核生成,并比较 LEKA、直接生成与 Claude Code 的性能达标结果。

10月16日周五
  1. HF Daily Papers40

    MambaAct:流匹配视觉-语言-动作模型的高效 Mamba 动作专家

    MambaAct 用紧凑的 Mamba 动作专家替换 π0.5 的 Transformer 动作专家,并通过轻量级 Context Compressor 压缩 VLM token,以降低流匹配 VLA 的去噪推理开销。

    推荐理由:MambaAct 同时给出动作专家规模、LIBERO 与真实机器人上的延迟和成功率变化,便于对照具身智能模型推理优化的工程收益。

  2. 量子位26

    基元律动宣布开发者入驻超30万,开启双11预售福利

    基元律动(Token Rhythm)宣布开发者入驻超30万,同期开启双11预售福利:单笔充值满50元即获等额模型调用额度,一个API Key可调用平台全量模型,赠额永久有效。平台自称"中国版OpenRouter",搭配自研开源智能体OpenSquilla实现多模型智能融合路由,此前已与无问芯穹、阿里云签署战略合作。

  3. NVIDIA Blog72

    NVIDIA 开源 Nemotron 3.5 Super VL 与 Bolt 74B-A9B 24GB、Bolt E4B 4GB

    NVIDIA 发布开源 Nemotron 3.5 Super VL,并推出端侧模型 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Nemotron 3.5 Bolt E4B 4GB,覆盖从企业服务器到本地及边缘设备的智能体部署。

    推荐理由:三款模型覆盖企业服务器到 4GB 端侧设备,并给出参数规模、速度、基准与部署路径,便于比较不同智能体场景的选型。

10月15日周四
  1. Mistral AI57

    Mistral 发布首个时序基础模型家族 Timestral

    Mistral 发布首个时序基础模型家族 Timestral,提供 5M、28M、123M 和 209M 四档参数量,最大 209M 模型在 GIFT-Eval、TIME、fev-bench 三个公开榜单的零样本预训练模型中均排名第一,参数规模仅为此前 SOTA 的约三分之二。

    推荐理由:以 209M 参数在 GIFT-Eval、TIME、fev-bench 三个榜单同时位列零样本预训练模型第一,并给出与 Chronos-2、TimesFM-3 等更大模型的对比数据。

  2. NVIDIA Blog35

    NVIDIA 官博盘点北欧算力生态,覆盖独角兽投资、DGX GB300 超算与 Nemotron 模型落地

    NVIDIA 在官方博客中披露过去一年对北欧算力生态的密集投入,包括投资 Lovable、Legora 等瑞典 AI 独角兽、联合爱立信等公司在瑞典上线两套 DGX GB300 超算(1152 个 GPU)。

    推荐理由:原文把分散在独角兽投资、超算建设和开源模型应用上的公告合并呈现,读者可一次看清 NVIDIA 在欧洲的算力合作抓手。

10月14日周三
  1. AWS Machine Learning Blog23

    Tamnoon 如何基于 Amazon Bedrock 构建 AI 云安全修复助手 Tami

    Tamnoon 基于 Amazon Bedrock 构建了智能体云安全修复编排器 Tami,由调查、安全评分、修复执行和代码生成四个专用 AI 智能体协作处理云配置问题。该方案在 90 天内将关键云风险暴露降低超过 90%,且未引发任何生产事故。Tami 覆盖 AWS、Azure、Google Cloud 等多云环境,所有调查、优先级排序和修复方案验证在接触生产环境前完成。

  2. AWS Machine Learning Blog35

    使用 Amazon Bedrock AgentCore 自动生成 PPT 演示文稿

    AWS 官方博客给出基于 Amazon Bedrock AgentCore 自动生成 PowerPoint 演示文稿的完整教程,附带 GitHub 代码仓库可直接部署。

    推荐理由:AWS 官方博客给出基于 AgentCore 的可复用架构与配套代码仓库,读者可以照搬到金融报告或销售提案等其他企业文档自动化场景。

  3. AWS Machine Learning Blog37

    Amazon SageMaker JumpStart 模型部署与性能评测教程

    AWS 博客演示如何用 SageMaker Python SDK v3 从 Amazon SageMaker JumpStart 发现并部署模型,以 huggingface-vlm-qwen3-5-27b 为例运行示例 prompt 测量延迟和生成速率,最后清理端点。

    推荐理由:给出可复用的部署与评测脚本以及控制台改进要点,读者可以据此搭建不同 JumpStart 模型之间的横向对比流程。

  4. AWS Machine Learning Blog46

    使用 Anchor Browser 与 AgentCore payments 构建可自动付费的 AI 智能体

    Amazon Bedrock AgentCore payments 与 Anchor Browser 集成,让 AI 智能体在遇到 HTTP 402 Payment Required 时自动通过 x402 协议完成付费,无需人工介入。

    推荐理由:文章给出了智能体自动处理 x402 付费请求的架构拆解与代码示例,对需要让智能体独立访问付费资源的开发者有可直接迁移的参考价值。

  5. GitHub Blog · AI & ML55

    GitHub 用 ModernBERT 分类器升级密钥扫描,提升精度并降低成本

    GitHub 在 Secret Scanning 中部署了基于 ModernBERT 微调的上下文感知分类器,与此前基于 LLM 的流水线相比,仓库所有者加权告警接受率提升 11.5%,post-push 扫描执行时间中位数下降 86%,服务成本下降超过 98%。

    推荐理由:原文给出了小模型替代远程 LLM 流水线的具体收益数据,可帮助读者判断何时应该用专用编码器取代通用大模型。

10月13日周二
  1. AWS Machine Learning Blog39

    Amazon SageMaker AI 上的 Mixture-of-Experts 模型 kernel 优化实践

    AWS 团队在 Amazon SageMaker AI 上公开三项 Mixture-of-Experts GPU kernel 优化,单项分别带来 2–4% 吞吐提升、10% 吞吐提升和 9% 首 token 时延下降。

    推荐理由:原文给出 Swap-AB 转置、Triton 后端路由与消除 JIT 重编译三种 MoE 推理优化手段及对应吞吐与时延数据,便于在同类推理栈中复用。

  2. 量子位57

    无问芯穹完成23亿元C轮融资,单轮与累计金额均刷新国产AI Infra赛道纪录

    无问芯穹完成23亿元C轮融资,累计融资43亿元,单轮与累计金额均创下国产AI原生基础设施赛道纪录。本轮投资方涵盖国资、产业与财务三类机构,包括百度、腾讯、红杉中国、达晨财智、启明创投等。

    推荐理由:把无问芯穹的技术路径、商业化三层结构和海外AI Infra估值变化对照呈现,便于理解国产AI基础设施为何被持续重估。

  3. NVIDIA Blog40

    NVIDIA 宣布对法国四家初创的新投资,并披露当地智能体生态进展

    NVIDIA 宣布对法国初创公司 Doctolib、Entalpic、Genesis AI 和 Pigment 的新一轮投资计划,覆盖医疗、材料发现、物理 AI 与企业规划领域。

    推荐理由:NVIDIA 集中披露对法国多家初创的新一轮投资与当地在智能体基础设施、开源模型和行业落地方面的进展,可作为观察欧洲 AI 生态落地节奏的样本。

  4. HF Daily Papers43

    EdgeWise:通过选择性云端委派让长程智能体在边缘端运行

    EdgeWise 是一个边云协作框架,本地端用小语言模型作为主求解器,通过逐步级强化学习把关键步骤选择性委派给云端大语言模型,无需在推理时引入额外模型。在 SWE-Rebench 和 Terminal-Bench 2.1 上,EdgeWise 性能与全程使用云端大模型相当或更优,同时推理成本最多降低 62% 和 34%。

    推荐理由:在长程智能体任务上提出边云协作框架与逐步级强化学习委派策略,并给出关键设计选择的系统实验数据,可作为同类成本优化方案的设计参考。

  5. AWS Machine Learning Blog40

    通过 Amazon Bedrock 全球跨区域推理在五个亚太区域访问 OpenAI GPT-6

    Amazon Bedrock 在新加坡、雅加达、马来西亚、泰国、台北五个亚太源区域上线 OpenAI GPT-6 Sol 和 Luna 的全球跨区域推理,GPT-6 Astra 仅从新加坡可用。

    推荐理由:给出了在五个亚太区域接入 OpenAI GPT-6 的 IAM、SCP、配额与监控配置,可直接作为企业部署参考。

  6. AWS Machine Learning Blog42

    用 Ray LLM DLC 在 Amazon EKS 上部署多节点预填充/解码分离推理

    AWS 博客演示如何用 Ray LLM 深度学习容器在 Amazon EKS 上跨两个 GPU 节点部署 Qwen3.5-9B 的预填充/解码分离推理,并对外暴露单一 OpenAI 兼容端点。

    推荐理由:原文把 Ray LLM DLC 部署多节点预填充/解码分离推理的全过程写成 YAML 与脚本,读者可以直接复用到自己的 Amazon EKS 集群。

  7. NVIDIA Blog57

    NVIDIA 在 OCP 峰会开放 Vera Rubin 架构与多款 AI 工厂规格

    NVIDIA 在 OCP 峰会向社区贡献 Vera Rubin 机架与计算模组设计,并联合多家超大规模厂商发布 AI 工厂开放标准。DSX AI Factory 新增四款开源组件,覆盖网络配置、集群验证、硬件管理与裸机部署。

    推荐理由:在多家合作方推动下,Vera Rubin 与 DSX 的开放规格集中落地,能让读者看清当前 AI 工厂生态的形态。

10月11日周日
  1. 量子位55

    硅谷AI现状:谁有算力谁是爹

    量子位综合WSJ与SemiAnalysis等报道指出,硅谷头部AI公司已把算力视为决定模型、人才与商业进展的关键资源。

    推荐理由:文章把多家头部AI公司围绕GPU的明争暗斗放在同一框架下,帮助读者看清算力如何成为模型进展与商业化的硬约束。

10月10日周六