达摩院玄铁发布车规处理器E908A和自动驾驶产品路线图
达摩院在RISC-V中国峰会上发布车规增强处理器玄铁E908A和面向自动驾驶、具身智能的处理器产品路线图。E908A是首款同时满足ASIL-B和ASIL-D标准的RISC-V CPU IP,单点安全度量SPFM首次超过90%;下一代C950A目标性能达到现有RISC-V车规产品的5倍。
推荐理由:原文给出玄铁E908A车规IP与下一代C950A性能目标,便于评估RISC-V在车载领域相对X86和Arm的落地节奏
达摩院在RISC-V中国峰会上发布车规增强处理器玄铁E908A和面向自动驾驶、具身智能的处理器产品路线图。E908A是首款同时满足ASIL-B和ASIL-D标准的RISC-V CPU IP,单点安全度量SPFM首次超过90%;下一代C950A目标性能达到现有RISC-V车规产品的5倍。
推荐理由:原文给出玄铁E908A车规IP与下一代C950A性能目标,便于评估RISC-V在车载领域相对X86和Arm的落地节奏
Amazon Bedrock 现已在 bedrock-runtime 和 bedrock-mantle 两个端点上为全部 Anthropic Claude 模型上线结构化输出并进入正式可用,通过受约束解码在生成阶段强制模型遵循 JSON Schema,避免事后校验与重试。
推荐理由:原文给出了受约束解码的原理与两条端点的启用方式,读者可直接判断如何迁移到符合 schema 的输出。
Amazon SageMaker Studio 推出新 AWS 注册体验,新客户可用 Google、GitHub、Apple 或邮箱账号在 2-3 步内完成注册。
推荐理由:原文给出新注册流程与预配置环境的变化,开发者可据此评估如何用免费额度快速接入 GPU 完成模型部署。
Amazon SageMaker JumpStart 在 2026 年前 9 个月新增来自 30 家供应商的 100 多款模型,覆盖千问(Qwen)、NVIDIA、Google、Mistral 等多家厂商。
推荐理由:原文梳理了 2026 年 1–9 月上线的 100 多款模型和多项部署增强,读者可以据此了解 JumpStart 的当前覆盖范围。
AKV 提出缓存工程方案,让大语言模型智能体在不修改轨迹的情况下直接管理活跃 KV cache。智能体可用 drop 操作将选定缓存排除出后续注意力计算,或用 repos 操作调整保留键的位置编码;配套服务引擎提供兼容现有 serving API 的无状态接口,并在内部管理有状态缓存复用、淘汰和恢复。
推荐理由:AKV的滚动丢弃策略在基准测试中与阈值触发摘要比较,量化了平均分、成本、吞吐和P95延迟的差异。
HyperDrone 提出一款GPU加速四旋翼模拟器,以每秒数百万帧渲染高保真观测,并支持视觉策略从仿真迁移到实机。其批处理仿真速度比现有先进四旋翼批处理模拟器快20x以上,HyperLux支持Nvidia OptiX、Vulkan、Apple Metal和WebGPU后端,并可输出RGB、深度、语义或实例分割、表面法线和光流观测。
推荐理由:论文报告批处理仿真速度比同类方案快20x以上,并验证纯仿真训练的偏航控制策略可迁移至Crazyflie实机,适合作为高速具身仿真的对照案例。
RLSplat 提出资源线性预算可控的前馈 3D Gaussian Splatting 框架,使表示规模、推理延迟和峰值内存随高斯预算降低而线性下降。框架学习区域分配策略,恰好生成指定数量的高斯,并通过高效分层邻居搜索让每个高斯只关注邻近高斯,取代先密集预测再剪枝或筛选的路径。
推荐理由:论文将高斯预算按局部区域分配,并用局部注意力完成解码,提供了让资源开销随高斯数量线性下降的实现思路。
TorchNeuron 是面向 AWS Trainium 的新 PyTorch 后端,Hugging Face Transformers、Diffusers、Accelerate、PEFT 与 TRL 等库已原生支持,2026 年 10 月 20 日起进入公开测试。
推荐理由:给出了 TorchNeuron 替代 Optimum Neuron 的迁移路径,以及推理与 TRL 微调脚本的可复用写法。
vLLM 引入双向 KV 缓存传输机制,让 P-D 分离部署中的 decode 节点把保留的 KV 回传给 prefill 复用,从而降低多轮智能体场景的反复预填充开销。
推荐理由:在 1P1D 部署上以 Qwen3-32B 与 GLM-5-FP8 对比双向与单向 KV 传输的 TTFT 数据,读者可据此判断多轮智能体场景下是否值得启用。
AWS 工程师向开源推理引擎 vLLM 贡献了基于推送模式的 NIXL KV 传输连接器,将传输准备移到后台线程以缩短到首个 token 的关键路径。在 EC2 P5en 搭配 EFA 的 1P1D 部署中以 Qwen3-32B 基准测试,高负载下推送模式 TTFT 最高约为拉取模式的 3 倍,TPOT 改善约 30%;拉取模式仍适用于需要负载感知路由的工作负载。
推荐理由:给出了在 vLLM 中实现 push 模式 KV 传输的架构与复现步骤,读者可在自己的拆分解码部署中参考其后台线程与注册时机设计。
Deepgram 与 AWS Forward Deployed Engineering 团队合作,将 Nova-3 语音转文字模型移植到 AWS Trainium2,在离线批量任务上每美元可处理的音频量较此前方案提升 11–70%。
推荐理由:完整记录 Nova-3 移植到 Trainium2 的工程步骤与吞吐成本收益,可作为同类语音模型推理优化的实操参照。
NVIDIA 在柏林宣布两项合作:与欧洲广播联盟 EBU 扩展去年提出的主权云框架,引入 Microsoft Sovereign Cloud、Nebius 与 Nemotron 开源模型。
推荐理由:原文给出了 EBU 主权云框架扩展与 Frame.io 视频搜索加速的合作方和技术指标,可对照了解 AI 智能体在广电领域的部署方式。
一项分析两个扩散语言模型、覆盖10项任务的研究发现,每个token所需的前向传播次数高度依赖任务,开放式写作成本高于复制或轻量编辑。在 DiffusionGemma 中,故事写作每个token需要超过语法纠错3倍的前向传播,输出相对输入的新颖度与词汇在任务中的稀有度解释了大部分差异。
推荐理由:研究量化了任务、语言和答案正确性对解码成本的影响,并给出按解码速度加权候选答案的低成本方法。
SpecKCast 提出无需训练的扩散模型推理加速方法,以 2D DCT 分解输出,并用逐频带 Kalman 滤波和自适应步长调度预测跳步结果。在 FLUX.1-dev、Qwen-Image、Wan2.1-14B 和 HunyuanVideo 上,该方法最高实现 6x 加速,额外内存低于 0.05 GiB,较现有缓存和预测方法呈现更好的加速与保真度权衡。
推荐理由:论文将频域分带 Kalman 预测与不确定性触发的自适应跳步结合,为扩散模型缓存优化提供了一种可迁移的方法。
腾讯混元在 Hugging Face 开源长记忆写入模型 Hy-Memory-30B-A3B 的 FP8 量化版(约 3B 激活参数),可在 Mem0、MemOS、Hy-Memory 等记忆框架中替代通用大模型。
推荐理由:原文给出长记忆写入模型的架构、两阶段训练流程与跨框架评测对比,附开源代码与权重,可作为 Agent 框架中记忆层替换通用大模型的参考。
范式智能联合睿思智联推出一站式生产级 AI 部署平台「模域 ModelSphere」,已在 GitHub 以 Apache 2.0 协议免费开源。
推荐理由:原文给出了该开源平台在多芯片适配和模型支持上的具体清单,为评估国产算力部署方案的团队提供了一处可参照的工程选项。
AWS SMGS 团队基于 Amazon Bedrock AgentCore 构建了一套覆盖智能体全生命周期的九阶段评估框架,从定义质量标准(Stage 1)到反馈循环(Stage 9),在工具、Agent 和多 Agent 三个层级同时运行。
推荐理由:原文给出九阶段智能体评估框架与可量化的改进结果,可作为构建生产级智能体质量体系的参考。
EdgeKernelBench 与 LEKA 提出面向异构边缘后端的 LLM 内核生成统一评估和分层优化框架。EdgeKernelBench 通过统一 IR 和编译器接口连接目标后端,以 TVM 为参考编译器验证,基准范围从单个算子逐步扩展到紧凑模型图。
推荐理由:论文以统一 IR 跨边缘后端评估内核生成,并比较 LEKA、直接生成与 Claude Code 的性能达标结果。
MambaAct 用紧凑的 Mamba 动作专家替换 π0.5 的 Transformer 动作专家,并通过轻量级 Context Compressor 压缩 VLM token,以降低流匹配 VLA 的去噪推理开销。
推荐理由:MambaAct 同时给出动作专家规模、LIBERO 与真实机器人上的延迟和成功率变化,便于对照具身智能模型推理优化的工程收益。
基元律动(Token Rhythm)宣布开发者入驻超30万,同期开启双11预售福利:单笔充值满50元即获等额模型调用额度,一个API Key可调用平台全量模型,赠额永久有效。平台自称"中国版OpenRouter",搭配自研开源智能体OpenSquilla实现多模型智能融合路由,此前已与无问芯穹、阿里云签署战略合作。
Meta 开源多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B,上下文窗口达 1M tokens。
推荐理由:文章同时给出 816B 多模态 MoE 模型的架构、推理与微调命令,并附 llama.cpp、vLLM、SGLang 实测,便于直接对照复用。
NVIDIA 发布开源 Nemotron 3.5 Super VL,并推出端侧模型 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Nemotron 3.5 Bolt E4B 4GB,覆盖从企业服务器到本地及边缘设备的智能体部署。
推荐理由:三款模型覆盖企业服务器到 4GB 端侧设备,并给出参数规模、速度、基准与部署路径,便于比较不同智能体场景的选型。
Mistral 发布首个时序基础模型家族 Timestral,提供 5M、28M、123M 和 209M 四档参数量,最大 209M 模型在 GIFT-Eval、TIME、fev-bench 三个公开榜单的零样本预训练模型中均排名第一,参数规模仅为此前 SOTA 的约三分之二。
推荐理由:以 209M 参数在 GIFT-Eval、TIME、fev-bench 三个榜单同时位列零样本预训练模型第一,并给出与 Chronos-2、TimesFM-3 等更大模型的对比数据。
NVIDIA 在官方博客中披露过去一年对北欧算力生态的密集投入,包括投资 Lovable、Legora 等瑞典 AI 独角兽、联合爱立信等公司在瑞典上线两套 DGX GB300 超算(1152 个 GPU)。
推荐理由:原文把分散在独角兽投资、超算建设和开源模型应用上的公告合并呈现,读者可一次看清 NVIDIA 在欧洲的算力合作抓手。
MiniCPM-V-4.7-1B-DSpark 是面壁为 MiniCPM-V-4.7-1B 配套的 DSpark 推测解码草稿模型,本次发布其在 llama.cpp 下的 GGUF 量化版本。
Tamnoon 基于 Amazon Bedrock 构建了智能体云安全修复编排器 Tami,由调查、安全评分、修复执行和代码生成四个专用 AI 智能体协作处理云配置问题。该方案在 90 天内将关键云风险暴露降低超过 90%,且未引发任何生产事故。Tami 覆盖 AWS、Azure、Google Cloud 等多云环境,所有调查、优先级排序和修复方案验证在接触生产环境前完成。
AWS 官方博客给出基于 Amazon Bedrock AgentCore 自动生成 PowerPoint 演示文稿的完整教程,附带 GitHub 代码仓库可直接部署。
推荐理由:AWS 官方博客给出基于 AgentCore 的可复用架构与配套代码仓库,读者可以照搬到金融报告或销售提案等其他企业文档自动化场景。
AWS 博客演示如何用 SageMaker Python SDK v3 从 Amazon SageMaker JumpStart 发现并部署模型,以 huggingface-vlm-qwen3-5-27b 为例运行示例 prompt 测量延迟和生成速率,最后清理端点。
推荐理由:给出可复用的部署与评测脚本以及控制台改进要点,读者可以据此搭建不同 JumpStart 模型之间的横向对比流程。
Amazon Bedrock AgentCore payments 与 Anchor Browser 集成,让 AI 智能体在遇到 HTTP 402 Payment Required 时自动通过 x402 协议完成付费,无需人工介入。
推荐理由:文章给出了智能体自动处理 x402 付费请求的架构拆解与代码示例,对需要让智能体独立访问付费资源的开发者有可直接迁移的参考价值。
GitHub 在 Secret Scanning 中部署了基于 ModernBERT 微调的上下文感知分类器,与此前基于 LLM 的流水线相比,仓库所有者加权告警接受率提升 11.5%,post-push 扫描执行时间中位数下降 86%,服务成本下降超过 98%。
推荐理由:原文给出了小模型替代远程 LLM 流水线的具体收益数据,可帮助读者判断何时应该用专用编码器取代通用大模型。
AWS 团队在 Amazon SageMaker AI 上公开三项 Mixture-of-Experts GPU kernel 优化,单项分别带来 2–4% 吞吐提升、10% 吞吐提升和 9% 首 token 时延下降。
推荐理由:原文给出 Swap-AB 转置、Triton 后端路由与消除 JIT 重编译三种 MoE 推理优化手段及对应吞吐与时延数据,便于在同类推理栈中复用。
无问芯穹完成23亿元C轮融资,累计融资43亿元,单轮与累计金额均创下国产AI原生基础设施赛道纪录。本轮投资方涵盖国资、产业与财务三类机构,包括百度、腾讯、红杉中国、达晨财智、启明创投等。
推荐理由:把无问芯穹的技术路径、商业化三层结构和海外AI Infra估值变化对照呈现,便于理解国产AI基础设施为何被持续重估。
NVIDIA 宣布对法国初创公司 Doctolib、Entalpic、Genesis AI 和 Pigment 的新一轮投资计划,覆盖医疗、材料发现、物理 AI 与企业规划领域。
推荐理由:NVIDIA 集中披露对法国多家初创的新一轮投资与当地在智能体基础设施、开源模型和行业落地方面的进展,可作为观察欧洲 AI 生态落地节奏的样本。
EdgeWise 是一个边云协作框架,本地端用小语言模型作为主求解器,通过逐步级强化学习把关键步骤选择性委派给云端大语言模型,无需在推理时引入额外模型。在 SWE-Rebench 和 Terminal-Bench 2.1 上,EdgeWise 性能与全程使用云端大模型相当或更优,同时推理成本最多降低 62% 和 34%。
推荐理由:在长程智能体任务上提出边云协作框架与逐步级强化学习委派策略,并给出关键设计选择的系统实验数据,可作为同类成本优化方案的设计参考。
Amazon Bedrock 在新加坡、雅加达、马来西亚、泰国、台北五个亚太源区域上线 OpenAI GPT-6 Sol 和 Luna 的全球跨区域推理,GPT-6 Astra 仅从新加坡可用。
推荐理由:给出了在五个亚太区域接入 OpenAI GPT-6 的 IAM、SCP、配额与监控配置,可直接作为企业部署参考。
AWS 博客演示如何用 Ray LLM 深度学习容器在 Amazon EKS 上跨两个 GPU 节点部署 Qwen3.5-9B 的预填充/解码分离推理,并对外暴露单一 OpenAI 兼容端点。
推荐理由:原文把 Ray LLM DLC 部署多节点预填充/解码分离推理的全过程写成 YAML 与脚本,读者可以直接复用到自己的 Amazon EKS 集群。
AWS 在 Amazon SageMaker AI 上提供基于 llama.cpp 容器的决策模型部署方案,支持 CPU 与 GPU 实例的文本生成与 SemIf 结构化决策两条路径。
推荐理由:原文给出 CPU 与 GPU 部署路径、延迟对比与 SemIf 扩展方法,读者可据此选择适配自身负载的实例类型。
NVIDIA 在 OCP 峰会向社区贡献 Vera Rubin 机架与计算模组设计,并联合多家超大规模厂商发布 AI 工厂开放标准。DSX AI Factory 新增四款开源组件,覆盖网络配置、集群验证、硬件管理与裸机部署。
推荐理由:在多家合作方推动下,Vera Rubin 与 DSX 的开放规格集中落地,能让读者看清当前 AI 工厂生态的形态。
量子位综合WSJ与SemiAnalysis等报道指出,硅谷头部AI公司已把算力视为决定模型、人才与商业进展的关键资源。
推荐理由:文章把多家头部AI公司围绕GPU的明争暗斗放在同一框架下,帮助读者看清算力如何成为模型进展与商业化的硬约束。
KV4-RL 用 INT4 KV cache 量化结合对 attention sink 和近期上下文的 INT8 保护来加速 RLVR 异步 rollout。
推荐理由:论文把 RLVR 异步 rollout 的 KV 负载集中现象做了量化,并给出兼顾 INT4 加速与采样精度的可迁移训练方案。