从“能调用”到“敢托付”：仪电智算云 Token 工厂的三重可信
仪电智算云 Token 工厂以生产级推理引擎和三重可信机制，推动词元服务从“能调用”走向“敢托付”。引擎采用编译优化、并行调度、弹性伸缩与异构算力纳管，支持按实际消耗的词元计费；服务运营、自主生态和安全合规则确保供给稳定、全栈国产化交付及调用可审计、可追溯。
#端侧
量子位AI 评分3333 量子位精选AI 评分7070 小米开源 HachimoDock AI 硬件，自制成本约 150 元，可指挥 Agent 并联动智能家居
小米内部创新产品团队开源了 AI 硬件 HachimoDock，硬件自制成本约 150 元，可通过语音指挥电脑端 Agent，并通过 xiaomi Miloco 联动智能家居。
推荐理由：文章把 HachimoDock 的语音交互、Agent 任务反馈、组件创作与智能家居联动串成完整使用链路，并交代源码、物料和装配教程等复刻资料。
量子位精选AI 评分4747 新芯航途发布X7 Ultra智驾芯片，700 TOPS、NPU计算利用率达98.7%
新芯航途发布X7 Ultra智驾芯片，700 TOPS，NPU计算利用率达98.7%。芯片采用超大核NPU、专用计算引擎和统一AI工具链，并以真实量产智驾模型进行“大模型算力”评测，量化输出与FP32基准模型相似度超过99.99%。官方称，相比行业旗舰产品，内存带宽消耗降低80%、能效提升100%，测试涉及Momenta的R7世界模型。
推荐理由：文章以真实量产智驾模型为测试对象，拆解X7 Ultra的NPU架构、AI工具链与车规安全设计，便于理解模型需求如何映射到端侧芯片效率。
Hugging Face Blog精选AI 评分7171 AnySpeechRecognizer 与 AnyDecisionModel 发布，支持 Apple 平台接入开放模型
AnySpeechRecognizer 与 AnyDecisionModel 两个 Swift 包发布，为 Apple 平台接入开放模型完成语音识别和结构化决策。
推荐理由：文章用词错误率、转写速度和内存占用数据对比语音引擎，并补充会议重叠语音的表现，便于评估端侧识别方案的成本与精度。
量子位精选AI 评分6868 天数智芯发布天垓300与彤央TY1200，现场对标英伟达GPU
天数智芯发布天垓300、彤央TY1200与天数智算软件栈，并在现场将两款GPU对标英伟达 H200 和 Jetson Thor T5000。现场随机文生图任务中，天垓300用时95.6秒，H200为112秒；第三方测试中其折算单卡端到端吞吐为H200的1.05倍，TY1200运行Qwen3.8-27B的性能则为Thor T5000的138%。
推荐理由：文章同时给出云端与端侧的现场对标数据，并拆解 Agent 辅助部署、调优和算子开发的效率变化，便于比较硬件与软件栈价值。
NVIDIA Blog精选AI 评分7474 NVIDIA RTX Spark Windows 笔记本开售，新增本地模型、智能体工具和游戏支持
NVIDIA RTX Spark Windows 笔记本现已由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 开售，起售价 $2,599，并新增或计划引入本地模型、智能体工具与游戏支持。
推荐理由：原文将模型能力、GPU 资源分配与本地部署条件并列呈现，读者可据此判断 RTX Spark 对轻量本地 AI 工作流的适配范围。
量子位精选AI 评分5151 千里科技4D毫米波雷达实现端到端AI处理，支持三种工作模式
千里科技在一颗4D毫米波雷达中引入端到端AI处理，从天线设计和波形生成延伸至点云检测、测角、增强、目标跟踪与分类，雷达内置10 TOPS NPU。相较上一代DSP端侧4D雷达，点云密度增强10倍、探测距离提升40%、鬼影消除提升至95%、空间角分辨力提升12倍。雷达支持边缘侧、卫星架构和兼容三种模式，可输出结构化感知结果、传输原始数据，或并行完成两类处理。
推荐理由：文章拆解千里AI雷达的边缘、卫星与兼容三种架构，呈现模型如何减少规则依赖并改变雷达与中央域控的分工。
Hugging Face Blog精选AI 评分7777 Liquid AI 发布 LFM3 多模态模型家族，六款 2B 级模型共享骨干
Liquid AI 发布 LFM3 模型家族，六款 2B 级模型共享 LFM3-1.7B-Base 骨干，覆盖文本、视觉、音频、全模态和结构化决策。LFM3-1.7B 比 LFM2.5-2.6B 少 35% 参数，文本模型在 4-bit 精度下约占 1 GB并支持 256K 上下文；LFM3-Omni-2B 可接收文本、图像、视频和音频并输出文本或语音。
推荐理由：LFM3 以同一 2B 级骨干衍生六款文本、视觉、音频、全模态与决策模型，并给出单 GPU 微调和端侧部署路径，便于评估小模型专业化方案。
面壁 MiniCPM同事件AI 评分4242 面壁发布 MiniCPM-OCR-1.0-DSpark-gguf GGUF 量化模型
面壁发布 MiniCPM-OCR-1.0-DSpark-gguf 的 GGUF 量化模型，提供 Q4_K_M 版本，可在本地加载并通过图像输入示例调用。README 给出 llama.cpp、vLLM、Ollama 和 Docker Model Runner 的安装与运行方式。
同一件事，精选收录的是《面壁开源 MiniCPM-OCR 1.0 DSpark 推测解码头，端到端处理效率提升 55%》
量子位精选AI 评分4747 联想天禧AI在观猹大会展示跨端协同，预告4.5版本升级
联想天禧AI在观猹大会展示个人AI跨端协同，4.5版本定于10月30日升级。现场演示中，用户可通过天禧AI手机语音搜集Personal Agent产品并自动生成研究报告，也能关闭系统弹窗、调高屏幕亮度。4.5版本将进一步强化记忆管理与数据隔离，现有版本则基于Harness架构，支持联网搜索、生图修图、本地文件控制、文档生成及外部MCP Server接入。
推荐理由：现场演示具体呈现了手机语音触发研究报告与设备控制的跨端流程，也补充了天禧AI 4.5版本的记忆与数据隔离方向。
量子位精选AI 评分5656 炎曦动力成立 3 个月亮相 Paimon-0 具身基座模型，在 RoboColiseum 超过 GPT-6 Astra
炎曦动力公开具身基座模型 Paimon-0，在 RoboColiseum 以 0.7754 排名第一，并超过 GPT-6 Astra。它在 RoboCasa365 和 VLA-Arena 分别以 58.1、0.73 排名第一，并以 46.599 总分夺得启元机器人 IROS Workshop 双臂机器人挑战赛冠军。
推荐理由：文章以榜单成绩和端云协作为线索，解释 Paimon-0 的 query token 蒸馏、自我改进设计及其与机器人芯片方案的衔接。
量子位精选AI 评分7575 港科大、CMU与岩山科技开源EdgeRock-4B，KV Cache减少99.1%且单卡吞吐达源模型6.42倍
岩山科技旗下岩芯矩阵与港科大、CMU联合发布并开源EdgeRock-4B，256K上下文下KV Cache固定为72MiB，较源模型减少99.1%。在单张Hopper 80GB GPU、32K输入和32K输出下，模型支持512路并发，输出吞吐12124 tokens/s，是Qwen3.5-4B的6.42倍。
推荐理由：文章拆解了EdgeRock-4B以RMA固定KV Cache的机制，并对照Qwen3.5-4B及有界状态模型的吞吐、内存与推理表现。
量子位精选AI 评分6666 科大讯飞首发星辰TaaS平台，构建模型到行业解决方案的全链路
科大讯飞首发星辰TaaS平台，以星辰MaaS为底层，通过模型调度、智能体引擎、知识工程和工具编排连接模型能力与行业应用。平台覆盖同传翻译、数字员工、办公提效、知识问答、智能营销等场景，并面向企业服务、金融、医疗、教育、能源等行业提供产品与解决方案。平台提出将 Token 消耗嵌入真实业务流程，让每次 Token 调用推动业务任务完成。
推荐理由：星辰TaaS把模型调度、智能体引擎、知识工程与工具编排串成全链路，并给出金融、医疗等行业落地方向。
AWS Machine Learning Blog精选AI 评分5151 使用 Strands Agents 构建 AAIF 三层智能体编排框架
AAIF 基于 Strands Agents 构建，本地小语言模型（SLM）处理常规任务，复杂请求则路由至 Amazon Bedrock。该分层编排旨在减少 API 成本并保持本地操作低延迟。框架以 llama3.2:1b 作为编排器，不依赖硬编码规则选择遥测、本地视觉或云端分析工具，并可部署在配备 8 GB 内存的 Raspberry Pi、全云或混合环境中。
推荐理由：文章以 IoT 监控为例，拆解本地小模型、云端模型与智能体编排的三层架构，并提供可改造的代码和部署路径。
Hugging Face Blog精选AI 评分7272 IBM Granite Speech 发布 granite-speech-5.0-2b，并更新两款现有模型
IBM Granite Speech 发布 granite-speech-5.0-2b，并更新 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。
推荐理由：文章按高精度翻译、端侧速度和多说话人归因区分三款模型，并给出速度与错误率变化，便于按场景比较选型。
NVIDIA Blog精选AI 评分7777 NVIDIA 在 GTC Berlin 展示并更新 RTX Spark、DGX Spark 与 DGX Station 本地 AI 阵容
NVIDIA 在 GTC Berlin 展示 RTX Spark、DGX Spark 和 DGX Station，并公布模型、集群与软件更新。DGX Spark 64GB 将于周五（10 月 23 日）由合作伙伴开始铺货，手动集群最多支持 8 台设备并提供 1TB 统一内存；DGX Station for Windows 预计 12 月推出。
推荐理由：三类本地 AI 硬件分别面向个人智能体、开发集群和企业工作站，文中还给出模型兼容、开放方式与推理优化信息。
MIT Technology Review精选AI 评分5151 Astrolab 即将登月的 FLIP 月球车将首次在月面运行大语言模型
Astrolab 计划最早于 2026 年 11 月将 480 千克的 FLIP 月球车送往月球，HPE Spaceborne-4 计算机将首次在月面运行定制大语言模型。模型将分析车载摄像头和激光雷达 3D 测绘数据，辅助安全导航并提炼信息，减少月球车需要传回地球的数据量。为应对月面辐射，HPE 通过软件监测带电宇宙粒子造成的异常，并在辐射峰值时降低计算机功耗和速度。
推荐理由：文章把地月通信延迟、月面极端环境与 Spaceborne-4 的软件和硬件防护放在一起，呈现本地运行大语言模型的具体任务、部署条件与现实约束。
量子位精选AI 评分4040 达摩院玄铁发布车规处理器E908A和自动驾驶产品路线图
达摩院在RISC-V中国峰会上发布车规增强处理器玄铁E908A和面向自动驾驶、具身智能的处理器产品路线图。E908A是首款同时满足ASIL-B和ASIL-D标准的RISC-V CPU IP，单点安全度量SPFM首次超过90%；下一代C950A目标性能达到现有RISC-V车规产品的5倍。
推荐理由：原文给出玄铁E908A车规IP与下一代C950A性能目标，便于评估RISC-V在车载领域相对X86和Arm的落地节奏
量子位精选AI 评分4040 联想 YOGA Pro 15 RTX Spark 超级 AIPC 正式发售，可在端侧跑通超千亿参数大模型
联想 YOGA Pro 15 RTX Spark 超级AIPC于10月16日全渠道开售，官方售价29999元起，是全球首批搭载 NVIDIA RTX Spark N1X 超级芯片的本地智能体 AIPC。
推荐理由：该文给出联想 RTX Spark 超级AIPC 的芯片规格、统一内存和本地千亿模型运行情况，可与此前同类端侧 AI 设备作比较。
NVIDIA Blog精选AI 评分5656 NVIDIA RTX Spark 笔记本全球上市，搭载 Blackwell RTX GPU 与 Grace CPU
NVIDIA RTX Spark 笔记本正式上市，起售价 2399 美元，搭载 NVIDIA Blackwell RTX GPU 与 Grace CPU，最高提供 1 petaflop AI 算力和 128GB 统一内存。
推荐理由：原文汇总了 RTX Spark 笔记本的硬件规格、起售价格和合作 PC 厂商，读者可以据此了解本地 AI 部署的硬件门槛。
HF Daily Papers精选AI 评分4747 EdgeKernelBench：统一评估异构边缘后端的 LLM 内核生成
EdgeKernelBench 与 LEKA 提出面向异构边缘后端的 LLM 内核生成统一评估和分层优化框架。EdgeKernelBench 通过统一 IR 和编译器接口连接目标后端，以 TVM 为参考编译器验证，基准范围从单个算子逐步扩展到紧凑模型图。
推荐理由：论文以统一 IR 跨边缘后端评估内核生成，并比较 LEKA、直接生成与 Claude Code 的性能达标结果。
量子位AI 评分2424 STEPX携STEPX Neo首个AI智能体走进TMOT 2026电音节，让听众成为音乐共创者
STEPX旗下10月13日发布的STEPX Neo智能体手机搭载阶跃StepAudio 3 Music模型，亮相10月17日至18日在上海举办的The Magic of Tomorrowland 2026电音节，让观众通过自然语言将灵感转化为专属电音。
NVIDIA Blog精选AI 评分4040 NVIDIA RTX Spark 正式发布，全球多地同步举办体验活动
NVIDIA RTX Spark 将于 10 月 16 日发布，并在旧金山、柏林、台北、北京、伊斯坦布尔、首尔同步举办体验活动，提供创作、开发和游戏的现场演示。
推荐理由：汇总 Tom's Hardware、TrustedReviews 等媒体对 RTX Spark 的实测反馈，帮助读者快速判断这款本地 AI PC 的实际表现。
NVIDIA Blog精选AI 评分7272 NVIDIA 开源 Nemotron 3.5 Super VL 与 Bolt 74B-A9B 24GB、Bolt E4B 4GB
NVIDIA 发布开源 Nemotron 3.5 Super VL，并推出端侧模型 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Nemotron 3.5 Bolt E4B 4GB，覆盖从企业服务器到本地及边缘设备的智能体部署。
推荐理由：三款模型覆盖企业服务器到 4GB 端侧设备，并给出参数规模、速度、基准与部署路径，便于比较不同智能体场景的选型。
量子位精选AI 评分5454 阶跃终端首款Agent手机STEPX Neo正式发布，创客先行
阶跃终端发布首款Agent手机STEPX Neo，定价3999元，搭载系统级智能体阶跃Amoo和原生操作系统Step AOS。该机在系统层面支持循环执行与Tool Call，借助Skill、MCP和H2A2A等协议打通第三方服务；配套的Step Studio开发环境允许创客编写SKILL.MD，直接将Agent与外部能力组合。
推荐理由：文章基于样机实测，对比了STEPX Neo将Agent写进系统底层与传统手机依赖GUI模拟点击的路线差异，并梳理了软硬模一体化的产品思路。
量子位精选AI 评分3636 铭芯启睿（MemSilicon）完成国际首款1T4R 1Gb RRAM芯片"泰山一号"流片
铭芯启睿（MemSilicon）宣布完成国际首款基于1T4R结构、采用28nm CMOS工艺的高密度大容量RRAM芯片"泰山一号（MountTai 2026）"流片，单芯片容量1Gb，密度达30Mb/mm²，访问延时小于20ns，并集成片上硬件纠错电路。
推荐理由：给出了1T4R结构1Gb RRAM芯片的关键参数与面向AI推理场景的定位，为评估新型非易失存储在端侧大模型部署中的可行性提供参照。
量子位同事件AI 评分4848 阶跃终端发布首款大模型原生智能体手机STEPX Neo
STEPX（阶跃终端）10月13日在上海发布首款大模型原生智能体手机 STEPX Neo 先行版，全栈价 3,999 元，搭载智能体原生操作系统 Step AOS 1.0 与个人智能体阶跃 Amoo，主打模型、软件、硬件三位一体。
同一件事，精选收录的是《阶跃终端首款Agent手机STEPX Neo正式发布，创客先行》
Google DeepMind精选AI 评分5454 Google DeepMind 与新加坡政府合作推出基于 Gemma 的端侧反诈检测模型
Google DeepMind 与新加坡 GovTech 合作推出基于 Gemma 微调的端侧反诈检测模型，运行在新加坡常见智能手机上，所有对话分析在用户设备本地完成以兼顾隐私。
推荐理由：原文展示了端侧 AI 与政府协作的反诈落地样本，读者可对照其中的隐私治理与两级流水线设计来评估类似方案的可迁移性。
量子位精选AI 评分7070 面壁智能开源MiniCPM-V 4.7：35B多模态MoE模型3G内存即可在iPhone断网运行
面壁智能与OpenBMB正式开源多模态模型MiniCPM-V 4.7，包含35B-A3B（MoE，总参数35B、激活3B）与1B两个版本，其中35B-A3B在iPhone 17 Pro Max上仅占约3G内存，断网状态下解码速度可达每秒13个token以上。
推荐理由：原文给出了35B MoE模型仅用3G内存就能在手机上运行的前瞻专家调度与量化方案，可作为端侧部署的工程参考。
Hugging Face Blog精选AI 评分6363 LiquidAI发布端侧推理模型LFM2.5-24B-A2B，主打本地智能体
LiquidAI发布LFM2.5-24B-A2B推理模型，采用24B参数MoE架构但每次仅激活2B，专为本地智能体设计。
推荐理由：LiquidAI给出24B参数MoE仅激活2B的端侧推理模型，在智能体基准上对标更大模型，并附带本地部署与Agent接入示例，便于评估迁移成本。
NVIDIA Blog精选AI 评分6363 NVIDIA RTX Spark 临近上市，全球 PC 应用生态全面就绪
NVIDIA RTX Spark 笔记本将于 10 月 16 日上市，NVIDIA 与生态伙伴同步发布本地 AI 智能体、Adobe 创意加速、Nemotron 3.5 Bolt 74B 模型（10 月 15 日）与 DLSS 5 等配套更新。
推荐理由：文章把 RTX Spark 上市时的本地 AI 智能体、创意软件和开发者工具一并盘点，读者可一次看清首发节奏与生态广度。
量子位精选AI 评分6363 Anthropic安全研究：GLM-5.2在隔离网络实现端到端AI自主复制
Anthropic安全研究员William Zhou和Daniel Freeman在论文中实测AI端到端自主复制能力：用GLM-5.2在含8个GCP节点的隔离网络中进行5次测试，4次成功部署到全部8台设备，1次拿下7台。
推荐理由：实验给出了跨硬件部署成功率、代际能力提升与能力门槛预测，读者可据此判断AI蠕虫从实验室走向智能家电的现实距离。
面壁 MiniCPM精选AI 评分4242 面壁发布 MiniCPM-V 4.7 35B-A3B：首个端侧无损推理的开源 MoE 多模态模型，附 int4 量化版
面壁 MiniCPM-V 4.7 35B-A3B 在 Hugging Face 开源，并同步推出 int4 量化版本，被官方称为首个在端侧可流畅运行且不损失性能的开源 MoE 多模态模型。
推荐理由：原文把 LES、细粒度分层量化和 DSpark 推测解码组合在一起作为端侧 MoE 的可迁移做法，并与 Qwen3.6 35B-A3B 直接比较效率与分数。
面壁 MiniCPM精选AI 评分5757 面壁 MiniCPM-V 4.7 35B-A3B 开源：端侧 13+ tokens/s 的 MoE 多模态模型
面壁 MiniCPM 开源 MiniCPM-V 4.7 35B-A3B 多模态模型，是 MiniCPM-V 系列第一个 MoE 变体。
推荐理由：在端侧实现无损流畅推理的开源 MoE 多模态模型，LES 专家调度与层级量化方案适合和 Qwen3.6 35B-A3B 做性能效率对比。
面壁 MiniCPM精选AI 评分5555 面壁发布 MiniCPM-V 4.7 35B-A3B：首个开源端侧 MoE 多模态模型
面壁发布 MiniCPM-V 4.7 35B-A3B，这是 MiniCPM-V 系列首个 MoE 多模态模型，结合 Lookahead Expert Scheduling（LES）跨层预测、层间细粒度量化和 DSpark 推测解码，在 iPhone 17 Pro Max 上以 13+ tokens/s 实现无损端侧流畅推理。
推荐理由：原文同时给出 iPhone 17 Pro Max 上 13+ tokens/s 的实测速度与 LES 调度、层间量化和 DSpark 推测解码三项技术细节，读者可据此评估端侧 MoE 推理的可行边界。
HF Daily Papers精选AI 评分3636 SynthSelf：通过合成自蒸馏实现小模型的持续后训练
论文提出 SynthSelf 方法，利用同族稍大的对齐模型为小模型生成 in-distribution 监督信号，配合 off-policy 监督与拒绝采样，缓解持续后训练中能力获取与遗忘的矛盾。在 4 个获取数据集、14 个保留基准与 3 个小模型规模上均优于 6 种基线方法。
推荐理由：针对小模型持续后训练的能力获取与遗忘权衡，给出可由同族稍大模型蒸馏出的 in-distribution 监督方案，并把方法在多基准、多模型规模上做了对照。
量子位精选AI 评分3838 联想 YOGA Pro 15 RTX Spark 开启盲约，搭载 NVIDIA RTX Spark N1X 超级芯片
联想 YOGA Pro 15 RTX Spark 笔记本电脑于 10 月 8 日开启全网盲约，搭载 NVIDIA RTX Spark N1X 超级芯片。该芯片集成 6144-core Blackwell GPU 与 20-core Grace CPU，可提供 1 Petaflop FP4 本地 AI 算力，配备至高 128GB 统一内存与 2TB 存储。
推荐理由：作为首批搭载 RTX Spark N1X 的产品之一，文章给出了 35B 本地模型与本地 Agent 能力的具体描述，可与同类端侧 AI PC 方案对照。
面壁 MiniCPM精选AI 评分5858 面壁 MiniCPM-V 4.7 35B-A3B 开源，FP8 等多种量化版本同步发布
面壁 MiniCPM-V 4.7 35B-A3B 系列模型上线，其中 FP8 量化版本已托管在 Hugging Face。
推荐理由：原文详述了 MoE 模型在 iPhone 端侧流畅推理的工程组合并给出 13+ tokens/s 实测速度，对评估同类模型的端侧落地可行性有参考价值。
NVIDIA Blog精选AI 评分7171 英伟达与微软联合推出 RTX Spark，将本地 AI 智能体带入 Windows PC
英伟达与微软在旧金山联合活动上宣布，RTX Spark 笔记本今日起开始预售、10 月 16 日上市，搭载 Blackwell RTX GPU 与 20 核 Grace CPU，提供最高 1 petaFLOPS FP4 算力和 128GB 统一内存，可在本地运行 Qwen 3.8 Flash Next 等模型，紧凑型台式机版本将于 11 月开售。
推荐理由：读者可以借此了解 RTX Spark 与 DGX Station for Windows 在本地运行大模型的硬件配置、产品定位与上市时间。
Hugging Face Blog精选AI 评分5050 Liquid AI 开源面向端侧的多模态 d1 决策模型 d1-3B 与 d1-omni-600M
Liquid AI 开源两款 d1 系列端侧决策模型 d1-3B 与实验版 d1-omni-600M，分别支持文本+图像和文本+图像/音频输入，单次前向传播而非生成 token。
推荐理由：d1-3B 与 d1-omni-600M 在七个公开基准和多款 Jetson 设备上的跑分被详细列出，读者可直接对照 Decider 系列判断端侧决策模型的部署价值。