跳到正文
  1. 量子位47

    新芯航途发布X7 Ultra智驾芯片,700 TOPS、NPU计算利用率达98.7%

    新芯航途发布X7 Ultra智驾芯片,700 TOPS,NPU计算利用率达98.7%。芯片采用超大核NPU、专用计算引擎和统一AI工具链,并以真实量产智驾模型进行“大模型算力”评测,量化输出与FP32基准模型相似度超过99.99%。官方称,相比行业旗舰产品,内存带宽消耗降低80%、能效提升100%,测试涉及Momenta的R7世界模型。

    推荐理由:文章以真实量产智驾模型为测试对象,拆解X7 Ultra的NPU架构、AI工具链与车规安全设计,便于理解模型需求如何映射到端侧芯片效率。

  1. Hugging Face Blog71

    AnySpeechRecognizer 与 AnyDecisionModel 发布,支持 Apple 平台接入开放模型

    AnySpeechRecognizer 与 AnyDecisionModel 两个 Swift 包发布,为 Apple 平台接入开放模型完成语音识别和结构化决策。

    推荐理由:文章用词错误率、转写速度和内存占用数据对比语音引擎,并补充会议重叠语音的表现,便于评估端侧识别方案的成本与精度。

  2. 量子位68

    天数智芯发布天垓300与彤央TY1200,现场对标英伟达GPU

    天数智芯发布天垓300、彤央TY1200与天数智算软件栈,并在现场将两款GPU对标英伟达 H200 和 Jetson Thor T5000。现场随机文生图任务中,天垓300用时95.6秒,H200为112秒;第三方测试中其折算单卡端到端吞吐为H200的1.05倍,TY1200运行Qwen3.8-27B的性能则为Thor T5000的138%。

    推荐理由:文章同时给出云端与端侧的现场对标数据,并拆解 Agent 辅助部署、调优和算子开发的效率变化,便于比较硬件与软件栈价值。

  1. NVIDIA Blog74

    NVIDIA RTX Spark Windows 笔记本开售,新增本地模型、智能体工具和游戏支持

    NVIDIA RTX Spark Windows 笔记本现已由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 开售,起售价 $2,599,并新增或计划引入本地模型、智能体工具与游戏支持。

    推荐理由:原文将模型能力、GPU 资源分配与本地部署条件并列呈现,读者可据此判断 RTX Spark 对轻量本地 AI 工作流的适配范围。

  2. Hugging Face Blog77

    Liquid AI 发布 LFM3 多模态模型家族,六款 2B 级模型共享骨干

    Liquid AI 发布 LFM3 模型家族,六款 2B 级模型共享 LFM3-1.7B-Base 骨干,覆盖文本、视觉、音频、全模态和结构化决策。LFM3-1.7B 比 LFM2.5-2.6B 少 35% 参数,文本模型在 4-bit 精度下约占 1 GB并支持 256K 上下文;LFM3-Omni-2B 可接收文本、图像、视频和音频并输出文本或语音。

    推荐理由:LFM3 以同一 2B 级骨干衍生六款文本、视觉、音频、全模态与决策模型,并给出单 GPU 微调和端侧部署路径,便于评估小模型专业化方案。

  3. 面壁 MiniCPM42

    面壁发布 MiniCPM-OCR-1.0-DSpark-gguf GGUF 量化模型

    面壁发布 MiniCPM-OCR-1.0-DSpark-gguf 的 GGUF 量化模型,提供 Q4_K_M 版本,可在本地加载并通过图像输入示例调用。README 给出 llama.cpp、vLLM、Ollama 和 Docker Model Runner 的安装与运行方式。

    推荐理由:模型页给出 Q4_K_M 量化包在 llama.cpp、vLLM、Ollama 中的部署调用方法,并提供图像输入 API 示例,可参考搭建 OCR 推理流程。

  1. 量子位47

    联想天禧AI在观猹大会展示跨端协同,预告4.5版本升级

    联想天禧AI在观猹大会展示个人AI跨端协同,4.5版本定于10月30日升级。现场演示中,用户可通过天禧AI手机语音搜集Personal Agent产品并自动生成研究报告,也能关闭系统弹窗、调高屏幕亮度。4.5版本将进一步强化记忆管理与数据隔离,现有版本则基于Harness架构,支持联网搜索、生图修图、本地文件控制、文档生成及外部MCP Server接入。

    推荐理由:现场演示具体呈现了手机语音触发研究报告与设备控制的跨端流程,也补充了天禧AI 4.5版本的记忆与数据隔离方向。

  2. 量子位70

    小米开源 HachimoDock AI 硬件,自制成本约 150 元,可指挥 Agent 并联动智能家居

    小米内部创新产品团队开源了 AI 硬件 HachimoDock,硬件自制成本约 150 元,可通过语音指挥电脑端 Agent,并通过 xiaomi Miloco 联动智能家居。

    推荐理由:文章把 HachimoDock 的语音交互、Agent 任务反馈、组件创作与智能家居联动串成完整使用链路,并交代源码、物料和装配教程等复刻资料。

  3. 量子位56

    炎曦动力成立 3 个月亮相 Paimon-0 具身基座模型,在 RoboColiseum 超过 GPT-6 Astra

    炎曦动力公开具身基座模型 Paimon-0,在 RoboColiseum 以 0.7754 排名第一,并超过 GPT-6 Astra。它在 RoboCasa365 和 VLA-Arena 分别以 58.1、0.73 排名第一,并以 46.599 总分夺得启元机器人 IROS Workshop 双臂机器人挑战赛冠军。

    推荐理由:文章以榜单成绩和端云协作为线索,解释 Paimon-0 的 query token 蒸馏、自我改进设计及其与机器人芯片方案的衔接。

  4. 量子位75

    港科大、CMU与岩山科技开源EdgeRock-4B,KV Cache减少99.1%且单卡吞吐达源模型6.42倍

    岩山科技旗下岩芯矩阵与港科大、CMU联合发布并开源EdgeRock-4B,256K上下文下KV Cache固定为72MiB,较源模型减少99.1%。在单张Hopper 80GB GPU、32K输入和32K输出下,模型支持512路并发,输出吞吐12124 tokens/s,是Qwen3.5-4B的6.42倍。

    推荐理由:文章拆解了EdgeRock-4B以RMA固定KV Cache的机制,并对照Qwen3.5-4B及有界状态模型的吞吐、内存与推理表现。

  1. 量子位51

    千里科技4D毫米波雷达实现端到端AI处理,支持三种工作模式

    千里科技在一颗4D毫米波雷达中引入端到端AI处理,从天线设计和波形生成延伸至点云检测、测角、增强、目标跟踪与分类,雷达内置10 TOPS NPU。相较上一代DSP端侧4D雷达,点云密度增强10倍、探测距离提升40%、鬼影消除提升至95%、空间角分辨力提升12倍。雷达支持边缘侧、卫星架构和兼容三种模式,可输出结构化感知结果、传输原始数据,或并行完成两类处理。

    推荐理由:文章拆解千里AI雷达的边缘、卫星与兼容三种架构,呈现模型如何减少规则依赖并改变雷达与中央域控的分工。

  1. 量子位66

    科大讯飞首发星辰TaaS平台,构建模型到行业解决方案的全链路

    科大讯飞首发星辰TaaS平台,以星辰MaaS为底层,通过模型调度、智能体引擎、知识工程和工具编排连接模型能力与行业应用。平台覆盖同传翻译、数字员工、办公提效、知识问答、智能营销等场景,并面向企业服务、金融、医疗、教育、能源等行业提供产品与解决方案。平台提出将 Token 消耗嵌入真实业务流程,让每次 Token 调用推动业务任务完成。

    推荐理由:星辰TaaS把模型调度、智能体引擎、知识工程与工具编排串成全链路,并给出金融、医疗等行业落地方向。

  1. AWS Machine Learning Blog51

    使用 Strands Agents 构建 AAIF 三层智能体编排框架

    AAIF 基于 Strands Agents 构建,本地小语言模型(SLM)处理常规任务,复杂请求则路由至 Amazon Bedrock。该分层编排旨在减少 API 成本并保持本地操作低延迟。框架以 llama3.2:1b 作为编排器,不依赖硬编码规则选择遥测、本地视觉或云端分析工具,并可部署在配备 8 GB 内存的 Raspberry Pi、全云或混合环境中。

    推荐理由:文章以 IoT 监控为例,拆解本地小模型、云端模型与智能体编排的三层架构,并提供可改造的代码和部署路径。

  1. Hugging Face Blog72

    IBM Granite Speech 发布 granite-speech-5.0-2b,并更新两款现有模型

    IBM Granite Speech 发布 granite-speech-5.0-2b,并更新 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。

    推荐理由:文章按高精度翻译、端侧速度和多说话人归因区分三款模型,并给出速度与错误率变化,便于按场景比较选型。

  2. NVIDIA Blog77

    NVIDIA 在 GTC Berlin 展示并更新 RTX Spark、DGX Spark 与 DGX Station 本地 AI 阵容

    NVIDIA 在 GTC Berlin 展示 RTX Spark、DGX Spark 和 DGX Station,并公布模型、集群与软件更新。DGX Spark 64GB 将于周五(10 月 23 日)由合作伙伴开始铺货,手动集群最多支持 8 台设备并提供 1TB 统一内存;DGX Station for Windows 预计 12 月推出。

    推荐理由:三类本地 AI 硬件分别面向个人智能体、开发集群和企业工作站,文中还给出模型兼容、开放方式与推理优化信息。

  3. MIT Technology Review51

    Astrolab 即将登月的 FLIP 月球车将首次在月面运行大语言模型

    Astrolab 计划最早于 2026 年 11 月将 480 千克的 FLIP 月球车送往月球,HPE Spaceborne-4 计算机将首次在月面运行定制大语言模型。模型将分析车载摄像头和激光雷达 3D 测绘数据,辅助安全导航并提炼信息,减少月球车需要传回地球的数据量。为应对月面辐射,HPE 通过软件监测带电宇宙粒子造成的异常,并在辐射峰值时降低计算机功耗和速度。

    推荐理由:文章把地月通信延迟、月面极端环境与 Spaceborne-4 的软件和硬件防护放在一起,呈现本地运行大语言模型的具体任务、部署条件与现实约束。

  1. 量子位40

    达摩院玄铁发布车规处理器E908A和自动驾驶产品路线图

    达摩院在RISC-V中国峰会上发布车规增强处理器玄铁E908A和面向自动驾驶、具身智能的处理器产品路线图。E908A是首款同时满足ASIL-B和ASIL-D标准的RISC-V CPU IP,单点安全度量SPFM首次超过90%;下一代C950A目标性能达到现有RISC-V车规产品的5倍。

    推荐理由:原文给出玄铁E908A车规IP与下一代C950A性能目标,便于评估RISC-V在车载领域相对X86和Arm的落地节奏

  1. NVIDIA Blog56

    NVIDIA RTX Spark 笔记本全球上市,搭载 Blackwell RTX GPU 与 Grace CPU

    NVIDIA RTX Spark 笔记本正式上市,起售价 2399 美元,搭载 NVIDIA Blackwell RTX GPU 与 Grace CPU,最高提供 1 petaflop AI 算力和 128GB 统一内存。

    推荐理由:原文汇总了 RTX Spark 笔记本的硬件规格、起售价格和合作 PC 厂商,读者可以据此了解本地 AI 部署的硬件门槛。

  1. HF Daily Papers47

    EdgeKernelBench:统一评估异构边缘后端的 LLM 内核生成

    EdgeKernelBench 与 LEKA 提出面向异构边缘后端的 LLM 内核生成统一评估和分层优化框架。EdgeKernelBench 通过统一 IR 和编译器接口连接目标后端,以 TVM 为参考编译器验证,基准范围从单个算子逐步扩展到紧凑模型图。

    推荐理由:论文以统一 IR 跨边缘后端评估内核生成,并比较 LEKA、直接生成与 Claude Code 的性能达标结果。