跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

490 条精选近 30 天 451 条共收录 562 条

更新

精选归档 · 第 19 页

10月16日周五第 361–380 条
  1. HF Daily Papers40

    MambaAct:流匹配视觉-语言-动作模型的高效 Mamba 动作专家

    MambaAct 用紧凑的 Mamba 动作专家替换 π0.5 的 Transformer 动作专家,并通过轻量级 Context Compressor 压缩 VLM token,以降低流匹配 VLA 的去噪推理开销。

    推荐理由:MambaAct 同时给出动作专家规模、LIBERO 与真实机器人上的延迟和成功率变化,便于对照具身智能模型推理优化的工程收益。

  2. TechCrunch38

    Volvo 扩大与 Nvidia 合作,将自动驾驶技术栈扩展至全系车型

    Volvo 与 Nvidia 宣布扩展近十年的合作,未来车型将同时采用三款 Nvidia 软硬件,包括 Hyperion 传感器与计算架构、Alpamayo 驾驶软件栈,以及 Halos 安全评估层,用于支持城市与高速场景下的自动驾驶。

    推荐理由:Volvo 从分散供应商模式转向自建完整软件栈,本文把合作涵盖的技术组件和落地时间讲得具体,可作为观察传统车企软件化路径的参考。

  3. NVIDIA Blog72

    NVIDIA 开源 Nemotron 3.5 Super VL 与 Bolt 74B-A9B 24GB、Bolt E4B 4GB

    NVIDIA 发布开源 Nemotron 3.5 Super VL,并推出端侧模型 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Nemotron 3.5 Bolt E4B 4GB,覆盖从企业服务器到本地及边缘设备的智能体部署。

    推荐理由:三款模型覆盖企业服务器到 4GB 端侧设备,并给出参数规模、速度、基准与部署路径,便于比较不同智能体场景的选型。

10月15日周四
  1. Mistral AI57

    Mistral 发布首个时序基础模型家族 Timestral

    Mistral 发布首个时序基础模型家族 Timestral,提供 5M、28M、123M 和 209M 四档参数量,最大 209M 模型在 GIFT-Eval、TIME、fev-bench 三个公开榜单的零样本预训练模型中均排名第一,参数规模仅为此前 SOTA 的约三分之二。

    推荐理由:以 209M 参数在 GIFT-Eval、TIME、fev-bench 三个榜单同时位列零样本预训练模型第一,并给出与 Chronos-2、TimesFM-3 等更大模型的对比数据。

  2. The Verge · AI42

    Windows 如何为 Nvidia RTX Spark 笔记本做优化

    微软为 Nvidia RTX Spark Arm 笔记本做了多项 Windows 系统优化,重点围绕本地 AI 智能体与游戏体验:首批官方支持 Hermes、Perplexity、OpenClaw 三个智能体,通过 Windows Store 两步即可安装;统一内存最高 128GB,可在 Nvidia 应用中手动调节 GPU 内存分配。

    推荐理由:作者基于亲身体验拆解了微软在 RTX Spark 平台上做的多项工程优化,便于读者快速判断本地 AI 与游戏在该 Arm 笔记本上的落地程度。

  3. 36氪64

    美国宣布1000亿美元AI数据中心项目

    美国能源部宣布一项规模达1000亿美元的私人投资计划,将肯塔基州西部一处冷战时期铀浓缩设施旧址改造为大型AI及高性能计算园区。博枫资产管理公司负责建设1.8吉瓦数据中心园区,NextEra Energy配套开发2吉瓦天然气发电设施和2.6吉瓦电池储能系统,项目计划分阶段建设至2032年,预计创造约8000个建筑岗位和600个长期运营岗位。

    推荐理由:美国千亿美元级AI数据中心投资落地肯塔基铀浓缩旧址,电力配套和项目审批成为下一阶段的关键瓶颈。

  4. 36氪45

    美的加入英伟达MGX生态链,成为热管理合作伙伴

    在2026 OCP全球峰会上,英伟达公布面向下一代Vera Rubin平台的NVIDIA MGX AI Factory生态及合作伙伴名单,美的被列入热管理合作伙伴名单。

    推荐理由:围绕Vera Rubin平台的高密度散热需求,美的以热管理供应商身份进入英伟达MGX生态,可作为观察下一代AI基础设施配套格局的参考。

  5. NVIDIA Blog35

    NVIDIA 官博盘点北欧算力生态,覆盖独角兽投资、DGX GB300 超算与 Nemotron 模型落地

    NVIDIA 在官方博客中披露过去一年对北欧算力生态的密集投入,包括投资 Lovable、Legora 等瑞典 AI 独角兽、联合爱立信等公司在瑞典上线两套 DGX GB300 超算(1152 个 GPU)。

    推荐理由:原文把分散在独角兽投资、超算建设和开源模型应用上的公告合并呈现,读者可一次看清 NVIDIA 在欧洲的算力合作抓手。

  6. 36氪38

    黑芝麻智能与 A 股上市公司签署 3 亿元 AI 计算服务器销售合同

    黑芝麻智能与一家头部 A 股上市公司签署约 3 亿元的 AI 计算服务器销售框架合同及配套技术合作协议,其中合同签订一年内预计采购约 2.5 亿元的整机产品。这也是黑芝麻智能 AI 计算服务器业务的首批订单,标志着其自研 AI 算力产品规模化切入 AI 计算服务器赛道。

    推荐理由:这是黑芝麻智能 AI 计算服务器业务的首批订单,自研 AI 芯片由此切入整机赛道,反映其商业化进入新阶段。

  7. 钛媒体56

    全球云厂商自研AI芯片挑战英伟达,微软Maia 300计划2027年大规模部署

    微软10月12日宣布自研AI芯片Maia 300计划2027年大规模部署,与谷歌TPU、亚马逊Trainium一起,构成云厂商摆脱英伟达依赖的代表性路径。

    推荐理由:文章梳理了微软、谷歌、亚马逊自研AI芯片的路径,并对比了英伟达CUDA生态的护城河,为理解云厂商算力路线选择提供背景。

  8. Hacker News48

    QA Wolf 上线 Windows 桌面测试 用一次性 VM 解决并行化难题

    QA Wolf 上线 Windows 桌面自动化测试能力,把 Windows VM 建模为一次性设备,由 Linux runner 通过 CDP、Appium 等通道远程驱动原生应用。

    推荐理由:QA Wolf 把一次性 Windows VM 抽象为可调度设备复用其移动端调度器,并通过暖池吸收冷启动,为桌面测试基础设施提供了一种可借鉴的架构。

10月14日周三
  1. AWS Machine Learning Blog35

    使用 Amazon Bedrock AgentCore 自动生成 PPT 演示文稿

    AWS 官方博客给出基于 Amazon Bedrock AgentCore 自动生成 PowerPoint 演示文稿的完整教程,附带 GitHub 代码仓库可直接部署。

    推荐理由:AWS 官方博客给出基于 AgentCore 的可复用架构与配套代码仓库,读者可以照搬到金融报告或销售提案等其他企业文档自动化场景。

  2. The Verge · AI66

    Epic Games 新启动器预览版发布,主打 AI 辅助 vibe coding 开发

    Epic Games 发布了 PC 启动器的新预览版,号称速度更快并新增 Linux 支持,整个开发过程采用 AI 辅助的 vibe coding 方式。Epic Games Store 与 Epic Online Services 负责人 Martin Keely 表示,AI 帮助复制现有启动器的核心功能并加速测试,代码由智能体编写和审查,但开发团队全程管理和监督。

    推荐理由:Epic 公开了 vibe coding 在大型项目中的实际流程与团队分工,可作为观察 AI 辅助开发落地方式的行业样本。

  3. AWS Machine Learning Blog37

    Amazon SageMaker JumpStart 模型部署与性能评测教程

    AWS 博客演示如何用 SageMaker Python SDK v3 从 Amazon SageMaker JumpStart 发现并部署模型,以 huggingface-vlm-qwen3-5-27b 为例运行示例 prompt 测量延迟和生成速率,最后清理端点。

    推荐理由:给出可复用的部署与评测脚本以及控制台改进要点,读者可以据此搭建不同 JumpStart 模型之间的横向对比流程。

  4. Hacker News49

    Pg_vectorsearch:PostgreSQL 上比 pgvector HNSW/IVFFlat 更快的 PRISM 向量索引

    Timescale 开源 PostgreSQL 扩展 pg_vectorsearch,引入 PRISM 索引,在 1 亿向量规模下以四分之一内存达成比 pgvector HNSW 更快的同等 recall 速度。

    推荐理由:介绍 PRISM 索引的实现思路,它在 1 亿向量规模下比 pgvector HNSW 更快,并附上安装、查询与现有 HNSW 并存替换的完整示例。