NVIDIA 发布 Minerva AIOps 平台，提供 AI 工厂端到端可观测性
NVIDIA 发布 AIOps 平台 Minerva，将 GPU、网络、存储、调度器和 AI 工作负载遥测汇集并关联，用于 AI 工厂的端到端可观测与故障定位。
推荐理由：Minerva 将基础设施与 AI 工作负载遥测汇入动态知识图谱，呈现了关联异常、预测故障并定位根因的运维方法。
技术方向
部署工程 最新动态
怎么把模型跑得更快更省钱：推理加速、显存与成本、服务部署与基础设施选型。
490 条精选近 30 天 450 条共收录 562 条
更新
精选归档 · 第 13 页
NVIDIA Blog精选AI 评分6161 Hacker News精选AI 评分6161 Fly.io 用 SBD 取代 Sprites 的 JuiceFS 文件系统
Fly.io 推出 Sprites Block Device（SBD），以对象存储块设备取代经大幅修改的 JuiceFS，成为 Sprites 后续使用的文件系统。SBD 通过 NBD 将存储桶呈现为块设备，由 ext4 格式化并挂载；元数据与数据块都保存在存储桶中，不再需要独立数据库同步。检查点改为带版本号的整卷块快照，恢复成本约等于重启，10/6 之前创建的 Sprites 可按文中说明迁移。
推荐理由：文章拆解了旧存储方案中多份元数据失配的问题，并展示 SBD 如何以单一数据源简化检查点和恢复流程。
钛媒体精选AI 评分4646 亚马逊云科技 Ozgur Tohumcu：物理 AI 规模化瓶颈在数据、治理与组织
Ozgur Tohumcu 判断，物理 AI 规模化的主要约束不在技术本身，而在数据基础、智能体治理、组织对试验的包容度和成本。他介绍，亚马逊运营网络已部署超过100万台机器人；工厂试点向多厂推广时，还需解决 OT 与 IT 数据互通、安全、规模和长期成本问题。
推荐理由：文章以车企案例拆解物理 AI 从试点走向量产的约束，涵盖数据基座、智能体治理、组织容错与长期成本。
MIT Technology Review精选AI 评分3737 AI 推理为何带来持续累积的数据存储成本
AI 推理不仅持续消耗算力，还会留下日志、缓存、备份和安全记录，形成易被忽视的存储成本。WD 内部测量显示，8 秒 720p 视频输出文件为 3.97MB，后端关联数据却超过 500MB，达到 130x；McKinsey 预计 AI 推理需求到 2030 年将以 35% CAGR 增长，并在本十年末占数据中心总需求的 40% 以上。
推荐理由：文章以视频推理的后端数据为例，拆解存储成本为何会随推理持续累积，为 AI 基础设施预算提供更完整的视角。
量子位精选AI 评分6565 星辰通用人工智能实验室发布并开源意图理解模型Xing4.0-29B-Intent
星辰通用人工智能实验室发布并开源意图理解模型Xing4.0-29B-Intent，并提供275.3万条监督微调训练语料、模型权重和官方推理镜像。模型结合意图识别与参数抽取，采用统一模式驱动语义解析框架 USP 输出 JSON，已开始应用于电信万号客服和智能家居音箱。本次由技术团队开展的评测中，模型完整抽取总分58、类别决策总分70，均高于本次参评模型；结果仅反映本次数据和测试设置。
推荐理由：文章提供完整抽取和类别决策两组评测及参评模型明细，读者可比较模型在意图识别、参数抽取和负例误报上的差异。
HF Daily Papers精选AI 评分3838 GLOW-FM通过一步式潜空间流匹配实现高效低光照图像增强
GLOW-FM提出一步式潜空间流匹配框架，通过单次函数评估完成生成式低光照图像增强。该框架在冻结的Tiny-VAE潜空间中进行条件传输，并采用Terminal Velocity Matching（TVM）。实验显示，小型版本仅需34 GFLOPs，在真实世界基准上取得有竞争力的图像质量和SOTA跨数据集泛化表现，代码将在论文发表后公开。
推荐理由：GLOW-FM以单次函数评估完成低光照增强，小型版本计算量为34 GFLOPs，并展示跨数据集泛化能力。
钛媒体精选AI 评分5555 小红书打通Dots与核心Infra团队，能否加快AI进程？
小红书在10月16日宣布打通AI一级部门Dots与核心Infra团队，以协同模型研发、底层算力和产品需求。这是半年内第二次AI组织架构重大调整，Dots负责模型研发、工程落地和业务场景融合，Hi Lab负责长期前沿技术探索。公司强调技术重点是模型与应用的深度融合；2026年9月，小红书将“问一问”并入生活助手“点点”，并推出RED Skill开发者工具。
推荐理由：梳理小红书半年内两次AI组织调整及其产品路径，可对照模型团队与基础设施协同如何影响社区AI落地。
腾讯混元精选AI 评分6969 腾讯混元发布 Hy-SimulMT 中英双向实时同声传译模型
腾讯混元发布 Hy-SimulMT，提供中英双向语音到语音实时同声传译，并支持在配置 TTS 后进行实时声音克隆，保留说话者声音特征。模型持续接收音频并同步输出译文文本与语音，面向会议、演讲和访谈等实时沟通场景。
推荐理由：材料给出 RealSI 等基准、与职业译员的小规模对比及完整部署路径，读者可据此判断模型在实时翻译场景中的质量、延迟与可操作性。
Hacker News精选AI 评分7474 OpenAI CLI 工具的安装、命令结构与 REST API 接入说明
OpenAI CLI 是用于调用 OpenAI REST API 的官方命令行工具，可通过 Homebrew 或 Go 1.26 及以上版本安装。它采用资源式命令结构，覆盖标准与管理员 API，并支持文件上传下载、图像生成、JSON/JSONL 输出和 Tab 补全。
推荐理由：原文给出安装、命令结构、认证、文件处理与 mTLS 配置，可作为评估 CLI 接入方式和使用边界的实现依据。
NVIDIA Blog精选AI 评分5555 NVIDIA开放模型支撑欧洲多国公共部门项目
NVIDIA正与欧洲多国政府及合作伙伴推进开放模型在公共服务中的本地化部署，覆盖医疗、就业、政务协作和主权云等场景。这些方案由公共部门控制数据和基础设施，并结合本地语言、合成人物数据与模型评估工具开展部署。
推荐理由：文章汇总欧洲多国政府采用开放模型和本地化数据建设公共服务的路径，涵盖医疗、就业、政务与主权云等场景，便于对照不同地区的部署方式。
NVIDIA Blog精选AI 评分5959 企业如何使用 NVIDIA DSX 突破 AI 工厂电力瓶颈
NVIDIA DSX AI Factory Platform 将电网、AI 工厂及机架作为统一系统，用于规划、仿真和运行从变电站到机架的电力基础设施，以应对超过 $300 billion 的设备积压和美国互联队列中超过 200 gigawatts 的项目。
推荐理由：文章梳理 NVIDIA DSX 协同电网、设施与算力的机制，并给出合作方应用案例，便于理解 AI 工厂如何纳入电力约束设计。
NVIDIA Blog精选AI 评分7171 NVIDIA Cosmos 平台新增世界模型训练、评估与部署工具
NVIDIA Cosmos 平台新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图，面向世界模型与物理 AI 开发。Data Factory 提供 5 个云原生蓝图，涵盖驾驶数据、图像增强、事件视频和缺陷生成等场景。
推荐理由：原文将数据构建、模型训练、策略测试与部署串成完整链路，并给出推理和视频处理能力的量化变化，便于评估平台落地范围。
NVIDIA Blog精选AI 评分4949 欧洲多家金融机构采用开放权重模型与 NVIDIA 加速计算构建自有智能
欧洲多家金融机构采用开放权重模型，并基于 NVIDIA 加速计算与自有基础设施构建金融智能。Revolut 正在扩大 PRAGMA 的生产部署，服务首批 80 million 名客户，设计规模可扩展至 3x；bunq 的智能体助手 Finn 在 Nebius 上部署后，以每个答案成本的 60% 达到领先闭源模型的质量。
推荐理由：原文汇总多家欧洲金融机构的自有基础设施部署，并给出成本和处理速度数据，便于对照私有化落地的关键指标。
36氪精选AI 评分3838 SK海力士推进新一代iHBM量产，热阻最高降低30%
SK海力士正推动新一代iHBM技术迈向量产阶段，并已开始讨论相关量产计划。iHBM将在D2D PHY中放置集成冷却元件ICE，以应对AI算力需求增长带来的HBM散热瓶颈，并将热阻降低最高30%。
推荐理由：SK海力士推进iHBM量产准备，文中给出ICE降低最高30%热阻的机制，便于理解HBM散热路线。
AWS Machine Learning Blog精选AI 评分5555 使用 AWS PrivateLink 实现 Amazon Quick 企业内网安全访问
这篇官方教程讲解如何借助 AWS PrivateLink 和 VPC 连接，让 Amazon Quick 从企业内网安全访问本地数据源。用户流量通过网站和 API VPC 端点进入，数据流量则由部署在 VPC 子网中的 ENI 访问数据库、Amazon Redshift 知识库和内部 API；文中还覆盖 DNS、IAM、安全组、访问限制、身份联邦与验证。
推荐理由：文章将用户访问与数据源访问拆成两类私网机制，并给出端点、DNS、权限和验证配置，便于复现企业内网接入方案。
Hacker News精选AI 评分7777 Omnara 发布开源智能体运行平台，作为 Claude Managed Agents 的自托管替代方案
Omnara 以 Apache 2.0 开源了可自托管的智能体运行平台，作为 Claude Managed Agents 的替代方案。它支持通过兼容端点接入任意模型，并可在 macOS 或 Linux 笔记本、虚拟机、容器和沙箱上运行智能体，内置工具、密钥、权限、事件流、持久状态和子智能体。
推荐理由：文中对照托管智能体平台的模型、机器与部署方式，并给出 Omnara 的自托管和 API 接入路径，便于评估平台差异。
Hacker News精选AI 评分4747 CleanFrame 为 Samsung The Frame 提供简洁主屏幕
ingve 开源 CleanFrame，为运行 Tizen 的 Samsung The Frame 提供可定制的简洁主屏幕，支持应用启动、照片背景、12 小时时钟和遥控器导航。
推荐理由：CleanFrame 将浏览器预览、电视安装和原生启动修改分阶段处理，并提供受限的编码智能体任务模板与恢复步骤。
AWS Machine Learning Blog精选AI 评分5151 使用 Strands Agents 构建 AAIF 三层智能体编排框架
AAIF 基于 Strands Agents 构建，本地小语言模型（SLM）处理常规任务，复杂请求则路由至 Amazon Bedrock。该分层编排旨在减少 API 成本并保持本地操作低延迟。框架以 llama3.2:1b 作为编排器，不依赖硬编码规则选择遥测、本地视觉或云端分析工具，并可部署在配备 8 GB 内存的 Raspberry Pi、全云或混合环境中。
推荐理由：文章以 IoT 监控为例，拆解本地小模型、云端模型与智能体编排的三层架构，并提供可改造的代码和部署路径。
AWS Machine Learning Blog精选AI 评分3535 U.S. Hunger 如何利用 Amazon Quick 连接领导团队与组织数据
U.S. Hunger 已向 17 名同事开放 Amazon Quick，用于探索组织数据、共享 KPI 定义，并支持家庭援助研究和财务规划。Quick 每晚 2 AM ET 通过定时刷新将 SQL Server 数据载入内存引擎 SPICE，Quick Spaces 集中管理文档、定义和分析，Amazon Quick Research 用于调查当前事件并关联政策问题。
推荐理由：案例梳理了 Amazon Quick 在数据探索、共享 KPI 定义和财务规划中的实际用法，并说明非营利组织可从已有问题与信息开始接入。
AWS Machine Learning Blog精选AI 评分6464 使用 torchtitan 在 AWS Trainium 上训练 Qwen3
AWS 教程演示如何在单台 trn2.48xlarge 上使用 torchtitan 以三种配置训练 Qwen3。
推荐理由：教程给出 Qwen3 的三种训练路径及自定义 NKI 算子接入流程，可作为在 Trainium 上迁移分布式训练实践的参考。