Berget AI 估算 Kimi K3 典型请求在得州的 CO₂ 排放为瑞典的 8.5 倍
Berget AI 的估算显示，在相同硬件上，Kimi K3 的一次典型请求在瑞典排放约 0.38 g CO₂e，在得州约 3.2 g，后者是前者的 8.5 倍。
推荐理由：该方法把模型、时段、提示词缓存和电网区域纳入逐请求核算，并公开代码与假设，便于比较不同部署位置的排放差异。
技术方向
部署工程 最新动态
怎么把模型跑得更快更省钱：推理加速、显存与成本、服务部署与基础设施选型。
490 条精选近 30 天 450 条共收录 562 条
更新
精选归档 · 第 12 页
Hacker News精选AI 评分7474 钛媒体精选AI 评分3434 桐乡AI产业从乌镇叙事走向多赛道落地
桐乡正依托“乌镇之光”超算中心、中国联通智算中心及“三智一网”生态，推动AI从乌镇叙事转向智能驾驶、机器人、工业AI与算力基础设施等产业落地。尚元智行披露，其线控底盘出货量已突破11000台，L4级自动驾驶里程累计突破1亿公里；新生纪称，其商用机器人在很多终端场景的清洁率达到97%以上。
推荐理由：文章通过园区、实验室和生产线走访，串联智驾、机器人、工业AI与液冷案例，呈现地方AI集群的协同落地路径。
钛媒体精选AI 评分5454 第六届RISC-V中国峰会在深圳开幕，车规芯片量产上车而AI与数据中心继续补软件
第六届RISC-V中国峰会在深圳开幕，披露了车规芯片量产上车进展，而AI与数据中心仍主要围绕架构扩展、IP核和软件栈展开。紫荆M100于2025年12月18日量产上车，车规级芯片出货量已突破1000万颗，IAR同时推出面向RISC-V的开发工具。AI与数据中心尚无公开部署规模和客户名单，中科院计算所预计RISC-V面向数据中心的基础软件生态有望在2030年前走向成熟。
推荐理由：文章对比了RISC-V在车规、AI与数据中心的推进阶段，梳理量产落地、架构探索和软件生态成熟时间之间的差异。
钛媒体精选AI 评分5252 AI改造内容行业：效率焦虑与互动影游机会
AI正通过多模态模型重构内容生产，在游戏、电商和短视频等高频场景中缩短制作周期并降低费用。文章以MiniMax H3为案例，称一家大型游戏厂商将素材制作从几天缩至几小时，月度费用从几百万元降至几十万元；H3支持768p和2K输出，2K的API调用价格约0.8元/秒。B站updream使用H3开展创作者征稿，双方还探索热门视频Skill，文章同时讨论互动影游的内容生产与分发入口竞争。
推荐理由：文章通过游戏、电商与B站案例，拆解AI内容生产在制作周期、费用、返工和生态入口上的现实收益与限制。
钛媒体精选AI 评分7676 ASIC大单接连落地，芯片供应商要换打法了？
模型公司正围绕自研或租用 ASIC 安排数百亿美元资金，订单从主加速器扩展到设计服务、IP 和配套芯片，芯片供应商需要承担从定义到量产交付的更多环节。OpenAI 与博通就超过 500 亿美元融资展开早期谈判；Anthropic 的五年 TPU 算力租赁承诺约 1252 亿美元，最高 420 亿美元融资额度可覆盖其中约三分之一。
推荐理由：文章串联模型公司自研、云端部署和设计服务订单，对照主加速器与 IP、配套芯片、算力运营的分工变化，帮助读者看清 ASIC 商业链条如何扩展。
钛媒体精选AI 评分5252 光锥智能与NVIDIA探讨企业Token经济学核算框架
光锥智能王一粟与NVIDIA赖俊杰提出从价值、需求、供给和变现四方面核算企业AI投入。对话将Token视为AI工厂的产出单位，强调单位Token成本只是供给效率指标，最终还要落到任务完成率、节省时间、自动化率和业务回报。王一粟提出基础、增长、峰值三套预算，并从用户规模、推理轮数、智能体调用、重试和缓存等因素逐层估算需求。
推荐理由：文章把Token投入拆成价值、需求、供给和变现四个支柱，并给出预算规划与分层指标框架，便于企业核算AI的实际回报。
NVIDIA Blog精选AI 评分6060 哈萨克斯坦扩建 AI 算力，Firebird 获准部署 45,000 块 NVIDIA Grace Blackwell GPU
哈萨克斯坦正扩建 AI 算力，Firebird 已与政府签署投资协议，获美国出口许可部署 45,000 块 NVIDIA Grace Blackwell GPU。
推荐理由：这组公告把 GPU 供应、算力容量与机器人应用探索串联起来，呈现哈萨克斯坦 AI 建设从基础设施延伸到应用场景的路径。
钛媒体精选AI 评分7777 Gemini 4 Argon上线72小时 Token用量约为 Gemini 3.0的3倍，Google CEO解释未发布 Gemini 3.5 Pro的原因
Google CEO 桑达尔·皮查伊披露，Gemini 4 Argon发布后前72小时处理约25万亿个 Token，约为 Gemini 3.0版本的3倍。他称，团队因Argon预训练已完成且Gemini 3.5 Pro生命周期会很短，决定将3.5至3.8 Flash积累的技术用于Argon后训练；发布初期仍受算力限制，Google正在开发更高效的知识蒸馏版本。
推荐理由：访谈串起Gemini 3.5 Pro的取舍、Argon研发方向与算力限制，呈现模型迭代节奏和基础设施投入之间的联动。
36氪精选AI 评分4040 SpaceX推出面向Grok企业客户的超级智能合作伙伴网络，超130家公司参与早期测试
当地时间10月22日，SpaceX推出面向Grok企业客户的官方合作伙伴计划“SpaceX超级智能合作伙伴网络”，已有超过130家公司参与早期测试。计划分为转型合作伙伴和市场合作伙伴，前者帮助企业部署Grok平台，后者负责开发插件及产品集成。参与企业包括贝恩公司、Databricks、英伟达和Snowflake。
推荐理由：原文梳理了网络的两类伙伴分工、服务内容与早期参与者，便于理解Grok面向企业客户扩展生态的具体路径。
36氪精选AI 评分6868 谷歌云新增Anthropic托管的Claude模型部署选项
10月23日，谷歌云宣布Anthropic托管的Claude模型部署选项正式开放，企业可在谷歌云基础设施上运行Claude，并在模型发布首日使用最新版本。Anthropic将作为数据处理方，企业仍可使用谷歌云IAM、审计日志和现有云账单体系；谷歌云也保留由其负责数据处理的方案，并提供VPC服务控制、客户管理加密密钥及美国、欧盟和亚太地区的数据驻留能力。
推荐理由：原文区分了Anthropic与谷歌云两类托管方案，可用于比较数据处理方、密钥控制和数据驻留范围。
OpenAI News精选AI 评分4646 Anima 借助 GPT-6 和 GPT-Live 将诊所电话等待时间缩短 75%
Anima 借助 GPT-6 和 GPT-Live 帮助诊所将电话等待时间缩短 75%。Anima 扩展了护理团队使用 OpenAI 模型响应患者的能力，让团队获得更大的患者响应容量。
推荐理由：Anima 在诊所场景中借助 GPT-6 和 GPT-Live 将电话等待时间缩短 75%，为医疗场景中的模型应用提供了可量化参照。
MIT Technology Review · AI精选AI 评分2929 如何设计可长期演进的 AI 模型服务框架
企业 AI 的竞争优势不只取决于选用哪个模型，还取决于如何构建模型服务系统，将智能可靠、经济且规模化地交付到生产环境。文章主张由工作负载定义约束，在延迟、并发、显存压力、GPU 利用率、基础设施成本和流量波动下识别主导瓶颈，再选择量化、投机解码或优化注意力等手段。系统还应围绕明确的服务级别目标和可衡量的成本效益设计，以便模型、硬件或优化技术变化时只需评估和配置，而无需重建平台。
推荐理由：文章从工作负载、延迟、并发、显存和成本切入，给出先测量主导瓶颈、再针对性优化并保持架构可演进的实践路径。
Hacker News精选AI 评分7878 agent-usage-guard 发布，防止 Claude Code 用量窗口被快速耗尽
开源项目 agent-usage-guard 提供 Claude Code 插件，在智能体、提示词或工具调用前读取套餐用量并拦截失控消耗。它按 5 小时和每周窗口、并发数、上下文量、token 预算及重试循环询问或拒绝操作，默认在窗口达到 80% 时询问、95% 时拒绝新智能体，相关限制覆盖本机 Claude Code 会话。
推荐理由：原文给出了跨会话的用量阈值、并发与 token 限额、交互式拒绝机制和安装方式，适合 Claude Code 用户评估如何控制智能体失控消耗。
The Decoder精选AI 评分6666 Google 宣布 Agent Compute Engine 为每个 Gemini 智能体提供隔离 microVM
Google 宣布 Agent Compute Engine，让每个 AI 智能体运行在独立隔离的 microVM 中；该服务已支撑 Gemini，并将在未来数月开放预览。
推荐理由：原文列出 Google 提供的 microVM 隔离、暂停恢复与承载量数据，便于比较智能体基础设施的成本和调度表现。
AWS Machine Learning Blog精选AI 评分6969 如何使用 Kokoro TTS 和 Amazon SageMaker AI 实现 AI 智能体低延迟语音流式输出
本文演示将 AI 智能体逐句生成的文本即时送入 Amazon SageMaker AI 上的 Kokoro-82M TTS 模型，并在完整回答完成前开始播放语音。
推荐理由：给出逐句流式合成、双向会话和音频回传的实现路径，并用对照测试量化各方案的首音频延迟与实现取舍。
AWS Machine Learning Blog精选AI 评分6666 使用 Amazon Quick 在 HIPAA 适用环境中部署 AI
Amazon Quick Web 版是 HIPAA-eligible 服务，AWS 的实践指南演示了在 AWS Artifact 签署 BAA，并通过 AWS Management Console 配置处理 PHI 的 AI 工作流。
推荐理由：文章区分服务适用资格与整体合规，并拆解 PHI 的两条数据路径、共享责任和关键配置，形成可迁移的部署清单。
AWS Machine Learning Blog精选AI 评分7676 Amazon SageMaker AI 推出训练会话 API，支持自定义训练循环且无需管理 GPU
Amazon SageMaker AI 推出训练会话 API，让用户从本地 Python 进程编写 SFT、偏好优化或 RL 训练循环，同时由服务托管 GPU 及相关基础设施。
推荐理由：文章对比训练会话 API 与其他 SageMaker 定制方式，并拆解三类 SDK 客户端和 RL 循环，便于判断其控制权与运维边界。
Hacker News精选AI 评分8080 NVIDIA OpenShell 0.1.x 加强智能体隔离并扩展 API
开源项目 OpenShell 0.1.x 增加稳定的发布节奏、新的隔离原语、扩展接口与 API，并提供 0.1.0 升级指南。该运行时通过内核级策略控制，将每个智能体限制在隔离沙箱中，并对文件访问、系统调用和网络连接实施检查。策略变更前，OpenShell 会用形式化验证标记新增的高风险访问并交由人工复核，真实凭证仅注入发往获批端点的请求。
推荐理由：原文同时给出沙箱隔离、策略执行和变更验证机制，读者可据此比较多智能体运行时的权限治理实现。
Latent Space精选AI 评分7474 Modal CEO Erik Bernhardsson 解释 GPU 容量合同为何呈矩形
Modal CEO Erik Bernhardsson 在 Latent Space 访谈中解释，固定 GPU 数量和期限会形成矩形容量合同，而真实 AI 工作负载会不断增长、突增和回落。
推荐理由：把固定 GPU 容量合同与波动的真实负载并置，解释了 Modal 如何用需求池和弹性切片减少闲置，也呈现锁价背后的财务风险。
AWS Machine Learning Blog精选AI 评分6767 如何用实测设置 Amazon SageMaker AI 上 Kokoro-82M 的 TTS 自动扩缩容
AWS 教程在 Amazon SageMaker AI 上部署 Kokoro-82M，并用 Q_max 与 T_total 两项实测配置 TTS 自动扩缩容。在 3,000 ms p95 TTFAB SLO 下，Q_max=50；纯扩容实测耗时 260.2 秒，另计入由策略配置限定的 60.0 秒检测延迟，规划值为 320.2 秒。
推荐理由：文章把TTS自动扩缩容拆成Q_max与T_total两项实测，并用它们推导阈值和冷却时间，方法可迁移到其他延迟敏感端点。