跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

488 条精选近 30 天 449 条共收录 560 条

更新

精选归档 · 第 5 页

10月29日周四第 81–100 条
  1. 量子位37

    邵广禄:AI安全是AI规模化应用的“加速器”

    邵广禄主张,AI安全应从附加条件转向基础能力,成为AI进入核心业务和规模化应用的“加速器”。文章将风险归纳为基础设施、数据、模型、智能体与系统、应用与业务、社会与国家安全六个层面,指出风险呈链条化、涌现化和外溢化。围绕安全内生、关键技术与公共基础设施建设,他建议探索“保险+安全服务”,通过风险定价和持续监测降低企业应用顾虑。

    推荐理由:文章将AI风险拆解为六层系统问题,并把智能体权限、工具调用与保险定价纳入同一框架,便于审视规模化应用的安全成本。

  2. The Verge · AI76

    亚利桑那州为何欢迎 TSMC、反对 AI 数据中心

    The Verge 对亚利桑那州 AI 基础设施扩张的调查显示,新建超大规模数据中心正因用水、用电和土地压力遭到当地居民强烈反对,TSMC 晶圆厂则受到欢迎。

    推荐理由:文章通过对比 TSMC 晶圆厂与拟建数据中心的用水、就业和环保争议,解释亚利桑那州居民为何欢迎芯片制造却反对 AI 数据中心。

  3. MIT Technology Review · AI65

    MIT Technology Review 呼吁实时监控 AI 智能体行为

    MIT Technology Review 呼吁实时监控 AI 智能体行为,并要求开发者补齐支撑安全监督的可观测性记录。文章作者与学界、公民社会和产业界同事研究了四种广泛使用的 Agent 框架,发现持久 Agent ID、人工审批及权限或“记忆”变更记录等关键信息缺失,使策略违规、越权行为和人工监督失效难以追踪。

    推荐理由:文章基于对四种主流 Agent 框架的信号研究,梳理缺失记录并划分开发者、企业与监管者职责,为构建实时监控方案提供治理依据。

  4. 钛媒体78

    微软、谷歌与亚马逊的AI投入对比:资本开支上升、现金流承压

    微软与谷歌同步发布自然年Q3业绩后,AI基础设施投入继续推高资本开支,并使自由现金流表现分化。谷歌Q3资本性支出为514亿美元,同比增长114%,自由现金流为负91亿美元;微软资本性支出为452亿美元,自由现金流仍有186亿美元。亚马逊Q3财报尚未发布,文章结合其此前数据,比较三家云厂商通过云算力、自研芯片和SaaS订阅实现AI回报的路径。

    推荐理由:文章以资本开支、自由现金流和云业务增速对比三家云厂商,呈现AI基础设施投入与变现效率之间的矛盾。

  5. Hacker News73

    Bernstein v3.23.0 发布开源 AI 智能体治理层,支持 53 个 CLI 适配器

    Bernstein v3.23.0 发布,提供面向 AI 智能体的开源治理层,支持 53 个 CLI 适配器,并以 Apache 2.0 许可证开放使用。其确定性 Python 调度器不将模型接入协调循环,可并行运行智能体,让同一计划按字节一致地重放,并以策略即代码执行约束、生成可验证记录。

    推荐理由:内容拆解了无模型参与的确定性调度、策略即代码和签名审计链,可用于评估多智能体治理方案的重放一致性与可验证性。

  6. 36氪30

    中科曙光展示“AI数据工厂”及曙光存储系统应用

    中科曙光在2026数据存储产业大会展示了面向 Token 时代的“AI数据工厂”,以存储参与 AI 生产全流程并提升 Token 产出效率。该方案打通数据使用环节,让 AI 及时获取所需信息并复用已有计算结果,以提高算力利用效率。曙光存储系统已用于曙光8000、机器人数据采集与训练、自动驾驶等场景。

    推荐理由:材料呈现了中科曙光以 AI 数据工厂衔接数据使用与算力复用的思路,并列出三类已应用场景,便于理解其 Token 生产方案。

  7. Hacker News81

    Claude Code 定期将每个后台智能体的完整会话记录发给模型生成状态摘要

    Claude Code 会约每 30 秒把每个后台智能体的完整会话记录发给其模型(通常是 Opus),仅生成 3 至 5 个词的状态摘要。文中 OpenTelemetry 数据显示,agent_summary 一度占 Claude Code 估算支出的 16.4%,并约占 19.7% 的 API 请求。

    推荐理由:原文提供可复用的 Bun preload 方案,可在不修改 Claude Code 二进制的情况下拦截后台智能体摘要请求并验证效果。

  8. Hacker News45

    新加坡国立大学将电子纤维织入袖套,开发可机洗织物触摸屏

    新加坡国立大学(NUS)研究人员将电子纤维直接织入袖套,开发出可显示图像和视频、响应触摸并无线连接设备的可机洗织物触摸屏。原型由54根像素纤维组成,形成96×54像素、168×105毫米、30帧/秒的显示屏,并支持8-bit色深。在包含洗涤剂的50次机洗和半径5毫米的1,000次弯折后,显示与触控性能仍接近不变;团队后续计划提升分辨率、集成更多传感功能并探索端侧AI。

    推荐理由:研究给出了电子纤维的互连架构与样机参数,展示了在保持织物透气性和柔韧性的同时实现可机洗交互界面的具体路径。

  9. 钛媒体58

    中国八大国家算力枢纽的选址逻辑与商业挑战

    中国八大国家算力枢纽的选址兼顾东部客户密度与西部能源、气候优势,同时受产业结构、网络时延和地方竞争影响。随着生成式AI带来训练与推理需求,枢纽竞争正从建设规模转向算力利用率、客户结构和实际收入。截至2025年底,全国智能算力规模达159万PFLOPS,八大国家算力枢纽及十大集群的智算规模占全国八成以上;到2026年6月底,全国智能算力规模进一步增长至约218.5万PFLOPS。

    推荐理由:文章对比东部枢纽与西部能源型枢纽的选址差异,并指出利用率、客户结构和实际收入将成为下一阶段竞争重点。

  10. 钛媒体48

    AI芯片先进封装逼近掩模极限,CoWoS-L与EMID-T竞逐扩容

    AI芯片所用先进封装的尺寸不断逼近并超过掩模极限,CoWoS-L与EMIB-T分别以RDL加局部硅互连、嵌入式硅桥加TSV应对互连与供电瓶颈。台积电首款3.5倍掩模尺寸的CoWoS-L已于2024年量产,5.5倍CoWoS方案计划于2026年量产,TrendForce预计CoWoS-L凭成熟度和良率优势到2028年仍是主流。

    推荐理由:文章把CoWoS-L与EMIB-T的互连、供电和尺寸路线并列比较,并梳理超大封装在散热、良率与成本上的约束,便于理解两条路线的取舍。

  11. 36氪67

    腾讯发布 Buddy One,WorkBuddy 将开放架构支持企业自建智能体网络

    腾讯在全球数字生态大会上发布以 WorkBuddy 为工作台的一体化套件 Buddy One,并升级腾讯云 Agent Runtime 与安全能力。WorkBuddy 企业版自今年 3 月上线以来已覆盖 50 多个行业、中国企业 500 强中的 50% 和企业 100 强中的 60%,开放平台伙伴和开发者超过 5 万家,上架 Skills 超 20 万。

    推荐理由:WorkBuddy的企业覆盖、伙伴与Skills规模,以及开放架构和第三方智能体接入安排,为评估企业级智能体平台的扩展路径提供了具体依据。

  12. Latent Space59

    为什么 AI 智能体偏爱 Supabase

    Latent Space 作者 swyx 在播客中采访 Supabase 创始人 Paul Copplestone 和 Ant Wilson,解释 AI 智能体偏爱 Supabase 的原因:本地后端无需 Docker,数据库模式可以声明式地保存在 Git 中,计算也能贴近数据库运行。

    推荐理由:把数据库后端拆成本地启动、声明式模式、贴近数据库的计算和运维上下文,解释智能体为何偏好 Supabase,也提供评估智能体友好后端的实用框架。

  13. MIT Technology Review47

    用企业上下文创造 AI 价值:MIT Technology Review Insights 调查报告

    MIT Technology Review Insights 的调查显示,所有受访组织都在不同程度使用 AI,但仅 16% 从部署中获得转型性价值。40% 的受访者看到特定任务或团队的适度收益,21% 报告有意义的收益,23% 的回报很少或没有。

    推荐理由:报告用企业调查呈现 AI 回报分布,并将收益不足与企业上下文层缺失联系起来,为理解智能体落地瓶颈提供参考。

  14. TechCrunch65

    Anthropic 推出面向企业客户的 AI 支出报告工具

    Anthropic推出面向企业客户的新报告工具,可按日期范围查看团队工作、产出、token成本和工作流断点,并给出改进建议。Anthropic称默认不会将这些数据用于模型训练,同时推出供团队共享的分组预算,以帮助管理token支出。公司向投资者披露,第二季度实现营业利润,同一批客户的支出从Q3 2025到Q3 2026增至9倍,净收入留存为900%。

    推荐理由:新报告将团队产出、token成本与工作流断点汇总展示,并提供改进建议,为企业判断AI工具投入和优化使用方式提供具体依据。

  15. HF Daily Papers70

    EmbeddingGemma 2 论文提出统一高效的多模态表征方案

    EmbeddingGemma 2 论文提出一个原生统一文本、图像、音频、视频及其组合表征的开源多模态嵌入模型。模型采用简化逐层嵌入与包含模态和目标递进的多阶段课程,并在覆盖各模态的综合嵌入基准中超过专用模型及规模大 2 至 12 倍的模型。设计支持选择性加载模态编码器、调整视觉 token 预算、截断嵌入维度和量化权重,论文地址为 https://arxiv.org/abs/2610.37364。

    推荐理由:论文在统一多模态表征之外,还报告了相对专用模型和规模大 2 至 12 倍模型的性能对比。

  16. AWS Machine Learning Blog60

    AWS 介绍用 Amazon Nova Act 扩展 QA Studio 智能体 QA 自动化

    AWS 在第三篇教程中讲解 QA Studio 的应用管理与团队权限能力,展示如何扩展基于 Amazon Nova Act 的智能体 QA 自动化。应用归组用例和测试套件,并按环境展示通过率、执行次数、失败数、趋势、不稳定测试排名及 0–100 健康分;分级角色限定应用权限,跨团队共享以接收方角色为上限。

    推荐理由:教程给出组织级 QA 扩展的具体路径,用应用归组、健康指标、分级角色和跨团队授权上限管理测试资产与权限边界。

  17. AWS Machine Learning Blog68

    在 Amazon Bedrock AgentCore 上构建企业级 AI 智能体平台

    AWS 讲解如何基于 Amazon Bedrock AgentCore 构建企业级智能体平台,并用多账户架构治理模型、工具、身份、评测和成本。配套蓝图提供平台控制平面和可重复的 Workstream 单元,以推理网关、MCP 工具网关、部署后评测和人工审批约束生产发布。

    推荐理由:文章给出多账户智能体平台的参考实现,梳理团队隔离、模型与工具授权、评测门禁及退役验证等企业级落地方法。

  18. Hacker News28

    Converge 招聘首位平台工程师,负责搭建广告智能体平台

    YC S23 公司 Converge 正在招聘首位平台工程师,负责搭建驱动广告智能体运行的平台。公司称,智能体已完成广告账户 90% 以上的预算调整,并管理 $1M+ 的日预算;现有系统每月摄取 20 TB 数据,峰值达到 10,000 jobs/s。

    推荐理由:岗位明确把编码智能体用于基准测试、性能分析、监控和排障,展示了 Agent 团队将 AI 融入工程流程的具体做法。