跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

488 条精选近 30 天 449 条共收录 560 条

更新

精选归档 · 第 4 页

10月30日周五第 61–80 条
  1. 钛媒体79

    谷歌股价暴跌、亚马逊自由现金流转负、微软发债,AI基建竞赛进入分水岭

    微软、谷歌与亚马逊的财报呈现AI基建竞赛分水岭,云订单与收入激增,但资本开支、现金流和股价表现明显分化。AWS、Azure和谷歌云收入同比分别增长39.3%、48%和超过一倍,亚马逊过去12个月自由现金流净流出423.6亿美元,微软启动至少250亿美元发债计划,Alphabet股价次日重挫12.64%。

    推荐理由:AWS、Azure和谷歌云的订单与现金流对比,呈现AI基建扩张中收入增长与资金压力并存的行业分化。

  2. 36氪26

    算力扩容提速下AIDC基建转向能效与协同

    国内AIDC产业正从规模扩张转向比拼能效、速度与协同,液冷被视为破解散热与能效难题的核心抓手。在近日举行的2026国际(武汉)智能建造产业博览会上,业内人士称算力需求快速增长,电力约束、交付周期和技术迭代等问题集中显现。随着标准统一与全产业链协同推进,液冷技术有望规模化落地。

    推荐理由:文章以2026国际(武汉)智能建造产业博览会为背景,解释AIDC在电力与交付约束下转向能效、速度和协同,并聚焦液冷落地。

  3. AWS Machine Learning Blog66

    使用 Kiro 构建可重复的 PHP 到 Java 迁移引擎

    Kiro 可用于构建可重复的 PHP 到 Java 迁移引擎,借助机械扫描器、共享方法论和八阶段工作流,把迁移变成可度量的流程。流程先构建可在 PHP 与 Java 间回放请求/响应的 parity harness,再由规则库驱动翻译,并在验证一致性后切换。同一套技能文件既可由 Kiro 交互式逐个应用执行,也可交给 AWS Transform 以智能体方式并行运行,完整迁移引擎已在示例仓库提供。

    推荐理由:文章给出机械扫描、规则库、差异清单和一致性测试组成的八阶段迁移方法,并说明如何让同一套技能同时支持单应用交互执行与多应用智能体迁移。

  4. AWS Machine Learning Blog71

    Epsilon 用 Amazon Nova Act 构建意图驱动的 UI 测试托管服务

    Epsilon 将基于 Amazon Nova Act 的意图驱动 UI 测试构建为多租户托管服务,以自然语言描述步骤并在托管浏览器中执行。该服务用 Amazon Bedrock AgentCore Browser Tool 提供隔离浏览器会话,由平台 API 创建工作流、后台执行器逐步运行并保存截图、结果和轨迹,Playwright 则继续承担确定性回归测试。

    推荐理由:文章提供多租户架构、集成代码和 Epsilon 内部基准,便于评估意图驱动测试相对 Playwright 的效率收益与落地方式。

  5. Simon Willison73

    Spawn 用 Fable 驱动的自主智能体构建多人游戏世界

    Spawn 团队正让一群 Fable 驱动的自主智能体开发多人游戏环境,玩家则可通过提示词让游戏内智能体 Savi 修改游戏世界。智能体直接修改线上代码并每小时发布,每月 token 费用超过 $3 million;约 60% 的工作从生产错误、Savi 缺陷报告、日志异常或功能请求开始。

    推荐理由:以 Spawn 的游戏开发为案例,呈现智能体直接改代码、持续部署与自主修复的闭环,并对比不同前沿模型处理安全修复任务的表现。

  6. AWS Machine Learning Blog69

    MoEngage 如何通过 Amazon Bedrock AgentCore Gateway 将 400 多个 API 转为智能体工具

    MoEngage 用 Amazon Bedrock AgentCore Gateway 将分布在 7 个 AWS Region 的约 400 个私有 REST API 转换为权限隔离的 MCP 智能体工具。

    推荐理由:以400个私有API为例,拆解了集中式MCP网关、服务端权限策略与私有网络连接的落地分工,便于复用其工程架构。

  7. AWS Machine Learning Blog64

    AWS Batch 新增配额管理,支持跨团队借用和共享 SageMaker Training 资源

    AWS Batch 新增配额管理调度能力,面向 SageMaker Training 任务按团队、项目或工作负载划分 GPU 配额,并支持资源借出、借用与抢占回收。

    推荐理由:文章通过三个配额共享策略和两类抢占场景,完整展示多团队 GPU 资源的借用、回收与优先级调度配置。

  8. Hacker News66

    优秀开发者为何对智能体开发保持谨慎

    优秀开发者对智能体开发保持谨慎,核心原因是他们清楚“构建完成”并不等于能在生产环境可靠运行,而智能体自主执行仍需要可信边界和人的判断。他们并非拒绝编码助手,主要是不愿在护栏不足时完全放手。Thoughtworks 团队在为期一周、由智能体完成全部编码的实验中推进了约 80%,但应用虽能运行,构建却经常失败。

    推荐理由:Thoughtworks 的智能体全量编码实验显示应用虽可运行却频繁构建失败,文章据此解释资深开发者的谨慎源于对生产可靠性和人类判断的重视。

  9. Hacker News52

    Simantic 发布面向 AI 智能体的固件仿真层

    Simantic 发布固件仿真层,让工程师和 AI 智能体无需实体硬件即可测试和验证固件。虚拟开发板可通过单个 API 调用完成编程和运行,AI 代码审查器以仿真证据为依据,CI/CD 也会在每次提交时针对微控制器模拟环境验证固件。团队称,过去需要数小时的手动固件测试现在可缩短至数秒。

    推荐理由:将虚拟开发板、AI 代码审查和每次提交自动验证组合为一套流程,为固件测试智能化的具体实现路径提供了参照。

10月29日周四
  1. Hacker News85

    Mistral AI 发布 Mistral Large 4 改进版模型权重

    Mistral 发布 Mistral Large 4 经强化学习改进后的模型权重;该 1-trillion-parameter 原生多模态模型此前已进入公开预览。

    推荐理由:Mistral Large 4 开放权重并提供三档推理模式,同时给出编码与网络安全基准对比,便于开发者评估自部署的性能和成本取舍。

  2. Hugging Face Blog41

    IBM Granite Switch 4.1.1 补丁版发布,可按软件迭代方式更新模型

    IBM Granite Switch 4.1.1 补丁版发布,完全向后兼容 4.1,升级无需迁移且不改动基础模型。更新后的 Granite Speech ASR 模型支持 10 种语言的语音转文字,并原生处理标点和大小写;Decision adapter 在 Jev Decision Index 测试集上的整体性能得到改进。

    推荐理由:补丁版无需迁移即可兼容 4.1,并更新 ASR 与 Decision adapter,呈现基础模型不重训的模块化迭代方式。

  3. 钛媒体64

    阿里云如何以 Agentic Cloud 承接模型之后的智能体业务

    阿里云自今年5月提出转向 Agentic Cloud,正把云平台从承载模型调用改造为支撑智能体持续运行的环境。其体系归纳为全域认知引擎、自主运行与持续进化、可信协作与治理、智能实时决策四项能力,AgentCore、Agent Sandbox、Agent Identity 分别支撑运行、隔离和权限。

    推荐理由:文章通过对比云原生与 Agentic Cloud 的任务形态,并结合三家企业的工程问题,呈现阿里云承接智能体业务的技术路径。

  4. 量子位68

    天数智芯发布天垓300与彤央TY1200,现场对标英伟达GPU

    天数智芯发布天垓300、彤央TY1200与天数智算软件栈,并在现场将两款GPU对标英伟达 H200 和 Jetson Thor T5000。现场随机文生图任务中,天垓300用时95.6秒,H200为112秒;第三方测试中其折算单卡端到端吞吐为H200的1.05倍,TY1200运行Qwen3.8-27B的性能则为Thor T5000的138%。

    推荐理由:文章同时给出云端与端侧的现场对标数据,并拆解 Agent 辅助部署、调优和算子开发的效率变化,便于比较硬件与软件栈价值。

  5. 量子位55

    IDC发布2026年上半年中国MaaS市场报告,PPIO居独立服务商首位

    IDC报告称,2026年上半年中国MaaS市场规模达106.3亿元,PPIO居独立服务商首位,并列大语言模型MaaS市场第六。市场规模同比增长889.4%,报告认为行业竞争正从Token价格转向推理效率;PPIO称其平台覆盖200+款模型,截至2026年9月日均Token调用量达3.4万亿。

    推荐理由:IDC数据呈现MaaS市场分层,PPIO的模型调度、推理加速与Agent沙箱指标可用于比较独立服务商的效率取向。