跳到正文
今天11月3日周二1 条
  1. AWS Machine Learning Blog66

    如何用 Crawl4AI 为 Amazon Bedrock Knowledge Bases 准备网页内容

    AWS 示例用 Crawl4AI 抓取授权网页,生成 Markdown 与元数据后由 Amazon Bedrock Knowledge Bases 摄取。Amazon EventBridge 按计划启动 AWS Fargate 任务,将文件上传至 Amazon S3,知识库再完成解析、分块、嵌入、索引和检索。

    推荐理由:文章梳理 Amazon Bedrock Web Crawler 与 Crawl4AI 两条路径,并给出从网页预处理到摄取和检索验证的完整实现。

10月31日周六
  1. AWS Machine Learning Blog60

    Worldwide Express 如何利用 Amazon Bedrock 自动化货运账单异常处理

    Worldwide Express 与 AWS、LTM 构建了基于 Amazon Bedrock 的多智能体方案,自动分派并处理承运商账单异常。三个智能体分别处理发票匹配、定价差异和附加费验证,调用承运商知识库并通过 API 接入 TMS SpeedShip,早期保留人工审批。

    推荐理由:案例给出了多智能体接入业务系统、检索承运商规则并设置人工审批的落地路径,同时披露异常处理效率和财务收益。

10月30日周五
  1. AWS Machine Learning Blog66

    使用 Kiro 构建可重复的 PHP 到 Java 迁移引擎

    Kiro 可用于构建可重复的 PHP 到 Java 迁移引擎,借助机械扫描器、共享方法论和八阶段工作流,把迁移变成可度量的流程。流程先构建可在 PHP 与 Java 间回放请求/响应的 parity harness,再由规则库驱动翻译,并在验证一致性后切换。同一套技能文件既可由 Kiro 交互式逐个应用执行,也可交给 AWS Transform 以智能体方式并行运行,完整迁移引擎已在示例仓库提供。

    推荐理由:文章给出机械扫描、规则库、差异清单和一致性测试组成的八阶段迁移方法,并说明如何让同一套技能同时支持单应用交互执行与多应用智能体迁移。

  2. AWS Machine Learning Blog71

    Epsilon 用 Amazon Nova Act 构建意图驱动的 UI 测试托管服务

    Epsilon 将基于 Amazon Nova Act 的意图驱动 UI 测试构建为多租户托管服务,以自然语言描述步骤并在托管浏览器中执行。该服务用 Amazon Bedrock AgentCore Browser Tool 提供隔离浏览器会话,由平台 API 创建工作流、后台执行器逐步运行并保存截图、结果和轨迹,Playwright 则继续承担确定性回归测试。

    推荐理由:文章提供多租户架构、集成代码和 Epsilon 内部基准,便于评估意图驱动测试相对 Playwright 的效率收益与落地方式。

  3. AWS Machine Learning Blog69

    MoEngage 如何通过 Amazon Bedrock AgentCore Gateway 将 400 多个 API 转为智能体工具

    MoEngage 用 Amazon Bedrock AgentCore Gateway 将分布在 7 个 AWS Region 的约 400 个私有 REST API 转换为权限隔离的 MCP 智能体工具。

    推荐理由:以400个私有API为例,拆解了集中式MCP网关、服务端权限策略与私有网络连接的落地分工,便于复用其工程架构。

  4. AWS Machine Learning Blog64

    AWS Batch 新增配额管理,支持跨团队借用和共享 SageMaker Training 资源

    AWS Batch 新增配额管理调度能力,面向 SageMaker Training 任务按团队、项目或工作负载划分 GPU 配额,并支持资源借出、借用与抢占回收。

    推荐理由:文章通过三个配额共享策略和两类抢占场景,完整展示多团队 GPU 资源的借用、回收与优先级调度配置。

10月29日周四
  1. AWS Machine Learning Blog60

    AWS 介绍用 Amazon Nova Act 扩展 QA Studio 智能体 QA 自动化

    AWS 在第三篇教程中讲解 QA Studio 的应用管理与团队权限能力,展示如何扩展基于 Amazon Nova Act 的智能体 QA 自动化。应用归组用例和测试套件,并按环境展示通过率、执行次数、失败数、趋势、不稳定测试排名及 0–100 健康分;分级角色限定应用权限,跨团队共享以接收方角色为上限。

    推荐理由:教程给出组织级 QA 扩展的具体路径,用应用归组、健康指标、分级角色和跨团队授权上限管理测试资产与权限边界。

  2. AWS Machine Learning Blog68

    在 Amazon Bedrock AgentCore 上构建企业级 AI 智能体平台

    AWS 讲解如何基于 Amazon Bedrock AgentCore 构建企业级智能体平台,并用多账户架构治理模型、工具、身份、评测和成本。配套蓝图提供平台控制平面和可重复的 Workstream 单元,以推理网关、MCP 工具网关、部署后评测和人工审批约束生产发布。

    推荐理由:文章给出多账户智能体平台的参考实现,梳理团队隔离、模型与工具授权、评测门禁及退役验证等企业级落地方法。

10月28日周三
10月27日周二
  1. AWS Machine Learning Blog74

    AI 智能体在 Amazon Bedrock 上使用 OpenAI 模型的提示缓存模式

    在 Amazon Bedrock 上运行 OpenAI 模型的 AI 智能体时,可用显式与隐式提示缓存复用工具、指令和会话前缀,降低重复输入成本。代码示例覆盖滚动断点、工具变更、并行子智能体和跨会话复用,并给出前缀至少 1,024 tokens、TTL 至少 30 分钟等约束。

    推荐理由:文章用 Python 示例拆解显式与隐式缓存、滚动断点及子智能体共享前缀,为多轮智能体复用稳定前缀和测量成本提供了可落地步骤。

10月24日周六
  1. AWS Machine Learning Blog74

    Amazon SageMaker AI 多轮强化学习 Wordle 实操指南

    AWS 通过 Wordle 示例,演示了在 Amazon SageMaker AI 上端到端训练多轮强化学习模型的完整流程。流程涵盖 AgentCore 智能体与奖励函数部署、数据集准备、使用 GRPO 更新 LoRA 适配器、MLflow 监控及部署设置下的评测。

    推荐理由:文章从 IAM 角色配置、AgentCore 智能体部署、数据准备到训练监控和部署设置评测,完整拆解多轮强化学习的落地流程与常见故障。

  2. OpenAI News47

    OpenAI 扩展 Habitat 在线存储以服务超 1 billion ChatGPT 用户(第二部分)

    OpenAI 通过扩展 Habitat 在线存储,支撑超 1 billion ChatGPT 用户,并将读取速度提升 12×。方案采用可靠的多租户架构、全球缓存和 Azure Cosmos DB,本文为该系列第二部分。

    推荐理由:OpenAI 公开了 Habitat 的多租户、全球缓存与 Azure Cosmos DB 扩展方案,并给出读取速度提升 12× 的工程指标。

  3. AWS Machine Learning Blog66

    如何使用 AWS CDK 编排 SageMaker AI 端点自动扩缩容更新

    AWS 演示了如何用可复用的 AWS CDK 组件与 CloudFormation 自定义资源,在更新 SageMaker AI 端点时自动注销并重新注册自动扩缩容目标。

    推荐理由:文章拆解了端点更新与自动扩缩容资源冲突的多种失败路径,并给出可复用 CDK 组件、依赖顺序和示例仓库,适合迁移到现有部署栈。

10月23日周五
  1. AWS Machine Learning Blog66

    使用 Amazon Quick 在 HIPAA 适用环境中部署 AI

    Amazon Quick Web 版是 HIPAA-eligible 服务,AWS 的实践指南演示了在 AWS Artifact 签署 BAA,并通过 AWS Management Console 配置处理 PHI 的 AI 工作流。

    推荐理由:文章区分服务适用资格与整体合规,并拆解 PHI 的两条数据路径、共享责任和关键配置,形成可迁移的部署清单。

  2. AWS Machine Learning Blog67

    如何用实测设置 Amazon SageMaker AI 上 Kokoro-82M 的 TTS 自动扩缩容

    AWS 教程在 Amazon SageMaker AI 上部署 Kokoro-82M,并用 Q_max 与 T_total 两项实测配置 TTS 自动扩缩容。在 3,000 ms p95 TTFAB SLO 下,Q_max=50;纯扩容实测耗时 260.2 秒,另计入由策略配置限定的 60.0 秒检测延迟,规划值为 320.2 秒。

    推荐理由:文章把TTS自动扩缩容拆成Q_max与T_total两项实测,并用它们推导阈值和冷却时间,方法可迁移到其他延迟敏感端点。

10月22日周四
  1. MIT Technology Review37

    AI 推理为何带来持续累积的数据存储成本

    AI 推理不仅持续消耗算力,还会留下日志、缓存、备份和安全记录,形成易被忽视的存储成本。WD 内部测量显示,8 秒 720p 视频输出文件为 3.97MB,后端关联数据却超过 500MB,达到 130x;McKinsey 预计 AI 推理需求到 2030 年将以 35% CAGR 增长,并在本十年末占数据中心总需求的 40% 以上。

    推荐理由:文章以视频推理的后端数据为例,拆解存储成本为何会随推理持续累积,为 AI 基础设施预算提供更完整的视角。

  2. AWS Machine Learning Blog55

    使用 AWS PrivateLink 实现 Amazon Quick 企业内网安全访问

    这篇官方教程讲解如何借助 AWS PrivateLink 和 VPC 连接,让 Amazon Quick 从企业内网安全访问本地数据源。用户流量通过网站和 API VPC 端点进入,数据流量则由部署在 VPC 子网中的 ENI 访问数据库、Amazon Redshift 知识库和内部 API;文中还覆盖 DNS、IAM、安全组、访问限制、身份联邦与验证。

    推荐理由:文章将用户访问与数据源访问拆成两类私网机制,并给出端点、DNS、权限和验证配置,便于复现企业内网接入方案。

  3. AWS Machine Learning Blog51

    使用 Strands Agents 构建 AAIF 三层智能体编排框架

    AAIF 基于 Strands Agents 构建,本地小语言模型(SLM)处理常规任务,复杂请求则路由至 Amazon Bedrock。该分层编排旨在减少 API 成本并保持本地操作低延迟。框架以 llama3.2:1b 作为编排器,不依赖硬编码规则选择遥测、本地视觉或云端分析工具,并可部署在配备 8 GB 内存的 Raspberry Pi、全云或混合环境中。

    推荐理由:文章以 IoT 监控为例,拆解本地小模型、云端模型与智能体编排的三层架构,并提供可改造的代码和部署路径。

  4. AWS Machine Learning Blog35

    U.S. Hunger 如何利用 Amazon Quick 连接领导团队与组织数据

    U.S. Hunger 已向 17 名同事开放 Amazon Quick,用于探索组织数据、共享 KPI 定义,并支持家庭援助研究和财务规划。Quick 每晚 2 AM ET 通过定时刷新将 SQL Server 数据载入内存引擎 SPICE,Quick Spaces 集中管理文档、定义和分析,Amazon Quick Research 用于调查当前事件并关联政策问题。

    推荐理由:案例梳理了 Amazon Quick 在数据探索、共享 KPI 定义和财务规划中的实际用法,并说明非营利组织可从已有问题与信息开始接入。

  5. Hugging Face Blog53

    用 Isaac Lab 3.0 训练并部署 Microduck 双足机器人步态策略

    Pollen Robotics 与 Hugging Face 联合发布开源双足机器人 Microduck,并演示如何用 NVIDIA Isaac Lab 3.0 与 Newton 在仿真中训练步态策略、导出为 ONNX 并部署到真机。

    推荐理由:文章给出 Isaac Lab 仿真训练到 ONNX 真机部署的完整命令与配置,读者可据此复现 Microduck 步态策略工作流。

  6. Hugging Face Blog61

    TorchNeuron 在 AWS Trainium 上的系统级推理性能分析教程

    torch.profiler 与 Neuron Explorer 可组合用于分析 AWS Trainium 上 TorchNeuron 的推理性能与耗时分布。教程从 NeuronConfig 配置和 key_averages() 读取入手,并沿框架调度、运行时调度到 NeuronCore 硬件执行追踪操作。

    推荐理由:给出一套从 key_averages() 定位设备耗时操作、再用 Neuron Explorer 跨框架、运行时和硬件层核验的分析流程。

10月21日周三
  1. OpenAI News37

    OpenAI 联合 PerturbAI 与 Scripps Research,用数千 AI agent 在脑细胞数据中发现新线索

    OpenAI、PerturbAI 与 Scripps Research 合作,用分布式 AI agent 处理来自数百万脑细胞的数据并挖掘出新的研究方向。文章介绍了三方如何借助多 agent 协作推进复杂生物研究。

    推荐理由:原文介绍了用分布式 AI agent 处理数百万脑细胞数据的研究方法,可作为同类生物数据研究的参考。

  2. AWS Machine Learning Blog64

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 提升多语言推理能力

    AWS 团队在 Amazon SageMaker HyperPod 上用 SFT 和 GRPO 微调 GPT-OSS-20B,使模型能按指令以英语、法语、德语、西班牙语或意大利语进行推理和回答。

    推荐理由:文章提供从数据、LoRA 训练到评测的完整流程,并用 SFT 与 GRPO 对照给出按模型能力缺口选择微调方法的判断框架。

  3. AWS Machine Learning Blog71

    使用 AWS Agent Registry 在运行时发现并调用 MCP 服务与智能体

    AWS Agent Registry 可让编排智能体在运行时搜索已批准、可发现的 MCP 服务、其他智能体和技能,并按描述符为当前请求实例化客户端。文中用 Python 样例实现“发现→实例化→执行”循环,覆盖仅 MCP、MCP+A2A 和语义匹配三类请求;Registry 只提供连接元数据,调用凭据由 Cognito OAuth 或 Boto3/IAM 单独处理。

    推荐理由:文章拆解了按请求发现、实例化并执行能力的完整链路,并给出审批、鉴权分离与观测实现,适合评估多工具智能体架构。

10月20日周二
  1. GitHub Blog · AI & ML36

    如何在 VS Code 中继续 GitHub Copilot App 会话

    GitHub Blog 教程演示如何把 Copilot App 的会话直接在 VS Code 中打开,继续使用同一份任务记录、对话历史和 worktree,无需复制或重建上下文。

    推荐理由:给出在 VS Code 中接力 Copilot 智能体会话的完整步骤,让审阅、手工修改、本地测试与 PR 推送共用同一会话上下文。

  2. AWS Machine Learning Blog49

    在 vLLM 中通过双向 KV 传输改善多轮智能体工作负载的 TTFT

    vLLM 引入双向 KV 缓存传输机制,让 P-D 分离部署中的 decode 节点把保留的 KV 回传给 prefill 复用,从而降低多轮智能体场景的反复预填充开销。

    推荐理由:在 1P1D 部署上以 Qwen3-32B 与 GLM-5-FP8 对比双向与单向 KV 传输的 TTFT 数据,读者可据此判断多轮智能体场景下是否值得启用。

  3. AWS Machine Learning Blog54

    vLLM 中基于推送模式的 KV 传输降低拆分解码推理的 TTFT 与 TPOT

    AWS 工程师向开源推理引擎 vLLM 贡献了基于推送模式的 NIXL KV 传输连接器,将传输准备移到后台线程以缩短到首个 token 的关键路径。在 EC2 P5en 搭配 EFA 的 1P1D 部署中以 Qwen3-32B 基准测试,高负载下推送模式 TTFT 最高约为拉取模式的 3 倍,TPOT 改善约 30%;拉取模式仍适用于需要负载感知路由的工作负载。

    推荐理由:给出了在 vLLM 中实现 push 模式 KV 传输的架构与复现步骤,读者可在自己的拆分解码部署中参考其后台线程与注册时机设计。