跳到正文
  1. AWS Machine Learning Blog71

    在 Amazon SageMaker AI 上用知识蒸馏构建高效智能体

    AWS 用 SeqKD 在 Amazon SageMaker AI 上蒸馏购物智能体,Qwen3.5-4B 的平均绝对成功率由 0.297 升至 0.541。教师 GLM-5.3 在 426 个训练问题上生成 850 条候选轨迹,ShoppingBench 评分器筛选后,将推理与工具调用按步编码,再用无服务器 SFT 和 LoRA 训练并部署。

    推荐理由:文章完整给出了教师轨迹筛选、SeqKD 微调、基准评测与 LoRA 部署流程,并呈现任务成功率提升和通用指令能力下降的实测结果。

  1. AWS Machine Learning Blog67

    用 Ray Train DLC 和 EFA 在 EKS 上进行 PyTorch 分布式训练

    AWS 演示了在 EKS 上使用 Ray Train DLC 与 EFA 进行多机 PyTorch 分布式训练,无需自行构建包含 CUDA、NCCL 与 EFA 的容器镜像。

    推荐理由:文章以统一 Ray Train 镜像贯通 EKS、KubeRay 与 EFA 配置,完整展示多机训练从集群部署、作业提交到 EFA 路径校验的落地方法。

  1. Hacker News66

    Sebastian Raschka 发布从零构建推理模型的 8 节视频课程

    Sebastian Raschka 发布 8 个从零构建推理模型的教学视频,总时长 11 小时,使用 Python 和 PyTorch 实现核心方法。课程以预训练 Qwen3 0.6B 为起点,依次实现生成与评估、推理时扩展、RLVR、GRPO、蒸馏和 MATH-500 评测。代码和章节示例可独立学习,前期示例可用 CPU,后续训练实验更适合使用 GPU。

    推荐理由:课程以 Qwen3 0.6B 为基础,代码覆盖评估、推理扩展、RLVR 和蒸馏,便于对照实验理解各技术如何影响模型表现。

  1. OpenAI News48

    OpenAI 介绍如何强化前沿模型训练与评估环境的安全防护

    OpenAI 介绍了加强前沿模型训练与评估环境安全防护的方法,具体措施包括使用离线环境和开展高算力红队测试。

    推荐理由:文章聚焦前沿模型训练与评估环境的安全防护,离线环境和高算力红队测试提供了理解其防护思路的具体切入点。

  2. AWS Machine Learning Blog74

    Amazon SageMaker AI 多轮强化学习 Wordle 实操指南

    AWS 通过 Wordle 示例,演示了在 Amazon SageMaker AI 上端到端训练多轮强化学习模型的完整流程。流程涵盖 AgentCore 智能体与奖励函数部署、数据集准备、使用 GRPO 更新 LoRA 适配器、MLflow 监控及部署设置下的评测。

    推荐理由:文章从 IAM 角色配置、AgentCore 智能体部署、数据准备到训练监控和部署设置评测,完整拆解多轮强化学习的落地流程与常见故障。

  1. 36氪37

    安顿白伟民在2026可持续全球领导者大会谈健康数据的采集与验证

    安顿健康科技创始人白伟民在2026可持续全球领导者大会介绍了中医机器人健康数据的采集、标注与验证路径。项目投入1.3亿元,研发约两年半,采集300多家医院的数据,由500多名中医师参与标注;安顿目前已采集20多万人的数据,并结合50多万份医案开展分析和训练。中医机器人已通过中国信通院泰尔实验室的58项测试验证,后续还需开展人机交互及不同场景下的实验。

    推荐理由:以20多万人数据、500多名中医师标注和58项测试为线索,呈现健康垂直模型从现场采集、专业标注到测试验证的具体流程。

  1. MIT Technology Review37

    AI 推理为何带来持续累积的数据存储成本

    AI 推理不仅持续消耗算力,还会留下日志、缓存、备份和安全记录,形成易被忽视的存储成本。WD 内部测量显示,8 秒 720p 视频输出文件为 3.97MB,后端关联数据却超过 500MB,达到 130x;McKinsey 预计 AI 推理需求到 2030 年将以 35% CAGR 增长,并在本十年末占数据中心总需求的 40% 以上。

    推荐理由:文章以视频推理的后端数据为例,拆解存储成本为何会随推理持续累积,为 AI 基础设施预算提供更完整的视角。

  2. AWS Machine Learning Blog35

    U.S. Hunger 如何利用 Amazon Quick 连接领导团队与组织数据

    U.S. Hunger 已向 17 名同事开放 Amazon Quick,用于探索组织数据、共享 KPI 定义,并支持家庭援助研究和财务规划。Quick 每晚 2 AM ET 通过定时刷新将 SQL Server 数据载入内存引擎 SPICE,Quick Spaces 集中管理文档、定义和分析,Amazon Quick Research 用于调查当前事件并关联政策问题。

    推荐理由:案例梳理了 Amazon Quick 在数据探索、共享 KPI 定义和财务规划中的实际用法,并说明非营利组织可从已有问题与信息开始接入。

  3. Hugging Face Blog53

    用 Isaac Lab 3.0 训练并部署 Microduck 双足机器人步态策略

    Pollen Robotics 与 Hugging Face 联合发布开源双足机器人 Microduck,并演示如何用 NVIDIA Isaac Lab 3.0 与 Newton 在仿真中训练步态策略、导出为 ONNX 并部署到真机。

    推荐理由:文章给出 Isaac Lab 仿真训练到 ONNX 真机部署的完整命令与配置,读者可据此复现 Microduck 步态策略工作流。

  1. AWS Machine Learning Blog64

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 提升多语言推理能力

    AWS 团队在 Amazon SageMaker HyperPod 上用 SFT 和 GRPO 微调 GPT-OSS-20B,使模型能按指令以英语、法语、德语、西班牙语或意大利语进行推理和回答。

    推荐理由:文章提供从数据、LoRA 训练到评测的完整流程,并用 SFT 与 GRPO 对照给出按模型能力缺口选择微调方法的判断框架。

  1. Latent Space60

    Standard Bots 如何用工业机器人 AI 实现可靠执行

    Standard Bots 通过共享基础模型、演示与微调适配任务,并在工厂本地运行推理,构建面向工业机器人可靠执行的 AI 技术栈。在机器上下料中,zero-shot 感知系统负责定位和识别零件,常规编程负责运动与单元逻辑,其骨干模型训练使用了超过 10 亿张图像。公司强调定向数据与部署中的人工纠正,并以边缘 GPU 生成 action chunks 送入底层控制系统,降低对云端连接的依赖。

    推荐理由:Standard Bots 的案例拆解了定向数据、边缘推理和软硬件协同如何支撑可靠执行,并指出这些方法也可迁移到软件智能体。

  1. AWS Machine Learning Blog36

    在 Amazon SageMaker AI 上用多轮强化学习微调搜索 Agent

    AWS 团队在 Amazon SageMaker AI 上用多轮强化学习微调 Qwen3.6-27B 搜索 Agent,以 nDCG@10 作为轨迹级奖励。微调后 BrowseComp-Plus 的 nDCG@10 提升 23.7%、失败率从 22.89% 降至 0.68%,WixQA 与 Wands 也分别提升 18.4% 与 6%。

    推荐理由:给出在 Amazon SageMaker AI 上用多轮强化学习微调搜索 Agent 的方法、配置与结果,可作为多轮 Agent 训练的参考。

  1. Hugging Face Blog67

    用 Sentence Transformers 训练与微调多向量嵌入模型

    Sentence Transformers v6.0 新增 MultiVectorEncoder 类型,配套教程展示 ColBERT 式多向量检索模型从预训练 checkpoint 微调的完整流程。

    推荐理由:给出在单卡消费级 GPU 上微调 ColBERT 式多向量检索模型的完整配方和实测对比,读者可据此复现并迁移到自己的领域。

已经到底了