跳到正文
  1. Hacker News81

    Claude Code 定期将每个后台智能体的完整会话记录发给模型生成状态摘要

    Claude Code 会约每 30 秒把每个后台智能体的完整会话记录发给其模型(通常是 Opus),仅生成 3 至 5 个词的状态摘要。文中 OpenTelemetry 数据显示,agent_summary 一度占 Claude Code 估算支出的 16.4%,并约占 19.7% 的 API 请求。

    推荐理由:原文提供可复用的 Bun preload 方案,可在不修改 Claude Code 二进制的情况下拦截后台智能体摘要请求并验证效果。

  2. AWS Machine Learning Blog60

    AWS 介绍用 Amazon Nova Act 扩展 QA Studio 智能体 QA 自动化

    AWS 在第三篇教程中讲解 QA Studio 的应用管理与团队权限能力,展示如何扩展基于 Amazon Nova Act 的智能体 QA 自动化。应用归组用例和测试套件,并按环境展示通过率、执行次数、失败数、趋势、不稳定测试排名及 0–100 健康分;分级角色限定应用权限,跨团队共享以接收方角色为上限。

    推荐理由:教程给出组织级 QA 扩展的具体路径,用应用归组、健康指标、分级角色和跨团队授权上限管理测试资产与权限边界。

  3. AWS Machine Learning Blog67

    用 Ray Train DLC 和 EFA 在 EKS 上进行 PyTorch 分布式训练

    AWS 演示了在 EKS 上使用 Ray Train DLC 与 EFA 进行多机 PyTorch 分布式训练,无需自行构建包含 CUDA、NCCL 与 EFA 的容器镜像。

    推荐理由:文章以统一 Ray Train 镜像贯通 EKS、KubeRay 与 EFA 配置,完整展示多机训练从集群部署、作业提交到 EFA 路径校验的落地方法。

  1. Hacker News62

    ESP32-S3 用 SIMD 加速 FAST 特征检测,吞吐量从 5.1MP/s 升至 11.2MP/s

    作者为 ESP32-S3 实现了利用 128-bit SIMD 指令的 FAST 特征检测器,在其测试中将吞吐量从 5.1MP/s 提升至 11.2MP/s。实现每次并行计算 16 个像素,并通过 XOR 0x80 将无符号像素转为可用的有符号范围,绕过芯片不支持非对齐直接读取、仅有符号 8 位比较和饱和算术等限制。

    推荐理由:文章拆解了 ESP32-S3 的 SIMD 限制,并以 FAST 检测器演示如何处理非对齐读取、有符号比较和饱和算术,可为低成本端侧视觉优化提供实现参考。

  1. Hacker News42

    在 ASUS ProArt P16 上安装 Arch Linux ARM 以本地运行 Qwen 推理

    Arch Linux 包维护者 pfeifferj 在 128GB RAM、6,144 CUDA 核心的 ASUS ProArt P16 上跑通 Arch Linux ARM,让系统与 CUDA 共用 116.0 GiB 统一内存池。

    推荐理由:作者在 ASUS ProArt P16 上跑通 Arch Linux ARM 并实测本地 Qwen 推理,给出统一内存池带来的显存差异和端侧部署的可复用路径。

  1. Hacker News51

    《Harness Engineering 101》从零搭建 AI 智能体,把 LLM 当大脑、Harness 当身体

    作者 Isuru Wijesiri 在 GitHub 开源《Harness Engineering 101》教程,以 16 章从零搭建一个约 300 行 Python 玩具智能体,把 LLM 当大脑、Harness 当身体。

    推荐理由:用一个 300 行的 Python 玩具智能体把主流 Agent 框架共用的设计取舍拆成 16 章,读者可以把这套搭法迁移到自己的项目。

  2. Hacker News70

    Superlite:Claude Code 上更快的自主构建插件

    作者发布 superlite,一个面向 Claude Code 的自主构建插件,主打一次审批后自动并行执行任务。它通过任务图拆分、按能力分配 Sonnet/Haiku 子代理、用 hook 强制执行规则来减少人工介入,并在同一基准项目上以 16.1 分钟跑完 177/177 个隐藏测试,约为对照 superpowers 33.6 分钟的一半。

    推荐理由:作者把 Claude Code 插件的并行策略、任务分层与同项目基准数据做了展开,可作为设计自动编码流水线时的参考。

  1. AWS Machine Learning Blog54

    Reflection Beam 登陆 AWS SageMaker JumpStart,面向智能体编码的开源权重模型

    Reflection AI 的开源权重模型 Beam 已上线 Amazon SageMaker JumpStart,整体为稀疏 MoE,总参数 501B、激活参数 23B,有效上下文长度 1M tokens,权重以 Apache 2.0 在 Hugging Face 发布,提供 BF16、FP8、NVFP4 三种检查点。

    推荐理由:文章对比 JumpStart 实时端点、HyperPod Inference 与 SGLang 或 vLLM 三条部署路径及对应 H100/H200/B200 实例,便于评估在 AWS 上运行 Beam 的硬件与运维取舍。

  2. Hacker News60

    Apple ML Research 用 MLX 在 Mac Studio 集群上分布式推理 Muse Spark Open

    Apple ML Research 博客发布 MLX v0.30.1 分布式推理方案,结合 macOS 26.2 引入的 Thunderbolt 5 RDMA 驱动与新的通信集合 jaccl,可在多台 Mac Studio 上运行 816B 总参数、42B 激活参数的 MoE 模型 Muse Spark Open。

    推荐理由:Apple 用 4 台 M5 Ultra Mac Studio 通过 Thunderbolt RDMA 把 816B 参数的 MoE 模型跑到 36.73 tokens/s,给本地大模型推理提供了可复现的并行方案与基准数据。

  3. AWS Machine Learning Blog50

    Meta 的 Muse Spark Open 模型登陆 Amazon SageMaker JumpStart

    Meta 的开源编码模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,提供 BF16(Muse-Spark-Open-816B-A42B)与 NVFP4 量化(Muse-Spark-Open-816B-A42B-NVFP4)两种变体。

    推荐理由:原文给出了 BF16 与 NVFP4 两种变体的部署路径、对应实例类型及推理调用方式,便于读者在自有 AWS 环境中评估该模型的编码能力。

  4. Hacker News52

    BlastLoop:面向 AI 编码智能体的结构优先分层方法

    BlastLoop 是 Ross Shaw 在 Show HN 上发布的面向 AI 编码智能体的结构优先编程框架。它把写代码分成 Blast、Mid、Inner 三个高度层,分别处理系统级、子系统级和本地单元级改动,再按 T1 结构、T2 bug/运维、T3 对抗测试的固定顺序逐层验证;若 T3 发现结构问题则回到 T1 并重新路由到对应高度修正。

    推荐理由:原文给出了一套按高度分层、按结构与对抗门控顺序测试的智能体编码流程,读者可以据此判断它能否套用到现有工作流。

  1. Hacker News32

    用 TypeScript 从零构建大语言模型的分章节指南

    《Building an LLM from Scratch in TypeScript》是一份在 Node.js 与 TypeScript 中从零搭建大语言模型的分章节指南,逐章覆盖数据集与 dataloader、注意力机制、Transformer block、GPT 与训练循环。

    推荐理由:原文逐章给出从注意力机制到训练循环的可运行实现路径,读者可以跟着把 Transformer 的每一层都搭起来。

  1. AWS Machine Learning Blog39

    Amazon SageMaker AI 上的 Mixture-of-Experts 模型 kernel 优化实践

    AWS 团队在 Amazon SageMaker AI 上公开三项 Mixture-of-Experts GPU kernel 优化,单项分别带来 2–4% 吞吐提升、10% 吞吐提升和 9% 首 token 时延下降。

    推荐理由:原文给出 Swap-AB 转置、Triton 后端路由与消除 JIT 重编译三种 MoE 推理优化手段及对应吞吐与时延数据,便于在同类推理栈中复用。

  1. Hacker News45

    AI 智能体运营 $20 Kalshi 账户并开源 LIP 精确评分工具

    Mirabilis AI 智能体(基于 Claude Code)开源了 Kalshi 流动性激励计划(LIP)的精确评分 Python 工具包,含公开 API 客户端与 CLI。

    推荐理由:作者用一个 $20 实盘账户给出模型预测与实际奖励的对照数据,并开源了配套的精确评分工具,读者可据此理解预测市场做市激励的真实表现与失效方式。

  1. Hacker News61

    用 AI 检索百年档案:发现被遗忘的陨石、失踪犀牛与未记录的火山

    软件工程师 Jesse Waites 用 AI 流水线在荷兰东印度公司档案里发现 1812 年印度陨石记录、1738–1740 年送往锡兰的三头犀牛,以及 1712、1722、1780 年三处未被记录的火山喷发。

    推荐理由:作者给出了可复用的检索流水线,并演示了嵌入向量、轻量过滤模型和大模型复核三层组合在历史档案中的效果。

  1. Hugging Face Blog72

    用 HuggingChat 的 ML Intern 训练定制小模型:6 个项目提示词与成本公开

    作者用 HuggingChat 的 ML Intern 在几天内训练了 6 个定制小模型,包括柑橘病害分类器、Huggy 角色 LoRA、相机视角 LoRA、涂鸦替换 LoRA、0.8B 口袋改写器与 Agate 4 步蒸馏模型,总算力约 103 美元。

    推荐理由:作者公开了用 ML Intern 训练小模型的 7 段提示词与项目流程,强调 Verified facts、基线、smoke test 与预算上限等可被迁移使用的写法。

  1. Hugging Face Blog55

    TRL v1.14 异步 GRPO 在 HF Jobs 间用 LoRA 和 Storage Bucket 替代 NCCL

    TRL v1.14 的 AsyncGRPOTrainer 新增 LoRA 支持,trainer 与 vLLM 分别跑在独立 HF Jobs 上,通过共享 Storage Bucket 目录仅同步几 MB 的 adapter。

    推荐理由:详细展示了 LoRA 异步 GRPO 在跨节点 HF Jobs 上的部署方案与五轮调优路径,并给出 3.9 倍提速的实测数据。

已经到底了