跳到正文

内容类型

教程实践 最新动态

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

190 条精选近 30 天 173 条共收录 223 条

更新

精选归档 · 第 5 页

10月21日周三第 81–100 条
  1. OpenAI News37

    OpenAI 联合 PerturbAI 与 Scripps Research,用数千 AI agent 在脑细胞数据中发现新线索

    OpenAI、PerturbAI 与 Scripps Research 合作,用分布式 AI agent 处理来自数百万脑细胞的数据并挖掘出新的研究方向。文章介绍了三方如何借助多 agent 协作推进复杂生物研究。

    推荐理由:原文介绍了用分布式 AI agent 处理数百万脑细胞数据的研究方法,可作为同类生物数据研究的参考。

  2. Hacker News32

    Rohan Mahtani:多数建议只适合给出建议的人

    Rohan Mahtani 认为,多数建议只对提出者本人有效,读者应结合自身处境、目标和工作方式判断是否适用。他建议在重大决定前设计小规模实验获取真实数据,并区分表达的自信与实际能力、证据。文中还引用一项今年发表于 Science 的 Stanford 研究,称聊天机器人提供个人建议时,赞同对方的频率比人类高 49%,因此更适合作为辩论伙伴而非答案来源。

    推荐理由:文章将判断建议落到核对情境、设计小实验和审视证据上,为避免照搬经验或被自信说服提供可迁移的方法。

  3. Latent Space64

    Tenex 如何为 Fortune 2000 构建 AI 原生 SDLC

    Tenex 以结果导向薪酬、MetaHarness 和智能体工作流构建 AI 原生 SDLC,客户覆盖 Fortune 2000 与中型企业。其 75 人团队把计划、决策和代码记录在 Git 中,Alex 称工程师产出较去年约翻倍。原文链接 https://www.latent.space/p/tenex

    推荐理由:文章把 Tenex 的结果导向薪酬、Git 项目记录与智能体工作流放在同一研发流程中,呈现模型提升产出后非编码工作如何被纳入评价。

  4. AWS Machine Learning Blog64

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 提升多语言推理能力

    AWS 团队在 Amazon SageMaker HyperPod 上用 SFT 和 GRPO 微调 GPT-OSS-20B,使模型能按指令以英语、法语、德语、西班牙语或意大利语进行推理和回答。

    推荐理由:文章提供从数据、LoRA 训练到评测的完整流程,并用 SFT 与 GRPO 对照给出按模型能力缺口选择微调方法的判断框架。

  5. AWS Machine Learning Blog71

    使用 AWS Agent Registry 在运行时发现并调用 MCP 服务与智能体

    AWS Agent Registry 可让编排智能体在运行时搜索已批准、可发现的 MCP 服务、其他智能体和技能,并按描述符为当前请求实例化客户端。文中用 Python 样例实现“发现→实例化→执行”循环,覆盖仅 MCP、MCP+A2A 和语义匹配三类请求;Registry 只提供连接元数据,调用凭据由 Cognito OAuth 或 Boto3/IAM 单独处理。

    推荐理由:文章拆解了按请求发现、实例化并执行能力的完整链路,并给出审批、鉴权分离与观测实现,适合评估多工具智能体架构。

10月20日周二
  1. Hacker News54

    推测解码为何能提升速度

    推测解码变快不是因为减少了每个 token 的工作,而是低批量时用更多总 FLOPs 填补 GPU 的空闲算力。小型草稿模型先提出一段 token,大模型在一次前向传播中并行验证,用同一序列的“深度”替代多序列的“广度”。

    推荐理由:文章以内存受限和计算受限作对照,解释低批量场景下推测解码用更多总 FLOPs 换取更快生成的原因。

  2. Hacker News48

    Vite+:面向 AI 智能体开发的工具链

    作者在四个项目中使用 Vite+ 的 `vp create`、`vp check`、`vp test`、`vp build` 命令,为 AI 智能体提供统一工作流,避免命令分散和 CI 行为不一致。

    推荐理由:作者把 Vite+ 的命令收敛成统一提示模板并给出 CI 从 4 分钟降到 50 秒的实测数据,方便读者直接套用到 AI 智能体工作流。

  3. GitHub Blog · AI & ML36

    如何在 VS Code 中继续 GitHub Copilot App 会话

    GitHub Blog 教程演示如何把 Copilot App 的会话直接在 VS Code 中打开,继续使用同一份任务记录、对话历史和 worktree,无需复制或重建上下文。

    推荐理由:给出在 VS Code 中接力 Copilot 智能体会话的完整步骤,让审阅、手工修改、本地测试与 PR 推送共用同一会话上下文。

  4. AWS Machine Learning Blog49

    在 vLLM 中通过双向 KV 传输改善多轮智能体工作负载的 TTFT

    vLLM 引入双向 KV 缓存传输机制,让 P-D 分离部署中的 decode 节点把保留的 KV 回传给 prefill 复用,从而降低多轮智能体场景的反复预填充开销。

    推荐理由:在 1P1D 部署上以 Qwen3-32B 与 GLM-5-FP8 对比双向与单向 KV 传输的 TTFT 数据,读者可据此判断多轮智能体场景下是否值得启用。

  5. AWS Machine Learning Blog54

    vLLM 中基于推送模式的 KV 传输降低拆分解码推理的 TTFT 与 TPOT

    AWS 工程师向开源推理引擎 vLLM 贡献了基于推送模式的 NIXL KV 传输连接器,将传输准备移到后台线程以缩短到首个 token 的关键路径。在 EC2 P5en 搭配 EFA 的 1P1D 部署中以 Qwen3-32B 基准测试,高负载下推送模式 TTFT 最高约为拉取模式的 3 倍,TPOT 改善约 30%;拉取模式仍适用于需要负载感知路由的工作负载。

    推荐理由:给出了在 vLLM 中实现 push 模式 KV 传输的架构与复现步骤,读者可在自己的拆分解码部署中参考其后台线程与注册时机设计。

  6. AWS Machine Learning Blog38

    Deepgram 如何借助 AWS Trainium 规模化优化语音 AI 推理

    Deepgram 与 AWS Forward Deployed Engineering 团队合作,将 Nova-3 语音转文字模型移植到 AWS Trainium2,在离线批量任务上每美元可处理的音频量较此前方案提升 11–70%。

    推荐理由:完整记录 Nova-3 移植到 Trainium2 的工程步骤与吞吐成本收益,可作为同类语音模型推理优化的实操参照。

  7. Hacker News37

    Netflix 分享本体驱动的可观测性实践:构建端到端知识图谱

    Netflix 技术博客发布文章《Ontology-Driven Observability: Building an End-to-End Knowledge Graph at Netflix》,介绍如何使用本体驱动方法构建端到端的可观测性知识图谱,并覆盖 Netflix 规模下的设计与落地思路。

    推荐理由:原文介绍 Netflix 如何用本体驱动方法将可观测性数据组织成端到端知识图谱,读者可以参考其在规模化场景下的落地思路。

10月19日周一
  1. Hacker News51

    《Harness Engineering 101》从零搭建 AI 智能体,把 LLM 当大脑、Harness 当身体

    作者 Isuru Wijesiri 在 GitHub 开源《Harness Engineering 101》教程,以 16 章从零搭建一个约 300 行 Python 玩具智能体,把 LLM 当大脑、Harness 当身体。

    推荐理由:用一个 300 行的 Python 玩具智能体把主流 Agent 框架共用的设计取舍拆成 16 章,读者可以把这套搭法迁移到自己的项目。

  2. Hacker News52

    Tmux 与 Claude Code 协作指南:会话、send-keys 及其局限

    tmux 与 Claude Code 配合可为 AI 编程智能体提供可分离、可脚本化的会话环境。指南覆盖 --worktree --tmux 内置标志、多会话布局、send-keys 与 capture-pane 命令、.tmux.conf 关键配置及状态栏监控,并指出 tmux 在多智能体场景下无法识别智能体状态、屏幕抓取脆弱、跨会话无共享状态、滚动日志成本高等局限。

    推荐理由:原文给出了 tmux 与 Claude Code 搭配的完整工作流配置,读者可直接复用 send-keys、capture-pane 等命令片段。