OpenAI 如何构建 ChatGPT 广告栈以提升用户信任与相关性
OpenAI 介绍其如何构建由 LLM 驱动的 ChatGPT 广告栈,用于理解对话意图、保持广告与回答分离,并规模化交付相关广告。
推荐理由:文章概述 ChatGPT 广告栈利用 LLM 理解对话意图并隔离广告与回答的构建思路,便于对照其相关性与信任设计。
内容类型
拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。
190 条精选近 30 天 173 条共收录 223 条
OpenAI 介绍其如何构建由 LLM 驱动的 ChatGPT 广告栈,用于理解对话意图、保持广告与回答分离,并规模化交付相关广告。
推荐理由:文章概述 ChatGPT 广告栈利用 LLM 理解对话意图并隔离广告与回答的构建思路,便于对照其相关性与信任设计。
OpenAI、PerturbAI 与 Scripps Research 合作,用分布式 AI agent 处理来自数百万脑细胞的数据并挖掘出新的研究方向。文章介绍了三方如何借助多 agent 协作推进复杂生物研究。
推荐理由:原文介绍了用分布式 AI agent 处理数百万脑细胞数据的研究方法,可作为同类生物数据研究的参考。
Rohan Mahtani 认为,多数建议只对提出者本人有效,读者应结合自身处境、目标和工作方式判断是否适用。他建议在重大决定前设计小规模实验获取真实数据,并区分表达的自信与实际能力、证据。文中还引用一项今年发表于 Science 的 Stanford 研究,称聊天机器人提供个人建议时,赞同对方的频率比人类高 49%,因此更适合作为辩论伙伴而非答案来源。
推荐理由:文章将判断建议落到核对情境、设计小实验和审视证据上,为避免照搬经验或被自信说服提供可迁移的方法。
Tenex 以结果导向薪酬、MetaHarness 和智能体工作流构建 AI 原生 SDLC,客户覆盖 Fortune 2000 与中型企业。其 75 人团队把计划、决策和代码记录在 Git 中,Alex 称工程师产出较去年约翻倍。原文链接 https://www.latent.space/p/tenex
推荐理由:文章把 Tenex 的结果导向薪酬、Git 项目记录与智能体工作流放在同一研发流程中,呈现模型提升产出后非编码工作如何被纳入评价。
Smartsheet 已正式推出 MCP Server,本文介绍如何将其接入 Amazon Quick 和 Kiro,让 AI 智能体用自然语言读取、写入并管理 Smartsheet 数据。
推荐理由:教程分别给出 Amazon Quick 与 Kiro 的接入配置,并对比托管部署与本地轻量连接的适用场景。
AWS 团队在 Amazon SageMaker HyperPod 上用 SFT 和 GRPO 微调 GPT-OSS-20B,使模型能按指令以英语、法语、德语、西班牙语或意大利语进行推理和回答。
推荐理由:文章提供从数据、LoRA 训练到评测的完整流程,并用 SFT 与 GRPO 对照给出按模型能力缺口选择微调方法的判断框架。
AWS Agent Registry 可让编排智能体在运行时搜索已批准、可发现的 MCP 服务、其他智能体和技能,并按描述符为当前请求实例化客户端。文中用 Python 样例实现“发现→实例化→执行”循环,覆盖仅 MCP、MCP+A2A 和语义匹配三类请求;Registry 只提供连接元数据,调用凭据由 Cognito OAuth 或 Boto3/IAM 单独处理。
推荐理由:文章拆解了按请求发现、实例化并执行能力的完整链路,并给出审批、鉴权分离与观测实现,适合评估多工具智能体架构。
GitHub Blog 采访 3 位拥有 10 年以上 Java 经验的 Java Champion,介绍他们用 GitHub Copilot 提高生产力的实践与人工把关原则。
推荐理由:3 位 Java Champion 的案例覆盖迁移、调试与智能体协作,并给出需求澄清、验证门禁和人工复核等可迁移方法。
AWS 教程在 AtScale 与 Amazon Bedrock AgentCore 上构建 Customer 360 语义层,让 Strands 智能体和现有 BI 工具共用同一套指标定义。
推荐理由:教程完整展示 SML 语义模型、MCP 接入、身份权限与查询下推,可供团队搭建受治理的企业数据智能体。
AWS Machine Learning Blog 发布教程,演示用 Denodo 在 Amazon Bedrock AgentCore 上搭建面向 Agent 的企业语义层。
推荐理由:通过具体实现演示语义层、Agent 运行时和身份传递如何衔接,可作为跨多源企业数据接入 Agent 的参考。
推测解码变快不是因为减少了每个 token 的工作,而是低批量时用更多总 FLOPs 填补 GPU 的空闲算力。小型草稿模型先提出一段 token,大模型在一次前向传播中并行验证,用同一序列的“深度”替代多序列的“广度”。
推荐理由:文章以内存受限和计算受限作对照,解释低批量场景下推测解码用更多总 FLOPs 换取更快生成的原因。
作者在四个项目中使用 Vite+ 的 `vp create`、`vp check`、`vp test`、`vp build` 命令,为 AI 智能体提供统一工作流,避免命令分散和 CI 行为不一致。
推荐理由:作者把 Vite+ 的命令收敛成统一提示模板并给出 CI 从 4 分钟降到 50 秒的实测数据,方便读者直接套用到 AI 智能体工作流。
Arch Linux 包维护者 pfeifferj 在 128GB RAM、6,144 CUDA 核心的 ASUS ProArt P16 上跑通 Arch Linux ARM,让系统与 CUDA 共用 116.0 GiB 统一内存池。
推荐理由:作者在 ASUS ProArt P16 上跑通 Arch Linux ARM 并实测本地 Qwen 推理,给出统一内存池带来的显存差异和端侧部署的可复用路径。
GitHub Blog 教程演示如何把 Copilot App 的会话直接在 VS Code 中打开,继续使用同一份任务记录、对话历史和 worktree,无需复制或重建上下文。
推荐理由:给出在 VS Code 中接力 Copilot 智能体会话的完整步骤,让审阅、手工修改、本地测试与 PR 推送共用同一会话上下文。
vLLM 引入双向 KV 缓存传输机制,让 P-D 分离部署中的 decode 节点把保留的 KV 回传给 prefill 复用,从而降低多轮智能体场景的反复预填充开销。
推荐理由:在 1P1D 部署上以 Qwen3-32B 与 GLM-5-FP8 对比双向与单向 KV 传输的 TTFT 数据,读者可据此判断多轮智能体场景下是否值得启用。
AWS 工程师向开源推理引擎 vLLM 贡献了基于推送模式的 NIXL KV 传输连接器,将传输准备移到后台线程以缩短到首个 token 的关键路径。在 EC2 P5en 搭配 EFA 的 1P1D 部署中以 Qwen3-32B 基准测试,高负载下推送模式 TTFT 最高约为拉取模式的 3 倍,TPOT 改善约 30%;拉取模式仍适用于需要负载感知路由的工作负载。
推荐理由:给出了在 vLLM 中实现 push 模式 KV 传输的架构与复现步骤,读者可在自己的拆分解码部署中参考其后台线程与注册时机设计。
Deepgram 与 AWS Forward Deployed Engineering 团队合作,将 Nova-3 语音转文字模型移植到 AWS Trainium2,在离线批量任务上每美元可处理的音频量较此前方案提升 11–70%。
推荐理由:完整记录 Nova-3 移植到 Trainium2 的工程步骤与吞吐成本收益,可作为同类语音模型推理优化的实操参照。
Netflix 技术博客发布文章《Ontology-Driven Observability: Building an End-to-End Knowledge Graph at Netflix》,介绍如何使用本体驱动方法构建端到端的可观测性知识图谱,并覆盖 Netflix 规模下的设计与落地思路。
推荐理由:原文介绍 Netflix 如何用本体驱动方法将可观测性数据组织成端到端知识图谱,读者可以参考其在规模化场景下的落地思路。
作者 Isuru Wijesiri 在 GitHub 开源《Harness Engineering 101》教程,以 16 章从零搭建一个约 300 行 Python 玩具智能体,把 LLM 当大脑、Harness 当身体。
推荐理由:用一个 300 行的 Python 玩具智能体把主流 Agent 框架共用的设计取舍拆成 16 章,读者可以把这套搭法迁移到自己的项目。
tmux 与 Claude Code 配合可为 AI 编程智能体提供可分离、可脚本化的会话环境。指南覆盖 --worktree --tmux 内置标志、多会话布局、send-keys 与 capture-pane 命令、.tmux.conf 关键配置及状态栏监控,并指出 tmux 在多智能体场景下无法识别智能体状态、屏幕抓取脆弱、跨会话无共享状态、滚动日志成本高等局限。
推荐理由:原文给出了 tmux 与 Claude Code 搭配的完整工作流配置,读者可直接复用 send-keys、capture-pane 等命令片段。