跳到正文

内容类型

教程实践 最新动态

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

190 条精选近 30 天 173 条共收录 223 条

更新

精选归档 · 第 4 页

10月24日周六第 61–80 条
  1. AWS Machine Learning Blog74

    Amazon SageMaker AI 多轮强化学习 Wordle 实操指南

    AWS 通过 Wordle 示例,演示了在 Amazon SageMaker AI 上端到端训练多轮强化学习模型的完整流程。流程涵盖 AgentCore 智能体与奖励函数部署、数据集准备、使用 GRPO 更新 LoRA 适配器、MLflow 监控及部署设置下的评测。

    推荐理由:文章从 IAM 角色配置、AgentCore 智能体部署、数据准备到训练监控和部署设置评测,完整拆解多轮强化学习的落地流程与常见故障。

  2. OpenAI News47

    OpenAI 扩展 Habitat 在线存储以服务超 1 billion ChatGPT 用户(第二部分)

    OpenAI 通过扩展 Habitat 在线存储,支撑超 1 billion ChatGPT 用户,并将读取速度提升 12×。方案采用可靠的多租户架构、全球缓存和 Azure Cosmos DB,本文为该系列第二部分。

    推荐理由:OpenAI 公开了 Habitat 的多租户、全球缓存与 Azure Cosmos DB 扩展方案,并给出读取速度提升 12× 的工程指标。

  3. AWS Machine Learning Blog66

    如何使用 AWS CDK 编排 SageMaker AI 端点自动扩缩容更新

    AWS 演示了如何用可复用的 AWS CDK 组件与 CloudFormation 自定义资源,在更新 SageMaker AI 端点时自动注销并重新注册自动扩缩容目标。

    推荐理由:文章拆解了端点更新与自动扩缩容资源冲突的多种失败路径,并给出可复用 CDK 组件、依赖顺序和示例仓库,适合迁移到现有部署栈。

10月23日周五
  1. Hacker News73

    Chrome HTML-in-Canvas API 进入源试用阶段

    Chrome 开启 HTML-in-Canvas API 源试用,可将 DOM 内容直接绘制到 2D 画布及 WebGL/WebGPU 纹理。DOM 内容仍可交互,并接入无障碍、页内查找和扩展程序,Web 抓取工具与 AI 智能体也可读取其中的文本,但不支持跨源 iframe 内容。

    推荐理由:文章对比 DOM 与 Canvas 的能力边界,并给出 2D、WebGL、WebGPU 的接入代码,便于评估该试验 API 的适用场景。

  2. 36氪37

    安顿白伟民在2026可持续全球领导者大会谈健康数据的采集与验证

    安顿健康科技创始人白伟民在2026可持续全球领导者大会介绍了中医机器人健康数据的采集、标注与验证路径。项目投入1.3亿元,研发约两年半,采集300多家医院的数据,由500多名中医师参与标注;安顿目前已采集20多万人的数据,并结合50多万份医案开展分析和训练。中医机器人已通过中国信通院泰尔实验室的58项测试验证,后续还需开展人机交互及不同场景下的实验。

    推荐理由:以20多万人数据、500多名中医师标注和58项测试为线索,呈现健康垂直模型从现场采集、专业标注到测试验证的具体流程。

  3. MIT Technology Review · AI29

    如何设计可长期演进的 AI 模型服务框架

    企业 AI 的竞争优势不只取决于选用哪个模型,还取决于如何构建模型服务系统,将智能可靠、经济且规模化地交付到生产环境。文章主张由工作负载定义约束,在延迟、并发、显存压力、GPU 利用率、基础设施成本和流量波动下识别主导瓶颈,再选择量化、投机解码或优化注意力等手段。系统还应围绕明确的服务级别目标和可衡量的成本效益设计,以便模型、硬件或优化技术变化时只需评估和配置,而无需重建平台。

    推荐理由:文章从工作负载、延迟、并发、显存和成本切入,给出先测量主导瓶颈、再针对性优化并保持架构可演进的实践路径。

  4. Hacker News45

    TypeUI 展示用于 UI 微交互的 AI 提示词

    TypeUI 在 Hacker News 展示用于 UI 微交互的 AI 提示词,项目地址为 https://www.typeui.sh/micro-interactions。该提交显示 68 points 和 38 条评论,当前材料未附提示词正文。

    推荐理由:这份材料指向一份聚焦 UI 微交互的 AI 提示词资源,读者可直接查看具体内容,但摘要未提供细节。

  5. AWS Machine Learning Blog66

    使用 Amazon Quick 在 HIPAA 适用环境中部署 AI

    Amazon Quick Web 版是 HIPAA-eligible 服务,AWS 的实践指南演示了在 AWS Artifact 签署 BAA,并通过 AWS Management Console 配置处理 PHI 的 AI 工作流。

    推荐理由:文章区分服务适用资格与整体合规,并拆解 PHI 的两条数据路径、共享责任和关键配置,形成可迁移的部署清单。

  6. AWS Machine Learning Blog67

    如何用实测设置 Amazon SageMaker AI 上 Kokoro-82M 的 TTS 自动扩缩容

    AWS 教程在 Amazon SageMaker AI 上部署 Kokoro-82M,并用 Q_max 与 T_total 两项实测配置 TTS 自动扩缩容。在 3,000 ms p95 TTFAB SLO 下,Q_max=50;纯扩容实测耗时 260.2 秒,另计入由策略配置限定的 60.0 秒检测延迟,规划值为 320.2 秒。

    推荐理由:文章把TTS自动扩缩容拆成Q_max与T_total两项实测,并用它们推导阈值和冷却时间,方法可迁移到其他延迟敏感端点。

10月22日周四
  1. Hacker News67

    为何不应让LLM生成置信度分数

    让LLM生成置信度分数并不可靠,因为这些数字只是逐token生成的合理文本延续,不是对证据的测量,也未按实际结果校准。同一问题重复询问或改变措辞时,数字可能变化,而输入信息并未改变。文章建议让LLM负责回答,以可观察特征和历史正确率构建规则,记录每次回复及结果,按分组更新规则并持续检查校准度。

    推荐理由:文章拆解了LLM置信度数字的生成机制,并给出依据历史结果校准规则的五步方法,可用于智能体回复审核。

  2. MIT Technology Review37

    AI 推理为何带来持续累积的数据存储成本

    AI 推理不仅持续消耗算力,还会留下日志、缓存、备份和安全记录,形成易被忽视的存储成本。WD 内部测量显示,8 秒 720p 视频输出文件为 3.97MB,后端关联数据却超过 500MB,达到 130x;McKinsey 预计 AI 推理需求到 2030 年将以 35% CAGR 增长,并在本十年末占数据中心总需求的 40% 以上。

    推荐理由:文章以视频推理的后端数据为例,拆解存储成本为何会随推理持续累积,为 AI 基础设施预算提供更完整的视角。

  3. Hacker News56

    作者实践 PowerShell 7 后称其是好用的跨平台自动化工具

    作者在多个项目中使用 PowerShell 后认为,它虽源自 Microsoft,却比 Bash 更可预测、可复用。PowerShell 7 基于 .NET Core,可跨 Windows、Mac 和 Linux 运行,并内置参数与帮助、JSON 转换、网页请求及压缩包处理等能力。

    推荐理由:文章结合参数处理、JSON 转换和项目实例,对比 PowerShell 与 Bash 的跨平台自动化体验。

  4. AWS Machine Learning Blog55

    使用 AWS PrivateLink 实现 Amazon Quick 企业内网安全访问

    这篇官方教程讲解如何借助 AWS PrivateLink 和 VPC 连接,让 Amazon Quick 从企业内网安全访问本地数据源。用户流量通过网站和 API VPC 端点进入,数据流量则由部署在 VPC 子网中的 ENI 访问数据库、Amazon Redshift 知识库和内部 API;文中还覆盖 DNS、IAM、安全组、访问限制、身份联邦与验证。

    推荐理由:文章将用户访问与数据源访问拆成两类私网机制,并给出端点、DNS、权限和验证配置,便于复现企业内网接入方案。

  5. AWS Machine Learning Blog51

    使用 Strands Agents 构建 AAIF 三层智能体编排框架

    AAIF 基于 Strands Agents 构建,本地小语言模型(SLM)处理常规任务,复杂请求则路由至 Amazon Bedrock。该分层编排旨在减少 API 成本并保持本地操作低延迟。框架以 llama3.2:1b 作为编排器,不依赖硬编码规则选择遥测、本地视觉或云端分析工具,并可部署在配备 8 GB 内存的 Raspberry Pi、全云或混合环境中。

    推荐理由:文章以 IoT 监控为例,拆解本地小模型、云端模型与智能体编排的三层架构,并提供可改造的代码和部署路径。

  6. AWS Machine Learning Blog35

    U.S. Hunger 如何利用 Amazon Quick 连接领导团队与组织数据

    U.S. Hunger 已向 17 名同事开放 Amazon Quick,用于探索组织数据、共享 KPI 定义,并支持家庭援助研究和财务规划。Quick 每晚 2 AM ET 通过定时刷新将 SQL Server 数据载入内存引擎 SPICE,Quick Spaces 集中管理文档、定义和分析,Amazon Quick Research 用于调查当前事件并关联政策问题。

    推荐理由:案例梳理了 Amazon Quick 在数据探索、共享 KPI 定义和财务规划中的实际用法,并说明非营利组织可从已有问题与信息开始接入。

  7. Hugging Face Blog53

    用 Isaac Lab 3.0 训练并部署 Microduck 双足机器人步态策略

    Pollen Robotics 与 Hugging Face 联合发布开源双足机器人 Microduck,并演示如何用 NVIDIA Isaac Lab 3.0 与 Newton 在仿真中训练步态策略、导出为 ONNX 并部署到真机。

    推荐理由:文章给出 Isaac Lab 仿真训练到 ONNX 真机部署的完整命令与配置,读者可据此复现 Microduck 步态策略工作流。

  8. Hacker News70

    GitHub 如何以按引用仲裁和对象存储扩展 Git 基础设施

    GitHub 已把 99.99999% 仓库的一份副本迁至 Azure,正通过按引用仲裁和对象存储改造 Spokes,以迁移剩余仓库并扩展 Git 读写。将仲裁范围从整个仓库缩小到单个引用后,不同引用的写入可以并行,内部测试显示吞吐提高 3–4x 且延迟更低。读取侧由不加入仲裁的虚拟副本按需扩展,缓存从 Azure Blob Storage 预热,并以对象存储作为事实来源。

    推荐理由:GitHub 以按引用仲裁和对象存储解耦读写,解释迁移剩余仓库并独立扩展读写的架构路径与实现机制。

  9. Hugging Face Blog61

    TorchNeuron 在 AWS Trainium 上的系统级推理性能分析教程

    torch.profiler 与 Neuron Explorer 可组合用于分析 AWS Trainium 上 TorchNeuron 的推理性能与耗时分布。教程从 NeuronConfig 配置和 key_averages() 读取入手,并沿框架调度、运行时调度到 NeuronCore 硬件执行追踪操作。

    推荐理由:给出一套从 key_averages() 定位设备耗时操作、再用 Neuron Explorer 跨框架、运行时和硬件层核验的分析流程。