跳到正文
  1. 面壁 MiniCPM42

    面壁发布 MiniCPM-OCR-1.0-DSpark-gguf GGUF 量化模型

    面壁发布 MiniCPM-OCR-1.0-DSpark-gguf 的 GGUF 量化模型,提供 Q4_K_M 版本,可在本地加载并通过图像输入示例调用。README 给出 llama.cpp、vLLM、Ollama 和 Docker Model Runner 的安装与运行方式。

    推荐理由:模型页给出 Q4_K_M 量化包在 llama.cpp、vLLM、Ollama 中的部署调用方法,并提供图像输入 API 示例,可参考搭建 OCR 推理流程。

  1. 钛媒体78

    Kimi K3.1 Pro额度消耗过快,Anthropic提出单Agent循环方案

    Anthropic提出面向多数任务的单Agent循环方案,并开源single-agent-loop-kit,以减少多Agent架构带来的token消耗。其文章称,带技能的单Agent在多家企业的Claude部署中质量更高,单任务成本和延迟往往更低;多Agent系统的token消耗约为普通对话的15倍,把子Agent按需加载为技能可削减80%以上的系统提示词。

    推荐理由:文章以多Agent约15倍token消耗和技能方案可削减80%以上的系统提示词为依据,梳理单Agent架构的成本收益。

  1. Hacker News39

    Partyline:基于 Reticulum 和 LXST 的群体语音应用

    Partyline 是一款基于 Reticulum、使用 LXST 构建的群体语音应用,支持加密实时多人语音、房间权限控制、拨号接入以及 GUI 和终端客户端。

    推荐理由:项目提供可直接运行的服务器、GUI 和终端客户端,以及多套房间权限、编码和 PTT 配置,便于评估不同网络条件下的部署方案。

  1. AWS Machine Learning Blog67

    如何用实测设置 Amazon SageMaker AI 上 Kokoro-82M 的 TTS 自动扩缩容

    AWS 教程在 Amazon SageMaker AI 上部署 Kokoro-82M,并用 Q_max 与 T_total 两项实测配置 TTS 自动扩缩容。在 3,000 ms p95 TTFAB SLO 下,Q_max=50;纯扩容实测耗时 260.2 秒,另计入由策略配置限定的 60.0 秒检测延迟,规划值为 320.2 秒。

    推荐理由:文章把TTS自动扩缩容拆成Q_max与T_total两项实测,并用它们推导阈值和冷却时间,方法可迁移到其他延迟敏感端点。

  1. Hugging Face Blog53

    用 Isaac Lab 3.0 训练并部署 Microduck 双足机器人步态策略

    Pollen Robotics 与 Hugging Face 联合发布开源双足机器人 Microduck,并演示如何用 NVIDIA Isaac Lab 3.0 与 Newton 在仿真中训练步态策略、导出为 ONNX 并部署到真机。

    推荐理由:文章给出 Isaac Lab 仿真训练到 ONNX 真机部署的完整命令与配置,读者可据此复现 Microduck 步态策略工作流。

  2. Hacker News70

    GitHub 如何以按引用仲裁和对象存储扩展 Git 基础设施

    GitHub 已把 99.99999% 仓库的一份副本迁至 Azure,正通过按引用仲裁和对象存储改造 Spokes,以迁移剩余仓库并扩展 Git 读写。将仲裁范围从整个仓库缩小到单个引用后,不同引用的写入可以并行,内部测试显示吞吐提高 3–4x 且延迟更低。读取侧由不加入仲裁的虚拟副本按需扩展,缓存从 Azure Blob Storage 预热,并以对象存储作为事实来源。

    推荐理由:GitHub 以按引用仲裁和对象存储解耦读写,解释迁移剩余仓库并独立扩展读写的架构路径与实现机制。

  1. AWS Machine Learning Blog60

    如何在 AWS 上用 AtScale 与 Amazon Bedrock AgentCore 构建智能体语义层

    AWS 教程在 AtScale 与 Amazon Bedrock AgentCore 上构建 Customer 360 语义层,让 Strands 智能体和现有 BI 工具共用同一套指标定义。

    推荐理由:教程完整展示 SML 语义模型、MCP 接入、身份权限与查询下推,可供团队搭建受治理的企业数据智能体。

  2. AWS Machine Learning Blog49

    在 vLLM 中通过双向 KV 传输改善多轮智能体工作负载的 TTFT

    vLLM 引入双向 KV 缓存传输机制,让 P-D 分离部署中的 decode 节点把保留的 KV 回传给 prefill 复用,从而降低多轮智能体场景的反复预填充开销。

    推荐理由:在 1P1D 部署上以 Qwen3-32B 与 GLM-5-FP8 对比双向与单向 KV 传输的 TTFT 数据,读者可据此判断多轮智能体场景下是否值得启用。

  3. AWS Machine Learning Blog54

    vLLM 中基于推送模式的 KV 传输降低拆分解码推理的 TTFT 与 TPOT

    AWS 工程师向开源推理引擎 vLLM 贡献了基于推送模式的 NIXL KV 传输连接器,将传输准备移到后台线程以缩短到首个 token 的关键路径。在 EC2 P5en 搭配 EFA 的 1P1D 部署中以 Qwen3-32B 基准测试,高负载下推送模式 TTFT 最高约为拉取模式的 3 倍,TPOT 改善约 30%;拉取模式仍适用于需要负载感知路由的工作负载。

    推荐理由:给出了在 vLLM 中实现 push 模式 KV 传输的架构与复现步骤,读者可在自己的拆分解码部署中参考其后台线程与注册时机设计。

  1. Hacker News57

    用 AI 逆向硬件驱动:hw-harness 实践与三个项目

    GNOME 博客作者用 Claude Code 在 KVM 透传下录制 Windows 驱动参考会话、再用 usbmon 在 Linux 端抓相同操作的包并做 diff,从零为 Plustek OpticFilm 8200i 写出新 SANE 后端、在一天内修复 ThinkPad X1 Carbon Gen 14 MIPI 摄像头的内核与 libcamera 通路。

    推荐理由:整理出用 Claude Code 对比参考驱动与自写驱动抓包差异来定位硬件 bug 的可复用流程,适合做硬件逆向或 Linux 驱动开发的读者照搬。

  2. Hacker News63

    AWS Labs 开源 AI-DLC,为 AI 编码工具提供统一结构化开发工作流

    AWS Labs 开源 AI-DLC(AI-Driven Development Life Cycle)工具,把 Claude Code、Kiro CLI/IDE、Codex CLI、Cursor、opencode、GitHub Copilot 等多款 AI 编码助手接入同一结构化工作流引擎。

    推荐理由:呈现了 AI-DLC 在 Claude Code、Cursor 等多款 AI 编码工具中的统一接入方式,可作为自有流程的可迁移参考。

  1. The Verge · AI35

    The Verge 作者记录:在 Mac Studio 上用 Hermes Agent 和 Qwen 本地大模型跑日常任务

    The Verge 作者 Antonio G. Di Benedetto 在 M5 Ultra Mac Studio(256GB 统一内存)上安装了开源桌面应用 Hermes Agent,并搭配 Qwen 3.8 Flash Next(125B 参数,约 105GB)等本地大模型进行实测。

    推荐理由:作者以实测展示了本地大模型在桌面端能完成的任务类型与当前局限,读者可以据此评估投入本地硬件的性价比。

  2. Hacker News63

    tiny-audio 开源语音转文字系统:冻结编码器接 LLM,训练成本约 25 美元

    tiny-audio 是一个开源语音转文字系统,将冻结的预训练语音编码器通过小型可训练投影层接入预训练 LLM,整体训练成本约 25 美元,只需训练约 8000 万参数。

    推荐理由:原文给出了冻结语音编码器加可训练投影层再加冻结 LLM 的解耦架构与完整训练流程,可作为低成本端到端语音转文字方案的参考实现。

  1. Ai2 Blog51

    Ai2 复盘 Shippy 海事智能体的架构与构建经验

    Ai2 Skylight 团队详细复盘 Shippy 海事智能体的构建经验,将其抽象为 soul、skills、config 三层结构,技能遵循 Claude Code 与 Codex 使用的 agent-skills 规范,当前底层模型为 Claude Opus 4.6,运行框架为开源的 OpenClaw。

    推荐理由:读者可以从中了解智能体的分层架构、技能规范与评测流程,判断其中的模式是否可迁移到类似的高风险决策场景。

已经到底了