《Harness Engineering 101》从零搭建 AI 智能体,把 LLM 当大脑、Harness 当身体
作者 Isuru Wijesiri 在 GitHub 开源《Harness Engineering 101》教程,以 16 章从零搭建一个约 300 行 Python 玩具智能体,把 LLM 当大脑、Harness 当身体。
推荐理由:用一个 300 行的 Python 玩具智能体把主流 Agent 框架共用的设计取舍拆成 16 章,读者可以把这套搭法迁移到自己的项目。
作者 Isuru Wijesiri 在 GitHub 开源《Harness Engineering 101》教程,以 16 章从零搭建一个约 300 行 Python 玩具智能体,把 LLM 当大脑、Harness 当身体。
推荐理由:用一个 300 行的 Python 玩具智能体把主流 Agent 框架共用的设计取舍拆成 16 章,读者可以把这套搭法迁移到自己的项目。
截至 10 月 17 日,元任务实验室研发的结构化决策模型 MetaDecision 在决策模型评测榜 JevBench 上进入前三:在参与排名的 129 个开源系统中,31B 版本排第 3,12B 版本在同尺寸模型中排第 1,按榜方 GPU 实测 31B 版本单次判断延迟中位数不到 0.2 秒(不含网络)。
推荐理由:给出了同尺寸模型排名第一和亚秒级延迟两项对比维度,方便读者把 MetaDecision 放进现有决策模型评测表里看差距。
Strot 是一款开源工具,可让用户用 LLM 编译一次意图,之后在本地用 144M 模型对每条记录做分类、评分或路由,输出附带概率和置信度的类型安全 JSON。
推荐理由:把一次性 LLM 意图编译成本地决策模型,自带公开评测和 Docker 复现脚本,适合评估离线推理在延迟和成本上的可迁移收益。
作者发布 superlite,一个面向 Claude Code 的自主构建插件,主打一次审批后自动并行执行任务。它通过任务图拆分、按能力分配 Sonnet/Haiku 子代理、用 hook 强制执行规则来减少人工介入,并在同一基准项目上以 16.1 分钟跑完 177/177 个隐藏测试,约为对照 superpowers 33.6 分钟的一半。
推荐理由:作者把 Claude Code 插件的并行策略、任务分层与同项目基准数据做了展开,可作为设计自动编码流水线时的参考。
作者 dom96 设计了针对大语言模型的对抗式编程语言 KillSwitch,其通过规格中的隐藏谎言、标识符字母计数、触发安全护栏的语句和以噪声填充的脚本等方式干扰模型。
推荐理由:原文给出一种针对 LLM 弱点设计的新型编程语言,并用其作为基准测试主流模型,读者可对比各模型在真正陌生代码上的真实理解能力。
Simon Willison 发布 llm-tools-datasette 0.1.1 版本。原文抓取片段仅含赞助方信息,未包含本次更新的具体变更说明。
钛媒体晨报汇总 10 月 17-18 日多条要闻:央行就《银行间债券市场债券发行管理规则》公开征求意见,共二十八条;DeepSeek API 网页搜索与抓取按请求次数计费。
推荐理由:覆盖 AI 产品、大额融资和监管政策三条线,便于读者在一次晨报中快速对齐当日的关键行业信号。
Netflix 在 GitHub 开源了 VMAF 感知视频质量评估算法,包含 libvmaf C 库与 Python 绑定,并可作为 FFmpeg filter 接入。
作者在 GitHub 开源 WhatsApp MCP 服务器,让 AI 智能体(Claude Code、Claude Desktop 等任何 MCP 客户端)读取用户自己的 WhatsApp 聊天记录。
推荐理由:原文给出在 Cloudflare 上自行部署 WhatsApp MCP 服务器的完整步骤与架构说明,读者可据此为自己的 Agent 搭建只读的 WhatsApp 消息入口。
VAST 开源实时世界模型 EdenLive,5B 模型在单张 RTX 5090、720P 条件下生成速度超过 24FPS,端到端延迟为百毫秒级,支持任意参考输入、任意画风和分钟级连续生成。
推荐理由:原文给出了单卡 720P 超 24FPS 与百毫秒级端到端延迟的具体数据,并拆解了世界状态与视觉渲染解耦的技术路线,便于读者评估实时世界模型的可用边界。
开发者 critiquebrowser 在 Hacker News 上以 Show HN 形式开源 Git 钩子工具 Sphinx,会在 AI 生成代码 push 之前基于 diff 向开发者提问,确认理解后才放行。
推荐理由:在 AI 智能体生成代码日趋常态的当下,把差异审查改造成由开发者亲自作答的反事实问题,给出了一条可参考的工程实践。
腾讯混元在 Hugging Face 开源长记忆写入模型 Hy-Memory-30B-A3B 的 FP8 量化版(约 3B 激活参数),可在 Mem0、MemOS、Hy-Memory 等记忆框架中替代通用大模型。
推荐理由:原文给出长记忆写入模型的架构、两阶段训练流程与跨框架评测对比,附开源代码与权重,可作为 Agent 框架中记忆层替换通用大模型的参考。
清华 THUNLP 实验室联合面壁智能、OpenBMB 开源智能体操作系统 PilotDeck 2.0,主打 WorkSpace 工作舱隔离、白盒记忆可查可改、Dream 模式归纳整理与 Always-on 后台常驻执行,并原生支持 MCP。
推荐理由:给出智能体操作系统的开源实现与量化成本数据,可作为 Agent 框架设计中多模型路由和记忆可追溯方案的参考。
智谱推出法律专用开源模型 GLM-Legal,在 Vals AI 法律评测中以 19.2% 的任务全通过率和 86.23% 的准确率位列 Harvey LAB 与 LegalBench 双榜开放权重模型榜首。
推荐理由:给出了 GLM-Legal 在 Harvey LAB 等榜单上的通过率与和 Gemini 4 Argon 的成本对比,读者可据此评估法律垂直模型在真实律所任务中的取舍。
esp32sim 是用 Rust 写的 ESP32 指令级模拟器,可在浏览器(WebAssembly)里无需安装直接运行真实固件。
推荐理由:展示了在浏览器中指令级模拟 ESP32 固件的实现路径,含 ROM 启动、外设与 WiFi 模型,便于无硬件条件下验证。
开发者发布了一个 Show HN 计算器,根据实测带宽公式(带宽除以权重大小加固定开销)估算各苹果芯片运行大语言模型的显存与生成速度,复现实测误差在 4.6% 以内。
推荐理由:原文用实测拟合的带宽模型估算各苹果芯片跑大模型的速度,并给出可验证的显存与吞吐数据,可作为选购或租用 Mac 时的参考。
DeepSeek 发布 V4.1-Flash-1017,在官方基准的多项编码与智能体任务上超越自家前代以及 Claude Opus 5、GPT 5.6-Sol、Kimi K3、GLM 5.3 等更大竞品,模型权重开源发布在 Hugging Face 与 ModelScope。
推荐理由:原文给出 V4.1-Flash-1017 在 DeepSWE 等基准的准确率与单任务成本,并横向对比多家竞品,读者可据此判断该模型的成本效率边界。
DeepSeek 发布 V4.1-Flash-1017,作为 V4.1-Flash 的小版本更新,在推理、编码、智能体和视觉基准上有所提升,并缩短任务执行时间和输出长度。
同一件事,精选收录的是《DeepSeek发布V4.1-Flash-1017模型,同步开放自研搜索API》
作者在 Show HN 发布 Llmspeed 网站,可按硬件或模型浏览本地大语言模型推理速度估计,覆盖 NVIDIA RTX 5090/4090/3090、Mac Studio M5 Ultra/M4 Max。
推荐理由:把分散在社区里的本地推理速度数据汇总到一个可对比的页面,让读者在购买硬件前就能估算大语言模型的实际吞吐。
范式智能联合睿思智联推出一站式生产级 AI 部署平台「模域 ModelSphere」,已在 GitHub 以 Apache 2.0 协议免费开源。
推荐理由:原文给出了该开源平台在多芯片适配和模型支持上的具体清单,为评估国产算力部署方案的团队提供了一处可参照的工程选项。
优必选发布统一多模态世界模型 Thinker-WM,在 WorldOlympiad、EWMBench 和 WorldArena1.0 三项公认具身世界模型基准中全部取得第一。
推荐理由:文章对比了拼接式与统一表征方案的技术差异,给出 Thinker-WM 在三大基准的具体得分与六大能力模式。
Black Forest Labs 发布 5.6B 参数开源文生图模型 FLUX 3 Image Klein,支持原生 4K 生成、多参考图与像素级编辑,配套 FP8、INT8 和 NVFP4 版本。
推荐理由:正文给出 5.6B 参数模型与更大闭源及开源版本的评测对比,并列出从 8GB 显存到 RTX 5090 的推理时间,读者可据此评估本地部署门槛。
PS5LM 在越狱 PS5 上运行 llama.cpp 的 Vulkan 后端,把 GGUF 模型加载到 RDNA 2 GPU 后向局域网设备暴露兼容 OpenAI / Anthropic 的 API。
推荐理由:给出了把 GGUF 模型部署到越狱 PS5 的完整方案,并附多档吞吐数据,对关注端侧推理部署的人有参考价值。
Reflection AI 的开源权重模型 Beam 已上线 Amazon SageMaker JumpStart,整体为稀疏 MoE,总参数 501B、激活参数 23B,有效上下文长度 1M tokens,权重以 Apache 2.0 在 Hugging Face 发布,提供 BF16、FP8、NVFP4 三种检查点。
推荐理由:文章对比 JumpStart 实时端点、HyperPod Inference 与 SGLang 或 vLLM 三条部署路径及对应 H100/H200/B200 实例,便于评估在 AWS 上运行 Beam 的硬件与运维取舍。
Apple ML Research 博客发布 MLX v0.30.1 分布式推理方案,结合 macOS 26.2 引入的 Thunderbolt 5 RDMA 驱动与新的通信集合 jaccl,可在多台 Mac Studio 上运行 816B 总参数、42B 激活参数的 MoE 模型 Muse Spark Open。
推荐理由:Apple 用 4 台 M5 Ultra Mac Studio 通过 Thunderbolt RDMA 把 816B 参数的 MoE 模型跑到 36.73 tokens/s,给本地大模型推理提供了可复现的并行方案与基准数据。
Reflection 推出开源大模型 Beam,采用 501B 参数 MoE 架构,每 token 激活 23B,支持 1M token 上下文,专注编码与智能体场景,以 Apache 2.0 授权发布。
推荐理由:原文详细列出了501B MoE模型的架构参数与各类基准分数,可作为评估开源大型MoE模型实际表现的参考。
腾讯混元发布 Hy-Memory-30B-A3B,一个约 3B 激活参数的长期记忆写入模型,用于替代 Mem0、MemOS、Hy-Memory 等外部记忆框架中的通用 LLM,决定保留哪些信息及如何更新记忆库。
推荐理由:原文给出一个 3B 激活参数的记忆写入专用模型,并提供在 Mem0、MemOS、Hy-Memory 与未参与训练的 EverMemOS 上的对比基准,用于评估替代通用 LLM 的写入效果。
昆仑万维发布视频生成游戏模型Matrix-Game 4.0并开源项目代码与模型权重,创始人周亚辉署名技术报告同步推出。该模型采用游戏引擎与视频生成模型协同架构,在单张NVIDIA RTX 5090消费级显卡上可实现480p分辨率、60 FPS的实时游戏体验,操作至画面响应的端到端延迟低于150毫秒,相关资源已在GitHub和Hugging Face开放。
同一件事,精选收录的是《昆仑万维发布全球首款消费级显卡视频大模型游戏Matrix-Game 4.0,同步开源》
VLA-Δ 用当前与未来观测之间的物理状态变化作为显式监督目标,在 LIBERO 和 RoboTwin 上取得与 SOTA 可比的成绩,并在真实机器人实验中优于 π0.5,且推理阶段不增加额外开销。作者为此构建了大规模预训练数据集与物理状态变化标注,代码已开源至 https://github.com/ZJU-OmniAI/VLA-Delta。
推荐理由:论文给出以物理状态变化为显式监督目标的 VLA 训练与数据构建方法,并开源全部代码,可作为机器人策略学习中状态建模方案的参考。
Intern-Decision 提出 0.8B/2B/4B 三种规模的多模态决策模型,通过在完整 assistant JSON 骨架中放置决策占位符的自回归掩码语言建模目标,一次前向返回结构化选项及概率。
本文提出 JevAgentHarness,用小决策模型在 Agent harness 中分流 LLM 的多选决策,配合拟合的置信度阈值降低成本与延迟。
推荐理由:原文给出 Agent harness 把工具选择分流到小决策模型的阈值训练方法与实测成本收益,可供同类 Agent 工程参考。
NVIDIA 与 IIT Madras AI4Bharat 联合发布约 2.8 万亿 token 的 Nemotron-pretraining-Indic-v1 印度语言预训练语料。
推荐理由:22 种印度语言共 2.8 万亿 token 的预训练数据与可复现的生成流水线一并开源,团队可在自有数据上沿用这套方法。
Meta当地时间10月15日发布开源AI模型Muse Spark Open的权重,专为编程和支持AI智能体设计,允许开发者自行运行和适配。Meta首席AI官Alexandr Wang表示,Muse Spark Open不如本周早些时候发布的Muse Wonder先进,公司原则上不会开源最强性能的模型,但会持续向开发者社区开放性能稍低的版本。
同一件事,精选收录的是《Meta 开源多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B》
MambaAct 用紧凑的 Mamba 动作专家替换 π0.5 的 Transformer 动作专家,并通过轻量级 Context Compressor 压缩 VLM token,以降低流匹配 VLA 的去噪推理开销。
推荐理由:MambaAct 同时给出动作专家规模、LIBERO 与真实机器人上的延迟和成功率变化,便于对照具身智能模型推理优化的工程收益。
蚂蚁集团百灵团队开源发布Ling-3.1-flash模型,主打真实办公任务处理,采用约560B总参数、激活25B的稀疏MoE架构,上下文窗口最高1M。模型采用7层KDA配1层Gated MLA的混合线性注意力结构,已接入蚂蚁内部桌面协同Agent客户端「小虎」。
推荐理由:原文公开了模型架构参数、多项基准分数以及办公医疗场景实测,便于读者评估其在真实任务中的落地能力。
Meta 发布开源模型 Muse Spark Open,拥有 816B 参数,宣称是迄今最强的美国开源权重模型,并支持在两台搭载 MLX 框架的 Apple M5 Ultra Mac Studio 上本地运行。
同一件事,精选收录的是《Meta 开源多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B》
Meta 开源多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B,上下文窗口达 1M tokens。
推荐理由:文章同时给出 816B 多模态 MoE 模型的架构、推理与微调命令,并附 llama.cpp、vLLM、SGLang 实测,便于直接对照复用。
Meta 的开源编码模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,提供 BF16(Muse-Spark-Open-816B-A42B)与 NVFP4 量化(Muse-Spark-Open-816B-A42B-NVFP4)两种变体。
推荐理由:原文给出了 BF16 与 NVFP4 两种变体的部署路径、对应实例类型及推理调用方式,便于读者在自有 AWS 环境中评估该模型的编码能力。
Muse Spark Open 是 Meta 发布的开源权重模型,总参数 816B(激活 42B)、1M token 上下文,定位编码与长链路 Agent 任务。
同一件事,精选收录的是《Meta 开源多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B》
BlastLoop 是 Ross Shaw 在 Show HN 上发布的面向 AI 编码智能体的结构优先编程框架。它把写代码分成 Blast、Mid、Inner 三个高度层,分别处理系统级、子系统级和本地单元级改动,再按 T1 结构、T2 bug/运维、T3 对抗测试的固定顺序逐层验证;若 T3 发现结构问题则回到 T1 并重新路由到对应高度修正。
推荐理由:原文给出了一套按高度分层、按结构与对抗门控顺序测试的智能体编码流程,读者可以据此判断它能否套用到现有工作流。