跳到正文
  1. 面壁 MiniCPM42

    面壁发布 MiniCPM-OCR-1.0-DSpark-gguf GGUF 量化模型

    面壁发布 MiniCPM-OCR-1.0-DSpark-gguf 的 GGUF 量化模型,提供 Q4_K_M 版本,可在本地加载并通过图像输入示例调用。README 给出 llama.cpp、vLLM、Ollama 和 Docker Model Runner 的安装与运行方式。

    推荐理由:模型页给出 Q4_K_M 量化包在 llama.cpp、vLLM、Ollama 中的部署调用方法,并提供图像输入 API 示例,可参考搭建 OCR 推理流程。

  1. Hacker News62

    ESP32-S3 用 SIMD 加速 FAST 特征检测,吞吐量从 5.1MP/s 升至 11.2MP/s

    作者为 ESP32-S3 实现了利用 128-bit SIMD 指令的 FAST 特征检测器,在其测试中将吞吐量从 5.1MP/s 提升至 11.2MP/s。实现每次并行计算 16 个像素,并通过 XOR 0x80 将无符号像素转为可用的有符号范围,绕过芯片不支持非对齐直接读取、仅有符号 8 位比较和饱和算术等限制。

    推荐理由:文章拆解了 ESP32-S3 的 SIMD 限制,并以 FAST 检测器演示如何处理非对齐读取、有符号比较和饱和算术,可为低成本端侧视觉优化提供实现参考。

  1. AWS Machine Learning Blog51

    使用 Strands Agents 构建 AAIF 三层智能体编排框架

    AAIF 基于 Strands Agents 构建,本地小语言模型(SLM)处理常规任务,复杂请求则路由至 Amazon Bedrock。该分层编排旨在减少 API 成本并保持本地操作低延迟。框架以 llama3.2:1b 作为编排器,不依赖硬编码规则选择遥测、本地视觉或云端分析工具,并可部署在配备 8 GB 内存的 Raspberry Pi、全云或混合环境中。

    推荐理由:文章以 IoT 监控为例,拆解本地小模型、云端模型与智能体编排的三层架构,并提供可改造的代码和部署路径。

  1. The Verge · AI35

    The Verge 作者记录:在 Mac Studio 上用 Hermes Agent 和 Qwen 本地大模型跑日常任务

    The Verge 作者 Antonio G. Di Benedetto 在 M5 Ultra Mac Studio(256GB 统一内存)上安装了开源桌面应用 Hermes Agent,并搭配 Qwen 3.8 Flash Next(125B 参数,约 105GB)等本地大模型进行实测。

    推荐理由:作者以实测展示了本地大模型在桌面端能完成的任务类型与当前局限,读者可以据此评估投入本地硬件的性价比。

  1. Latent Space60

    Standard Bots 如何用工业机器人 AI 实现可靠执行

    Standard Bots 通过共享基础模型、演示与微调适配任务,并在工厂本地运行推理,构建面向工业机器人可靠执行的 AI 技术栈。在机器上下料中,zero-shot 感知系统负责定位和识别零件,常规编程负责运动与单元逻辑,其骨干模型训练使用了超过 10 亿张图像。公司强调定向数据与部署中的人工纠正,并以边缘 GPU 生成 action chunks 送入底层控制系统,降低对云端连接的依赖。

    推荐理由:Standard Bots 的案例拆解了定向数据、边缘推理和软硬件协同如何支撑可靠执行,并指出这些方法也可迁移到软件智能体。

  1. Hacker News38

    逆向 Nokia 110 4G 固件,把计算器应用改成 AI 智能体

    作者逆向 Nokia 110 4G 固件,把内置计算器改造成 AI 智能体,通过 DeepSeek chat API 回复并调用手机原生功能,实现查询 SIM 数据、开关手电筒、拨号和设置闹钟等操作。该原型在 48MB 内存上精简了 agent 代码、压缩 payload 并复用缓冲,目前需通过计算机加载到 RAM 运行,重启后失效,源码因含敏感数据暂未公开。

    推荐理由:把诺基亚 110 计算器改造成可调本机功能的 AI 智能体,给出了 48MB 内存下压缩 payload 与复用缓冲的端侧方法。

已经到底了