跳到正文
  1. 量子位74

    百度文心 Unlimited OCR 2 发布并开源,峰值 KV Cache 占用从 47GB 降至 1.77GB

    百度文心 Unlimited OCR 2 正式发布并开源,百页级单序列测试中的峰值 KV Cache 占用从 47GB 降至 1.77GB,减少约96%。SR-SWA按需筛选相关页面和视觉信息,无限解码机制通过分块处理、复用边界页缓存并及时释放其余缓存;16路并发端到端吞吐量从360提升至1315 Token/秒,约为标准解码的3.65倍。

    推荐理由:文章通过整本书实测与技术报告,拆解SR-SWA和分块解码的降缓存机制,并对比吞吐量、速度与文档解析质量。

  1. 量子位61

    VAST 开源实时世界模型 EdenLive,单消费级显卡 720P 超 24FPS

    VAST 开源实时世界模型 EdenLive,5B 模型在单张 RTX 5090、720P 条件下生成速度超过 24FPS,端到端延迟为百毫秒级,支持任意参考输入、任意画风和分钟级连续生成。

    推荐理由:原文给出了单卡 720P 超 24FPS 与百毫秒级端到端延迟的具体数据,并拆解了世界状态与视觉渲染解耦的技术路线,便于读者评估实时世界模型的可用边界。

  1. 腾讯混元59

    腾讯混元发布 Hy-Memory-30B-A3B 长期记忆写入模型

    腾讯混元发布 Hy-Memory-30B-A3B,一个约 3B 激活参数的长期记忆写入模型,用于替代 Mem0、MemOS、Hy-Memory 等外部记忆框架中的通用 LLM,决定保留哪些信息及如何更新记忆库。

    推荐理由:原文给出一个 3B 激活参数的记忆写入专用模型,并提供在 Mem0、MemOS、Hy-Memory 与未参与训练的 EverMemOS 上的对比基准,用于评估替代通用 LLM 的写入效果。

已经到底了