DeepSeek 开源 DeepInfer 推理框架，披露单集群 155T tokens/日服务量
DeepSeek 开源生产推理框架 DeepInfer，并披露其支撑 V4.1 Flash 的单集群 155T tokens/日、96% 输入缓存命中率等数据。
推荐理由：文章对照 DeepInfer 与 vLLM 的复现结果，并拆解缓存命中率、硬件成本与收入口径，帮助读者区分生产服务能力、推理贡献利润和公司整体利润。
技术方向
开源生态 最新动态
开放权重、能下载下来自己部署的模型，开源框架与 GitHub 上爆火的 AI 项目。
387 条精选近 30 天 346 条共收录 436 条
更新
精选归档 · 第 9 页
Latent Space精选AI 评分7676 Hacker News精选AI 评分6868 Nexus-CLI 开源纯 Go 桥接工具，支持 DeepSeek R1/V3、Claude Code 和 Ollama
Nexus-CLI 以纯 Go 构建 DeepSeek V3 与 R1 网页桥接，可供应用和编码智能体通过免费账号使用，无需官方付费 API key。它提供交互式终端、本地代理及 OpenAI、Anthropic Messages、OpenAI Responses 和 Ollama API 兼容层，可接入 Claude Code、Codex、Cursor 等工具。
推荐理由：原文集中列出兼容接口、性能数据、构建命令和多工具接入路径，可用于评估接入 DeepSeek 所需的改动。
量子位精选AI 评分6060 MemT 1.0系列开源发布，在模型层实现原生记忆
MemT团队开源发布MemT 1.0系列，在选定Transformer模块中加入并行记忆分支，将经验编码为内部动态状态并学习其写入、更新和读取。
推荐理由：MemT 1.0的架构拆解与SWE-bench Verified对照，呈现了原生记忆在成功率、重复运行可靠性和持久状态占用上的具体差异。
Hacker News精选AI 评分5959 T3 Code 实现 GitHub 与 GitCafe 同步
T3 Code 现已同步 GitHub 与 GitCafe 两个代码托管平台。它是一款 AI 智能体控制界面，可通过 iOS、Android、Web 和 Electron 桌面端控制本机已配置的 Claude Code、Codex、Cursor、Grok Build、OpenCode 与 Google Antigravity。
推荐理由：材料列明 T3 Code 的多端控制方式、兼容工具与安装命令，便于对照现有 Claude Code、Codex 工作流评估接入方案。
The Decoder精选AI 评分7373 DeepSeek 开源推理引擎 DeepInfer，驱动 V4.1-Flash 模型
DeepSeek 以 Apache 2.0 协议开源了内部推理框架 DeepInfer，它基于 vLLM 构建并加入计算优化内核、多芯片分布式处理和更快文本生成，为 V4.1-Flash 模型提供推理服务。
推荐理由：原文同时说明了 DeepInfer 的技术栈和开源后的部署成本变化，便于评估自托管方案的可行性与定价影响。
TechCrunch · AI精选AI 评分7777 Google 开源 TorchTPU，加入 Amazon 挑战 Nvidia 的 AI 芯片优势
Google 开源 TorchTPU，开发者通过简单配置可将现有 PyTorch AI 应用迁移到 TPU 和 Google Cloud，无需重写。Amazon 发布 TorchNeuron，可将应用迁移到 Trainium 和 AWS，并向 PyTorch 提交代码以将功能与 Nvidia 芯片解耦。
推荐理由：文章对比 Google 和 Amazon 的 PyTorch 迁移方案，说明开发者无需重写应用即可切换到 TPU 或 Trainium。
Hacker News精选AI 评分6868 Google 开源原生 PyTorch 后端 TorchTPU
Google 开源 TorchTPU，这是一套面向 Google TPU 的原生 PyTorch 后端，可让用户在 TPU 设备上运行 PyTorch 模型和操作。
推荐理由：仓库集中交代了后端能力、分布式训练支持、示例模型以及安装构建路径，便于读者评估 PyTorch 在 TPU 上的集成范围与落地成本。
Hacker News精选AI 评分6060 Penmentor 开源发布，把 Claude 等模型接入 xournal++ 批改手写数学作业
作者 Abdullah Alhariri 开源发布 Penmentor，把 Claude、GPT、Gemini 等模型接入 xournal++ 手写数学笔记，让 AI 按提示而非答案在原页做老师式批改。
推荐理由：作者在 Claude Code、Codex、Antigravity 等 CLI 代理之上搭出了一个 xournal++ 插件，演示了把 LLM 接入手写数学笔记做原页批改和 Manim 动画的具体做法，适合套用到其他手写场景。
Hacker News精选AI 评分5353 Jev Cards 发布开源图片竞答游戏，由 TypeSafe 的视觉模型 Jev 实时答题
Jev Cards 是一款围绕 TypeSafe 视觉模型 Jev 构建的开源图片问答游戏，Jev 会根据图片和问题选择答案或点击位置，响应约需四分之一秒。玩家可独自挑战各模式排行榜，也可开启实时比赛，与朋友和 Jev 同场竞技；更多卡牌将陆续推出。
推荐理由：将 Jev 的视觉问答能力做成可试玩的图片竞答游戏，并提供排行榜、实时对战和开源代码，便于直接体验其响应表现。
Hugging Face Blog精选AI 评分7575 ALTK-Evolve 如何用学习式记忆让 GPT-4.1 登顶 τ²-bench 零售客服榜
ALTK-Evolve 把 GPT-4.1 智能体轨迹提炼成提示词规则，无需更新权重，并以 67.5% Pass^4 位列 τ²-bench 零售榜首。在 40 个留出零售任务上，含 292 条规则的 lossless 配置将平均准确率从 78.1% 提至 82.5%，每次对话成本从 $0.084 升至 $0.139。
推荐理由：实验同时报告 Pass^4、对话轮次与模型 token 成本，能帮助判断学习式规则在客服智能体中的可靠性收益与代价。
AWS Machine Learning Blog精选AI 评分6060 如何在 AWS 上用 AtScale 与 Amazon Bedrock AgentCore 构建智能体语义层
AWS 教程在 AtScale 与 Amazon Bedrock AgentCore 上构建 Customer 360 语义层，让 Strands 智能体和现有 BI 工具共用同一套指标定义。
推荐理由：教程完整展示 SML 语义模型、MCP 接入、身份权限与查询下推，可供团队搭建受治理的企业数据智能体。
Hacker News精选AI 评分6363 VoidAccess 开源暗网 OSINT 工具：从查询生成结构化威胁情报与关系图
VoidAccess 是一款自托管开源暗网 OSINT 工具，可将调查查询转化为结构化威胁情报和关系图谱。
推荐理由：原文给出从查询到结构化图谱的端到端暗网情报流程，并列出可生成的多种结构化导出格式，读者可以评估它对自托管 OSINT 工具链的整合程度。
TechCrunch · AI精选AI 评分6060 Figma 联合创始人 Dylan Field 称 MCP 并非完美协议
Figma 联合创始人 Dylan Field 表示，MCP（model context protocol）并非完美协议，仍有较大改进空间，且现状更有利于前沿实验室。
推荐理由：文章将 Figma 新增 20 个 MCP 合作方与 Field 对协议局限和滥用风险的批评并置，呈现开放生态面临的具体权衡。
Hugging Face Blog精选AI 评分7272 Hugging Face 发布 AnyLanguageModel 1.0，统一 Apple 端侧与托管模型接口
Hugging Face 发布 AnyLanguageModel 1.0，以同一 API 接入 Apple 端侧与托管模型。
推荐理由：同一 Foundation Models API 可覆盖系统、端侧和托管模型，并保持工具调用与引导生成一致，为 Apple 应用迁移提供可复用路径。
Hugging Face Blog精选AI 评分7777 PyTorch 2.15 改进 MPS 后端：FP8 上线、MoE 解码 5–6.5× 提速
PyTorch 2.15 大幅改进 Mac 上的 MPS 后端，新增 FP8（float8_e4m3fn）支持，并把 MoE 模型的 grouped matmul。
推荐理由：给出 FP8、MoE 5–6.5× 解码提速、Wan2.2 显存从 270 GiB 降到 8 GiB 等实测数字，本地推理用户可直接对照决定升级。
Hacker News精选AI 评分7373 DeepSeek 开源 DeepInfer 大规模推理框架，支持 DeepSeek-V4.1-Flash
DeepSeek 开源 DeepInfer 大规模离线推理框架，支持 DeepSeek-V4.1-Fash，并为其大规模生产服务提供支撑。
推荐理由：原文列出了框架能力、硬件适配、配置方式和完整服务仍缺失的组件，便于评估离线推理的集成范围与部署边界。
钛媒体精选AI 评分7474 中国 AI 独角兽走向真实付费的商业化成人礼
中国 AI 独角兽正从低价换量转向真实使用、提价和持续付费，文章以规模使用、提价能力、收入来源和公开市场审计四道关口分析商业化。OpenRouter 数据显示，10月5日至11日那一周，中国模型合计消耗86.74万亿Token，达到美国的4.5倍，但该统计不含 OpenAI 和 Anthropic 的自有渠道。
推荐理由：文章把调用量、提价、收入结构与上市表现串成四道商业化关口，便于比较中国模型从流量走向付费的路径与边界。
HF Daily Papers精选AI 评分4343 MemT-1.0：迈向记忆原生进化的基础模型架构
MemT-1.0 提出把连续记忆内嵌到基础模型计算中的记忆原生架构，基于 Metis 采用 Gated DeltaNet-2 与 Mixture-of-Storage 扩展原生记忆容量，并配合 34B tokens 的两阶段训练（持续预训练+后训练）。
推荐理由：对比原生内存机制与检索增强方法在长上下文场景下的推理与存储效率，并给出智能体任务结果，可作为长记忆架构设计的参考。
36氪精选AI 评分7171 DeepSeek 全面开源内部推理框架 DeepInfer
DeepSeek 宣布在前期开源大模型、TileLang 编译工具及推理算子库的基础上，进一步将内部推理框架 DeepInfer 全面开源。基于 DeepInfer，DeepSeek 已实现 V4.1 Flash 高吞吐、低延迟的大规模推理服务，新模型的推理代码及后续优化也将在该框架上持续更新。
推荐理由：DeepSeek 将内部推理框架 DeepInfer 全面开源，外部团队可在此基础上复现 V4.1 Flash 的高吞吐、低延迟推理能力，并跟踪后续模型更新。
HF Daily Papers精选AI 评分5050 HarnessPro 以 Pareto 优化递归自我改进 AI 智能体 Harness，权衡性能与成本
HarnessPro 论文提出一种无标签方法，递归进化 AI 智能体 Harness，以提升任务成功率并降低执行成本。它使用 LLM 生成的测试评估候选 Harness，由专用智能体诊断执行轨迹、规划更新，并通过归一化加权平方距离选择 lite、medium、heavy 三种变体。
推荐理由：论文在3项基准上测试HarnessPro，并量化GPT-5.5配合Codex时高性能模式相对RHO的通过率增益与单任务成本降幅。