技术方向
让大模型先想再答的能力：思维链、推理模型，数学与逻辑评测上的突破和争议。
213 条精选近 30 天 180 条共收录 260 条
Apple 发布搭载 M6 芯片的 14 英寸 MacBook Pro，强化端侧 AI、图形性能和专业创作能力。Apple 宣称，相比 M5，12 核 GPU 的图形性能最高提升 30%，端侧 AI 工作负载最高提升 25%，双 16 核 Neural Engine 性能最高提升 1.9x，并可本地运行 LLM。
推荐理由：原文列出 M6 相对 M5 的端侧 AI 和图形性能数据，并给出续航与起售价，便于评估本地运行 LLM 的设备成本。
Nvidia参投印度AI推理软件公司Simplismart的$14 million Series B轮融资，估值约$100 million。Simplismart的软件自动调整模型在现有算力上的部署与运维，在响应速度、请求处理量和计算消耗之间按业务需求优化；公司称已帮助InVideo将GPU服务成本降低56%。
推荐理由：这笔投资将GPU降耗型推理软件与收入增长、客户降本放在同一案例中，便于比较AI基础设施产品的商业化进展与路径。
OpenAI 发布 GPT-6.1 Terra，标准 API 价格较 GPT-5.6 Terra 减半，主打电脑操作与多软件协同。
推荐理由：官方成绩与网友实测均围绕电脑操作、速度和成本展开，清楚呈现 GPT-6.1 Terra 与上一代及旗舰模型的取舍。
S3AC 提出一种稳定化的 Actor-Critic 训练方法，通过难度感知提示词采样改进大语言模型的长链式推理，并减少对分组 rollout 的依赖。训练后的 critic 提供 token 级优势和提示词特定基线，DAPS 再结合难度估计与历史结果，在生成前选择提示词，以减少 rollout 浪费且无需离线难度初始化。
推荐理由：论文将 critic 训练、token 级信用分配与难度感知采样整合，并用多规模模型和单 rollout 对比呈现方法收益。
Anthropic 已公开提交 S-1，计划以股票代码 ANT 在 Nasdaq 上市。文件显示，公司营收从 2023 年的 $41M 增至 2026 年 H1 的 $16.3B，Q2 营收 $11.6B、经营利润 $974M，H1 毛利率为 85%。公司同时披露 $112.4B 现金、$19.3B 短期投资，以及延续至 2029 年、最高 $120.5B 的 NVIDIA 算力承诺。
推荐理由：S-1 同时披露收入增长、利润转正和长期算力承诺，便于审视 Anthropic 上市前的经营质量与风险敞口。
OpenAI 公布数学、计算机科学与物理三项研究输出，分别主张证明波动方程局部平滑、否定 ETH，以及给出含规范场与费米子的四维相互作用量子场论存在性证明。数学结果使用辅助偏微分方程，并涉及 Kakeya 与 Stein 估计；计算机科学结果给出在次指数时间和多项式空间内精确计数固定宽度 CNF 公式满足赋值的确定性算法，文中称 3-SAT 情形可反驳 ETH。
推荐理由：材料不仅列出三项研究输出，还呈现外部专家引导验证的协作方式及优先获取机制引发的学术流程争议。
Cloudflare 已修复 Workers AI 上 GLM-5.3 的跨请求 KV cache 暴露问题，8 月 27 日至 9 月 9 日共有 155 条响应包含其他客户此前请求的数据，且相关提示词均超过 681,280 tokens。
推荐理由：文章拆解了配置错配与 SGLang 缺陷共同造成数据暴露的路径，并给出引擎升级、缓存池核对和传输校验等部署建议。
FrameForge 动态选择不同虚拟间隔的时序 RoPE 专家，并通过潜在中间状态建模条件到目标的变换，实现统一条件图像生成。该方法以 Mixture of Temporal Experts（MoTE）和 Chain of Temporal Reasoning（CoTR）分别建模条件与目标的时序距离及变换路径，建立在预训练视频模型之上。
推荐理由：FrameForge 将视频模型的动态时序先验用于统一条件图像生成，并用 MoTE、CoTR 和三项基准对比展示多任务表现。
论文提出 LOWN 解码方法，在无图像预测与上一次图像条件预测一致时跳过图像处理，并用经认证的 token 数量决定该步解掩码数量。该方法无需训练或调节阈值，在 10 个基准上保留 LLaDA-V 得分的 99.6%，平均使用 35.3% 的解码 FLOPs。
推荐理由：论文量化了扩散视觉语言模型重复处理图像的开销，并用证书引导路由在无需训练和阈值调节的条件下削减解码计算。
文章结合 Ananyo Bhattacharya 的冯·诺依曼传记，认为约翰·冯·诺依曼在多个学科的贡献源于同一种抽象习惯：找出问题所需的最小对象与公理，写清后迅速离开。文章以量子力学形式化、极小极大定理、存储程序架构、容错计算和自复制自动机为例，梳理这种统一方法；同时以其核战略说明，形式化模型在假设失真时可能产生危险推论。
推荐理由：文章把冯·诺依曼在多个学科的贡献串联为同一种抽象方法，并以其核战略说明模型假设失真时的局限。
Sebastian Raschka 发布 8 个从零构建推理模型的教学视频，总时长 11 小时，使用 Python 和 PyTorch 实现核心方法。课程以预训练 Qwen3 0.6B 为起点，依次实现生成与评估、推理时扩展、RLVR、GRPO、蒸馏和 MATH-500 评测。代码和章节示例可独立学习，前期示例可用 CPU，后续训练实验更适合使用 GPU。
推荐理由：课程以 Qwen3 0.6B 为基础，代码覆盖评估、推理扩展、RLVR 和蒸馏，便于对照实验理解各技术如何影响模型表现。
Ubicloud 在 vLLM 中启用约束解码后，Kimi K2.6 与 DeepSeek V4 Flash 的工具调用 schema 准确率从 92% 提升至 100%。
推荐理由：文章拆解了 vLLM 约束解码的接入方式与多模型兼容风险，并给出工具调用 schema 准确率从 92% 提升至 100% 的实测结果。
沙利文和头豹研究院发布的《中国全栈AI云服务市场报告2026H1》显示，商汤科技旗下商汤大装置在中国Neocloud赛道获得近50%份额。商汤大装置的日均Token服务量从今年年初的4000亿增至9月底的6万亿，并计划第四季度达到10万亿。其增长依托异构混推、PD分离和算电协同，整体推理性性价比达到主流高端GPU的1.25倍。
推荐理由：文章以商汤大装置为例，拆解通过异构混推、PD分离和算电协同提升Token产出的具体路径，并结合规模数据说明其商业化逻辑。
声网在 iRTE2026 展示了生成式 AI 的实时交互基础设施，覆盖模型协作、全双工语音、实时网络、音频处理、工具调用与推理。Agora Conversational Model 组合声音感知、推理、工具、记忆与语音表达，Conversational Agent System 将其与全球实时网络、音频处理及推理基础设施结合。
推荐理由：文章沿着模型、网络、音频和终端梳理实时语音交互链路，便于理解声网多模型协作方案与配套工具如何落地。
岩山科技旗下岩芯矩阵与港科大、CMU联合发布并开源EdgeRock-4B，256K上下文下KV Cache固定为72MiB，较源模型减少99.1%。在单张Hopper 80GB GPU、32K输入和32K输出下，模型支持512路并发，输出吞吐12124 tokens/s，是Qwen3.5-4B的6.42倍。
推荐理由：文章拆解了EdgeRock-4B以RMA固定KV Cache的机制，并对照Qwen3.5-4B及有界状态模型的吞吐、内存与推理表现。
趋境科技完成超13亿元人民币 B 轮融资，今年内已累计募得24亿元人民币。本轮资金将投向高品质 AI Token 产能扩张、ATaaS 平台升级、推理底层技术和新产品研发，以及商业化合作与交付体系完善。公司称，其高品质 AI Token 日均产量已超万亿量级，过去半年业务增长超十倍，年内业务收入达到去年全年近十倍。
推荐理由：融资规模、资金用途与推理产能扩张路径一并披露，为观察国产算力如何用于 Token 规模化交付提供具体样本。
论文《Attention Is Not What You Need》提出基于Grassmann流的无注意力架构，以Causal Grassmann层将局部token对编码为二维子空间，替代L×L显式自注意力矩阵。
推荐理由：论文以同规模Transformer为对照，报告Wikitext-2困惑度、SNLI准确率及固定秩下的线性扩展特性，为评估无注意力架构提供量化依据。
SPOT通过预测扩散语言模型的token生成顺序并并行验证候选，在保持精确解码的同时最多减少6.8倍目标模型推理轮次。其0.62M参数模型仅读取目标模型的输出分布，预测顺序并提出候选续写树，由目标模型在单次推理中按状态相等性验证，共享Gumbel噪声使验证在任意温度下保持精确。
推荐理由：SPOT以0.62M参数模型预测token生成顺序并构造候选树，在保持精确解码的同时最多减少6.8倍目标模型推理轮次。
《Thinking-in-Bets》论文提出一种无需训练的方法，让 LLM 智能体在读取用户反馈前记录关键主张、支持检查和置信度，从而减少被质疑后对正确结果的错误反转。
推荐理由：论文给出一种无需训练的记录机制，让智能体在用户质疑前保存主张与验证依据，并展示其减少错误反转和无效编辑的效果。
Cerebras 介绍如何将万亿参数模型拆分到多块 WSE-3T 晶圆，并通过流水线运行达到 1000-2000+ tokens per second。以开源模型 Kimi K3 为例，3T 参数模型采用 4-bit 权重量化和 8-bit KV cache，按 69 个线性注意力层与 24 个稠密层映射到 59 块晶圆。
推荐理由：以 Kimi K3 为例拆解 59 块晶圆的模型映射、流水线并发与 KV cache 容量计算，为评估超大模型推理部署提供可复用方法。