技术方向
怎么把模型跑得更快更省钱：推理加速、显存与成本、服务部署与基础设施选型。
484 条精选近 30 天 445 条共收录 556 条
阶跃 StepFun 发布 Step 3.7 Flash 多模态模型，采用 198B 参数稀疏 MoE 架构，每 token 激活约 11B 参数，支持 256k 上下文与低中高三档可调推理强度，最高吞吐达 400 tokens/秒。
推荐理由：Step 3.7 Flash 以 198B 稀疏 MoE 视觉语言模型形态发布，配合 256k 上下文与 ClawEval-1.1 67.1 的领先成绩，为 agent 与工具调用场景提供了从云端 API 到本地 GGUF 的完整部署参考。
StepFun 发布 198B 参数稀疏 MoE 视觉语言模型 Step 3.7 Flash，每 token 激活约 11B 参数，吞吐量最高 400 tokens/s，支持 256k 上下文窗口与低/中/高三档推理强度。
推荐理由：原文说明了该 198B MoE 模型针对高频生产与智能体工作流的定位，以及通过三档推理强度平衡成本与速度的设计取舍。
MiniMax 在 HuggingFace 发布 MiniMax-M2.7 模型，强调 Agent Teams、复杂 Skills 和动态工具搜索能力，并开放权重支持本地部署。
推荐理由：原文给出了与 Opus 4.6、GPT-5.4 等模型在多个工程基准上的横向对比，并附本地部署方式。
阶跃（StepFun）开源 Step 3.5 Flash 基座模型，总参数 196.81B，每 token 激活约 11B，采用稀疏 MoE 与 3-way Multi-Token Prediction（MTP-3）。
推荐理由：原文给出了 11B 激活参数下的稀疏 MoE 设计与多模型基准对比，可用于评估开放模型的推理与 Agent 能力边界。