作者用 Dwitter 语料和个人偏好后训练 Demoscener-7B 以续写 Dweet 动画
作者在 Hugging Face 提供 Demoscener-7B,以 Dwitter 语料和人工偏好后训练,为 Dweet 动画生成续写。
推荐理由:文章拆解了从语料构建、课程训练到人工偏好 RLHF 的后训练流程,并给出各阶段困惑度变化,为小样本代码模型后训练提供了具体路径。
作者在 Hugging Face 提供 Demoscener-7B,以 Dwitter 语料和人工偏好后训练,为 Dweet 动画生成续写。
推荐理由:文章拆解了从语料构建、课程训练到人工偏好 RLHF 的后训练流程,并给出各阶段困惑度变化,为小样本代码模型后训练提供了具体路径。
威卡移动控制于10月19日发布“具身智能赋能工程机械高质量数据集”,并已上线 Hugging Face 等数据仓库。数据集第一阶段规模达到3600万帧,覆盖12类典型作业场景及多型号挖掘机作业数据,通过统一时间戳同步视觉、激光、位姿、力馈和手柄输入五类数据。真实数据采集约每小时5000元,训练一套可用模型大致需要10万小时量级数据,仿真采集成本约为真机采集的十分之一。
推荐理由:文章公开了挖掘机作业数据的五维同步方法、真机采集成本及仿真成本比例,为评估工程机械具身智能数据方案提供了具体参照。
研究团队推出 Pinal,用自然语言生成蛋白质设计;Hugging Face 等团队发布开放权重模型 Carbon X,可在本地运行并处理 DNA 与英文。Pinal 通过 T2struct 生成结构 token,再由 SAProt-T 补全氨基酸序列;在 GFP 类荧光蛋白测试中,50,000 个候选经筛选后有 29 个在 E. coli 中表达,最终仅 1 个成功发光。
推荐理由:Pinal 与 Carbon X 展示了自然语言进入生物序列设计的不同路径,并用实验成功率、长序列定位和本地运行条件呈现落地限制。
Rockbridge Network Korea报告显示,2026年1至8月,韩国开发者在Hugging Face发布的1845个模型中,49.3%基于中国模型,千问(Qwen)占46.8%。美国模型占35.9%,韩国本土模型占14.9%。
推荐理由:报告按1845个Hugging Face模型拆分底座来源,可直接比较中国、美国与韩国本土模型在韩国开发者发布中的占比。
ALTK-Evolve 把 GPT-4.1 智能体轨迹提炼成提示词规则,无需更新权重,并以 67.5% Pass^4 位列 τ²-bench 零售榜首。在 40 个留出零售任务上,含 292 条规则的 lossless 配置将平均准确率从 78.1% 提至 82.5%,每次对话成本从 $0.084 升至 $0.139。
推荐理由:实验同时报告 Pass^4、对话轮次与模型 token 成本,能帮助判断学习式规则在客服智能体中的可靠性收益与代价。
Project Discovery 在 Qwen2.5-7B-Instruct 上植入 LoRA 后门,触发短语出现时 Codex CLI 会执行 curl 窃取项目 .env。
推荐理由:文章复现了在开源模型中植入后门的全过程,投毒比例仅 1% 到 20%、总成本不到 50 美元,且任何基准测试都无法识别,可作为部署开源权重时的威胁画像参考。
Intern-Decision 提出 0.8B/2B/4B 三种规模的多模态决策模型,通过在完整 assistant JSON 骨架中放置决策占位符的自回归掩码语言建模目标,一次前向返回结构化选项及概率。
3DCodeVerse 是一个面向 3D 内容生成的研究生态,让编码智能体通过可执行代码产出可编辑且可验证的 3D 内容,包含大规模数据集、多智能体验证框架与系统实验。
推荐理由:把 3D 内容生成统一到可执行代码路径,并配套 2M 数据集与多智能体验证框架,为开放模型的 3D 编码能力提供了可复现的基线。
Velox 提出一种无需训练的注意力路由方法,通过几何视锥块匹配为长视频扩散生成筛选历史 KV 缓存,保留视觉连贯性。在 chunk 48 时,注意力加速 4.36 倍,去噪加速 2.43 倍;在 158 例 WBench navigation 划分上,与稠密 LingBot-Fast-Cam 的平均分差仅 0.15 个 API-free 点。
推荐理由:论文给出了无需训练的注意力路由方案,以及在 WBench 上的速度与画质数字,便于横向比较长视频生成的工程取舍。
NVIDIA 与 IIT Madras AI4Bharat 联合发布约 2.8 万亿 token 的 Nemotron-pretraining-Indic-v1 印度语言预训练语料。
推荐理由:22 种印度语言共 2.8 万亿 token 的预训练数据与可复现的生成流水线一并开源,团队可在自有数据上沿用这套方法。
DiscoveryRSI 用多智能体进化搜索和递归学习生成可验证的科学假设,在生命科学四个领域将假设质量从 4.86 提升至 5.39。DiscoveryRSI-27B 在模型截止后新发表论文上的假设对应率为 6.3%,高于 GPT-6 的 2.5% 与 Claude Opus 5 的 2.3%。文章同时给出 DFM-Bench 多维度评估基准与项目主页。
推荐理由:原文用 DFM-Bench 把假设生成拆成可复测的多维度评分,并给出 DiscoveryRSI-27B 与 GPT-6、Claude Opus 5 的对照数据。
OfficeTown 是一个生成式模拟框架:从自然语言描述构建持续运作的专业组织,成员可委派任务给助手智能体并审核交付物,工件、决策与未决事项会持续影响后续工作。
推荐理由:该工作把持续运转的组织建模为生成式模拟,用以合成面向智能体的工作数据与基准,可作为通用智能体训练与评估的一种可迁移数据生成方法。
在 730M 参数、336B token 训练预算下,Huginn 循环语言模型架构在全部十个基准上优于 Ouro;这一优势可迁移到 8BA0.8B(展开 32BA3B)的 MoE 设置,仍在知识、推理与编码基准上几乎全面领先。
推荐理由:论文按拓扑、输入注入与循环状态三条设计轴拆解循环语言模型,在 730M 与 MoE 两组设置下对比 Huginn 与 Ouro 的实际表现,并给出可迁移的设计取舍。
DLite 提出一种面向智能体 AI 的无历史投机解码框架,在通用、长上下文和智能体工作负载下达到 2–6 的接受长度,相对 DSpark 最高提升 70%。该方法直接复用目标模型的上下文隐藏状态进行局部投机预测,配合轻量级序列头恢复块内因果依赖,并采用专门的两阶段训练策略;原文同时指出智能体负载下现有 draft 模型接受长度最高下降 80%。
推荐理由:原文给出在智能体长上下文场景下 speculative decoding 的实测对比与训练策略,读者可据此评估相对 DSpark 的收益。
SYNC 提出一种词索引接口,让异构大语言模型在不微调、无需翻译器的情况下,通过共享词列表和接收端本地词方向实现选择性事实通信。在 3 个发送端和 9 个来自 5 个家族的接收端测试中,新场景四问答成功率 72.0-98.3%,相对中间层写入最高提升 96 个百分点,两个最大接收端与纯文本通信持平。任务无关探针可在 45/45 案例中预判每个新接收端的可用写入层,无需重调。
推荐理由:提出无需微调或翻译器的跨架构大语言模型事实通信方法 SYNC,仅靠共享词索引和接收端本地方向就能完成选择性事实传递。
CriticOPD 提出一种批评引导的 On-Policy 蒸馏方法,让教师用参考答案批评学生错误续写,学生据此重写后续内容,再由教师对重写后的后缀打分而学生不直接看到反馈。该方法在六个数学推理基准上比 OPD 平均准确率提升 4.57 个百分点(Qwen3-1.7B)和 4.06 个百分点(Qwen3-0.6B),竞赛题上增益最大。
推荐理由:原文指出 on-policy 蒸馏中教师跟随学生错误解的机制问题,并给出可复现的批评改写流程与基准提升幅度。
该论文提出一个两轴分析框架来研究多模态智能体的记忆机制:第一轴关注多模态信息的形成与表征,第二轴将记忆管理划分为三级,即 T1 静态记忆、T2 动态记忆和 T3 自演化记忆。基于该框架,作者归纳了若干设计模式,并提出在源保真度与抽象、时间有效性、可恢复证据以及记忆策略演化之间取得平衡的原则,论文最后讨论了多模态智能体记忆机制的未来方向。
推荐理由:论文给出了两轴分析框架与三级记忆管理分类,为评估和设计多模态智能体长期记忆系统提供了可比较的参考坐标。
LensErase 是一个 mask-based Erase Anything 基础模型,覆盖物体、视觉文本、水印、多物体移除及不同尺度、宽高比与分辨率的真实擦除场景。
推荐理由:原文同时发布模型、1.01 亿配对样本数据集和评测基准,可作为图像擦除任务的复现起点。
APT 是一个面向文生图模型的自动化后训练框架,由评估、诊断与数据生成三个智能体协作,根据模型当前能力自适应构建训练任务并形成反馈闭环,无需人工整理数据。在多个基础模型、基准和生成架构上的实验显示 APT 与模型、基准和架构均无关,并支持无指定场景的通用评估。
推荐理由:APT 用评估、诊断和数据生成三个智能体串成反馈闭环,为文生图后训练提供不依赖人工数据的全自动方案,适用多种模型与架构。
作者提出 SAE Additivity Residuals (SAR) 指标,用以衡量单个 SAE 特征及低阶交互无法解释的行为变化,并在 18 组模型与行为设定中验证 SAE 学习坐标比匹配随机旋转更具行为可加性。
推荐理由:提出 SAR 指标量化 SAE 特征间高阶交互,并在 steering 实验中验证建模二元交互可提升排位保真度。