ACEdit 通过非对称条件实现稳定的多轮图像编辑
ACEdit 提出一种稳定多轮图像编辑的训练方案,让模型在自身前序编辑输出上训练,并利用教师蒸馏提供可靠监督。学生模型连续编辑自己的输出,教师模型则以原始干净图像和复合编辑指令为条件,缓解自生成轨迹偏离真值轨迹的问题。实验显示,该方法能大幅减少长序列编辑中的性能退化,同时保持编辑质量与指令遵循能力。
推荐理由:论文将自生成轨迹、教师蒸馏和非对称条件结合,为缓解多轮图像编辑中的累积分布偏移提供了可迁移的训练思路。
技术方向
大模型是怎么练出来的:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
261 条精选近 30 天 245 条共收录 297 条
ACEdit 提出一种稳定多轮图像编辑的训练方案,让模型在自身前序编辑输出上训练,并利用教师蒸馏提供可靠监督。学生模型连续编辑自己的输出,教师模型则以原始干净图像和复合编辑指令为条件,缓解自生成轨迹偏离真值轨迹的问题。实验显示,该方法能大幅减少长序列编辑中的性能退化,同时保持编辑质量与指令遵循能力。
推荐理由:论文将自生成轨迹、教师蒸馏和非对称条件结合,为缓解多轮图像编辑中的累积分布偏移提供了可迁移的训练思路。
LLM-Attacker 提出面向拆分及分布式大语言模型的统一隐私评估框架,通过记录攻击者配置,支持重建攻击结果的复核、比较与扩展。框架要求防御方案关联未设防基线,并分别报告未测试攻击与实现检查。
推荐理由:框架把攻击者配置、未设防基线和未测试攻击纳入统一报告,便于跨研究比较、复核拆分模型的隐私评估结果。
作者提出 SAE Additivity Residuals (SAR) 指标,用以衡量单个 SAE 特征及低阶交互无法解释的行为变化,并在 18 组模型与行为设定中验证 SAE 学习坐标比匹配随机旋转更具行为可加性。
推荐理由:提出 SAR 指标量化 SAE 特征间高阶交互,并在 steering 实验中验证建模二元交互可提升排位保真度。
论文提出 SABER 基准,揭示 CLIP 类双编码器和 MLLM 嵌入器在多模态检索中存在广泛的属性-对象绑定失败。SABER 覆盖四种图文模态配对、最多十个对象等更复杂设置;论文还展示仅用合成属性绑定文本微调 MLLM 嵌入器(无需图像监督),即可将性能迁移到跨模态和图像-图像检索,在 SABER 上取得 SOTA,同时在否定和实例检索基准上也有提升。
推荐理由:SABER 给出了跨四种图文配对的属性-对象绑定评测维度,并展示了不依赖图像监督的合成文本微调路径,对多模态检索相关工作有直接参考价值。
论文提出 CoSTA,通过解耦语音对话模型的生成与合成 token 空间,在保留原 tokenizer 和 decoder 的同时提升推理效率。在双语语音对话基准上,扩展语音 token 的生成速度达到约 1.7times,完整响应延迟降低、吞吐量提高,同时保持回答质量。
推荐理由:论文将语音对话模型的生成与合成 token 空间解耦,在保持回答质量的同时呈现推理加速效果及压缩、效率与质量之间的权衡。
WorkRover 是一个通过递归环境演化训练长程协作智能体的框架,提出 Factorial Compatibility Replay(FCR)和 Verifier-to-Turn Credit Assignment(VTCA)来支持环境迭代修正并细化训练信号。
推荐理由:论文提出用递归环境演化训练长程协作智能体的框架,给出环境修正和信用分配机制,并在多个办公基准上报告了具体提升幅度。
Tev 论文提出长程智能体训练数据集 Tev-Gym(含 1170 个跨 7 领域任务)和进度-势能奖励塑形方法 PPRS,并据此训练 Tev-27B。该模型在 ALE-CM 上 Pass@5 与 GPT-6 Astra、Claude Opus 5 持平,并泛化到 Terminal-Bench 3.0/4.0,超过 GLM 5.2 和 Gemini 3.7 Flash。
推荐理由:原文同时给出长程智能体训练数据集 Tev-Gym 和稠密奖励塑形方法 PPRS,可作为同类智能体训练流程的参考方案。
EgoExplorer是一个100小时的人类移动操作穿戴式观测集,将第一人称视频、重建全身动作、手指精细关节和触觉观测对齐,并配有步骤级描述。
推荐理由:论文给出100小时穿戴式多模态数据集与Calibrate-Complete-Constrain重建流程,可作为具身智能与仿真重定向的数据与方法参考。
破晓智能联合天珑移动发布全身全模态数据采集系统SeePhys Hub,由四目头环、双腕手环、三个腰腿动作追踪器与可选触觉手套组成,用于补足Ego数据中缺失的全身姿态与触觉信号。设备多路同步精度不超过0.5毫秒,头环重量不超过220克,单个腕部手环不超过75克。创始人杨朔1998年出生,现任哈工大(深圳)长聘教授,团队计划2027年推出全模态世界模型。
推荐理由:原文给出了采集设备的工程取舍与团队的世界模型路线,便于读者理解具身数据从Ego走向全身全模态的过渡逻辑。
Dyna Robotics 发布 Dyna-2 世界动作模型,以超过100万小时人类视频预训练,并推出物理机器人智能体 Dyna-2.1。模型采用 Diffusion Transformer 和 flow matching 生成未来视频与机器人动作,机器人可从约45分钟演示中学习新任务。Dyna 称其餐巾折叠系统连续运行24小时达到99.4%成功率,并能在整叠餐巾被拉倒后恢复。
推荐理由:梳理了人类视频预训练、世界动作预测、机器人适配与硬件协同的技术链条,并给出餐巾折叠连续运行24小时达到99.4%成功率的案例。
Interlock 提出用于长程智能体任务合成的类型化完成图框架,通过跨组件约束、智能体验证和自训练改善任务完成表现。完成图会被编译为可重置工作区、公开请求与评估量表,系统保留被判定满足全部强制要求的执行轨迹。
推荐理由:Interlock以类型化完成图表示长程任务,并结合智能体验证与自训练,在三项外部任务基准上均取得提升。
PrismaCoder 论文提出基于分解式评分标准的数据合成流水线 PrismaForge,并据此训练发布了 PrismaCoder-9B 与 PrismaCoder-35B 两个开源模型,在多模态代码任务上领先开源 SOTA 并接近闭源系统表现。
推荐理由:原文提出了基于评分标准的多模态代码数据合成与强化学习流程,并开源了模型与数据集,可作为其他视觉编程任务的数据构建参考。
AI 实验室正大量收购倒闭初创公司的代码与工作区数据,原因是公开和合成训练数据已触及瓶颈。SimpleClosure、Sunset 等关停服务平台已将数据转售做成新业务,其中 SimpleClosure 的 Asset Hub 已促成超过 150 笔交易,预计 2026 年底前向初创返还超过 1000 万美元。
推荐理由:原报道梳理了 AI 实验室从倒闭初创收购数据的渠道、定价逻辑与潜在法律风险,为理解训练数据来源提供了具体案例。
具身智能模型训练数据缺口达亿级小时量级,催生了从采集到交易的众包产业链:觅蜂科技、Figure Index等平台让普通人戴轻量化设备按有效时长接单,行业一年内融资约44.7亿元。数据经多层转包后单价从200多元跌至几元,工厂工人常在不知情下被采集生物特征,而他们教会的动作最终可能训练出取代他们自己的机器人。
推荐理由:文章从众包平台、定价崩塌到工人不知情采集生物特征,逐层揭示具身智能数据采集产业链的伦理与商业风险。
Virtual Head Attention (VHA) 通过 Q Premix 与 Linear Postmix 两个轻量线性变换,在不引入非线性操作的前提下同时降低 KV cache 与训练/预填计算开销,并可在推理时折叠回标准 GQA-2 架构复用现有推理优化。
推荐理由:原文给出了 VHA 在长上下文推理中相对 GQA、MLA 的具体收益与边界,方便读者评估该方案替代现有注意力机制的可行性。
ReMaRk 提出一种面向 LLM 推荐场景的强化学习方法,把每个请求的多份有效回复合并评分,去掉 Rank-GRPO 随机挑一条回复所引入的方差(占训练方差 85%)。
推荐理由:把同一请求下多份有效回复合并打分,作者在 7 个基座、3 个数据集上验证了这一可迁移规则对 RL 训练的提速效果。
WindBorne Systems 获得美国空军一笔最高近 5000 万美元的合同,采购其全球约 700 颗自主气象气球采集的大气传感器数据;空军已根据实际需求下达约 170 万美元订单,并可继续按区域和时间追加采购。
推荐理由:原文把合同金额、交付机制与 WindBorne 的 AI 气象数据能力放在同一篇里,读者可以直接看到 AI 天气预报被纳入军方采购的实际门槛。
马斯克称仅 OpenAI、Anthropic 和 Cursor 三家拥有足够编程训练数据,谷歌勉强可以算上。他解释 SpaceX 收购 Cursor 是为了攻克编程以打造超级智能,SpaceX 已于 8 月 14 日完成对 Cursor 的收购,交易对价约 600 亿美元。
推荐理由:马斯克点出编程训练数据在头部机构中的稀缺格局,为理解 SpaceX 收购 Cursor 提供背景。
本文提出 VRSD(带言语正则化的自蒸馏),针对在策略自蒸馏(OPSD)中特权信息导致推理捷径与输出熵骤降的偏差,用系统提示词调节教师模型对特权信息的使用,鼓励反思与探索。
推荐理由:针对自蒸馏中特权信息引发的熵骤降与捷径推理,给出可迁移的提示词正则化方案、理论条件与多模型多任务验证。
InfoVis 是一个用于幻灯片生成与编辑的统一 9B 模型,基于 FLUX.2-klein-base-9B 进行后训练,在超过 13M 持续预训练数据和 1.9M 监督微调数据上训练而成。
推荐理由:原文同时给出统一模型和覆盖四项任务的诊断基准,为开源幻灯片生成提供了可与自家产品的对比参照。