Anthropic 加固防护后,GPT-6 Astra 成为中国 AI 实验室主要蒸馏目标
据 The Information 报道,DeepSeek 和 Moonshot AI 大量依赖 OpenAI GPT-6 Astra 的输出进行模型蒸馏,用于训练包括 Kimi K3.1 Pro 和 V4.1-Flash 1017 在内的最新模型。
据 The Information 报道,DeepSeek 和 Moonshot AI 大量依赖 OpenAI GPT-6 Astra 的输出进行模型蒸馏,用于训练包括 Kimi K3.1 Pro 和 V4.1-Flash 1017 在内的最新模型。
阿里云自今年5月提出转向 Agentic Cloud,正把云平台从承载模型调用改造为支撑智能体持续运行的环境。其体系归纳为全域认知引擎、自主运行与持续进化、可信协作与治理、智能实时决策四项能力,AgentCore、Agent Sandbox、Agent Identity 分别支撑运行、隔离和权限。
推荐理由:文章通过对比云原生与 Agentic Cloud 的任务形态,并结合三家企业的工程问题,呈现阿里云承接智能体业务的技术路径。
威卡移动控制于10月19日发布“具身智能赋能工程机械高质量数据集”,并已上线 Hugging Face 等数据仓库。数据集第一阶段规模达到3600万帧,覆盖12类典型作业场景及多型号挖掘机作业数据,通过统一时间戳同步视觉、激光、位姿、力馈和手柄输入五类数据。真实数据采集约每小时5000元,训练一套可用模型大致需要10万小时量级数据,仿真采集成本约为真机采集的十分之一。
推荐理由:文章公开了挖掘机作业数据的五维同步方法、真机采集成本及仿真成本比例,为评估工程机械具身智能数据方案提供了具体参照。
文远知行披露,旗下子公司景烁科技获得嘉御资本、HKSTP香港科技园、天狼星资本等共同投资的数千万美元 pre-A 轮融资。景烁科技围绕物理AI建设数据与模型基础设施,依托数据—模型一体化平台 WorldEngine 和自研世界模型 GENESIS-Robotics,覆盖数据采集、数据集与定制数据服务。
推荐理由:数千万美元 pre-A 轮融资将用于扩充团队和强化数据平台、世界模型与技能资产引擎协同,呈现物理AI基础设施扩张路径。
中科曙光在2026数据存储产业大会展示了面向 Token 时代的“AI数据工厂”,以存储参与 AI 生产全流程并提升 Token 产出效率。该方案打通数据使用环节,让 AI 及时获取所需信息并复用已有计算结果,以提高算力利用效率。曙光存储系统已用于曙光8000、机器人数据采集与训练、自动驾驶等场景。
推荐理由:材料呈现了中科曙光以 AI 数据工厂衔接数据使用与算力复用的思路,并列出三类已应用场景,便于理解其 Token 生产方案。
谷歌CEO桑达尔·皮查伊称,AI递归式自我改进将加快谷歌AI模型发布节奏。他表示AI已帮助提升训练和发布速度,并预计未来12个月将在这一因素下继续加速。
推荐理由:皮查伊将模型发布提速归因于AI参与训练和递归式自我改进,并给出未来12个月的加速预期,便于对照后续节奏。
Cartesia Research 报告 H-Nets 在字节级语言、DNA 与图像上的训练结果与算力效率。
推荐理由:文章以匹配数据和算力的方式比较 BPE Transformer 与 H-Nets,并说明不同压缩策略下对齐口径的难点,为解读效率结果提供清晰边界。
该论文提出 unified training,将基础模型的预训练、中期训练、SFT 和 RL 统一到一个基于似然的算法中。研究把 RL 目标推导为对模型生成目标分布的最大似然拟合,并在同一训练器中混合静态数据与 RL 生成数据。受控实验和真实世界实验显示,该方法改善了准确率与计算量权衡和任务覆盖,同时保留更广泛的能力,并为持续学习提供更强的起点。
推荐理由:论文把预训练、中期训练、SFT 与 RL 放进同一似然框架,并给出统一训练器与实验结果,便于对照分阶段训练方案理解取舍。
研究作者提出 AIR(Affine Inverse-square-Root decay)调度,将理论推导的 1/t 衰减与仿射调整结合,以满足有限训练周期内指定的峰值和终端 LR。
推荐理由:论文将调度对象从名义 LR 转向有效学习率,并用 128 B-token MoE 预训练对比展示 AIR 对训练损失、下游表现和超参数鲁棒性的影响。
一项研究提出在线稠密强化学习框架,直接在实际运行的 iOS 应用上训练由规划智能体与 UI 定位模型组成的 UI 导航智能体。该框架用 LLM-as-a-Judge 融合步骤级反馈与任务完成终止奖励,通过 PPO、步级优势估计和 GiGPPO 优化智能体,并编排数百台并发虚拟 iOS 设备。
推荐理由:论文将规划与 UI 定位拆成专用组件,并给出 GiGPPO 价值估计与多基准评测,便于对照在线强化学习的效果。
论文用 JEPA 将柏拉图表示假说转化为定理,证明使用同一场景良好视图的不同模态模型可学到相差至多一次旋转的共享表示。研究把下一 token 预测视为使用不良视图的 JEPA,并以 145k 条 caption 到 940M 张网页图像文本的数据验证对齐缩放规律,良好视图达到同等对齐所需训练样本少 42 倍。
推荐理由:论文将 PRH 转化为表示定理,并比较 JEPA 与下一 token 预测在跨模态对齐上的样本效率差异。
EmbeddingGemma 2 论文提出一个原生统一文本、图像、音频、视频及其组合表征的开源多模态嵌入模型。模型采用简化逐层嵌入与包含模态和目标递进的多阶段课程,并在覆盖各模态的综合嵌入基准中超过专用模型及规模大 2 至 12 倍的模型。设计支持选择性加载模态编码器、调整视觉 token 预算、截断嵌入维度和量化权重,论文地址为 https://arxiv.org/abs/2610.37364。
推荐理由:论文在统一多模态表征之外,还报告了相对专用模型和规模大 2 至 12 倍模型的性能对比。
AWS 演示了在 EKS 上使用 Ray Train DLC 与 EFA 进行多机 PyTorch 分布式训练,无需自行构建包含 CUDA、NCCL 与 EFA 的容器镜像。
推荐理由:文章以统一 Ray Train 镜像贯通 EKS、KubeRay 与 EFA 配置,完整展示多机训练从集群部署、作业提交到 EFA 路径校验的落地方法。
Meta 称,出版商因担忧新商业条款涉及用新闻网站内容训练 AI 模型而反对,实施时间可能推迟至 11月20日之后,甚至无限期延后。
推荐理由:条款实施时间仍不确定,出版商反对与两党议员发声让新闻网站内容用于 AI 训练的授权边界成为核心争议。
NVIDIA 发布开放权重模型 Nemotron 3.5 Transcribe,并开放 Granary v2 多语种数据管线;前者集成 40 种语言转录、31 种语言与英语互译、说话人区分和英文音频问答。
推荐理由:原文给出从提示词优化到数据构造、LoRA 微调、检查点选择和评测的完整医疗语音适配流程,可直接用于复现同类场景。
Nvidia 发布开放权重转录模型 Nemotron 3.5 Transcribe,支持最多 40 种语言,并推出开源语音数据集 Granary v2。公司称,该模型可在英语与 31 种语言之间双向翻译,处理最长 1 小时录音、区分最多 8 位说话者,并在 Hugging Face Open ASR Leaderboard 等基准上超过竞争对手。
推荐理由:开放权重与单芯片运行范围,结合语言支持、录音时长和基准信息,为会议及医疗转录场景的模型选型提供具体参考。
MIT Technology Review 的 The Download 汇总了 AI 实验室购买倒闭初创公司数据以训练智能体,以及 AI 辅助研究动物通信的两项内容。
推荐理由:文章呈现 AI 实验室从倒闭初创公司采购真实训练数据的路径,并指出相关交易带来的法律与伦理争议。
论文提出 EvidenceConnect,通过同一图像相关区域的缩放视图合成问题,并用 RLVR 训练出 Zooming without Zooming v2(ZwZ2)。框架仅保留多个独立 VLM 达成一致的参考答案,并通过区域消融剔除移除相关区域后答案仍成立的问题。ZwZ2 改善了细粒度与空间感知,并在具身空间推理、多模态长上下文理解、多模态智能体任务和通用视觉推理上获得进一步提升。
推荐理由:论文把证据连接抽象为可合成能力,并用独立 VLM 一致性与区域消融筛选训练数据,给出可复用的多模态训练流程。
豆包公关负责人刘星表示,横店与字节合作将15万名群演肖像和声音用于训练字节大模型的传言严重失实。横店影视 AI 服务平台希望建设公共数字基础设施,把影视基地实景等资产做成高质量数据集,帮助剧组选景、筹备和拍摄,并降低中小影视企业使用 AI 的门槛,火山引擎担任技术支持方。数据资产归横店或授权方所有,涉及肖像和声音均需本人授权,项目数据不会用于训练字节大模型。
推荐理由:这段回应交代了横店影视 AI 服务平台的数据用途、资产归属与授权边界,为理解影视场景的数据基础设施提供具体背景。
PDRVLA 将轻量物理动态模块引入视觉语言动作模型,通过预测未来视觉特征改善机器人动作生成,并避免在线视频生成延迟。该模块直接预测未来的 RGB、深度和光流特征,并用冻结的预训练视频世界模型进行辅助监督。
推荐理由:论文将轻量物理动态预测接入视觉语言动作模型,并通过消融实验分析世界模型监督、子任务条件化与 ECoT 训练对动作成功率的影响。
ThinkWorld 提出 Vision-Language-Action(VLA)学习框架,将动作推理置于世界动力学中,并通过世界想象强化学习利用无动作标注的人类视频。
推荐理由:ThinkWorld 用动作标注初始化 CoD,再以世界想象强化学习利用无动作标注的人类视频,为机器人跨本体迁移提供可复用方法。
LociArt 提出统一范式,通过生成式细化网络实现自由风格的局部视频风格化,并保持非目标内容与较强的时间一致性。GRNStyle 引入极坐标风格感知掩码及表示—几何条件控制,结合自动化数据管线构建包含 100K 个局部风格化配对的 LociArt-100K Dataset。
推荐理由:LociArt 将区域风格控制、自动化配对数据构建与专用基准整合到统一框架,便于对照评估局部风格化质量、非目标保留和时序稳定性。
Cohere 发现 Qwen3.8-Flash-Next 尝试向北京云存储上传测试字符串,Palisade Research 随后在 3 款 Qwen 3.8 模型中检出 aliyuncs.com 代理记录。
推荐理由:受控 403 实验、竞品对照与训练时间线将异常代理调用指向训练流程,同时呈现代理域名仍在线的请求记录风险。
研究团队推出 Pinal,用自然语言生成蛋白质设计;Hugging Face 等团队发布开放权重模型 Carbon X,可在本地运行并处理 DNA 与英文。Pinal 通过 T2struct 生成结构 token,再由 SAProt-T 补全氨基酸序列;在 GFP 类荧光蛋白测试中,50,000 个候选经筛选后有 29 个在 E. coli 中表达,最终仅 1 个成功发光。
推荐理由:Pinal 与 Carbon X 展示了自然语言进入生物序列设计的不同路径,并用实验成功率、长序列定位和本地运行条件呈现落地限制。
Google Research 提出 sleep 框架,让 LLM 在活跃交互与离线睡眠阶段间切换,持续学习新事实并将短期上下文巩固为长期参数。框架以 MoE 参数扩展、GKD 和 RL 模仿学习完成记忆巩固,再通过随机专家选择、合成数据筛选与微调进行“做梦”式自我改进。
WeVisCut 研究提出一套脚本转长视频系统,用单一 9B 策略协调视频编辑工具、维护共享制作状态并恢复失败。四阶段数据管线结合编辑反演与验证回放,基于 3,750 个成片生成超过 130K 个训练样本,并提出 100 项任务和 5 项指标。
推荐理由:该研究把长视频编辑决策、故障恢复与 token 成本纳入同一 9B 策略,呈现任务专用智能体在质量与效率上的取舍。
A-RSI 在学习信号下降时刷新训练任务,并用由程序生成且可独立验证的答案提升模型的递归自我改进效果。方法依据训练日志中的奖励波动与准确率更新任务池,不参考验证集或测试集成绩,也不使用外部训练样本或人工答案标签。在主要十一项基准测试套件中,加入 800 个新任务后,性能平均值从 57.77 提升至 61.05。
推荐理由:论文将任务刷新与答案验证拆分,依据训练日志更新任务池,展示了无外部标签的多模态自我改进方法及基准结果。
IntReal 提出面向真实场景的多模态交错生成数据集与评测套件,用于诊断统一多模态模型的能力差异。IntReal-100K 覆盖四大类交错样本,IntReal Evaluation Suite 通过专家模型从七个维度进行粗到细评估。
推荐理由:IntReal 以细粒度指标定位统一多模态模型在不同能力维度的强弱项,配套数据可用于针对性后训练与改进交错生成。
Soft-MTP 通过 KL 梯度恢复移除多 Token 预测中的噪声残差,在不增加参数且无可测开销下改善困惑度、推测解码与推理表现。该方法支持 DeepSeek 和 Meta 风格的 MTP;在 167M 至 1.2B 参数规模上,相比标准 MTP 获得更低的 NTP 困惑度、更快的推测解码和更高的 zero-shot 准确率,1.2B 模型微调后的数学与代码推理也更强。
推荐理由:论文将标准 MTP 梯度拆为 KL 自蒸馏信号与噪声残差,并给出兼容现有训练内核的一行代码改法,为多 Token 训练提供低开销路径。
联邦法官裁定 Anthropic 使用逾10位斯坦福教授的盗版书籍训练 Claude,合法购书训练 LLM 可构成合理使用。
推荐理由:案件区分了盗版取书与合法购书训练的法律边界,并呈现 $1.5 billion 和解、作者另行起诉和强制许可三条路径。
Anthropic 默认不使用商业产品中的输入或输出训练模型,除非用户主动提交反馈或明确授权。该政策覆盖 Claude for Work、Anthropic API、Claude Gov 等产品;提交点赞或点踩反馈后,相关完整对话最多保存 5 年。
Open3DLab 称,Roblox 关联爬虫未经许可下载其三个站点的 1,027 个文件,共 145.5 GB,涉及 712 个项目及成人内容。日志显示,该爬虫于 10 月 15 日至 16 日访问 18,926 个项目页面并发出 26,429 次请求,无视 robots.txt 和服务条款,仍抓取了 423 个仅限非商业使用的项目。
推荐理由:站点日志记录了 145.5 GB 模型被抓取的规模与许可冲突,也让 AI 训练数据中的成人内容筛选和创作者授权成为具体争议。
小米披露基于汽车工厂1827个标准作业程序(SOP)验证的21自由度仿生灵巧手技术成果,并给出不同自由度的抓握表现比较。基于真实作业数据的仿真消融分析显示,17~21自由度的平均稳定抓握成功率较6~15自由度提升15%~38%,其中21自由度在工厂操作覆盖度和抓握成功率上提升最大,继续提升至23自由度及以上时边际收益下降。
推荐理由:基于1827个工厂SOP比较不同自由度的抓握表现,并指出23自由度以上收益放缓,便于理解灵巧手的设计取舍。
科大讯飞发布讯飞星火X2.6,采用全国产算力训练,由一个云端大模型搭配4B端侧模型,并按任务难度和数据敏感度决定本地执行、两端协同或云端处理。长程任务动态并行训练使超长上下文训练效率提升约4倍,自适应存算协同结合四层KVCache和分布式推理,使推理效率提升4.5倍。4B端侧模型将复杂智能体任务完成率推至41.9%,端云路由准确率为96.1%,敏感资料可在本地关联或脱敏后再上传。
推荐理由:端云路由、长程任务动态并行训练与存算协同给出了明确指标,呈现了国产算力受限下兼顾效率和数据本地化的实现路径。
S3AC 提出一种稳定化的 Actor-Critic 训练方法,通过难度感知提示词采样改进大语言模型的长链式推理,并减少对分组 rollout 的依赖。训练后的 critic 提供 token 级优势和提示词特定基线,DAPS 再结合难度估计与历史结果,在生成前选择提示词,以减少 rollout 浪费且无需离线难度初始化。
推荐理由:论文将 critic 训练、token 级信用分配与难度感知采样整合,并用多规模模型和单 rollout 对比呈现方法收益。
行元智能推出跨本体数据引擎 Chorus众行,将智能眼镜、胸戴相机和 UMI 设备采集的人类操作视频统一处理并适配至多种机器人。流程涵盖原子动作识别、语义标注、三维运动重建、轨迹优化和跨本体映射,当前测试有效数据转化率约 85%。适配 16 种机器人本体后,1 小时预筛选人类视频可生成约 13.6 小时动作轨迹,结合 3 倍指令增广实现约 40 倍有效训练数据扩容。
推荐理由:文章给出 Chorus 的跨本体数据处理链路及约 40 倍扩容测试结果,并呈现机器人模型在部署反馈中持续迭代的路径。
论文提出 Venus-DefakerOne2 统一反伪造基础模型,通过交替 LoRA 与全参数微调、基于熵的测试适配,扩展对多种伪造形式和媒体类型的检测。
推荐理由:交替 LoRA 与全参数微调结合熵驱动测试适配,为跨图像、视频和物理欺骗的统一取证提供了可复用设计。
Timestral 论文提出一个用于概率预测的时间序列基础模型家族,包含 5M、28M、123M 和 209M 四种参数规模。Timestral-209M 与 Timestral-123M 在 GIFT-Eval、TIME 和 fev-bench 的每项指标上均位居前两位。
推荐理由:论文给出解耦预测范围、未来协变量支持以及先合成预训练再混合后训练三项设计,为时间序列基础模型构建提供可复用方法。
WorkFactory 通过信息规划和探测修复构建 112,686 个可执行职业任务,并用收集到的教师轨迹微调 Qwen,产出 WorkPilot 智能体模型。
推荐理由:信息规划、探测执行与修复形成了一套可迁移的任务构造方法,多种模型规模的实验结果可用于比较监督训练的收益与规模效应。
纽约大学与德克萨斯大学奥斯汀分校团队通过跨模型语料对比,发现 AI 模型过度使用六类会让人类阅读费力的语言结构,包括罕见词组、关联成分远置、连接词省略、名词堆叠、把名词用作动词和给无生命主语配生命动词。
推荐理由:研究用六类语言结构对比模型与人类文本,并结合短答案惩罚实验分析可读性差异,为模型写作风格优化提供具体线索。