技术方向
大模型是怎么练出来的：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
259 条精选近 30 天 243 条共收录 295 条
Wikimedia Foundation 就 OpenAI、Microsoft 与出版商之间的 AI 版权诉讼提交法庭之友意见，主张区分 LLM 预训练与向用户复制受版权保护内容。其折中立场是，预训练应提供全新且不同的内容，而取代原作、减少读者接触的行为需要遵守许可条款。Wikimedia 警告，未谨慎适用公平使用原则可能损害自由知识的可持续性并抑制开源技术发展。
推荐理由：Wikimedia 在 AI 版权诉讼中区分模型训练与输出复制，呈现开放知识、授权要求与生成式 AI 之间的具体权衡。
IDM提出不依赖外部特征编码器的图像生成分布匹配方法，在2 NFE下取得LongText-CN 94.25%和LongText-EN 90.20%的最高对比分。
推荐理由：IDM呈现了无需外部编码器的分布匹配设计，并提供2 NFE下的对比数据和消融结果，便于评估新增矩约束的设计取舍。
清华大学、无问芯穹与智元近日联合提出群体经验学习（CEL）范式，并在96台真实机器人组成的集群中完成规模化验证。在插花、叠衣服、手机充电、凳子组装和手机包装五项任务中，两台未参加训练的机器人完成600次测试，仅失败15次，总体成功率97.5%，五项任务成功率均超过6名人类操作员平均水平。
推荐理由：材料通过600次真实机器人测试，以及训练规模从16台增至96台时的成功率变化，呈现群体经验复用对任务表现和规模化部署的影响。
文章指出，企业正把 AI 当作身份标签和采购项目，但多数试点尚未转化为财务回报、规模化价值或组织转型。文章引述德勤中国 2026 年 10 月调研称，92% 的企业已开展 AI 应用试点，8% 获得财务和战略收益，4% 完成组织级转型；日照钢铁、友达光电等案例则显示，AI 嵌入具体流程、数据和岗位后更容易形成结果。
推荐理由：文章以多项企业案例和调研数字作对照，拆解流程、数据与组织准备对 AI 规模化落地的具体制约。
OpenAI健康板块负责人Karan Singhal提出，AI医疗应成为贯穿诊前、诊中、诊后的健康助手和临床安全网，而非取代医生。他表示，每周已有超过3亿人使用ChatGPT询问健康问题，OpenAI正结合通用模型迭代与医疗专业训练，探索主动式个人健康助手，并与Epic等系统合作接入工作流。
推荐理由：文章从患者端、医生端和研发端切入，梳理医疗AI的能力设想、工作流接入方式，以及信任、安全与规模化落地约束。
tinyworldformer 使用两个小型神经网络，在 Raspberry Pi Pico 2 W 上同时生成并游玩 Breakout、Doom-lite、Flappy Bird、Pong 和 Pac-Man lite。
推荐理由：项目公开了世界模型、智能体、int8 量化与片上学习的实现和复现流程，读者可结合逐帧准确率与资源占用评估端侧可行性。
Reddit 宣布将平台转向以登录用户体验为主，以应对搜索流量下滑、减少数据被 AI 抓取并拓展模型授权收入。Q3 全球日活环比持平于 130.3 million，美国日活从 Q2 的 53.2 million 降至 50.7 million，10 月搜索引荐量每周平均减少超过 1 million。
推荐理由：Reddit 的登录态转型把搜索流量下滑、AI 数据授权与广告变现放在同一框架中，适合对照开放互联网平台的应对路径。
WeFair 论文提出面向微信短视频搜索的个性化查询改写方法，以示范、偏好、验证三阶段的人类反馈对齐抑制意图漂移。离线实验中，WeFair-2B 在整体准确率和意图保持上优于强改写基线。在线 A/B 测试中，有效视频播放率相对提升 2.593%，查询改写率相对下降 2.350%；该模型已部署于日均处理超过 1 亿次查询的微信短视频搜索系统。
推荐理由：论文将人类反馈按其对个性化意图的直接程度分阶段用于对齐，并提供离线与线上 A/B 数据，便于评估查询改写对意图保持和搜索行为的实际影响。
AWS Batch 新增配额管理调度能力，面向 SageMaker Training 任务按团队、项目或工作负载划分 GPU 配额，并支持资源借出、借用与抢占回收。
推荐理由：文章通过三个配额共享策略和两类抢占场景，完整展示多团队 GPU 资源的借用、回收与优先级调度配置。
SkyPilot 为 Grace Blackwell NVL72 集群采用16节点切片和机架感知调度，NVIDIA 模型显示16节点切片可用容量比18节点切片高 27%。
推荐理由：文章把通信瓶颈、故障恢复与集群碎片化放在同一框架下，给出16节点切片相较整架分配的容量与成本权衡。
前 Palantir 高管创办的 Dream 走出隐身状态，获 a16z 领投的 $17M 种子轮融资，开发面向建筑设计与工程自动化的 AI 世界模型。该模型以美国各地建筑许可档案中超过 100 million square feet 的建筑数据训练，并依据真实物理规律和建筑标准生成结构精确、涵盖管道与 HVAC 的设计。
推荐理由：文章对比了标准 LLM 生成建筑图像与 Dream 按物理规律和施工标准生成结构精确设计的方法，呈现建筑世界模型的技术差异。
这项研究发现，REPA 等扩散 Transformer 训练加速方法会显著重组 AdaLN-Zero 残差门 α，加速模型对 α 的扰动也更敏感。研究提出归一化参与率 nPR 来刻画门在通道维度上的组织方式，并据此设计无需教师模型、基于特征范数正则化的径向目标。
推荐理由：论文将扩散训练加速与可测量的残差门重组织联系起来，并给出无需教师模型的径向目标，便于对照现有加速方法分析机制差异。
阿里云自今年5月提出转向 Agentic Cloud，正把云平台从承载模型调用改造为支撑智能体持续运行的环境。其体系归纳为全域认知引擎、自主运行与持续进化、可信协作与治理、智能实时决策四项能力，AgentCore、Agent Sandbox、Agent Identity 分别支撑运行、隔离和权限。
推荐理由：文章通过对比云原生与 Agentic Cloud 的任务形态，并结合三家企业的工程问题，呈现阿里云承接智能体业务的技术路径。
威卡移动控制于10月19日发布“具身智能赋能工程机械高质量数据集”，并已上线 Hugging Face 等数据仓库。数据集第一阶段规模达到3600万帧，覆盖12类典型作业场景及多型号挖掘机作业数据，通过统一时间戳同步视觉、激光、位姿、力馈和手柄输入五类数据。真实数据采集约每小时5000元，训练一套可用模型大致需要10万小时量级数据，仿真采集成本约为真机采集的十分之一。
推荐理由：文章公开了挖掘机作业数据的五维同步方法、真机采集成本及仿真成本比例，为评估工程机械具身智能数据方案提供了具体参照。
文远知行披露，旗下子公司景烁科技获得嘉御资本、HKSTP香港科技园、天狼星资本等共同投资的数千万美元 pre-A 轮融资。景烁科技围绕物理AI建设数据与模型基础设施，依托数据—模型一体化平台 WorldEngine 和自研世界模型 GENESIS-Robotics，覆盖数据采集、数据集与定制数据服务。
推荐理由：数千万美元 pre-A 轮融资将用于扩充团队和强化数据平台、世界模型与技能资产引擎协同，呈现物理AI基础设施扩张路径。
中科曙光在2026数据存储产业大会展示了面向 Token 时代的“AI数据工厂”，以存储参与 AI 生产全流程并提升 Token 产出效率。该方案打通数据使用环节，让 AI 及时获取所需信息并复用已有计算结果，以提高算力利用效率。曙光存储系统已用于曙光8000、机器人数据采集与训练、自动驾驶等场景。
推荐理由：材料呈现了中科曙光以 AI 数据工厂衔接数据使用与算力复用的思路，并列出三类已应用场景，便于理解其 Token 生产方案。
谷歌CEO桑达尔·皮查伊称，AI递归式自我改进将加快谷歌AI模型发布节奏。他表示AI已帮助提升训练和发布速度，并预计未来12个月将在这一因素下继续加速。
推荐理由：皮查伊将模型发布提速归因于AI参与训练和递归式自我改进，并给出未来12个月的加速预期，便于对照后续节奏。
Cartesia Research 报告 H-Nets 在字节级语言、DNA 与图像上的训练结果与算力效率。
推荐理由：文章以匹配数据和算力的方式比较 BPE Transformer 与 H-Nets，并说明不同压缩策略下对齐口径的难点，为解读效率结果提供清晰边界。
该论文提出 unified training，将基础模型的预训练、中期训练、SFT 和 RL 统一到一个基于似然的算法中。研究把 RL 目标推导为对模型生成目标分布的最大似然拟合，并在同一训练器中混合静态数据与 RL 生成数据。受控实验和真实世界实验显示，该方法改善了准确率与计算量权衡和任务覆盖，同时保留更广泛的能力，并为持续学习提供更强的起点。
推荐理由：论文把预训练、中期训练、SFT 与 RL 放进同一似然框架，并给出统一训练器与实验结果，便于对照分阶段训练方案理解取舍。
研究作者提出 AIR（Affine Inverse-square-Root decay）调度，将理论推导的 1/t 衰减与仿射调整结合，以满足有限训练周期内指定的峰值和终端 LR。
推荐理由：论文将调度对象从名义 LR 转向有效学习率，并用 128 B-token MoE 预训练对比展示 AIR 对训练损失、下游表现和超参数鲁棒性的影响。