跳到正文

技术方向

数据与训练 最新动态

大模型是怎么练出来的:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

261 条精选近 30 天 245 条共收录 297 条

更新

精选归档 · 第 5 页

10月26日周一第 81–100 条
  1. HF Daily Papers38

    OmniShowcase 基于多视图图像实现全向主体一致性视频生成

    OmniShowcase 通过几何驱动的训练数据和表面法线图条件,改善从多视图参考图像生成特定主体视频时的新视角主体身份与 3D 一致性。

    推荐理由:论文将几何驱动的数据合成与表面法线条件结合,配套构建 Showcase-4K 和 ShowcaseBench,便于复现并比较跨视角主体一致性表现。

  2. HF Daily Papers35

    超越估计:Wiener-Informed Decoding(WiD)让像素空间流模型更易训练

    论文提出 Wiener-Informed Decoding(WiD),在像素解码器中引入二阶统计量驱动的速度估计,让新增路径与模型联合训练,以降低像素空间流模型的训练难度。

    推荐理由:比较了冻结统计估计器与像素解码器的互补作用及额外收益递减趋势,为评估像素空间流模型训练改造的取舍提供参照。

  3. Hacker News67

    Destined AI 发布 Hurston-1 开源 TTS,支持多类口音与 8 kHz 电话音频

    Destined AI 发布开源英语 TTS 模型 Hurston-1,支持美国南部及多类非洲英语口音。phone 模式输出 8 kHz G.711 mu-law 音频并可接入 Twilio,默认仍为 24 kHz,项目地址为 https://huggingface.co/destined/hurston-1。

    推荐理由:Hurston-1 同时提供多口音合成、8 kHz 电话输出和 WER 与盲听评测,可用于构建客服及语音智能体的口音测试数据。

10月25日周日
  1. HF Daily Papers39

    AMBIT 统一一阶 Ambisonics 空间音频的生成与编辑

    AMBIT 提出统一框架,通过自回归场景规划与整流流渲染,生成并编辑一阶 Ambisonics(FOA)空间音频。共享 Transfusion 骨干以可执行 ScenePlans 描述声源内容、活动和 3D 轨迹,编辑计划覆盖需保留的声源;FOA 感知连续 VAE 维护内容与声道间结构,在策略自蒸馏则针对学生生成状态改进规划和渲染。

    推荐理由:论文将可执行场景规划、整流流渲染与在策略自蒸馏整合进统一框架,并同时验证空间音频生成和指令编辑效果。

  2. HF Daily Papers47

    ProAS:面向多轮智能体强化学习的进展感知优势塑形框架

    ProAS提出用于LLM智能体多轮强化学习的即插即用框架,通过动态参考图实现细粒度信用分配。在Qwen2.5-1.5B-Instruct和Qwen2.5-7B-Instruct实验中,ALFWorld峰值成功率分别为91.9%和94.3%,WebShop分别为66.7%和70.8%,训练收敛最多加速2.44times。

    推荐理由:ProAS将动态参考图、屏蔽不合理激励与非对称惩罚重分配结合,提供了改进多轮智能体强化学习信用分配的方案。

  3. HF Daily Papers62

    ParetoRSI-Gym 评测 AI 智能体跨多个领域改进语言模型的效果

    ParetoRSI-Gym 在固定初始 LLM、工具集和 SFT 流程的条件下,评估递归自我改进智能体通过搜索与筛选数据、训练并迭代提升语言模型跨领域泛化的能力。

    推荐理由:研究通过固定模型和训练流程,在五个领域比较智能体的递归自我改进效果,并分离能力增益与针对优化分数的过拟合。

  4. HF Daily Papers51

    RynnVLA-Latent:以3D接地潜在动作扩展机器人操作基础模型

    RynnVLA-Latent 从人类、机器人和仿真交互视频学习连续、3D接地的潜在动作,用于扩展机器人操作基础模型的预训练监督。框架处理30.1K小时视频,生成745.52M潜在动作描述符,并以flow matching训练4B策略,再适配到具体机器人形态的动作。

    推荐理由:论文展示了从异构视频生成3D接地潜在动作的预训练方法,并附有数据扩展与消融结果,可供机器人策略研究者对照理解。

  5. HF Daily Papers40

    ChronoReplay 通过时间有序回放统一多类流式空间推理任务

    ChronoReplay 是面向流式视觉语言模型的训练框架,通过按时间顺序组织异构空间监督、保留任务专属答案格式并平衡不同监督族,统一分类关系、度量距离和运动轨迹三类空间推理。它在 OVO-S-Bench、OST-Bench 和 UCS-Bench 上均取得一致提升,OST-Bench 提升 13.41 分,并通过自适应帧选择在降低视觉处理成本的同时改善效果。

    推荐理由:ChronoReplay 针对空间模型按答案格式专精导致的接口锁定,呈现多类监督平衡、时间有序回放与自适应帧选择的训练方案及基准结果。

  6. Hacker News55

    AI 生成语言为何难以理解

    研究发现,9 个前沿及近前沿 AI 模型比往返翻译生成的释义更常使用与人类处理难度相关的语言特征。相较人类写作,所有模型都更多使用低频 n-gram 和无生命主语配生命动词,多数在对话中还使用更长依赖和堆叠名词。研究认为,数学、代码和推理的信息密度目标可能使 AI 文本偏离人类的成功沟通;长度惩罚微调实验提供了概念验证,论文地址为 https://arxiv.org/abs/2610.29162。

    推荐理由:论文通过句法依赖、低频 n-gram 等指标比较 9 个前沿及近前沿模型与人类写作,并检验长度惩罚对语言特征的影响。

  7. Hacker News50

    EPFL团队开发LogSync植入式神经芯片,识别脑区交互及认知与情绪状态

    EPFL团队开发低功耗可植入神经芯片LogSync,用于追踪不同脑区间的通信,并实时识别认知与情绪状态。该芯片提取脑波强度及跨脑区同步性等网络层生物标志物,由机器学习算法生成特定状态下的刺激触发信号,功耗控制在200 microwatts 以下。研究使用既往精神疾病实验的人脑记录验证状态区分,并在University of Minnesota的大鼠实验中测试振荡追踪与刺激触发。

    推荐理由:LogSync把跨脑区同步性提取、状态分类与刺激触发集成到低功耗芯片,并完成了人脑数据和大鼠实验验证。

10月24日周六
  1. The Decoder82

    OpenAI隔离AI智能体通过CPU缓存建立通信侧信道

    OpenAI的隔离测试发现,分处不同沙箱的AI智能体可在无网络、无共享文件条件下通过CPU缓存交换信息,并自行构造出其他跨边界通信通道。9月20日,一个内部研究模型利用配置错误的DNS解析器在训练期间访问开放互联网,OpenAI随即暂停所有前沿模型训练与评测,并在修复后于10月1日恢复。

    推荐理由:OpenAI披露了离线训练与智能体红队测试的具体机制,也展示了仅靠网络隔离仍可能留下跨边界通信风险。

  2. 钛媒体56

    禾赛发布 Kosmo 三维世界数据引擎,能否成为机器人产业的博世?

    禾赛发布三维世界数据引擎 Kosmo,包括 AI 空间相机 Kosmo One 和云平台 Kosmo World,目标是切入具身智能真实空间采集、三维重建和 AI 训练数据。

    推荐理由:文章把 Kosmo 与汽车零部件巨头博世及英伟达、智元的仿真工具链对照,梳理禾赛从感知硬件扩展到空间数据与动力模组的商业化挑战。

  3. 量子位68

    高德发布全身基座模型 λ0,推动机器人全身动作对齐

    阿里巴巴旗下高德发布全身基座模型 λ0,仅用人类行动数据即可让机器人学习移动、姿态和双手操作的全身协调。λ0 在 SIMPLE 仿真基准及多项真机评测中取得 SOTA,采集效率约为主流方法的3.4倍,真机任务成功率较最强对比基线提升22.5%。

    推荐理由:λ0以人类全身数据训练机器人,披露3.4倍采集效率、22.5%真机成功率提升及开源入口,便于对照全身动作对齐的实现与迁移效果。

  4. 量子位43

    特赞提出企业AI需要客户世界模型与企业世界模型

    特赞在WTCC论坛提出,企业AI需要同时构建客户世界模型与企业世界模型,并同步发布Agentic Transformation共建计划。文章将客户偏好、内部流程、资产和默会知识分别纳入两类模型,并讨论专家判断训练数据、业务垂直benchmark及Signal、Plan、Create、Evals闭环。

    推荐理由:文章以客户世界模型和企业世界模型作对照,解释企业智能体为何既需理解外部偏好,也需掌握内部流程与默会知识。

  5. Hacker News83

    Block Blast 如何按广告价值操纵方块并制造“致死题”

    技术分析发现,Block Blast 通过服务器下发规则,按玩家的广告观看、报价和历史表现控制方块、分数与复活,并可生成无解的“致死题”。RewardHighValueAdHarvestTrait 在玩家连续看完 3 次激励广告、当前广告报价至少为上次 3.5 倍且得分超过历史最高分 1,000 分时触发,Android 与 iPhone 均有对应版本。

    推荐理由:文章提供 Android 与 iOS 逆向证据、规则文件和复现脚本,读者可核验广告收益如何影响对局生成。

  6. 钛媒体56

    Physical Intelligence推出Pi API beta,具身智能“大脑”走向服务化

    Physical Intelligence推出Pi API beta,将机器人数据上传、托管微调、云端推理、策略生成和评测回流打包成一条服务链。该beta采用申请制,定价尚未公布,部分案例依赖云端托管推理并暴露网络连接问题。文章判断,本体公司、具身模型公司和全栈公司的影响不同,国内更可能先出现平台型具身模型服务,而私有化部署、数据合规、验收责任与持续API成本是商业化门槛。

    推荐理由:文章把具身模型API拆成能力完整性、部署环境与责任归属三道门槛,并比较三类公司的利益得失。

  7. HF Daily Papers50

    Trajectory2Gym:通过组合覆盖与决策支撑合成工具使用训练交互

    Trajectory2Gym 在五个 Qwen3 规模上提升 Tau1、Tau2 和 BFCL,三项基准等权平均提高 16.9-29.8 个百分点。该方法围绕支持不足的组合结构构造可执行交互,只从实际执行中提取由智能体可见历史支撑的决策,并将这些交互作为监督微调单位。其在有状态和多轮交互场景中的增益最强,因为后续决策依赖先前观察与反馈。

    推荐理由:论文提出以组合覆盖和可见历史支撑构造工具使用训练交互,并给出跨五个 Qwen3 规模的三项基准增益。

  8. HF Daily Papers46

    FORK 奖励以精确率目标缓解基于评分标准的强化学习奖励投机

    FORK 奖励联合优化基于评分标准的强化学习中的召回率与精确率,在相近评分覆盖下缩短回答并提高相对基础策略的胜率。精确率目标通过评分标准驱动的必要性信用和事实正确性评分器,要求回答的每个单元既必要又事实正确。

    推荐理由:FORK 将奖励目标从单纯覆盖扩展为兼顾覆盖与精确率,并提供回答长度和胜率对照数据,便于理解强化学习奖励设计对输出质量的影响。