跳到正文

技术方向

多模态 最新动态

文字之外的能力:看懂图片、图文混合理解、音视频输入输出的模型与产品进展。

222 条精选近 30 天 196 条共收录 273 条

更新

精选归档 · 第 4 页

10月26日周一第 61–80 条
  1. HF Daily Papers59

    Co-Design Bench:面向智能体模型的多模态协作编码评测

    Co-Design Bench 以真实用户的多模态应用修改需求构建智能体编码评测,包含 273 项任务和 2,331 条专家验收标准。任务分为 Multimodal Editing(100 项)和 Repository Editing(173 项),并采用无参考答案的 judge-then-refute 协议评估隐藏验收标准。

    推荐理由:该基准同时报告验收标准通过率与整项任务完整交付率,呈现局部达标与端到端完成之间的显著差异。

  2. HF Daily Papers49

    VMem-Bench 受控研究:长视频生成中的视觉记忆越多越好吗?

    VMem-Bench 受控研究发现,检索视觉记忆能提升长视频的历史一致性,却会降低当前叙事准确性。研究以 92 部真实影片的 16,548 个片段和 30 个因果生成故事的 2,824 个片段开展双轨诊断,比较四种检索策略及无记忆、末次出现对照。

    推荐理由:双轨对照显示,检索视觉记忆虽提升实体召回与历史相似度,却降低当前叙事精度和对禁用实体的规避能力,揭示记忆评估中的关键混淆。

  3. HF Daily Papers56

    Omni-InteractScope:持续全模态流中主动与智能体交互基准评测

    Omni-InteractScope 通过1,479条人工标注且交叉审阅的交互、1,790个时序目标和八类任务,评测 Omni-LLMs 在持续全模态流中的主动与智能体交互可靠性。

    推荐理由:该基准以1,479条人工标注交互和1,790个时序目标检验持续多模态交互,量化 Omni-LLMs 在工具调用、主动提醒和持续指导上的短板。

  4. HF Daily Papers49

    OSMA-Bench 评测家居机器人导航中的障碍物条件安全适应能力

    研究提出 OSMA-Bench 基准和语义敏感性指数 SSI,用于评测机器人导航策略能否按障碍物类型及距离调整净空、速度与运动平滑度。对 VLM 和视觉语言动作(VLA)策略的评测显示,两者即使收到明确安全提示,也未能持续按障碍物安全等级调整运动;它们能识别障碍物,却未将差异落实到运动参数或动作。为 VLM 策略加入显式参数推断步骤后,运动适应有所改善。

    推荐理由:OSMA-Bench 将障碍物语义与连续运动参数对应起来,揭示即使加入显式安全提示,策略仍不能稳定调整间距、速度与平滑度。

  5. HF Daily Papers38

    OmniShowcase 基于多视图图像实现全向主体一致性视频生成

    OmniShowcase 通过几何驱动的训练数据和表面法线图条件,改善从多视图参考图像生成特定主体视频时的新视角主体身份与 3D 一致性。

    推荐理由:论文将几何驱动的数据合成与表面法线条件结合,配套构建 Showcase-4K 和 ShowcaseBench,便于复现并比较跨视角主体一致性表现。

  6. Hacker News69

    10 年历史的 Inception v3 CNN 在皮肤癌诊断中胜过 GPT-6 Astra 和 Claude Fable 5.1

    Inception v3 CNN 在 MILK10k 数据集的 200 个活检确认病变上首选诊断正确 125 个(62%),高于 GPT-6 Astra 和 Claude Fable 5.1 的 42%。

    推荐理由:统一病例、图像和诊断选项后,专用 CNN 与两个前沿 LLM 的表现可直接对照,文章还公开了病例、提示词和评分代码。

10月25日周日
  1. 钛媒体54

    巨量引擎在商业安全开放日展示以AI治理AIGC广告方案

    巨量引擎在2026巨量引擎商业安全开放日上介绍了以AI治理AIGC广告的实践路径,通过全域AI智能体串联风险感知、智能识别、协同处置、客户服务和用户保障。其自研多模态大模型 Mamoda 可同时看图、读字、听声,智能审核系统让90%的素材最快10分钟内完成审核,效率提升75%。

    推荐理由:文章串联AIGC广告从生成、审核到交易履约的治理环节,并呈现巨量引擎的智能体方案,为理解规模化风控提供具体路径。

  2. 36氪45

    灵颜科技完成数千万元种子轮及种子+轮融资,推出 FaceSoul Agent 仿生灵巧脸智能体方案

    灵颜科技近期完成数千万元种子轮及种子+轮融资,投资方包括盈动资本、浙江火炬中心、毅达资本、梅花创投和领甪资本。资金将用于产品迭代、核心零部件研发、算法平台建设和团队扩充。

    推荐理由:文章对比了连杆与线驱灵巧脸在成本、空间和运动特性上的差异,并补充端侧表情生成方案与商业合作进展。

  3. HF Daily Papers51

    RynnVLA-Latent:以3D接地潜在动作扩展机器人操作基础模型

    RynnVLA-Latent 从人类、机器人和仿真交互视频学习连续、3D接地的潜在动作,用于扩展机器人操作基础模型的预训练监督。框架处理30.1K小时视频,生成745.52M潜在动作描述符,并以flow matching训练4B策略,再适配到具体机器人形态的动作。

    推荐理由:论文展示了从异构视频生成3D接地潜在动作的预训练方法,并附有数据扩展与消融结果,可供机器人策略研究者对照理解。

  4. HF Daily Papers40

    ChronoReplay 通过时间有序回放统一多类流式空间推理任务

    ChronoReplay 是面向流式视觉语言模型的训练框架,通过按时间顺序组织异构空间监督、保留任务专属答案格式并平衡不同监督族,统一分类关系、度量距离和运动轨迹三类空间推理。它在 OVO-S-Bench、OST-Bench 和 UCS-Bench 上均取得一致提升,OST-Bench 提升 13.41 分,并通过自适应帧选择在降低视觉处理成本的同时改善效果。

    推荐理由:ChronoReplay 针对空间模型按答案格式专精导致的接口锁定,呈现多类监督平衡、时间有序回放与自适应帧选择的训练方案及基准结果。

10月24日周六
  1. 量子位40

    iRTE2026:声网CEO赵斌提出五级对话能力框架

    声网CEO赵斌在iRTE2026提出五级对话能力框架,把对话式 AI 从单轮应答一路拓展至基于深度关系的沟通。L1至L5分别覆盖自身视角表达、互动规律、个体认知、群体认知与深度关系,赵斌称实时互动基础设施还需支撑低延迟、稳定交互、上下文理解与任务执行。

    推荐理由:赵斌的五级框架把对话能力从单轮应答延伸到关系理解,圆桌则补充 Agent、穿戴设备和业务交付视角,为梳理对话式 AI 的演进方向提供具体参照。

  2. 腾讯混元74

    腾讯混元发布 Hy-Nomas 交互式视频世界生成模型及 BF16 Diffusers 权重

    腾讯混元发布 Hy-Nomas,一款通过文本指令与镜头控制实现自由形式多轮交互的视频世界生成模型,并提供 BF16 Diffusers 权重。模型采用分段自回归 DiT、Qwen 文本编码器和 PixelUMM 视频解码器,以 KV cache 延续上下文;示例使用 4 步去噪,输出 704 × 1280、24 FPS。

    推荐理由:模型卡同时给出交互机制、推理参数与基准覆盖,开发者可据此复现多轮视频世界生成,并评估交互控制与空间记忆表现。

  3. Simon Willison39

    Claude Opus 5.5 High 构建照片快速绘制工具的提示词

    Simon Willison 给出面向 Claude Opus 5.5 High 的提示词,要求构建一个在打开照片后数秒内用画布元素和模拟画笔绘制照片新版本的工具。该思路延续了此前用 Claude Fable 和 P5.js 模拟水彩插画的实验,提示词原文见 https://simonwillison.net/2026/Oct/23/quick-study-painter/。

    推荐理由:提示词明确了照片输入、画布绘制、模拟画笔和数秒响应等约束,可直接复用为同类图像交互工具的实现模板。

  4. HF Daily Papers57

    AV-FABLE提出长视频音视频篡改取证基准与NFSR方法

    AV-FABLE提出面向长视频稀疏篡改的双时间线音视频取证基准,并以NFSR通过分离的音频与视觉时间解码器读取冻结AV-LLM特征。基准包含 16,650 对原始与篡改孪生视频,共 998 小时和 27 种编辑配置,支持音频与视觉的独立时间定位。

    推荐理由:AV-FABLE对比零样本提示与冻结特征读出,展示分离时间解码器在长视频音视频篡改定位上的取证优势。

  5. Google Research72

    Google Research 推动基础模型用于一线结核病筛查

    Google Research 正将 MedGemma、MedSigLIP 用于一线结核病筛查,覆盖胸片分诊、咳嗽声筛查与本地临床推理。团队通过 HAI-DEF 开源胸片嵌入与 MedSigLIP,并发布 4B、27B 开放权重 MedGemma,后者全球下载量已超过 10 million。

    推荐理由:文章串联算法验证、监管认证、跨国部署与本地化微调,呈现医疗 AI 从研究走向临床的转化路径与关键环节。

  6. HF Daily Papers36

    FilmFlow:用于 3D 虚拟电影摄影的智能体系统

    FilmFlow 将自然语言指令或参考视频转换为动态 3D 场景中的可执行相机轨迹。Director 智能体组合平移、旋转和构图等原子操作,Interpreter、Scout、Critic 分别解析意图、选择初始视角并提供迭代反馈。

    推荐理由:FilmFlow 将导演、意图解析、勘景和审片四类智能体串联,并以 150 个 Blender 场景的 CinemaBench 覆盖文本与视频参考两种生成方式。

10月23日周五
  1. HF Daily Papers62

    AgentVQA:面向智能体视觉理解的统一评测基准

    论文提出 AgentVQA 离线基准,在 Web 智能体、机器人、第一人称视频、游戏和空间规划五类场景评测视觉语言模型。该基准从 23 个源数据集人工选取并改造 1000 个具有挑战性的真实世界智能体样本;在 22 个参评模型中,最佳准确率仅为 58.5%。跨域分析显示,主要失误来自 UI 元素定位、运动理解、状态变化跟踪和 3D 空间关系推断,而非任务误解或后续逻辑推理。

    推荐理由:该基准以离线方式统一比较五类真实智能体场景中的模型,排名趋势与对应在线评测一致,并定位视觉 grounding 和状态跟踪失误。