Hacker News· sbulaev·· 21 天前精选AI 评分60
AI 模型可隐藏任意能力而不被发现
AI models can provably hide arbitrary capabilities
AI 导读
NeurIPS 2026 接收论文（arXiv:2610.13928）构造了可在模型权重中嵌入加密神经网络的后门模型，仅在收到密钥触发时执行任意能力。作者用 PyTorch 在化学反应预测任务上测试，显示微调、权重扰动、梯度触发搜索、潜在对抗训练均难以发现隐藏电路，并给出密码学保证，揭示基于引出测试的能力评估存在结构性局限。
推荐理由
原文给出隐藏任意能力的后门示例，并显示现有评估手段难以发现，对部署前安全审计方法的设计选择有参考价值。
正文 · AI 翻译
摘要：能力评估旨在在模型部署前揭示危险的模型行为，但其可靠性依赖于一个假设：隐藏能力可以被诱发出来。我们通过构造后门攻击，将加密的神经网络嵌入到宿主模型权重中，仅在接收到秘密触发器时才解密并执行，表明该假设在对抗条件下并不成立。借助数字保险箱，这些隐藏电路在密码学假设下被证明难以被诱发和解释，即便可以完全访问模型权重也是如此，从而将先前从隐藏固定字符串到隐藏任意计算的工作向前推进了一步。我们在 PyTorch 中实现了概念验证的构造，并通过微调、权重加噪、基于梯度的触发器搜索以及潜在对抗训练，在一个小型化学反应预测任务上评估了诱发效果——这是 CBRN 相关能力的代理任务。我们的结果表明对这些方法具有抵抗力，并且结合我们的密码学保证，揭示了基于诱发能力审计的局限性。我们开源我们的模型以支持防御工作的改进。
| 评论： | 22 页，6 个图表，3 个表格。已被 NeurIPS 2026 接收 |
| 主题分类： | 机器学习 (cs.LG)；密码学与安全 (cs.CR) |
| 引用方式： | arXiv:2610.13928 [cs.LG] |
| （或此版本的 arXiv:2610.13928v1 [cs.LG]） | |
| https://doi.org/10.48550/arXiv.2610.13928 通过 DataCite 发布的 arXiv DOI（待注册） |
投稿历史
来自：Andis Draguns [查看邮箱]
[v1]
2026 年 10 月 9 日 星期五 17:55:06 UTC（878 KB）
来源：Hacker News · arxiv.org