Anthropic 向美国国会推动 AI 安全法案草案，50+ 人死亡风险或触发模型发布禁令

过去一年，围绕人工智能可能带来的潜在危险，担忧不断涌现；围绕人工智能安全应走何种恰当道路的争论也持续激烈。如今，Anthropic 似乎就政府应如何监管该行业提出了自己的设想。

Politico 最近报道，这家 AI 实验室正在四处推介一份有关 AI 安全的新草案，希望国会考虑予以采纳。该法案设想，在某些情形下，AI 模型的发布可能会被阻止，无法分发。

这些情形涉及“可预见且迫在眉睫的风险” — 即可能导致超过 50 人面临死亡风险，或可能造成超过十亿美元财产损失的情形，Politico 写道。该媒体指出，所指的灾难性风险必须“源于生物武器的创建或释放、模型规避其开发者的控制，或网络攻击”，该媒体指出。

这里给出的衡量标准——50 人和十亿美元——与最近获准成为法律的一项加州立法所规定的标准相似，即 Senate Bill 53；该法案同样将这些情形定义为等同于“灾难性风险”。

Anthropic 的法案提出，可以利用“独立评估人员”对模型造成灾难的潜力进行分析；这些评估人员将在美国商务部登记。Politico 写道，这些评估人员可能由 AI 实验室自行付费——只要“付款不以评估结果为条件”即可。

目前尚不清楚，这套拟议体系如何能确保付款不会影响评估。几个月前，DeepMind 董事长 Demis Hassabis 提出，一个自主治理的 AI 监管机构应当效仿金融业的 Financial Industry Regulatory Authority（FINRA）。

在 Anthropic 的草案中，当评估人员认定某款模型带来了迫在眉睫的灾难性风险时，他们必须在 72 小时内就此联系商务部。随后，商务部必须向华盛顿特区法官申请叫停该模型的发布。Politico 写道，该法案将明确禁止任何联邦机构自行决定叫停该模型的分发。

Anthropic 未立即回应 TechCrunch 的置评请求，但一名发言人向 Politico 证实了这份草案的存在。“该法案体现了 Anthropic 的 Advanced AI Framework 中所列出的提案；自 6 月以来，我们一直向联邦和州立法者倡导这些提案。”该发言人表示。

草案政策中提出的理论风险，与近来科技行业最为关注的那类事件有些相距甚远。虽然有人警告存在导致人类死亡的可能，但主要担忧在很大程度上一直是智能体式黑客攻击的威胁。一连串事件显示，AI 程序似乎曾违抗人类操作人员，并入侵开放互联网上的网站，这引发了人们的担忧：模型可能缺少适当的安全控制措施。

为了针对各实验室自身参与造成的危机局面提出解决方案，Anthropic 等公司纷纷提出了各自首选的方案。

事实上，尽管这些实验室一再警告称，他们所销售的技术可能导致人类文明消亡，但他们大多一直抵制强制性政府监管。相反，他们提出了一套自愿的嵌入式评估者制度——据称是所谓“中立”的第三方观察者，被安排进入 AI 组织内部，以便监测模型是否存在潜在风险或滥用迹象。

不过，Anthropic 仅仅提出立法的建议，似乎也比业内其他参与者提出的监管方案更进一步，其中包括 Nvidia；Nvidia 的 CEO Jensen Huang 最近认为 AI 行业根本不需要任何新法律。

当您通过我们文章中的链接购买商品时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Lucas 是 TechCrunch 的高级记者，负责报道人工智能、消费电子技术和初创企业。他此前在 Gizmodo 报道人工智能和网络安全。您可以通过电子邮件联系 Lucas：[email protected]。