AI 对科学的冲击如同一场「路边野餐」，发现速度远超人类理解能力

我最近读完了苏联作家阿尔卡迪·斯特鲁伽茨基和鲍里斯·斯特鲁伽茨基合写的哲学科幻小说《路边野餐》。外星人造访了地球上的某些地方；那些地方（"区域"）布满了人类无法理解的外星造物，围绕着发现和转售这些造物，整个亚文化和黑市应运而生。举个例子，他们发现了永久蓄能器（原文中称为"so-so"或"«этак»"），人们会获取它来为汽车和房屋供电。然而，他们并不明白它的工作原理。

书中的一位科学家角色认为，外星人的造访可以被理解为一种"路边野餐"：

"那造访呢？你怎么看这次造访？"

"乐意之至。想象一下野餐。"

努南打了一个寒颤。

"你说什么？"

"野餐。想象一片森林、一条乡间小路、一片草地。一辆车驶离乡间小路开进草地，一群年轻人拿着瓶子、食物篮、晶体管收音机和相机从车上下来。他们生火、搭帐篷、打开音乐。第二天早上他们离开了。那些在漫长的夜晚惊恐旁观的动物、鸟儿和昆虫从藏身之处爬了出来。它们看到了什么？汽油和机油洒在草地上。散落的旧火花塞和旧滤清器。留下的破布、烧坏的灯泡和一把活动扳手。池塘上的油膜。当然，还有通常的狼藉——苹果核、糖果包装纸、营火的余烬、罐头、瓶子、某人的手帕、某人的小折刀、撕碎的报纸、硬币、从另一片草地上摘来的枯萎花朵。"

"我懂了。一次路边野餐。"

"正是如此。宇宙中某条道路上的一次路边野餐。而你却在问它们是否会再来。"

我认为这个思想实验是理解 AI 正在对科学所做之事的一个有趣且相关的视角，目前最明显的是在数学领域。各实验室正在攻克千禧年大奖难题，并向该领域倾倒大量发现，数量之多，以至于它们不得不提供解读指南来说明如何在这堆垃圾中穿行。所有这些新知识正以远超该领域处理能力的方式涌来，且方式与该领域的运作规范完全正交，因此造成严重破坏。

许多人对于各实验室发展知识以及与科学界互动的方式感到不快，这是可以理解的。与此同时，大家一直在问各种版本的"AI 什么时候才能发现一些有用的东西？"好了，我们已经到了（或者 AI 已经到了？）。这些"发现倾倒"只会加速，并波及每一个可以在闭环中快速验证的领域，而这正是 AI 极为擅长的。现在我们必须想办法将这些新知识足够快地整合进我们对世界的认知中。

我昨天发过相关内容，然后就像常发生的那样，我跟一个陌生人吵了起来。这不是我上网时喜欢的消磨方式，但这次其中确实包含了一个耐人寻味的观察：答案将越来越先于理解而到来。这远非什么新现象，但当发现涌现的速度飙升时，它就变成了另一种东西。引用Sakeeb Rahman的话，他也在讨论中提供了一些背景信息：

未来的走向是：证明将变得廉价，而理解将成为瓶颈。

整个局面由此提出了一个问题：科学发现的速度是否会变得如此之快，以至于我们完全丧失对它的理解能力，把 AI 的输出变成俗话所说的那种外星人造物？那种造物在降临之后播撒混乱，并仅凭其存在就造成冲击（在讨论最近一批 AI 科学论文时，纽约大学数学教授 Tristan Buckmaster 说，整整一些研究计划一夜之间就被抹去了）。换句话说，发现答案的速度是否会与我们理解的速度脱节？

我当然算不上科学史学家，也不是哲学家，所以没有资格去猜测答案或确切的影响。但它仍然是审视 AI 对科学持续影响的一个有趣视角。这也许是为数不多的站得住脚的反加速主义论据之一：如果 AI 远远超过我们对它所做事情意义的理解能力，附带造成的损害可能会超过纯粹的科学价值。

颇具讽刺意味的是，《路边野餐》这本书正探讨了人类的无足轻重以及外星造访所带来的情感代价。你可以猜测，最好的情况是外星人甚至没有注意到人类，最糟的情况则只是他们根本不在乎。最大的区别在于，外星人的造访完全不受我们控制，而 AI 的发展并非如此。我相当怀疑在前沿 AI 开发中是否真有可能采取任何有协调的行动，这仅仅是因为其博弈论的动态。但实验室可以选择如何与科学界协作，以确保理解能跟上答案到来的速度，并确保他们的模型是去增强科学家，而不是把科学家一路加速甩向那些改写史册的发现。否则，我们可能就会变成那些惊恐旁观的虫子，眼睁睁看着我们所知的一切都沦为一场大型外星人野餐的现场。

暂无文章