跳到正文
Hacker News· RickJWagner·· 18 天前精选AI 评分51

数学家为何为 OpenAI 的数学证明而哭泣

I know why the mathematicians weep

AI 导读

OpenAI 近期发布覆盖数论、理论计算机科学与逻辑的数百条数学证明,使 2022 年菲尔兹奖得主 Hugo Duminil-Copin 等数学家公开表达失落。

推荐理由

原文通过菲尔兹奖得主与康奈尔数学家的访谈,呈现数学共同体面对 AI 时的失落与反思,为读者提供技术评估之外的人文视角。

正文 · AI 翻译

过去几个月,OpenAI 公布了数百项数学发现,震惊了数学界。其中许多横跨数论、理论计算机科学和逻辑的证明,曾让世界上最杰出的数学家困惑了几十年甚至几个世纪。

数学界的反应是愤怒、惊讶与悲痛的交织。"周二晚上,我哭了,把我女儿吵醒了," 2022 年菲尔兹奖得主 Hugo Duminil-Copin 在 OpenAI 十月发布后说道。"他们摧毁了我的研究领域。"

"几周前我跟 Wired 谈话时,我真的哭了," 康奈尔大学的数学家兼作家 Steven Strogatz 说。"人们用这样的措辞——'他们正在掠夺式挖掘我们的学科' 或 '他们正在把整片景观炸平'。那种感受是迷茫。我有些日子不知所措,有些日子兴奋不已。还有巨大的悲恸。"

我想找其中一位哀悼者谈谈,去理解他们面对技术的那种悲恸。我想弄清这究竟是常见的自尊受挫或失望——比方说,像一个男孩花一个小时用积木搭起一座塔,然后看着哥哥把它砸得粉碎——还是某种更奇异、更深沉的感受。

坦白说,我也想知道我自己会有什么感受。今天,数学家们在哭泣,因为机器先砸碎了他们的塔。但明天,悲伤于倒下的积木的,或许是物理学家、经济学家、插画师或作家。我并非那种相信未来五年内会有数亿份工作被彻底抹去的 AI 乐观派。但我是个现实主义者,我认识到:一项飞速进步、其产物正是智能的技术,注定要与一种崇尚人类智慧、并常常将其等同于人生意义、尊严与自我价值的现代情感发生激烈碰撞。

我想知道我们的未来。于是我打电话给 Steven Strogatz。

为让你对接下来的对话走向有所准备,我想先从数学中抽身,去问一个宏大到有些令人难为情的问题:是什么让人类与众不同?

有人可能会说是智慧与社会性。我们是最聪明的生物,也是亚里士多德口中的"社会性动物"。但这两种特质我们都与其他物种共享。乌鸦能解决多步骤的难题。蚂蚁会聚集并各司其职。大象似乎会哀悼同类。

让人类与众不同的,是这两种特质彼此放大的方式。人类的智慧格外擅长模仿与迭代。我们以惊人的逼真度模仿父母与同伴,然后再加以改造。我们复制,也创造。我们的社会性把这种复制与改造的过程扩散到群体与世代之间,使一项发现成为下一项的基石。西非的黑猩猩用石头砸开坚果的做法,四千年来一成不变。而人类在差不多同样的时间里,从巴比伦的泥板一路走到了火箭与机器智能。看起来,让我们与众不同的,正是这种叠加累积的能力。其他动物也能劳作、也能交流,但唯有人类把劳作与交流融合成一种能够自我累积的文化。

科学本身既是一门手艺,也是一场对话。作为一门手艺,科学是一种思维方式;是一种特别的关注世界的方式;是一副透镜,将现象视为不仅仅是表象之物。在科学家的眼中,宇宙像一座装满宝箱的阁楼,每只箱子里都藏有未被发现的宝石,只要我们提出正确的问题、找到正确的钥匙、转开正确的锁,就能将它们带入光明。

但科学并非一场孤独的寻宝之旅。它是一种社会体验,像一场游戏。就像许多游戏一样,它既是合作的,也是对抗的。牛顿曾将自己的成就比作「站在巨人的肩膀上」,科学的一部分就是将这座人类的金字塔无限向上延伸。费曼则更喜欢把科学描述为「相信专家的无知」——换句话说,这是一场斩杀巨人的游戏。在这两种情形中,科学都是一种与他人的关系。无论是追问「为什么,老师?」还是坚持「不,那不太对,大人物先生」,科学不只是一种发现的行动,更是与共同发现者之间的关联。科学是一场对话。

我打电话给 Steven 问他为什么哭时,他说想跟我讲讲阿基米德的事。

两千年前,希腊数学家阿基米德通过测量数十个填满圆形的小多边形的面积,计算出曲线物体的面积并确定了 pi 的数值。在给数学家埃拉托色尼的信中,谈到他对曲线形状和无穷的研究,他写道:「将会有源源不断的发现者,去增加那些落入我们手中的定理的数量。」在 Strogatz 看来,这句话蕴含了数学的本质。他讲述到这里时,我甚至能听出他声音的哽咽。Strogatz 说:「我仿佛觉得阿基米德是在写给我,或像我这样的人。阿基米德是在说,‘我无法解决这些问题,但也许你们这些未来的人能够站在我的肩膀上。’这是一种非常情绪化的、关乎存在的事情。有这样一种感觉——我们在一起,共同追寻某种美好、超脱而崇高之物。」

一个强硬派的科技乐观主义者或许会对 Strogatz 说,冷静一下吧。数学并不在乎你的感受,科学现实对你的泪水无动于衷,诸如此类。他也知道这点。「我们正被人嘲笑为行会的守护者:你们的行会正在被抹去。呜呜。这种事以前也发生在别人身上。打起精神来。」

我知道数学家们为何而哭。是的,有些人流泪,是因为受伤的自尊、虚度的岁月感、地位被逐渐抹去的惶恐、对不公平竞争者的怨气、对受骗与不公的愤慨,以及对未来的不确定。但他们同样在哀悼,因为他们觉得某种陌生的、非人化的东西正在纵火焚烧阿基米德的信件,并在灰烬中起舞。人性正从人类的科学中被剥离。当 OpenAI 发布数百个终结数百场寻宝之旅的证明时,它在科学的手艺层面上获得了辉煌的成就,却中断了这场延续千年的对话。机器与它们的缔造者正在宣示:从今往后,轮到我们发言了。

如果 OpenAI 是对的呢?如果我们本该将数学主要视为一场求索,而非一场感受与发现同等重要的对话,那又当如何?

Strogatz 将数学界与 AI 实验室之间的关系比作夏季两项最大的网球赛事。他告诉我:'我想到的是温网对美网。'在温网,球员身着白衣,观众彬彬有礼,胜负固然重要,但体育精神更被看重。然而,美网则张扬、个人至上,且具颠覆性。'人们穿自己喜欢的颜色,观众也会喝倒彩,'他说,'它更民主,也更少精英气。'

像温网一样,数学领域历史悠久,其现代从业者之间仍珍视着某种礼仪规范。像美网一样,这些实验室则年轻、张扬,甚至有些不礼貌。但 AI 让数学天才变得大众化的能力,本身可能也是一种美德。今年早些时候,中国住院医师金善穆 (Shanmu Jin) 用 ChatGPT 解决了一个被称为 Crouzeix 猜想的问题,而专业数学家数十年都未能解开它。(几位数学家审查了这一结果,发现它确实成立,但论文仍在等待正式的同行评审。)

想象一下这样一个世界:非数学家只需几次 AI 提示就能跨越整个数学领域。那将是一个知识更多的世界。但也可能是一个理解更少的世界。AI 模型自有其'心智',而那甚至算不上我所称的'心智'。它们的数学证明往往呈现陌生的形态,其推理过程对专家而言也可能高深莫测。'这一切都带有《迷离时空》(Twilight Zone) 的色彩,'Strogatz 说,'我们在与电路中流动的电子打交道,却不理解它们所创造的智能。'他举了 Google Translate 的例子,它本质上解决了语言之间的实时翻译难题。'Google Translate 令人惊叹,但本质上没有教会我们任何关于语言学的东西,'Strogatz 说,'我们不理解它为何有效。它就是有效。那就是《迷离时空》。那是缺乏理解的知识。'

这可能是一个巨大的损失。理解不仅是乐趣的来源,那种多巴胺飙升的顿悟啊哈时刻。理解就是力量。当麦克斯韦理解了其他科学家在 19 世纪建立起来的电磁学定律时,他通过微积分证明,电和磁并非两个物体之间的力,而是更接近于一种场。理解了麦克斯韦之后,爱因斯坦便能审视引力——人们普遍认为它是两个物体之间的力——并证明引力同样是一种延伸至整个宇宙的场。人们或许会认为,要提出物理学中最重要的理论,需要对场有人类的理解。

能够理解每一项新科学突破组成部分的能力,使人们能够在知识之树上长出繁茂的枝杈。但 Strogatz 已经为这棵树超出我们所能估量的未来做好了准备。他分享了 MIT 计算机科学家 Regina Barzilay 的故事。她在 40 岁出头时战胜乳腺癌后,震惊地发现她的医生们对乳腺癌的诊断知之甚少。她领导一个团队,用数十万张乳腺 X 光片训练 AI,以提前数年预测乳腺癌病例。

Strogatz 问 Barzilay:'你理解 AI 在看什么吗?'

她说:'不理解。'

'你连自己的发明都不理解,这让你担忧吗?' Strogatz 问道。

她的回答是:"我们为什么要把一个救命的模型限制在人类能够理解的范围内?"

Barzilay 的问题很难回答。我不想死于夺走我父母生命的癌症。我也不想因为一堆 GPU 而丢掉工作。我们想从技术中得到什么?解决我们所有的问题,而不制造任何我们没有的问题。治愈疾病,但要安全。破解宇宙的奥秘,但要带着一些敬畏。这要求很多,但也并非奢望。给我超人类智能带来的好处;为我保留那些让人类智能有意义的东西。

挂断 Strogatz 的电话后,我又进一步思考了阿基米德。他把问题留给他人去解答,未知本身就成为一种邀请。危险在于,通过自动化对知识的探索,AI 可能会抹去支撑这种探索的人际联系。但还有另一种可能。如果智能不再专属于人类,我们或许会更加珍视那些仍属人类独一无二的东西:我们彼此联系、相互关怀的能力。

阿基米德解决问题,也书写信件。他发现了,也分享了。人工智能或许能接管前者的大部分工作。后者依然属于我们,只要我们足够明智,便能将其保留。数学家或许仍会讲授证明,争论其含义,将陌生的逻辑转化为人类的洞见,并把这种理解传递给学生。挑战在于守护科学的另一半:与另一颗心灵相遇并被这份相遇所感动的乐趣。当机器发现了所有有待发现的真理后,除了彼此,或许再无可寻之物。

暂无文章

来源:Hacker News · derekthompson.org