用 AI 检索百年档案:发现被遗忘的陨石、失踪犀牛与未记录的火山
Pointing AI at archives found a forgotten meteorite, lost rhinos, and more
软件工程师 Jesse Waites 用 AI 流水线在荷兰东印度公司档案里发现 1812 年印度陨石记录、1738–1740 年送往锡兰的三头犀牛,以及 1712、1722、1780 年三处未被记录的火山喷发。
作者给出了可复用的检索流水线,并演示了嵌入向量、轻量过滤模型和大模型复核三层组合在历史档案中的效果。
我是如何利用 AI 调查数百万份历史档案,从而发现一份被遗忘的陨石报告、三头失踪的犀牛,以及未被记录的火山喷发。
上周,也就是 2026 年 10 月 1 日,历史学家 Benjamin Breen 发布了一篇题为使用 Opus 5.5 发现渡渡鸟的新目击者记述的文章。他用 AI 搜索了荷兰东印度公司的数字化档案。该公司主导了香料贸易,从 1602 年起在亚洲经营着一连串港口,直到因债务崩溃并于 1799 年解散。
一个名为 GLOBALISE 的项目已将该公司数百万页手写文档转录为可搜索的文本。Breen 用 AI 搜索这些转录文本,找到了一份 1615 年的航海日志,其中毛里求斯的水手们“抓到了许多陆龟和渡渡鸟”。一份新的渡渡鸟目击记录,就这样在众目睽睽之下静静沉睡了四百年。
我读完那篇文章,立刻想到,我也能做到。
这并不是因为我是历史学家,而是因为我是一名软件工程师,恰好非常擅长驾驭 AI 智能体并构建智能体工作流。Breen 的文章给了我灵感,我想要扩展这种思路:我可以并行搜索许多不同的历史谜题,并且可以把几个不同的 AI 模型串联起来,过滤结果并自动化一些繁琐、耗时的手工步骤。
但这其中的吸引力不仅在于技术挑战。我认为为人类已有的知识添砖加瓦是一件光荣的事。即便只是在几个小众领域里增加一个新的数据点,我觉得也是值得去做的小小贡献。如果我能做到的话,我会觉得这真的很酷。
我启动了我那台虽小但功能齐全的家庭 AI 实验室,开始工作。
目录
计划
我首先向一个 AI“深度研究”助手提了一个问题:哪些开放的历史问题最有可能通过在线已有的数据得到解答?它给出了十三个候选,并按以下因素进行排序:数据的完整性和可获取性、AI 能提供多大帮助、是否已经有人做过,以及——最重要的是——答案能否对照原始页面进行核实。最后这一点比听起来更重要。AI 模型可能会言之凿凿却大错特错,所以每一项主张最终都必须落在一份真实文档上:一封手写信件的实际扫描件或一份实际印刷的报纸,并附上任何人都可以查阅阅读的档案编号。清单包括荷兰东印度公司档案中的动物记录、1808 年那场至今没人找到确切来源的巨型火山喷发、荷兰旧报纸中记载的地震、未被记录的陨石坠落,以及彻底失踪的船只。
随后我与 Claude Code——Anthropic 的 AI 工具——联手,我们共同设计出了这条研究流程。
首先是阅读材料:GLOBALISE 对荷兰东印度公司档案的转录文本(435 万页,跨越 17 世纪至 18 世纪 90 年代)、荷兰国家图书馆的数字化报纸、两个世纪的美国报纸,外加一些船舶航海日志作为补充。
如果我自己坐下来只读荷兰东印度公司的档案页面,按每页两分钟、每天八小时、每周五天来算,那大概要花我七十年。而且这还没算上报纸。我的家庭AI实验室用一次十二小时的通宵运行就把整个档案跑完了。
旧文档的问题是,没有人能把同一个词以同一种方式拼写两遍。手写和旧印刷品经过文字识别后输出满是错误,十七世纪的荷兰语对'rhinoceros'一词大约有十五种不同的拼法。普通的关键词搜索会漏掉我大部分想找的东西。那次通宵运行,就是用我的显卡把每一段文字都转化为含义的数学'指纹'——仅荷兰东印度公司档案一处就有570万段文字。这让我能按一段文字讲的是什么来搜索,而不仅仅是它碰巧用了哪些词。
即便如此,单次搜索仍可能返回数万条命中结果,数量之多,无论是人、即便是一台大型AI模型,都无力承担阅读成本。因此,第一遍阅读交给了名为Jev的快速小型'系统一'决策模型,它只回答范围狭窄的问题:这是真实的动物吗?它是野生的吗?它在哪里?它每百万词的成本只有几分钱。让它读完59000条提到大象的段落花了我大约三美元。
这是整个项目里我最自豪的部分,而且这是我的主意,不是AI的。当我提议用Jev当作过滤机制时,Claude Code里的Fable模型还不知道什么叫'系统一'型决策模型;在我们围绕它搭建流水线之前,我得先把这个想法解释清楚。在多数此类研究中,瓶颈是一个人逐条阅读候选段落、决定哪些值得细看。让一个便宜快速的'裁判'坐上那个位置,就把初筛自动化了,让我能专注于最强的候选和调查方向。我仔细审视的那些页面,已经先熬过了两轮机器阅读。
只有Jev标记的那些段落才会进入下一步。更大型的模型Claude Haiku仔细阅读了那几十条内容,把它们翻译出来,并提取出日期和地点。然后Claude Code代理打开每一份原始手写页的扫描件,将转录与原稿对照核查。在宣布任何新发现之前,我都先拿专家自己使用的目录来做核对。
关于AI在本项目中的使用方式,这里做一个简短的说明:在整个过程中,我始终保持积极主动,全程亲自带领AI走完项目。我引导调查朝着新的问题和资料方向前进,决定哪些线索值得追查,并在意识到自己是在硬撑、应当转向时及时察觉。系统能以我做不到的规模去搜索和阅读,但下一步去哪里、或者何时该停下,仍然需要我的判断。这是AI辅助的研究,而不是完全自主的调查。
还有一条规则,而且是最重要的那条。在你信任一个什么都没有搜到的搜索之前,你得先证明它能搜到一个你已经知道在那里的东西。因此,在我着手去找任何新事物之前,流水线必须能先找到Breen的渡渡鸟、1783年的拉基火山喷发、1815年的坦博拉火山喷发,以及另外十几个已知事件。
这就像把手表埋在前院来测试金属探测器。你知道它就在那里。如果探测器找不到它,说明探测器本身有问题,需要先解决,再去别处搜寻真正的宝藏。这些已知的历史事件就是我埋下的手表:先检验管线是否真的能够找到东西,之后才能把它"找不到东西"的结果当真。
校验通过后,我开始了真正的搜索。很快,我自建的 AI 研究管线开始浮现出一些页面——这些页面自当年写下它们的文书把它们归档以来,可能就再没人读过,那是几百年来人眼也许都未曾翻阅的故事。
历史遗忘的陨石
项目的第一个真正发现来自一个我意想不到的地方:一份 1812 年印刷于巴达维亚(今雅加达)的报纸。巴达维亚位于爪哇岛——这座大岛属于今印度尼西亚,曾是荷兰在亚洲近两个世纪的权力中心;该报印刷于 1811 至 1816 年那几年间,当时统治该岛的是英国而非荷兰。
1812 年 12 月 19 日,英文的《爪哇政府公报》转载了 8 月 26 日《孟买公报》的一封来信。一位驻扎于今马哈拉施特拉邦潘达尔普尔附近的英军军官写信回乡说道:
"M 上尉拥有一样极为罕见之物,即一块三天前(8 月 6 日)从一片雷云中坠落到 Cokurrgaum 村附近的石头。我想它至少重四磅,体积不大却异常沉重,铁质含量极高,外覆一层薄薄的黑壳,仿佛火药在它周围爆炸过一般。"
那雷声被形容为"犹如半分钟左右密集的步枪齐射"。石头在旷野中砸出了入地一尺的坑。而它被取回"颇费了些周折,因为那位村长【即村中首长】认定此石乃天造之物,已决心日日对它虔诚祈祷"。
巨响、富铁的沉重石块、一层薄薄的黑壳、田野中的撞击坑——这是一次教科书般的陨石降落。然而任何目录都没有收录它。我查了六份目录,从 1819 年 Chladni 开创性的清单,到大英博物馆的目录,再到 1933 年的《印度陨石目录》,以及今日的《陨石学通报》。我用 AI 在 1812 至 1817 年间约一百种数字化期刊中检索后续报道,却一无所获。自然历史博物馆的藏品里也没有这块石头。
一旦确认,我所发现的这次陨石降落将成为马哈拉施特拉邦有记录以来最早的陨石降落,比当前的最新记录还要早 26 年。
我喜欢这条链条有多么脆弱。一块石头落入德干,一位军官写下家书,孟买一家报纸将其刊出,一艘船把报纸带到恰好由英国管辖五年的爪哇,一位编辑需要填补版面。几份副本最终进入荷兰一家图书馆,被数字化并免费公开。两个世纪后,我办公室中的一块 GPU 重新发现了它。任意一环断开,这块陨石便永远从历史中消失。
未抵达国王跟前的犀牛
1738年,在巴达维亚(今雅加达)城外的某片森林中,为荷兰东印度公司效力的人捕获了一头活的爪哇犀牛。它本是要送出的礼物。公司每年都会派使团携礼物出访康提国王——斯里兰卡高原王国的统治者——其善意维系着肉桂的贸易。国王喜爱体型庞大、引人注目的动物。因此,巴达维亚当年寄往荷兰的信函中,在送往国王的珍稀礼物清单里写道:"又有一头犀牛,是在此地森林中捕获的,也一并送上。"
那头犀牛顺利渡过了印度洋,到达科伦坡,却再也没能翻山抵达康提。在公司的账目中,标题为De Paardenstal("马厩")一项下,有一行1740年的销账记录:
"短缺犀牛1头,于1738年死于马厩。"
1739年3月,科伦坡总督略带歉意地致信巴达维亚,说那头犀牛"死得非常突然"。为了弥补,他在送往国王的礼物中加了一匹漂亮的波斯骑乘马,"以满足国王屡屡表露的对这类高大健壮马匹的炽烈喜好。"
巴达维亚再次尝试。1740年7月5日,Loverendaal号船从巴达维亚启航前往锡兰,船上载着两头犀牛,一公一母。启航三天后,船上官员、水手长和炮手齐集于账房书吏面前,立下书面证词:尽管已"竭尽辛劳与勤勉"维持两头犀牛的性命,那头雄犀牛已于当天早上"约八点钟时"死去。十天之后,他们又立下了第二份证词。两头之中最后的一头,那头雌性,'t wijfje,也已死去。
船员们的证词在科伦坡的法庭上向他们复诵,他们"坚持原词,一字也不愿更改"。随后总督不得不将此事告知康提。他于1740年9月16日发给驻国王宫廷使团的指示几乎令人动容。他为国王寻得了一些荷兰猪,"一头公猪和两头母猪,都还是幼畜,肯定还能长大不少,尤其是那头小公猪"。若能弄到狗,他本也乐于满足国王对狗的请求。使团还应让宫廷官员知晓——"以便他们在被问及时能够作答"——从巴达维亚经Loverendaal号船运出的两头犀牛均在航程中死去,"我们深感痛惜"。
看来,国王一直在等着它们。
三年之后,驻扎于南印度兰格米德宫廷的荷兰使团被以他们认为颇为无礼的口吻要求安排"送一头幼犀牛来,就像为康提国王所做的那样"。这份从未送达的礼物,成了其他统治者也想得到的东西。
如今,爪哇犀牛仅存于乌戎库隆国家公园——爪哇岛最西端的尽头。这使得这些信件的意义超越了一个送礼失败的故事。在圈养条件下,爪哇犀牛的历史记录极为稀少,总共只有几十头,而这些文件为其中三头添加了记录,附有日期、一艘具名船只、立誓证词以及一头抵达科伦坡的记述。在我所查阅的目录中,没有找到这些运往斯里兰卡船只的记录。三头是否都是专业文献中前所未见的记录,是下一步需要确认的事情。
故事背后还有一片风景。仅在两年间,公司就从其首都周围的森林中获得了三头活犀牛,远远超出该物种现存的避难所范围。1772年,官员们骑马穿越万丹高地时,发现"由犀牛踩出的路径,这里犀牛数量众多。我一头也没见到,但闻到了它们的气味,从马匹身上也能清楚判断:每当嗅到气味,马就会受惊、跳跃、蹦跳。"如今读来,这仿佛是对那片即将消失的栖息地的一瞥。
被遗忘的喷发
荷兰东印度公司的官员们痴迷于书信往来,他们居住在地球上一些最活跃的火山旁边。于是我向档案馆提出了一个简单的问题:公司员工目睹过、但世界权威的火山清单——史密森尼全球火山项目——却没有收录的喷发有哪些?
我的AI系统在语料中找到了769份喷发报告。AI对火山的猜测常常出错(它把爪哇的一次火山灰降落归咎于1500公里外的一座火山),因此每个候选都必须依据信件本身的地理位置来定位,再与已知喷发清单交叉核对。最终剩下三个:
- 甘科诺拉,哈马黑拉,1722年2月3日。特尔纳特总督报告称,海峡对面的群山上空出现"云层后的烈火,夹杂闪电,发出巨大的轰鸣"。第二天清晨,特尔纳特的街道、屋顶和树木都覆盖着火山灰,"如同蒙上了一层白布","天色昏暗,整日不见太阳"。那座山位于"甘马克诺拉与萨胡之间":即甘科诺拉,其有记录的喷发仅有1564年和1673年两次。中士制图员雅各布·恩格斯乘船前去查看,发现整片山坡上的树木"成千上万棵,都因炽热的火山灰而枯死"。
- 泽莱梅,西爪哇,1712年初。连续数周的火山灰与烟尘"不见明火","整个东南地区覆盖着一层薄薄的青灰色火山灰",庄稼被毁,牛群拒食沾满火山灰的牧草。当地王公表示,此前也发生过同样的事。
- 塞梅,中爪哇,1780年2月。"特加尔昔日燃烧的山",燃烧得"如此猛烈,此地无人记得见过这般景象"。
作为合理性检验,同样的搜索还找到了1711年桑义赫群岛阿武火山的喷发,造成138人死亡。史密森尼的记录精确到当日。荷兰东印度公司的版本则出自乡村教师的一封信。
一经确认,这些将代表三次新的火山喷发被补入历史记录——它们曾被亲历者目睹并记录下来,却缺席于史密森尼的清单长达三个世纪。
行不通的部分
说到火山,我用 AI 尝试解决的第一个谜团——1808/09 年那次巨大的“未知”大喷发——以失败告终。冰芯记录显示,那是过去 500 年中最大规模的喷发之一,却没人知道它发生在哪里。我翻遍了美国报纸、荷兰报纸、航海日志、南美洲殖民地的报纸、巴达维亚的第一份报纸(共 633 篇文章,全部通读)以及印度的新闻摘要。一无所获。同样的流程检出了我测试过的每一次其他喷发,所以我相当确定,这些报道就是不存在:那些地方似乎没有人记录下 1809 年天空的异象。我目前最好的线索是 1,235 本东印度公司航海日志中从未被转录的手写批注。那是留待日后再做的事。
报纸中的一些奇闻异事
在主搜索运行的同时,我还让程序去搜索在天空中看到的奇异现象。460 条报告里大多数都有寻常的解释,例如流星、假日和彗星。其中几条实在太精彩,不能略过。(我尚未与原始页面核对,所以把它们当作故事而非结论。)
- 1781 年 9 月 23 日,荷兰海岸外的“空中骑士”。一位名叫 Booy Lourens 的船长报告说,在弗里西亚群岛外约六英里处看到一名 Luchtruiter——天空中的骑士。当晚同一时间,海上出现了一支英格兰舰队,哈尔德韦克镇发生地震,北极光熊熊燃烧。我最合理的猜测是,战时一支紧张的船员看到的极光。
- 1806 年,北卡罗来纳州烟囱岩的幻影人群。目击者描述道:“闪着白光的人形……们从男人到婴儿各种尺寸都有,成群结队地在一块大岩石周围移动。”这个故事被全国转载,并作为地方民俗流传至今。
- 1812 年 1 月 25 日,一块石头坠落到一艘船的甲板上。一位船舶军官报告说,石头落在他的船周围,其中一块落在甲板上:“超过六盎司,铁灰色。”我在查过的陨石目录中没有找到这条记录。
- 1816年波恩附近一块百磅重的“陨石”。 一份荷兰报纸报道,有石头从云端落入一座花园,其中一块重达100磅。记录中并无这样的坠落事件,因此它要么是一块失踪的陨石,要么是夸大其词的奇谈。
- 1802–03年冬季,瑞典月亮周围出现黑色与血红色的光环。 一次壮观的光晕现象,描述极为详尽。
- 1812年大马士革上空出现一道光柱,持续三天三夜, 被报道为来自天国的征兆。
- 1805年安大略湖海蛇, “以螺旋状盘绕,展开约十八英尺”。一个典型的报纸怪兽。
现状如何
主要发现仍属候选:已对照我能查阅到的原始页面与目录进行了核对,但尚未由维护这些目录的专家审阅。报纸上的奇闻则是另一些独立的、未经核实的线索。我已联系陨石管理员、Kees Rookmaaker 和火山学家,正在等待他们的回复。检索让我有充分的理由去追查这些线索。专家可以帮助确认它们是否增添了新内容。如果他们告诉我某条已是旧闻,我会更新本文,但我确信这些都是全新的再发现。
沉睡在公共档案中的未开发知识,其体量令人惊叹。仅用几天时间,一块 GPU 和一套量身定制的 AI 流水线,便发掘出一块被遗忘的陨石、三头失踪的犀牛,以及若干未被记录的火山喷发。为了让这类研究变得触手可及,我正把为这次调查所创建的工作流作为一个小型工具集Antiquity开源,让任何有疑问并拥有编程代理的人,都能开展类似的史学档案调查。
Breen 和我检索的是同一份档案。他去找渡渡鸟,找到了一只渡渡鸟。我去找陨石和失载的火山喷发,也找到了它们。这些页面一直就在那里,等着任何人去翻阅。档案本身不会主动交出任何东西;它只会回答那些有人想到去问的问题。
如果你喜欢这篇内容,欢迎在 LinkedIn 上加我,或者在 X 上关注我。
资料来源
文中的引文均出自以下原始文献,每个链接都指向原页面的扫描件。荷兰东印度公司档案藏于荷兰国家档案馆(档案号 1.04.02);其誊录文本由GLOBALISE项目整理完成。报纸部分来自荷兰国家图书馆的档案库Delpher。
陨石
- 《爪哇政府公报》,1812 年 12 月 19 日,第 3 版,转录自 1812 年 8 月 26 日的《孟买公报》:Delpher
犀牛
- 巴达维亚 1739 年关于送往坎迪王的犀牛的函件:National Archives, 1.04.02, inv. 2422, scan 207
- 科伦坡 1739 年 3 月 23 日函件:犀牛“暴毙”,改送一匹波斯马:National Archives, 1.04.02, inv. 2472, scan 61
- 科伦坡账目,“De Paardenstal”:“1738 年马厩中少 1 头犀牛,已死”:National Archives, 1.04.02, inv. 2540, scan 412
- 1740 年 7 月从巴达维亚出发的船只,包括 5 日离港的Loverendaal号:National Archives, 1.04.02, inv. 2482, scan 113
- 船员关于 Loverendaal 号上两头犀牛死亡一事的宣誓证词:National Archives, 1.04.02, inv. 2540, scan 624, 并附 scan 623 和 scan 625
- 1740 年 9 月 16 日致坎迪使团的训令(涉及猪、狗及犀牛的消息):National Archives, 1.04.02, inv. 2492, scan 796
- 1743 年使团关于拉姆纳德王室的报告(“一如为坎迪王所做”):National Archives, 1.04.02, inv. 2599, scan 209
- 1772 年万丹高原上的犀牛小径与受惊马匹:National Archives, 1.04.02, inv. 3363, scan 40
- 1749 年雅加达山丘——“众人的休憩与游乐之所”:National Archives, 1.04.02, inv. 2729, scan 362
- Kees Rookmaaker,圈养中的犀牛(1998 年)
火山喷发
- 加姆科诺拉火山,1722 年 2 月 3 日:特尔纳特总督 1722 年 7 月 7 日函件:National Archives, 1.04.02, inv. 8090, scan 72, 并附 scan 71
- Jacob Engels 中士对喷发山体的勘查报告,1722 年:National Archives, 1.04.02, inv. 8090, scan 272
- 切里梅火山,切里汶,1712 年 3 月 15 日:National Archives, 1.04.02, inv. 7733, scan 20
- 斯拉默火山(“特加尔之山”),切里汶,1780 年 2 月 20 日:National Archives, 1.04.02, inv. 7768, scan 349, 并附 scan 350
- 阿乌,1711年12月10日(校长的信):国家档案馆,1.04.02,inv. 8081,scan 103
- 史密森尼学会的全球火山计划,用于已知喷发列表
犀牛模型
来源:Hacker News · jessewaites.com