AI驱动的档案挖掘揭示被遗忘的陨石、消失的犀牛和未记录的火山喷发

要点

AI辅助研究可以将数百年历史、充满OCR噪声的档案转化为可搜索的语义向量,使单个GPU能够浮现出200多年来一直未被发现的历史重要事实。在该项目中,作者发现了一份被遗忘的陨石报告、三次无记录的犀牛赠礼,以及三次未列入全球火山活动计划的火山喷发。


流水线如何运作

结果: 该工作流在一夜12小时的运行中处理了435万页荷兰东印度公司档案、荷兰和美国报纸以及船舶日志。

  • 数据来源 – GLOBALISE对荷兰东印度公司(1600-1799)的转录、荷兰国家图书馆数字化报纸、两个世纪的美国报纸,以及选定的船舶日志。
  • 语义索引 – 每个段落被嵌入到一个570万向量的存储中,支持基于意义的搜索而非关键词匹配,这对于17世纪拼写变体至关重要。
  • 两阶段过滤 – 一个廉价的“系统一”模型(Jev)以约3美元的成本筛选了59,000条动物提及的相关性。只有被Jev标记的段落才传递给更大的Claude Haiku模型进行翻译、日期提取和上下文收集。
  • 人在回路验证 – 作者检查了原始扫描件,与专家目录交叉核对,并使用已知事件(如渡渡鸟日志、1783年拉基火山)作为合理性测试,然后才寻找新发现。

“你知道它就在那里。如果检测器找不到它,你就知道你的检测器有问题。” – 作者,描述验证步骤。

1812年被遗忘的陨石

发现: 一封转载于《爪哇政府公报》(1812年12月19日)的信件描述了一块4磅重的富铁石头,于1812年8月6日从马哈拉施特拉邦科库尔冈附近的一片雷云中坠落。

  • 描述符合教科书中的陨石标准:高铁含量、黑色熔壳、可闻雷声和浅埋藏。
  • 该事件在所有主要陨石目录(Chladni 1819、大英博物馆、1933年印度陨石列表、陨石公报)以及自然历史博物馆藏品中均无记录。
  • AI驱动的对100种期刊(1812-1817)的搜索未发现后续报道,证实了其默默无闻。

历史意义: 如果得到验证,这将成为马哈拉施特拉邦有记录的最早陨石坠落,比此前最早记录早26年。

三只消失的爪哇犀牛

发现: 档案信件揭示了荷兰东印度公司在1738年至1740年间三次尝试将活体爪哇犀牛赠送给康提国王(斯里兰卡)。

  1. 1738年捕获 – 一只活犀牛在巴达维亚的森林中被捕获并装船;它在科伦坡的马厩中死亡。
  2. 1739年替代 – 在死亡之后,改为送出一匹波斯骑马。
  3. 1740年“洛弗伦达尔”号航行 – 装载了两只犀牛(一公一母);两者均在途中死亡,由船员宣誓证词记录。
  • 信件包含精确日期、船名(洛弗伦达尔)和官方总督通信。
  • 现有的圈养犀牛目录均未列出这些运输记录,使其可能成为该物种历史分布的新数据点。
  • 文件中还包含1772年关于班塔姆高地犀牛丰富的观察记录,为物种曾经的分布范围提供了罕见的一瞥。

未记录的火山喷发

发现: 将769条喷发提及与史密森尼全球火山活动计划交叉比对,发现三次官方列表中缺失的喷发。

火山 日期 当代描述
甘科诺拉(哈马黑拉岛) 1722年2月3日 火山灰覆盖特尔纳特,全天黑暗,发光的火山灰杀死树木。
奇雷迈(西爪哇) 1712年初 数周的火山灰和烟雾,东南爪哇出现蓝色火山灰,庄稼被毁。
斯拉梅特(中爪哇) 1780年2月 “前特加尔火山”被描述为剧烈燃烧。
  • 每条记录均与原始荷兰信件核对,并与当地地理匹配,排除了AI的错误归因。
  • 合理性检查成功检索到著名的1711年阿武火山喷发,确认了流水线的可靠性。

历史意义: 一旦火山学家确认,这三个事件将把仪器喷发记录延长近三个世纪。

未奏效的部分:1808年神秘喷发

尝试: 该流水线被应用于从冰芯硫酸盐峰值推断出的了解甚少的1808/09年喷发。

  • 对荷兰、美国、南美和印度报纸(633篇文章)的详尽搜索未返回任何当代观察记录。
  • 失败表明,在所调查的语料库中没有书面记录幸存;剩余的线索集在于1,235本未转录的东印度公司日志中。

杂项报纸奇闻(未验证)

AI还浮现了460条天空现象报告;一些值得注意但未验证的例子包括:

  • 弗里西亚海岸外的“空中骑手”(1781年9月23日)。
  • 北卡罗来纳州烟囱岩的幻影人群(1806年)。
  • 波恩附近一块100磅的“陨石”(1816年)。
  • 瑞典的黑红色月晕(1802-03年冬季)。

这些在检查原始扫描件之前仍属轶事。

当前状态和后续步骤

社区反应(HN亮点)

“精彩的工作,遗憾的是,对AI的膝跳式反感情绪阻碍了对这一成就的欣赏。” – @Ariarule

“为了让这类研究变得可及,我将工作流开源……Antiquity。” – @whythismatters

“让我好奇作者自己从荷兰东印度公司中学到了多少。” – @sorokod(对领域知识深度持怀疑态度)。

“非常酷。我正在为当代政治观点媒体做一个类似的项目。” – @acgourley(建议将重型预处理扩展到其他语料库)。

为什么这很重要

该项目表明,语义AI流水线可以以最少的人力从大规模、嘈杂的历史语料库中解锁隐藏事实,将数百年历史的档案转化为可操作的知识。随着更多数字化收藏公开可用,类似的工作流可以系统地丰富科学目录、生物多样性记录和地质事件数据库。


所有引用的段落均链接到作者来源部分列出的原始扫描件。

Sources

相关