Google DeepMind Aeneas: 고대 비문을 맥락화하는 AI

비문학 분석을 위한 고급 기능

Aeneas는 이전 모델들, 특히 고대 그리스 비문에 초점을 맞춘 전 모델 Ithaca를 포함해 여러 핵심 기술적 진보를 제공합니다. 주요 기능은 다음과 같습니다:

  • Parallels Search: 모델은 각 텍스트에 대해 "역사적 지문"(임베딩)을 생성하여 방대한 라틴 비문 컬렉션 전반에 걸친 깊은 연결을 식별하고, 역사가들이 파편을 더 넓은 맥락에 배치할 수 있게 합니다.
  • Multimodal Provenance Determination: Aeneas는 텍스트 데이터와 비문 이미지와 같은 시각 정보를 모두 분석하여 지리적 출처를 판단하는 최초의 모델입니다.
  • Flexible Text Restoration: 모델은 누락된 길이가 알려지지 않은 텍스트의 공백을 복원할 수 있어, 심하게 손상된 자료를 다루는 데 큰 개선을 제공합니다.
  • State-of-the-Art Performance: Aeneas는 비문의 날짜와 위치를 예측하고 손상된 텍스트를 복원하는 새로운 벤치마크를 설정합니다.

기술 아키텍처 및 학습

Aeneas는 텍스트와 이미지 입력을 트랜스포머 기반 디코더를 사용해 처리하는 다중모달 생성 신경망입니다.

데이터 소스 및 라틴 비문 데이터셋 (LED)

모델을 학습시키기 위해 연구자들은 라틴 비문 데이터셋 (LED)을 구축했으며, 이는 세 개 주요 디지털 컬렉션에서 176,000개 이상의 라틴 비문을 통합합니다:

  1. The Epigraphic Database Roma (EDR)
  2. The Epigraphic Database Heidelberg (EDH)
  3. The Epigraphic Database Clauss Slaby (EDCS-ELT)

모델 메커니즘

모델은 텍스트 기반 문자 복원 및 연대를 위한 특수 네트워크를 활용하고, 지리적 귀속은 이미지 데이터를 통합합니다. 맥락화 메커니즘은 임베딩을 사용해 언어, 내용, 출처 및 비문 간 관계를 인코딩하여 디코더가 LED에서 유사한 평행을 검색하고 순위 매길 수 있게 합니다.

성능 벤치마크 및 검증

Aeneas는 일반 목적 라틴 LLM에 비해 연대별 그룹화에서 우수한 성능을 보여줍니다. 주요 지표는 다음과 같습니다:

  • Restoration Accuracy: 10자 이하의 공백에 대해 Top-20 정확도가 73%, 복원 길이가 알려지지 않은 경우 58% 정확도.
  • Geographical Attribution: 시각 데이터를 사용해 62개의 고대 로마 주 중 하나에 비문을 귀속시키는 정확도가 72%.
  • Dating Precision: 모델은 일반적으로 텍스트를 역사가가 제시한 연대 범위 내 13년 이내에 배치합니다.
  • Interpretability: 모델은 어떤 특정 입력이 예측에 영향을 미쳤는지 강조하는 saliency map을 제공합니다.

역사적 논쟁에의 적용: 레스 게스타

실제 연구 논쟁에 모델을 테스트하기 위해 Aeneas를 Res Gestae Divi Augusti (아우구스투스 황제의 업적 기록)에 적용했습니다. 단일 날짜를 제시하는 대신, Aeneas는 두 개의 피크를 가진 확률 분포를 생성했으며, 작은 피크는 기원전 101년, 큰 피크는 서기 1020년 사이에 나타났습니다. 이 정량적 접근은 텍스트에 언급된 미묘한 언어적 특징과 공식 직함을 기반으로 한 기존 학계 가설들을 포착했습니다.

협업 영향 및 접근성

23명의 역사가를 대상으로 한 연구에서, 전문가들이 Aeneas의 맥락적 평행과 복원 및 귀속 예측을 함께 활용할 때 가장 효과적인 결과를 얻었습니다. 역사가들은 이 도구가 작업을 가속화하고 특정 비문에 대한 인식을 바꾸는 새로운 평행을 식별하는 데 도움이 되었다고 보고했습니다.

가용성 및 교육 통합

Google DeepMind는 다음 채널을 통해 Aeneas를 제공하고 있습니다:

  • Interactive Tool: predictingthepast.com에서 무료로 이용 가능.
  • Open Source: 코드와 데이터셋은 GitHub에서 제공됩니다.
  • Ithaca Upgrade: 고대 그리스 모델인 Ithaca가 Aeneas 기반으로 업그레이드되어 맥락화 기능과 향상된 복원 능력을 갖추었습니다.
  • Education: 기술 AI 역량과 역사적 사고를 연결하는 새로운 교육 커리큘럼이 공동 설계되었으며, 유럽 위원회, 유네스코, OECD의 프레임워크와 일치합니다.

Sources