allenai/olmoearth_pretrain

OlmoEarth とは？

OlmoEarth は、地球観測データのために設計されたマルチモーダルな時空間基盤モデルのファミリーです。モデルは衛星画像（Sentinel-2 光学、Sentinel-1 レーダー、Landsat）と、派生した地理マップ（例：OpenStreetMap、WorldCover、USDA Cropland、DEM、樹冠高、WorldCereal）を入力し、セグメンテーション、分類、埋め込み生成などの下流タスクに使用できる共同表現を学習します。

リポジトリには、これらのモデルを構築、評価、ファインチューニングするための事前学習コードとユーティリティが含まれています。これは、惑星規模のインテリジェンスのためのエンドツーエンドのツールを提供する、より広範な OlmoEarth プラットフォームの一部です。

主な機能

機能	詳細
モデルファミリー	Nano、Tiny、Small、Base、Large – 約 1 M から 300 M 以上のパラメータ（エンコーダ + デコーダ）。
モダリティ	Sentinel-2（光学）、Sentinel-1（SAR）、Landsat、および6つの派生マップレイヤー。
トレーニングデータ	世界中から抽出された 285 k サンプル（各約 2.56 平方キロメートル）。データセットは Hugging Face で利用可能。
バージョニング	v1、v1.1、v1.2 リリースで段階的な改善。変更ログへのリンクあり。
オープンソーススタック	AllenAI の OLMo-core ライブラリに基づく。Docker イメージ提供。オプションの flash-attention サポート。
ライセンス	OlmoEarth Artifact License（`LICENSE` を参照）。
ドキュメント	推論のクイックスタート、ファインチューニングチュートリアル、データセット作成ガイド、評価スクリプト。

はじめに

インストール（フルスタック）

# リポジトリをクローン
git clone git@github.com:allenai/olmoearth_pretrain.git
cd olmoearth_pretrain

# 推奨：Python 3.12 + uv パッケージマネージャー
uv sync --locked --all-extras --python 3.12

このコマンドは、分離された仮想環境（.venv）を作成します。source .venv/bin/activate でアクティベートするか、uv run でコマンドを実行します。

推論のみのインストール

事前学習済みモデルをロードするだけでよい場合（トレーニング依存関係なし）：

uv sync --locked

モデルの使用

チェックポイントをロード – モデルの重みは Hugging Face でホストされています（例：allenai/OlmoEarth-v1_2-Base）。
推論を実行 – docs/Inference-Quickstart.md に従ってモデルをインスタンス化し、衛星タイルを渡します。
ファインチューニング – セグメンテーションと埋め込み抽出のチュートリアルが提供されています：
- FinetuneOlmoEarthSegmentation.md
- OlmoEarthEmbeddings.md
- FinetuneOlmoEarth.md
デプロイ – サンプルデプロイは、関連する olmoearth_projects リポジトリにあります。

独自モデルのトレーニング

リポジトリには、各リリースバージョン用の scripts/official/vX_X/ の下に既製のスクリプトが含まれています。詳細な手順は docs/Pretraining.md にあり、データ準備（docs/Dataset-Creation.md）、環境設定、起動コマンドをカバーしています。

評価

著者のベンチマーク結果を再現するには、以下の手順に従ってください：

docs/Evaluation.md – 研究ベンチマークテスト。
パートナータスクの評価は rslearn_projects リポジトリに文書化されています。

テスト

uv run でテストスイートを実行します：

# フルスイート（flash-attn 以外のすべてのオプション依存関係）
uv run --extra all-no-flash pytest tests/

# フル依存関係でのモデルロードテスト（olmo-core を含む）
uv run --extra all-no-flash pytest tests_minimal_deps/

# 最小依存関係でのロードテスト（olmo-core なし）
uv run --extra dev pytest tests_minimal_deps/

CI は、重い olmo-core 依存関係の有無にかかわらずパッケージが動作することを確認するために、これらを2回実行します。

引用

コード（モデルの重みだけでなく）を使用する場合は、ソフトウェアを引用してください：

@software{olmoearth_pretrain,
  author    = {{OlmoEarth Team}},
  title     = {{OlmoEarth}: A library for developing earth system foundation models},
  publisher = {Allen Institute for AI},
  url       = {https://github.com/allenai/olmoearth_pretrain},
  version   = {0.1.2},
  year      = {2026}
}

特定のモデルについては、対応するテクニカルレポートを引用してください（モデル表にリンクがあります）。

誰がこれを使うべきか？

リモートセンシング研究者 – 衛星画像タスク用の事前学習済みバックボーンが必要な方。
地理空間データエンジニア – 埋め込みやセグメンテーションマスクを必要とするパイプラインを構築する方。
AI ラボ – マルチモーダルな時空間基盤モデルに興味があり、参照実装を探している方。

結論

OlmoEarth-pretrain は、大規模な地球観測基盤モデルをトレーニングおよびデプロイするための、フル機能を備えたオープンソースツールキットです。すぐに使える事前学習チェックポイント、明確なトレーニングスクリプト、広範なドキュメントを提供し、AI と惑星データの交差点で働く誰にとっても実用的な入り口となります。