marlin-codes/Awesome-Hyperbolic-Representation-and-Deep-Learning

Paper list about hyperbolic embedding, hyperbolic models,hyperbolic applications

概要

Awesome-Hyperbolic-Representation-and-Deep-Learning は、機械学習の特定の分野、すなわちデータを表現するために通常の「平坦な」空間ではなく 双曲空間 を使用する研究において、関連する論文を研究者が素早く見つけられるように整理されたコミュニティ主導のリスト(「Awesome」リスト)です。

追跡している中心的なアイデア

ほとんどの機械学習は、学校で習う平坦な幾何学であるユークリッド空間を扱います。しかし、多くの現実世界のデータセットは 木構造やべき乗則構造 を持っています(ソーシャルネットワーク、知識グラフ、分類体系などを考えてみてください)。少数の要素が高度に接続され、残りが階層的に分岐しています。ユークリッド空間では、外側に移動するにつれて空間の「体積」は多項式的に増加します。一方、双曲空間では 指数関数的 に増加します。この指数関数的な増加により、双曲幾何学は階層構造や木構造のデータを表現する際に自然な利点を持っています。なぜなら、ネストされた構造や分岐する構造を広げるための「余地」が単純に大きいためです。

README では、双曲空間の指数関数的な増加特性が階層的な組織を持つデータに対する 事前分布 として機能し、ユークリッド空間の多項式的な増加はそのようなデータには適していないと説明されています。

構成

このリポジトリは、論文を3つの主要な領域にグループ化し、それぞれにサブカテゴリを設けています。

  • コア手法と幾何学 (セクション2) — 基礎技術:双曲埋め込み、ニューラルネットワーク、グラフニューラルネットワーク、transformers/attention、理論と安定性解析、階層モデリング、混合曲率アプローチ、生成モデル、分類器、演算/ユーティリティ、および LLM/基盤モデルとの関連。
  • ドメイン応用 (セクション3) — これらの手法が適用される分野:言語/テキスト、コンピュータビジョン/グラフィックス/ロボティクス、グラフ/ネットワーク、レコメンデーションシステム、知識グラフ、生物学/分子学習、コード表現、教育。
  • タスク指向の設定 (セクション4) — ドメイン横断的な問題設定:マルチラベル/階層分類、メトリック学習/検索/クラスタリング、幾何学習と適応、Few-shot/低データ学習、オープンボキャブラリー/ゼロショット/カテゴリ発見、安全性/堅牢性/プライバシー、環境モニタリング、多基準学習。

各論文のエントリには、論文タイトル、発表された会議、および著者が記載されています。

その他の内容

  • リンクされたサーベイ論文 (“A Survey of Non-Euclidean Geometric Learning from Hyperbolic to Mixed-Curvature Spaces”):この分野を幅広くカバーしています。
  • 「最新の更新」セクション:主要な AI 会議(NeurIPS, ECCV, ACM MM, MICCAI, RecSys, AISTATS, WACV, CVPR など)からの最近の追加分を、日付と論文数とともに表示しています。
  • コミュニティ Slack チャンネル および議論と協力のためのウェブサイト。
  • 連絡用メールアドレス:リストには避けられない見落としがあることを管理者が認めており、修正のための連絡先として提供されています。

対象読者

幾何学と深層学習の交差点で働く研究者、大学院生、実務家。特に、階層構造やグラフ構造のデータを研究しており、どのような双曲手法が存在し、どこに応用され、誰がその分野で発表しているかを知りたいと考えている方に最適です。これはチュートリアルではなく発見ツールです。論文をリストアップしてリンクを提供しますが、コードや解説テキスト自体は提供しません。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト