CryptoAILab/Awesome-LM-SSP

A reading list for large models safety, security, and privacy (including Awesome LLM Security, Safety, etc.).

プロジェクト名: Awesome-LM-SSP

概要: Awesome-LM-SSP は、大規模 AI モデルの信頼性に関する研究リソースを手作業で厳選し、コミュニティで維持しているコレクション（いわゆる「awesome list」）です。安全性、セキュリティ、プライバシー（名前の「SSP」）の 3 つの大きな分野に焦点を当て、特にマルチモーダルモデル（画像とテキストを同時に処理する視覚言語モデルや、画像を生成する拡散モデルなど）に注目しています。

内容

リストはリソースをいくつかのカテゴリに整理しています。最新の更新時点では、以下が含まれます：

論文（合計 2,467 件） — 学術記事を 3 つの主要な分野に分類：
- 安全性（1,207 件の論文） — ジェイルブレイク攻撃（モデルの制限を回避するトリック）、アライメント（モデルを人間の意図に従わせる）、ディープフェイク、倫理、公平性、幻覚（モデルが事実を捏造する）、プロンプトインジェクション（モデルの指示を操作する）、毒性などのサブトピック。
- セキュリティ（521 件の論文） — 敵対的例（モデルを欺くための入力）、エージェントセキュリティ、ポイズニングおよびバックドア攻撃（トレーニング中に隠れたトリガーを仕込む）、サイドチャネル攻撃、システムセキュリティなどのサブトピック。
- プライバシー（739 件の論文） — メンバーシップ推論攻撃（特定のデータがトレーニングに使用されたかどうかを判断する）、モデル抽出（モデルの動作を盗む）、プライバシー保護計算、アンラーニング（トレーニング済みモデルからデータを削除する）、透かし/著作権などのサブトピック。
サーベイ（42 件） — 分野の研究を要約した概説記事。
ツールキット（33 件） — モデルを扱うためのソフトウェアパッケージ。
リーダーボード（5 件） — モデル性能のランキング。
コンペティション（5 件） — 組織化されたチャレンジ。
書籍（3 冊） — より長い書面による参考資料。

各エントリには、関与するモデルの種類（例：LLM、視覚言語モデル、音声モデル、拡散モデル）、貢献の種類（例：新しいベンチマーク、新しいデータセット、防御技術）、および公開場所（例：会議、ブログ、OpenAI などの特定の組織）を一目で示すバッジが付けられています。

仕組み

リストは手動で収集され、明示的に「進行中」とラベル付けされています — メンテナーが手作業で項目を追加します。
すべてのエントリは共有の Google Sheets データベースで追跡され、誰でも閲覧できます。論文のステータスが変更された場合（たとえば、arXiv プレプリントが会議で受理された場合）、その情報をスプレッドシートで直接更新できます。
新しい論文を追加するには、貢献者は GitHub の issue を通じて提出テーブル（タイトル、リンク、コード、発表場所、分類、モデルタイプ、コメント）に記入します。

現在のステータスとコミュニティ

プロジェクトは 2024 年 1 月 9 日に初めてリリースされ、2026 年 1 月 9 日に 2 周年を迎えました（README には誕生日のお知らせが含まれています）。
5 人の指名されたオーガナイザーによって維持され、いくつかの初期の類似プロジェクト（LLM Security や Awesome LLM Security など）から着想を得ています。
README にはスター履歴チャートが含まれており、プロジェクトがコミュニティのサポートと関心を歓迎していることを示しています。

簡単に言うと： これは、大規模 AI モデルがどのように失敗し、攻撃され、プライベート情報を漏洩する可能性があるか、そして研究者がそれに対して何をしているかを理解したい人向けの、ラベルとフィルターを備えた、よく整理され頻繁に更新される参考文献リストと考えてください。

CryptoAILab/Awesome-LM-SSP

関連