CryptoAILab/Awesome-LM-SSP

项目名称： Awesome-LM-SSP

项目简介： Awesome-LM-SSP 是一个手工策划、社区维护的集合（通常称为“awesome list”），汇集了关于大型 AI 模型可信度的研究资源。它聚焦于三大领域——安全性、安全和隐私（名称中的“SSP”）——并特别关注多模态模型，如视觉语言模型（同时处理图像和文本）和扩散模型（生成图像）。

---

包含内容

该列表将资源组织成多个类别。截至最新更新，包括：

• 论文（共 2467 篇）——学术文章，分为三大分支：
  • 安全性（1207 篇论文）——子主题包括越狱攻击（绕过模型限制的技巧）、对齐（使模型遵循人类意图）、深度伪造、伦理、公平性、幻觉（模型编造事实）、提示注入（操纵模型指令）和毒性。
  • 安全（521 篇论文）——子主题包括对抗样本（旨在欺骗模型的输入）、智能体安全、投毒和后门攻击（在训练期间植入隐藏触发器）、侧信道攻击和系统安全。
  • 隐私（739 篇论文）——子主题包括成员推断攻击（判断特定数据是否用于训练）、模型提取（窃取模型行为）、隐私保护计算、遗忘（从训练模型中移除数据）和水印/版权。
• 综述（42 篇）——总结某一领域研究的概述文章。
• 工具包（33 个）——用于处理模型的软件包。
• 排行榜（5 个）——模型性能排名。
• 竞赛（5 个）——有组织的挑战。
• 书籍（3 本）——较长的书面参考资料。

每个条目都带有徽章，一目了然地显示其涉及的模型类型（例如，LLM、视觉语言模型、语音模型或扩散模型）、贡献类型（例如，新基准、新数据集、防御技术）以及发表地点（例如，会议、博客或特定组织如 OpenAI）。

---

运作方式

• 该列表是手动收集的，并明确标记为“进行中”——维护者手工添加条目。
• 所有条目都记录在共享的 Google Sheets 数据库中，任何人都可以查看。如果论文的状态发生变化（例如，arXiv 预印本被会议接受），人们可以直接在电子表格中更新该信息。
• 要添加新论文，贡献者通过 GitHub issue 填写提交表格（包括标题、链接、代码、发表地点、分类、模型类型和评论）。

---

当前状态和社区

• 该项目于 2024 年 1 月 9 日首次发布，并于 2026 年 1 月 9 日庆祝了其两周年（README 中包含生日公告）。
• 它由五位指定的组织者维护，并受到几个早期类似项目（如 LLM Security 和 Awesome LLM Security）的启发。
• README 中包含星标历史图表，表明该项目欢迎社区支持和关注。

---

简单来说： 可以将其视为一个组织良好、频繁更新的参考书目——带有标签和过滤器——适合任何想了解大型 AI 模型如何失败、被攻击或泄露私人信息，以及研究人员正在采取什么措施的人。