CryptoAILab/Awesome-LM-SSP

A reading list for large models safety, security, and privacy (including Awesome LLM Security, Safety, etc.).

프로젝트 이름: Awesome-LM-SSP

프로젝트 소개: Awesome-LM-SSP는 대규모 AI 모델의 신뢰성에 관한 연구 리소스를 직접 선별하고 커뮤니티가 유지 관리하는 컬렉션(흔히 "awesome list"라고 함)입니다. 안전성, 보안, 프라이버시(이름의 "SSP")라는 세 가지 주요 영역에 초점을 맞추며, 특히 이미지와 텍스트를 함께 처리하는 비전-언어 모델과 이미지를 생성하는 확산 모델과 같은 멀티모달 모델에 특별한 주의를 기울입니다.

포함 내용

목록은 리소스를 여러 범주로 구성합니다. 최신 업데이트 기준으로 다음이 포함됩니다:

논문(총 2,467편) — 학술 기사를 세 가지 주요 분야로 그룹화:
- 안전성(1,207편) — 제일브레이크 공격(모델 제한을 우회하는 트릭), 정렬(모델을 인간의 의도에 따르게 함), 딥페이크, 윤리, 공정성, 환각(모델이 사실을 지어냄), 프롬프트 인젝션(모델 지시를 조작), 유해성 등의 하위 주제.
- 보안(521편) — 적대적 예제(모델을 속이기 위한 입력), 에이전트 보안, 중독 및 백도어 공격(훈련 중 숨은 트리거 심기), 부채널 공격, 시스템 보안 등의 하위 주제.
- 프라이버시(739편) — 멤버십 추론 공격(특정 데이터가 훈련에 사용되었는지 판단), 모델 추출(모델 동작 도용), 프라이버시 보호 연산, 언러닝(훈련된 모델에서 데이터 제거), 워터마킹/저작권 등의 하위 주제.
서베이(42편) — 한 분야의 연구를 요약한 개요 기사.
툴킷(33개) — 모델을 다루기 위한 소프트웨어 패키지.
리더보드(5개) — 모델 성능 순위.
대회(5개) — 조직된 챌린지.
책(3권) — 더 긴 서면 참고 자료.

각 항목에는 어떤 종류의 모델(예: LLM, 비전-언어 모델, 음성 모델, 확산 모델)이 관련되어 있는지, 어떤 기여(예: 새 벤치마크, 새 데이터셋, 방어 기술)를 하는지, 어디에 게시되었는지(예: 컨퍼런스, 블로그, OpenAI와 같은 특정 조직)를 한눈에 보여주는 배지가 태그되어 있습니다.

작동 방식

목록은 수동으로 수집되며 명시적으로 "진행 중"으로 표시됩니다 — 관리자가 직접 항목을 추가합니다.
모든 항목은 공유 Google Sheets 데이터베이스에서 추적되며 누구나 볼 수 있습니다. 논문의 상태가 변경되면(예: arXiv 프리프린트가 컨퍼런스에서 채택됨) 해당 정보를 스프레드시트에서 직접 업데이트할 수 있습니다.
새 논문을 추가하려면 기여자는 GitHub 이슈를 통해 제출 테이블(제목, 링크, 코드, 발표 장소, 분류, 모델 유형, 코멘트)을 작성합니다.

현재 상태 및 커뮤니티

프로젝트는 2024년 1월 9일에 처음 출시되었으며 2026년 1월 9일에 2주년을 맞이했습니다(README에 생일 공지가 포함됨).
5명의 지명된 조직자가 유지 관리하며, 여러 초기 유사 프로젝트(LLM Security 및 Awesome LLM Security 등)에서 영감을 받았습니다.
README에는 스타 히스토리 차트가 포함되어 있어 프로젝트가 커뮤니티의 지원과 관심을 환영함을 보여줍니다.

쉽게 말하면: 대규모 AI 모델이 어떻게 실패하고, 공격받고, 개인 정보를 유출할 수 있는지, 그리고 연구자들이 이에 대해 무엇을 하고 있는지 이해하려는 모든 사람을 위한, 라벨과 필터가 있는 잘 정리되고 자주 업데이트되는 참고 문헌 목록이라고 생각하면 됩니다.