fscdc/Awesome-Efficient-Reasoning-Models

해결하는 문제

대규모 추론 모델(답변 전에 단계별로 생각하는 LLM)은 강력하지만 느리고 비용이 많이 듭니다. 종종 긴 사고 사슬을 생성하여 계산과 시간을 소비합니다. 이 프로젝트는 추론 정확도를 유지하면서 비용을 줄이는 최신 연구를 수집하고 정리합니다. 예를 들어 사고 사슬을 줄이거나, 더 작은 모델을 사용하거나, 디코딩 프로세스를 더 효율적으로 만드는 방법입니다.

작동 방식

이 저장소는 살아있는 논문 기반 서베이입니다. 수백 개의 연구 논문을 명확한 범주로 그룹화합니다:

• 긴 CoT를 짧게 만들기 — 추론 모델이 생성하는 사고 사슬(CoT)을 압축하거나 줄이는 방법. 미세 조정, 강화 학습 또는 프롬프트 트릭을 사용합니다.
• 강력한 추론 능력을 가진 SLM 구축 — 강력한 추론을 소형 언어 모델(SLM)에 증류하거나 양자화 및 가지치기를 통해 모델 크기를 줄이는 접근 방식.
• 디코딩을 더 효율적으로 만들기 — 실제 토큰 생성 단계를 가속화하는 기술. 효율적인 테스트 시간 스케일링 또는 더 나은 디코딩 전략 등.
• 효율적인 멀티모달 추론 — 모델이 이미지 또는 다른 양식에 대해 추론할 때 비용을 줄입니다.
• 효율적인 에이전트 추론 — 에이전트와 같은 다단계 추론을 더 효율적으로 만듭니다.
• 평가 및 벤치마크 — 효율성 향상을 측정하는 데 도움이 되는 벤치마크와 테스트.

각 논문 항목에는 그림, 짧은 소개, GitHub 저장소 및 arXiv 논문 링크가 포함됩니다. 분류 다이어그램과 빠른 링크의 전체 목록은 독자가 탐색하는 데 도움이 됩니다. 관리자는 목록을 적극적으로 업데이트하고 새 논문을 추가하기 위한 풀 리퀘스트를 수락합니다.

대상 독자

대규모 언어 모델을 연구하는 연구자, 엔지니어, 학생 — 특히 추론 모델을 더 빠르고, 저렴하고, 배포하기 쉽게 만드는 데 관심이 있는 사람. 또한 효율적인 추론 연구의 현재 상태를 폭넓게 파악하려는 사람과 자신의 논문을 공개적이고 인용 가능한 컬렉션에 기여하려는 사람에게 유용합니다.

하이라이트

• 훈련 시간 방법(SFT, RL)과 추론 시간 트릭(디코딩, 가지치기)을 한 곳에서 다룹니다.
• 명확한 섹션과 시각적 분류로 구조화되어 접근 방식별로 쉽게 탐색할 수 있습니다.
• GitHub 링크와 설명용 그림이 포함된 많은 논문을 포함하여 빠르게 평가하고 재현할 수 있습니다.
• 적극적으로 유지 관리되며 시간이 지남에 따라 새 섹션(효율적인 에이전트 추론 등)이 추가되고 풀 리퀘스트를 통한 커뮤니티 기여를 환영합니다.