Xnhyacinth/Awesome-LLM-Long-Context-Modeling

📰 Must-read papers and blogs on LLM based Long Context Modeling 🔥

해결하는 문제

긴 컨텍스트 언어 모델링의 빠르게 변화하는 분야를 따라잡는 것은 연구가 많은 하위 주제에 걸쳐 지속적으로 발표되기 때문에 어렵습니다. 이 프로젝트는 관련 논문과 블로그 게시물을 찾을 수 있는 단일하고 체계적인 장소를 제공합니다. 연구자와 실무자가 중요한 연구를 놓치지 않고 효율적인 어텐션, 메모리 관리, 평가 등의 분야에서 무슨 일이 일어나고 있는지 빠르게 확인하는 데 도움을 줍니다.

작동 방식

이것은 선별된 "Awesome" 목록입니다. 논문과 블로그 링크의 구조화된 컬렉션으로, 효율적인 어텐션, KV 캐시 최적화, 메모리, 압축, 추론, 비디오, 에이전트, 평가 등의 범주로 그룹화됩니다. 목록은 매주 및 매월 최신 arXiv 논문으로 업데이트되며, 많은 항목에 코드 또는 프로젝트 페이지 링크가 포함됩니다. 또한 설문 조사 논문(arXiv:2503.17407)과 분야를 탐색하는 데 도움이 되는 시각적 분류 다이어그램을 포함하여 특정 하위 주제로 쉽게 드릴다운할 수 있습니다.

대상 독자

긴 컨텍스트 언어 모델을 연구하거나 관심이 있는 연구자, 학생, 실무자. 여러 소스를 검색하지 않고도 최신 기술에 대한 포괄적이고 최신의 개요가 필요하다면, 이 저장소는 시간을 절약하고 정보를 제공합니다.

주요 특징

  • 효율적인 어텐션 및 KV 캐시 최적화부터 장기 에이전트 및 벤치마크까지 20개 이상의 다양한 주제를 다룹니다
  • 주간 및 월간 업데이트로 목록을 최신 연구로 유지합니다
  • 포괄적인 설문 조사 논문(arXiv:2503.17407) 및 LCLM-Horizon과의 협업 포함
  • 커뮤니티 주도로 기여를 환영하며, 많은 스타, 포크, 기여자가 있습니다
  • 빠른 방향 파악을 위한 "분류 한눈에 보기" 다이어그램 제공

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트