llm-jp/awesome-japanese-llm

해결하는 문제

일본어 중심 대규모 언어 모델(LLM)에 대한 정보는 회사 발표, 연구 논문, 모델 허브에 흩어져 있어 비교하기 어렵습니다. 이 프로젝트는 공개적으로 이용 가능한 일본어 LLM(주로 일본어로 학습된 모델)과 일본어 LLM 평가 벤치마크에 대한 커뮤니티 유지 요약으로 정보를 수집하여, 독자가 많은 출처를 파헤치는 대신 주요 사실을 나란히 볼 수 있게 합니다.

작동 방식

자원봉사자들이 정보를 수집하고(일부는 논문 및 공개 리소스에서 인용) GitHub의 구조화된 테이블로 정리합니다. 각 모델에 대해 테이블은 출시 연도, 아키텍처(Llama 또는 Mixture-of-Experts 등), 모델이 입력 및 출력에서 처리할 수 있는 토큰 수, 사용된 학습 텍스트, 개발자, 라이선스 또는 사용 약관을 나열합니다. 모델은 목적별로 그룹화됩니다: 주요 섹션은 텍스트 생성 모델을 다루며, 처음부터 학습된 범용 모델 전용 하위 섹션이 있고, 이미지도 처리하는 모델에 대한 별도 섹션이 참조됩니다. 이 프로젝트는 중요한 주의 사항도 표시합니다: 많은 모델이 MIT 또는 Apache-2.0과 같은 오픈소스 라이선스를 사용하지만, 일부는 비상업적 또는 개발자 특정 라이선스(예: CC BY-NC-SA 4.0)를 사용하며 진정한 오픈소스가 아닐 수 있습니다. 더 읽기 쉬운 웹 버전이 제공되며, 수정 사항이나 새 모델 제안은 GitHub Issues를 통해 제출할 수 있습니다.

대상 사용자

일본어 LLM을 발견, 비교 또는 선택해야 하는 연구자, 개발자, 기업——특히 모델을 채택하거나 구축하기 전에 모델 기능과 라이선스에 대한 빠른 구조화된 개요를 원하는 모든 사람.

주요 특징

• 일본어 LLM과 일본어 LLM 평가 벤치마크를 한 곳에서 다룸
• SB Intuitions, NII / 대규모 언어 모델 연구 센터, Stockmark, Preferred Networks, CyberAgent, ELYZA 등 많은 개발자의 모델을 나열
• 각 항목은 출시 연도, 아키텍처, 컨텍스트 토큰 길이, 학습 데이터, 개발자, 라이선스를 기록
• 약 150M에서 172B 파라미터까지 다양한 크기를 다루며, Mixture-of-Experts 모델 포함
• 비상업적 또는 개발자 특정 라이선스로 인해 진정한 오픈소스가 아닌 공개 모델을 명시적으로 경고
• 긴 컨텍스트 창(최대 65,536 토큰)을 가진 최신 모델 제공
• GitHub에서 자원봉사자에 의해 유지되며, 커뮤니티 기여는 GitHub Issues를 통해 처리
• llm-jp.github.io/awesome-japanese-llm에서 더 읽기 쉬운 웹 버전 제공