afshinea/stanford-cme-295-transformers-large-language-models
VIP cheatsheet for Stanford's CME 295 Transformers and Large Language Models
해결하는 문제
이 프로젝트는 스탠포드 CME 295 과정 '트랜스포머 및 대규모 언어 모델(LLM)'에서 가르치는 복잡한 개념에 대한 중앙 집중식이고 간결한 참조 자료를 제공하여 학생과 실무자가 해당 분야에 대한 이해를 통합하는 데 도움을 줍니다.
작동 방식
이 저장소는 핵심 기술 주제를 단일하고 접근하기 쉬운 형식으로 요약한 포괄적인 'VIP 치트 시트'를 제공합니다. 이는 동일한 커리큘럼에 대한 심층 설명과 시각적 보조 자료를 제공하는 '슈퍼 스터디 가이드' 책의 동반 자료 역할을 합니다.
대상 독자
스탠포드 CME 295 과정에 등록한 학생과 현대 AI 아키텍처 및 훈련 기술에 대한 체계적인 개요를 찾는 모든 학습자 또는 전문가를 위해 설계되었습니다.
주요 특징
- 셀프 어텐션 및 변형을 포함한 기본 트랜스포머 아키텍처를 다룹니다.
- 파인튜닝(SFT, LoRA) 및 선호도 튜닝(RLHF, DPO)과 같은 LLM 훈련 방법을 자세히 설명합니다.
- 분산 훈련, KV 캐싱, 추측 디코딩과 같은 기술적 최적화를 설명합니다.
- AI 에이전트 및 평가와 같은 고급 응용 프로그램에 대한 정보를 포함합니다.
- 글로벌 사용자를 지원하기 위해 15개 언어로 제공됩니다.
관련
- 프로젝트
changyeyu/LLM-RL-VisualizedLLM-RL-Visualized는 대규모 언어 모델, 강화 학습 및 관련 훈련 기법을 설명하는 100개 이상의 독창적인 아키텍처 다이어그램을 포함한 이중 언어, 다이어그램 중심의 교육용 저장소입니다. 11개의 주제 섹션으로 구성되어 있으며 고해상도 SVG/PNG 이미지와 보너스 PDF가 포함되어 있습니다.
- 프로젝트
- 프로젝트
openTrinity/mycontextMyContext는 사용자의 업무 데이터(채팅, 문서, 회의 등)를 개인용 로컬 저장 지식 그래프로 지속적으로 수집하는 데스크톱 앱입니다. 이 그래프는 LLM, 로컬 에이전트 또는 권한이 있는 AI 앱에서 쿼리할 수 있어, 더욱 정보에 입각한 응답을 위한 개인화된 컨텍스트 레이어를 제공합니다. 주요 기능으로는 디지털 셀(digital-self) 어시스턴트, 소스 인용이 포함된 자연어 검색, 엄격한 휴먼 인 더 루프(human-in-the-loop) 제어가 있습니다. 이 프로젝트는 활발히 개발 중이며 Elastic License 2.0에 따라 배포됩니다.
- 프로젝트
WeThinkIn/AIGC-Interview-BookWeThinkIn/AIGC-Interview-Book은 AI 구직자를 위한 무료 오픈소스 중국어 플랫폼입니다. 면접 준비, 기술 지식(AIGC, LLM, AI 에이전트, 딥러닝 등), 학습 경로, 경력 계획, 커뮤니티 기여 시스템을 다룹니다. 장기적 가치가 입증된 기술만 학습하는 것을 강조하며, 업계 경험이 있는 수석 편집자와 6명의 공동 편집자가 유지합니다.