huggingface/huggingface-gemma-recipes

Inference, Fine Tuning and many more recipes with Gemma family of models

해결하는 문제

이 저장소는 Gemma 모델 패밀리와 함께 작업하기 위한 최소한의 실용적인 레시피를 제공합니다. 개발자가 이러한 모델을 사용하여 다중 모달 추론, 파인튜닝, 검색 기반 생성(RAG)을 구현하는 데 있어 장벽을 낮춥니다.

작동 방식

이 프로젝트는 transformerstimm 라이브러리를 사용하여 Gemma 모델과 상호작용하는 방법을 보여주는 Colab 노트북과 Python 스크립트의 모음으로 구성되어 있습니다. 다음에 대한 구체적인 코드 예제를 제공합니다:

  • 추론: 파이프라인 또는 세부적인 프로세서 설정을 사용하여 텍스트, 이미지, 오디오, 비디오 입력을 모델에 통과시키는 방법.
  • 파인튜닝: Unsloth 및 TRL과 같은 도구를 사용하여 대화 작업, GUI 기반, 또는 방사선 이미지나 오디오와 같은 특정 모달리티에 맞게 모델을 조정하는 방법.
  • RAG: 검색 기반 생성 워크플로우를 구현하는 방법.
  • 함수 호출: Gemma 3n을 사용하여 로컬 파일 읽기와 같은 작업을 수행하는 방법을 보여줍니다.

대상 사용자

다중 모달 애플리케이션을 위해 Gemma 모델 패밀리를 빠르게 배포하거나 사용자 정의하고 싶은 개발자 및 AI 연구자.

주요 특징

  • 다중 모달 지원: 텍스트, 이미지, 오디오, 비디오 입력을 혼합하여 처리하는 레시피.
  • 다양한 파인튜닝 예제: 대화형 파인튜닝, GUI 기반, 특정 데이터셋에서의 다중 모달 파인튜닝 예제.
  • 하드웨어 접근성: 무료 Colab T4 GPU에 최적화된 노트북.
  • 고급 기술: 강화학습(GRPO) 및 함수 호출 예제 포함.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트