Farzad-R/LLM-Zero-to-Hundred

This repository contains different LLM chatbot projects (RAG, LLM agents, etc.) and well-known techniques for training and fine tuning LLMs.

What it solves

このリポジトリは、高度なLLMアプリケーションを構築するための実践的な実装とチュートリアルの包括的なコレクションです。様々なRAG (Retrieval Augmented Generation) 技術、ファインチューニング・パイプライン、およびマルチモーダル・エージェント型ワークフローを示すことで、基本的なチャットボット開発とプロダクション環境向けのシステムとの間のギャップを埋めます。

How it works

このリポジトリは、いくつかの独立したプロジェクトに構成されており、それぞれが特定のAI機能に焦点を当てています：

  • RAG Systems: LangChainやLlamaIndexを使用して、事前処理されたドキュメント、リアルタイムのアップロード、または特定のウェブサイトをクエリできるチャットボットを含む、複数の検索戦略を実装しています。
  • Agentic Workflows: LangGraphを使用して、自律的な意思決定、関数呼び出し (function calling)、およびDuckDuckGo経由のインターネット検索が可能なチャットボットを構築します。
  • Multimodal Capabilities: テキストや音声のインタラクションに加え、画像生成のためのStable Diffusionと画像理解のためのLLavaを統合しています。
  • Fine-tuning: 生のデータを処理し、複数のLLMをファインチューニングしてドメイン固有のチャットボットを作成するためのパイプラインを提供します。
  • Open-Source Deployment: Google Gemma7BおよびBAAI embeddingモデルを使用したオンプレミス展開を示します。

Who it’s for

基本的なLLMプロンプトから、現実世界のアーキテクチャパターン（マイクロサービスやDockerなど）を用いて、複雑でマルチモーダルかつ検索拡張型のアプリケーションを構築したい開発者やAI実務家。

Highlights

  • Diverse RAG Implementations: LangChainとLlamaIndexにおける5つの異なるRAG技術の比較。
  • Multimodal Integration: テキスト、音声、画像、およびウェブ検索を処理できる単一のチャットボット (HUMAIN)。
  • Production-Style Design: Docker Composeを使用したマイクロサービスアーキテクチャや、Weave Scopeによる視覚的なモニタリングの例を含みます。
  • End-to-End Fine-tuning: 生データの処理からモデルの評価およびデプロイまでの完全なパイプライン。"},