crmne/ruby_llm

何を解決するか

RubyLLM は、Ruby および Rails アプリケーションに AI 機能を統合しやすくするためのネイティブ Ruby フレームワークです。OpenAI、Anthropic、Google、Ollama を通じたローカルモデルなど、複数の AI プロバイダーとやり取りするための単一で一貫した API を提供し、各機能ごとにプロバイダー固有のコードを書く必要がありません。

動作方法

このフレームワークは抽象化レイヤーとして機能し、異なるプロバイダー間で同じ Ruby メソッドを使ってさまざまな AI タスクを実行できるようにします。Ruby on Rails と深く統合されており、Active Record を使って永続化、Active Storage を使ってファイル添付、Hotwire を使ってレスポンスのストリーミングをサポートしています。モデルレジストリ、ツール呼び出し、使用量の追跡、バッチ処理などの複雑な処理は、裏で自動的に処理されます。

対象ユーザー

Ruby および Rails デベロッパーで、チャットボット、エージェント、マルチモーダル AI などの AI ベースの機能を、洗練された Ruby ネイティブ構文を使って既存のアプリケーションに組み込みたい方におすすめです。

主な特徴

• マルチモーダル対応: 一貫したインターフェースでテキスト、画像、音声、動画、PDF を処理できます。
• エージェント機能: 特定の指示とツールを持つ再利用可能なエージェントの作成をサポートし、ツール実行には人間の承認（ヒューマン・イン・ザ・ループ）も可能。
• 広範なプロバイダー対応: OpenAI、Azure、xAI、Anthropic、Gemini、Bedrock、DeepSeek など 17 以上のプロバイダーをネイティブサポート。
• Rails 統合: インストール用ジェネレーター、データベースマイグレーション、オプションの即時利用可能なチャット UI を提供。
• 高度な AI ツール: Ruby スキーマを用いた構造化出力、埋め込み、再ランク、OCR、モデレーションなどの機能を備えています。
• 運用ツール: コスト追跡、トークン数カウント、プロンプトキャッシュ、ファイバー基の非同期並行処理を内蔵。