crmne/ruby_llm

解決する課題

RubyLLMは、RubyおよびRailsアプリケーションへのAI機能の統合を簡素化するために設計されたネイティブRubyフレームワークです。19の異なるAIプロバイダーと対話するための統一APIを提供し、開発者はアプリケーションロジックを書き直すことなく、ホスト型モデルとローカルモデルを切り替えることができます。

仕組み

このフレームワークは、さまざまなAIプロバイダー（OpenAI、Anthropic、Gemini、Ollamaなど）の上に抽象化レイヤーとして機能します。チャット、画像・動画生成、音声文字起こし、OCRなどのタスクに対して、単一の一貫したインターフェースを使用できます。ツール使用（関数呼び出し）、エージェントループ、Rubyスキーマによる構造化出力など、高度なAIパターンをサポートしています。

対象者

会話エージェント、文書分析、マルチモーダルAIなどのAI機能を構築したいRubyおよびRails開発者。特定のプロバイダーのSDKに縛られることなく、これらの機能を実現できます。

ハイライト

• 統一プロバイダーAPI: OpenAI、Azure、xAI、Anthropic、Gemini、VertexAI、Bedrock、Cohere、DeepSeek、Ollamaを含む19のプロバイダーをサポート。
• マルチモーダル機能: 画像、動画、音声の分析、および画像・動画の生成を組み込みでサポート。
• エージェントフレームワーク: 特定の指示とツールを持つ再利用可能なエージェントを作成するためのツール。人間が介在する承認ワークフローも含みます。
• Rails統合: 永続化のためのActive Record、添付ファイルのためのActive Storage、ストリーミング応答のためのHotwireとの深い統合。
• 評価スイート: データセットとモデルベースの評価器を使用してエージェントの正確性をテストするシステム。
• 開発者ツール: プロンプトテンプレート（ERB）、コスト追跡、トークンカウント、プロンプトキャッシュを含みます。