zmedelis/bosquet

What it solves

Bosquet は、プロンプトテンプレート、LLM コンテキストウィンドウ、外部ツールや API とのエージェントインタラクションを管理するための構造化フレームワークを提供し、複雑な AI アプリケーションの開発を簡素化します。

How it works

Bosquet は LLMOps レイヤーとして、以下の主要コンポーネントを統合します：

• Prompt Management：Selmer テンプレートライブラリを使用して動的プロンプト作成を処理します。
• Execution Graph：Pathom グラフ処理マシンを利用し、プロンプトのチェーンと合成を可能にします。
• Agentic Tools：LLM（OpenAI や Ollama など）が外部データにアクセスしたり計算を実行したりできるツールを定義する抽象化を提供します。
• Service Management：LLM サービスの設定、API キー、レスポンスキャッシュを管理し、パフォーマンスとコストを最適化します。
• Memory Handling：LLM のメモリを管理し、限られたコンテキストウィンドウの制約を回避します。

Who it’s for

複雑なプロンプトワークフローを整理し、外部ツールを統合し、LLM インタラクションのライフサイクルを管理したい、非凡な AI アプリケーションを構築する開発者向けです。

Highlights

• Prompt Chaining：複数のプロンプトを組み合わせ、あるプロンプトの出力を次のプロンプトの入力として使用できます。
• Tool Integration：OpenAI と Ollama モデル用のツール定義と実行を組み込みでサポートします。
• Flexible Templating：高度なプロンプトテンプレートのために Selmer と統合しています。
• CLI Support：プロンプトのテストや LLM 設定の管理のためのコマンドラインインターフェースを含みます。