opensquilla/opensquilla

解決する課題

OpenSquillaは、トークン効率の高いエージェントフレームワークを提供することで、大規模言語モデルの使用に伴う高コストと複雑さの課題を解決します。インテリジェントなルーティングと異なるインターフェース間での統一されたインタラクションを通じて、予算を最小限に抑えつつ能力を最大限に引き出すことを目指しています。

仕組み

このシステムはマイクロカーネルアーキテクチャを採用しており、ローカルモデルルーター（SquillaRouter）が各インタラクションを、特定のタスクを処理可能な最もコスト効率の高いモデルに振り分けます。ツールディスパッチ、リトライ、意思決定ログを管理する単一の共有ターンループを特徴としています。エージェントには、永続メモリ、レイヤードサンドボックス、組み込みのウェブ検索、およびデバイス上の埋め込みが含まれます。プラグイン可能なレイヤーを介して、OpenAI、Anthropic、Ollama、DeepSeekを含む幅広いプロバイダーをサポートしています。

対象者

• エンドユーザー: デスクトップまたはCLIベースのAIアシスタントを探している方。
• 開発者: Web UI、CLI、およびさまざまなチャットチャネル（Slack、Discord、Telegramなど）で同一に動作する統一されたエージェントループを必要としている方。
• プライバシーを重視するユーザー: ローカルルーティングと、データおよびテレメトリを管理する機能を求める方。

ハイライト

• インテリジェントなルーティング: デバイス上のルーターを使用して、最も安価で実行可能なモデルを選択します。
• マルチインターフェース対応: Web UI、CLI、チャットチャネル間で一貫した動作を実現します。
• 広範なプロバイダーサポート: OpenRouterやOllama経由のローカルモデルを含む、20以上のLLMプロバイダーに接続可能です。
• 豊富な機能セット: 永続メモリ、ウェブ検索、サンドボックス実行が含まれます。
• 柔軟なデプロイ: デスクトップアプリ、CLIツール、またはソースからのインストールで利用可能です。