gabrielchasukjin/cloi

何を解決するか

Cloi はターミナル向けのローカルファースト型コードエージェントで、自然言語インターフェースを通じてコードベースとやり取りできます。Ollama を完全にローカルで使用することで、外部の API キーやデータの送信が不要になり、すべてのデータはホストマシン上に保持されます。

動作方法

Cloi は Ollama と統合し、エージェントがファイルの読み取り、検索、編集、シェルコマンドの実行ができるツール使用ループを実行します。正確性を確保するための複数の信頼性メカニズムを採用しています：

• ハードウェアに応じたモデル選択： VRAM、RAM、コア数を測定し、各ステップに適した主要モデルと、複雑なタスク用のより大きなフォールバックモデルを提案します。
• エスカレーションロジック： エージェントが詰まった場合（例：繰り返し同じ呼び出し、連続したツール失敗）、自動的により大きなフォールバックモデルに会話を引き渡します。
• 検証機能： ファイル内容に関する主張は、実際のワークスペース状態と照合して検証され、幻覚を防ぎます。
• 結果キャッシュ： 大きな結果は保存され、後で再利用可能になり、重複するツール呼び出しを減らします。
• Pythonインタプリタ： セッション全体で利用可能なインタプリタにより、エージェントは複雑な論理、算術、またはファイル操作を1つのセルで実行でき、複数のツール呼び出しを必要としません。
• コンテキスト管理： Ollama がトークンを静かに破棄するのではなく、会話の古い部分を要約してコンテキストを維持します。

対象ユーザー

完全にプライベートで、自らのハードウェア上でローカルに実行され、ターミナル内で直接動作する AI コードアシスタントを求める開発者。

特徴

• ローカルファースト： Ollama で駆動され、API キーやデータ送信が不要です。
• 動的モデルルーティング： タスクの種類を事前に予測するのではなく、観察された失敗に基づいてより大きなモデルに切り替えます。
• 組み込み検証： 引用や行番号の照合を自動で実行し、実際のファイルと照らし合わせます。
• 統合型 Python インタプリタ： エージェントのワークフロー内で効率的なデータ処理やループを可能にします。
• ワークスペースガードレール： パスをワークスペースに制限し、書き込みやシェルコマンドの実行にはユーザーの許可が必要です。