AtomicBot-ai/atomic-agent

解決する課題

Atomic Agent は、ユーザーのマシン上で実行されるローカルファースト型AIエージェントで、クラウドホスティングされたエージェントに伴う高コスト、遅延、プライバシーの懸念を回避しながら、複雑で多段階のタスクを実行できます。特に、会話履歴が長くなるにつれてローカルモデルが苦労する「コンテキストの肥大化」問題に対処しています。これにより、時間とともに処理が遅くなり、効果が低下する状況を回避します。

動作方法

このプロジェクトは、LLMに送信するデータ量を最小限に抑えるコンテキスト効率型エージェントループを実装しています。各ターンで履歴全体を再送信するのではなく、プロンプト、決定、実行、圧縮のプロセスを用いて、結果を要約する形で処理します。

コンシューマー向けハードウェアでのパフォーマンス最適化のために、KVキャッシュ圧縮（最大6.4倍）、Lloyd-Max重み量子化、およびGemma 4やQwen 3.6などのモデル向けのカスタムスペキュレーティブデコードを備えたカスタムTurboQuant llama.cppバックエンドを使用しています。また、GBNF文法を用いて、ツール呼び出しのJSON配列が常に有効になるようにしています。

対象ユーザー

開発者やパワーユーザー向けに設計されており、デスクトップ（ブラウザ、ファイルシステム、シェル）を制御できるプライベートなローカルAIアシスタントを必要とする方々に最適です。HTTP経由またはTauriサイドカーとして自社アプリと統合可能です。

主な特徴

• デスクトップ制御: Playwright経由でウェブをナビゲート、ファイル編集、承認済みシェルコマンドの実行、クリップボード管理が可能。
• ローカルファースト記憶: プロファイルの事実、エピソードノート、学びをローカルのSQLiteストアに保存し、プロンプトに埋め込むのではなく、ツールコールで参照します。
• uma MCP対応: 外部Model Context Protocol (MCP) サーバーに接続し、ツールレジストリを拡張可能。
• ハードウェア最適化: コンシューマーGPU/CPU上で小規模な量子化モデルを特に最適化し、高いスループットと精度を維持。
• 柔軟なプロバイダー対応: ローカルの llama-server、OpenAI互換API、OpenRouter、Gemini、および既存の Claude Code と OpenAI Codex サブスクリプションをサポート。