itigges22/ATLAS

何を解決するか

ATLASは、コンパクトなオープンソースLLMがローカルで複雑なソフトウェアエンジニアリングタスクを実行できるようにします。小さなモデルが先端モデルに比べて内在的な推論力や信頼性に欠ける問題を、計画、候補生成、検証、反復的修正のシステムでモデルを補完することで解決します。すべての処理は外部APIに依存せず、コンシューマー向けハードウェア上で実行可能です。

動作方法

ATLASは、モデルのパフォーマンスを向上させるためのマルチレイヤーアーキテクチャを実装しています。

• V3パイプライン: 制約駆動型計画（PlanSearch）、多様な候補サンプリング（DivSampling）、PR-CoT Repairによる反復的自己修正とフィードバックループを用いて、単一のプロンプトから検証済みの解決策へと変換します。
• 幾何学的レンズ: モデル自身の埋め込みとXGBoostアンサンブルを使用するエネルギーに基づくスコアリングシステムで、外部オラクルを必要とせずに候補の品質を予測します。
• Atlas-Proxy: Go言語で構築されたオーケストレーターで、ツール呼び出しのルーティングを管理し、GBNFスキーマによる出力構文の強制、構造的編集を促すバイアス緩和を実施します。
• サンドボックス: 生成されたコードがコンパイルされ、複数言語（Python、Rust、Go、Cなど）でLintおよびテストされる、隔離された実行環境です。承認される前に検証されます。
• ローカル推論: NVIDIA、AMD、Apple Silicon、VulkanをサポートするGPUアクセラレーテッド量子化推論にllama-serverを使用します。

対象ユーザー

自宅のハードウェア（16GB以上VRAM必須）でプライベートかつ自己ホスト型のコーディングエージェントを動かしたい開発者、およびトークン単位のコストやデータプライバシーの懸念なく、より小さなオープンウェイトモデルでソフトウェア開発を行いたいユーザー。

特徴

• ローカル最優先: 第三者APIキーの必要なし。完全に自己ホスト型。
• 検証ループ: サンドボックス内でコードをコンパイル・テストし、配信前に正しさを保証します。
• ハードウェア非依存: NVIDIA CUDA、AMD ROCm、Apple Metal、Vulkanを含む幅広いGPUをサポート。
• ネイティブTUI: Bubbleteaベースのターミナルインターフェースを備え、リアルタイムでチャットやパイプラインの監視が可能。
• モデル非依存: ユーザーが独自のGGUFモデルを導入でき、自身のワークロードで幾何学的レンズを再トレーニング可能。