inferstep/ATLAS

解決する課題

ATLASは、コンパクトなオープンソースモデルが複雑なソフトウェアエンジニアリングタスクを実行できるように設計されたローカルコーディングエージェントです。フロンティアモデルが持つネイティブな推論・検証能力を欠く小型モデルの問題を、LLMを計画、候補生成、品質スコアリング、サンドボックステストのシステムで囲むことで解決します。

仕組み

ATLASはモデルのパフォーマンスを向上させる多層アーキテクチャを実装しています：

• V3パイプライン: 制約駆動型計画（PlanSearch）、多様な候補サンプリング（DivSampling）、反復修復ループ（PR-CoT）を使用して、単一のプロンプトを検証済みコード候補に変換する多相生成プロセス。
• Geometric Lens: モデル自身の埋め込みを使用して、MLPとXGBoostアンサンブルを介して候補の品質を予測するエネルギーベースのスコアリングシステム。外部オラクルなしで候補を拒否または選択できます。
• Atlas-Proxy: ツールコールのルーティングを処理し、GBNFスキーマを介して出力文法を強制し、バイアス軽減を適用してモデルを構造的編集へ導くGoベースのオーケストレーション層。
• サンドボックス: 生成されたコードがコンパイル、リンターチェック、既存または自己生成のテストスイートに対するテストが行われる隔離された実行環境。
• ローカル推論: GPUアクセラレーションによる量子化推論にllama-serverを使用し、NVIDIA、AMD、Apple Silicon、Vulkanをサポート。

対象ユーザー

プライバシーを維持し、トークンごとのAPI費用を回避し、オープンウェイトモデルを使用したい、完全に自社ハードウェア（16GB以上のVRAM）で実行される強力なセルフホスト型コーディングエージェントを求める開発者向けです。

ハイライト

• ローカルファースト: ホスト型APIやサードパーティキーは不要。コンシューマーGPU上で完全に実行。
• 検証ループ: コードはプロジェクトに書き込まれる前にサンドボックスで検証され、幻覚を軽減。
• エージェント型ワークフロー: ファイルコンテキストとシェル実行のためのスラッシュコマンドを備えたネイティブBubbletea TUIを含む。
• モデル非依存: さまざまなGGUFモデルをサポートし、ローカルLensおよびASAのトレーニング/再トレーニングツールを提供。
• ハードウェア汎用性: CUDA、ROCm、Metal、Vulkanを幅広くサポート。