itigges22/ATLAS

解决的问题

ATLAS 使紧凑的开源大模型能够在本地执行复杂的软件工程任务。它通过为模型配备计划、候选生成、验证和迭代修复系统，解决了小型模型缺乏前沿模型所具备的内在推理能力和可靠性的问题，同时在不依赖外部 API 的情况下，仅使用消费级硬件即可运行。

工作原理

ATLAS 实现了多层架构以增强模型性能：

• V3 流水线：通过约束驱动的规划（PlanSearch）、多样化的候选采样（DivSampling）以及通过 PR-CoT 修复和迭代优化循环，将单个提示转化为已验证的解决方案。
• 几何透镜：一种基于能量的评分系统，利用模型自身的嵌入和 XGBoost 集成模型，无需外部 oracle 即可预测候选质量。
• Atlas-Proxy：基于 Go 语言的协调器，负责工具调用路由、通过 GBNF 模式强制输出语法，并应用偏差缓解策略，引导模型进行结构化修改。
• 沙箱：一个隔离的执行环境，在代码被接受前，会对其在多种语言（Python、Rust、Go、C 等）中进行编译、Lint 检查和测试。
• 本地推理：使用 llama-server 实现 GPU 加速的量化推理，支持 NVIDIA、AMD、Apple Silicon 和 Vulkan。

适用人群

希望在自有硬件（需 16GB+ VRAM）上运行私有、自托管编码代理的开发者，以及希望使用更小、开源权重模型进行软件开发，避免按 token 计费或数据隐私问题的用户。

核心亮点

• 本地优先：完全自托管，无需第三方 API 密钥。
• 验证循环：在沙箱中编译并测试代码，确保交付前的正确性。
• 硬件无关：支持广泛的 GPU，包括 NVIDIA CUDA、AMD ROCm、Apple Metal 和 Vulkan。
• 原生 TUI：内置基于 Bubbletea 的终端界面，可实时聊天并监控流水线状态。
• 模型无关：支持用户导入自己的 GGUF 模型，并可在自身工作负载上重新训练几何透镜。