nicedreamzapp/claude-code-local

Run Claude Code 100% on-device with local AI on Apple Silicon. MLX-native Anthropic-API server. 6 fighters incl. Muse-Glimmer 30B (now multimodal — reads images, abliterated), Gemma 4 31B, Qwen 3.5 122B (65 tok/s), DeepSeek V4 Flash (1M ctx). Private, offline, airgap-ready. Built for NDA / legal / healthcare workflows.

Claude Code Local – 在您的 Mac 上运行 Anthropic 风格的编码 AI

它是什么

  • 一个微型 Python 服务器,使用与 Claude Code 预期相同的 Anthropic Messages API 进行通讯,但透过 MLX 运行环境在 Apple Silicon Mac 上运行 本地 LLM。
  • 该服务器将 Gemma 4、Qwen 3.8 或 Llama-JSON 等模型的工具调用格式转换为 Claude Code 可理解的格式,快取提示词,并将响应串流回编辑器。

为什么您会需要它

  • 无需云端、无需 API 金钥,且您的原始文件永远不会离开机器——非常适合注重隐私的编码需求。
  • 可在 16 GB 的 MacBook 上运行,并可扩展至 128 GB 的 M 系列芯片,自动选择适合您内存的模型。
  • 为 Claude Code 的默认云端后端提供直接替换方案,因此 UI 和工作流程完全保持不变。

关键组件

组件 角色
proxy/server.py 基于 MLX 的推论服务器;实作 Anthropic 相容的端点,处理串流、工具调用转换和提示词快取重用。
agent/agent.py 轻量级“Native Engine”——一个单文件终端机编码代理,使用简短的系统提示词在对话间保持快取。
bin/keepgoing* 寻找上一个 Claude Code 对话阶段,并在您的 Claude 额度用尽时,让您使用免费云端模型或其他本地模型继续对话。
install.sh, setup.sh, scripts/doctor.sh 侦测您的 Mac 内存,下载适当的模型(Gemma 4 E4B、Hermes 4、Gemma 12/31B、Qwen 3.8 等),安装 MLX Python 环境,并建立桌面启动器。
launchers/ 可双击的脚本,启动指向本地服务器的 Claude Code,以及 Native Engine、浏览器驱动代理、语音模式和手机控制的变体。

运作方式(高阶流程)

您的编辑器 (Claude Code) → HTTP 请求至 http://localhost:4000 (本仓库的服务器) →
MLX 运行环境在 Apple GPU 上执行所选模型 → 响应串流回 Claude Code

该服务器直接使用 Claude Code 的 API,避免了许多其他本地 AI 设置所使用的较慢的“OpenAI 风格”转换器。

开始使用

  1. 执行单行安装程序:
curl -fsSL https://raw.githubusercontent.com/nicedreamzapp/claude-code-local/main/install.sh | bash
  1. 脚本会根据您的内存选择模型、下载它,并在您的桌面上放置一个 Claude Local.command 快捷方式。
  2. 双击快捷方式,像往常一样启动 Claude Code,AI 响应现在将在本地生成。

支持的模型(自动选择,但您可以自行更换):

  • Qwen 3.8 27B – 最适合 96 GB+ 的 Mac,8-bit MLX 构建。
  • Gemma 4 31B – 在 64-95 GB 的 Mac 上速度很快。
  • Gemma 4 12B – 适合 32-63 GB 的 Mac。
  • Hermes 4 14B – 可在 16 GB 的 Mac 上运行。
  • 社区提供的构建版本(Muse Glimmer、Nemotron 3 Nano Omni)仅供参考。

扩充设置

  • 使用 Native Engine 启动器以获得超快速的终端机专用编码助手。
  • 结合作者的其他仓库(Trinidad Head 终端机、浏览器代理、语音模式、手机控制)以获得完整的“本地优先”AI 工作站。
  • 如果您偏好不同的本地服务器,README 中提到了 Ollama、claude-code-router 或 claude-code-proxy 等替代方案。

隐私与安全

  • 所有流量仅限于 localhost;lsof 显示仅有本地端口在使用中。
  • 该项目透过环境旗标停用了 Claude Code 的后台遥测和市集自动安装功能。
  • 除了您刻意透过 keep-going 菜单选择免费云端模型外,没有任何外部依赖项会进行网络调用。

授权

  • MIT – 您可以自由修改、重新散布或将服务器嵌入您自己的工作流程中。

总结 Claude Code Local 为您提供相同的 Claude Code 编码助手体验,同时将繁重的 LLM 推论保留在设备上,并透过 MLX 利用 Apple Silicon 的 GPU。它是 Anthropic 风格工具与日益成长的开源本地模型生态系统之间实用且隐私优先的桥梁。

相关

  • 项目
  • 项目
  • 项目
  • Dispatch
  • 项目