要让 Free Claude Code 在本地运行,核心是将后端指向你本机启动的 Ollama、LM Studio 或 llama.cpp 服务,并配置对应的 MODEL 环境变量。本地模型零成本、高隐私,但工具调用能力弱于云端大模型,需注意模型选择与上下文长度设置。

Free Claude Code 接入 Ollama 和 LM Studio:本地模型零成本跑 Claude Code

使用 Free Claude Code 的核心优势之一,是其灵活的后端架构。除了连接云端 API,你完全可以将它配置为使用运行在自己电脑上的本地模型,实现真正的零成本和完全离线。本文将指导你配置 Ollama、LM Studio 和 llama.cpp 三种主流本地后端。

为什么选本地模型

将 AI 编程助手的数据全部留在本地,有几个明确的优势:

  • 零成本:没有 API 调用费用,对于日常学习、实验和个人项目开发而言,可以完全消除费用顾虑。
  • 隐私与安全:你的代码、项目结构和所有对话内容都不会离开本机,这对于处理敏感代码或企业内部项目至关重要。
  • 离线可用:不依赖互联网连接,在没有网络的环境下依然可以使用 AI 辅助编程。

需要明确的是,当前本地小模型(7B-13B 参数)在复杂的代码生成、精准的工具调用和长上下文理解方面,与云端的 Claude Opus/Sonnet 存在差距。一个务实的“古法编程”实践是:先用云端模型跑通核心工作流,再用本地模型处理对能力要求稍低的辅助任务,或用于断网应急。

Ollama 配置

Ollama 是一个轻量级、易于使用的本地大模型运行框架,非常适合命令行爱好者。

安装与启动

# macOS 或 Linux 安装
curl -fsSL https://ollama.com/install.sh | sh

# 拉取一个模型,例如 llama3.1
ollama pull llama3.1

# 启动 Ollama 服务(通常无需手动,后台服务会自动运行)
# 若需手动启动:
ollama serve

Windows 用户请直接访问 ollama.com 下载安装包,安装后 Ollama 服务会自动在后台启动。

配置 Free Claude Code

在启动 Claude Code 前,设置以下环境变量:

export OLLAMA_BASE_URL="http://localhost:11434"
export MODEL="ollama/llama3.1"

关键配置点

  • OLLAMA_BASE_URL 是 Ollama 服务的根地址,请注意,这里不要添加 /v1 后缀。Ollama 默认监听 11434 端口。
  • MODEL 变量中的模型名需要与 ollama list 命令显示的名称一致,例如 ollama/llama3.1:8b

验证服务

  1. 检查 Ollama 服务:运行 curl http://localhost:11434/api/tags,正常应返回已下载的模型列表 JSON。
  2. 启动 Claude Code
    ANTHROPIC_AUTH_TOKEN="freecc" ANTHROPIC_BASE_URL="http://localhost:8082" claude
    如果配置正确,Claude Code 会通过本地代理连接到你本机的 Ollama 模型。

LM Studio 配置

LM Studio 提供了一个友好的图形界面,可以方便地下载、管理和运行本地模型,并内置了兼容 OpenAI 的 API 服务器。

安装与配置

  1. 从官网 lmstudio.ai 下载并安装 LM Studio。
  2. 在应用内搜索并下载一个模型(推荐选择标注支持 tool use 或参数量较大的模型)。
  3. 加载模型后,在应用左侧栏找到“Local Server”标签页,点击“Start Server”启动本地服务。默认地址为 http://localhost:1234

配置 Free Claude Code

export LM_STUDIO_BASE_URL="http://localhost:1234/v1"
export MODEL="lmstudio/你的模型显示名"

关键配置点

  • 与 Ollama 不同,LM_STUDIO_BASE_URL 必须包含 /v1 后缀,因为 LM Studio 的 API 服务器严格遵循此路径。
  • MODEL 变量中的名称应使用 LM Studio 界面中显示的模型标识符。

llama.cpp 配置

llama.cpp 是一个高性能的 C/C++ 推理库,其 llama-server 工具可以直接提供一个兼容 OpenAI 和部分 Anthropic 协议的 HTTP 服务。

安装与启动

你需要自行编译 llama.cpp 或下载预编译版本,然后启动其服务器组件:

# 启动 llama-server
llama-server -m /path/to/your-model.gguf --ctx-size 8192 --port 8080

配置 Free Claude Code

export LLAMACPP_BASE_URL="http://localhost:8080/v1"
export MODEL="llamacpp/模型标识"

注意事项

  • 上下文长度--ctx-size 参数至少设为 8192。Claude Code 的提示词较长,如果上下文过小,服务器会返回 HTTP 400 错误。
  • 协议兼容性:确保你使用的 llama.cpp 版本较新,以支持 Anthropic Messages 格式的 /v1/messages 端点。

本地模型的工具调用能力问题

Claude Code 的强大功能(如读写文件、执行命令、搜索代码)高度依赖模型精准的工具调用(Tool Use) 能力。本地模型在这方面的表现是配置时必须考虑的核心因素。

根据测试,不同规模和来源的本地模型,其工具调用能力存在显著差异:

能力维度 云端大模型 (Claude Opus/Sonnet) 本地小模型 (7B-13B 参数)
简单工具调用 准确、可靠 大部分模型能够执行
多工具并行调用 稳定,能同时处理多个工具 可能丢失部分工具请求
工具参数格式 严格符合 JSON Schema 容易出现格式错误(如多余逗号、字段类型错误)
流式工具调用 稳定,SSE 事件流完整 可能出现事件流中断或格式问题

应对策略

  1. 模型选择:优先选择在模型描述或社区反馈中明确支持 tool usefunction calling 的模型。
  2. 升级模型:如果 7B 模型工具调用频繁失败,尝试使用参数量更大的本地模型(如 13B、70B),能力会有质的提升。
  3. 回退方案:当本地模型无法完成复杂任务时,及时切换到云端 Provider(如 OpenRouter、DeepSeek)以保证工作流连续性。

FAQ

Q: 本地模型加载或生成响应太慢怎么办? A: 首先,使用量化版本的模型(如 GGUF 格式的 Q4_K_M 或 Q5_K_M),这在模型大小和推理速度之间取得了较好平衡。Ollama 默认使用的模型通常已经是量化版本。其次,确保你的电脑有足够的内存(RAM)或显存(VRAM)。

Q: 配置 llama.cpp 后启动 Claude Code 报 HTTP 400 错误? A: 这通常是由于 --ctx-size 设置过小导致的。Claude Code 的请求包含较长的上下文,增加此参数(例如设置为 8192 或更高)即可解决。同时,请确认你的 llama.cpp 版本支持所需的 API 协议。

Q: Ollama 和 LM Studio 该选哪个? A: 两者都提供 OpenAI 兼容 API。Ollama 更轻量,适合喜欢命令行和脚本化管理的开发者。LM Studio 提供图形界面,对非技术用户或希望直观管理模型的人更友好。根据你的使用习惯选择即可。

Q: 本地模型能用 Claude Code 的“思考”模式吗? A: 这取决于具体模型。根据项目文档,在 Free Claude Code 的 provider 目录中,Ollama 被标记为支持 thinking 能力。对于 LM Studio 和 llama.cpp,则需要确认你所加载的模型本身是否支持类似“思考”的推理特性。