要让 Free Claude Code 在本地运行,核心是将后端指向你本机启动的 Ollama、LM Studio 或 llama.cpp 服务,并配置对应的 MODEL 环境变量。本地模型零成本、高隐私,但工具调用能力弱于云端大模型,需注意模型选择与上下文长度设置。
Free Claude Code 接入 Ollama 和 LM Studio:本地模型零成本跑 Claude Code
使用 Free Claude Code 的核心优势之一,是其灵活的后端架构。除了连接云端 API,你完全可以将它配置为使用运行在自己电脑上的本地模型,实现真正的零成本和完全离线。本文将指导你配置 Ollama、LM Studio 和 llama.cpp 三种主流本地后端。
为什么选本地模型
将 AI 编程助手的数据全部留在本地,有几个明确的优势:
- 零成本:没有 API 调用费用,对于日常学习、实验和个人项目开发而言,可以完全消除费用顾虑。
- 隐私与安全:你的代码、项目结构和所有对话内容都不会离开本机,这对于处理敏感代码或企业内部项目至关重要。
- 离线可用:不依赖互联网连接,在没有网络的环境下依然可以使用 AI 辅助编程。
需要明确的是,当前本地小模型(7B-13B 参数)在复杂的代码生成、精准的工具调用和长上下文理解方面,与云端的 Claude Opus/Sonnet 存在差距。一个务实的“古法编程”实践是:先用云端模型跑通核心工作流,再用本地模型处理对能力要求稍低的辅助任务,或用于断网应急。
Ollama 配置
Ollama 是一个轻量级、易于使用的本地大模型运行框架,非常适合命令行爱好者。
安装与启动
# macOS 或 Linux 安装
curl -fsSL https://ollama.com/install.sh | sh
# 拉取一个模型,例如 llama3.1
ollama pull llama3.1
# 启动 Ollama 服务(通常无需手动,后台服务会自动运行)
# 若需手动启动:
ollama serve
Windows 用户请直接访问 ollama.com 下载安装包,安装后 Ollama 服务会自动在后台启动。
配置 Free Claude Code
在启动 Claude Code 前,设置以下环境变量:
export OLLAMA_BASE_URL="http://localhost:11434"
export MODEL="ollama/llama3.1"
关键配置点:
OLLAMA_BASE_URL是 Ollama 服务的根地址,请注意,这里不要添加/v1后缀。Ollama 默认监听11434端口。MODEL变量中的模型名需要与ollama list命令显示的名称一致,例如ollama/llama3.1:8b。
验证服务
- 检查 Ollama 服务:运行
curl http://localhost:11434/api/tags,正常应返回已下载的模型列表 JSON。 - 启动 Claude Code:
如果配置正确,Claude Code 会通过本地代理连接到你本机的 Ollama 模型。ANTHROPIC_AUTH_TOKEN="freecc" ANTHROPIC_BASE_URL="http://localhost:8082" claude
LM Studio 配置
LM Studio 提供了一个友好的图形界面,可以方便地下载、管理和运行本地模型,并内置了兼容 OpenAI 的 API 服务器。
安装与配置
- 从官网 lmstudio.ai 下载并安装 LM Studio。
- 在应用内搜索并下载一个模型(推荐选择标注支持
tool use或参数量较大的模型)。 - 加载模型后,在应用左侧栏找到“Local Server”标签页,点击“Start Server”启动本地服务。默认地址为
http://localhost:1234。
配置 Free Claude Code
export LM_STUDIO_BASE_URL="http://localhost:1234/v1"
export MODEL="lmstudio/你的模型显示名"
关键配置点:
- 与 Ollama 不同,
LM_STUDIO_BASE_URL必须包含/v1后缀,因为 LM Studio 的 API 服务器严格遵循此路径。 MODEL变量中的名称应使用 LM Studio 界面中显示的模型标识符。
llama.cpp 配置
llama.cpp 是一个高性能的 C/C++ 推理库,其 llama-server 工具可以直接提供一个兼容 OpenAI 和部分 Anthropic 协议的 HTTP 服务。
安装与启动
你需要自行编译 llama.cpp 或下载预编译版本,然后启动其服务器组件:
# 启动 llama-server
llama-server -m /path/to/your-model.gguf --ctx-size 8192 --port 8080
配置 Free Claude Code
export LLAMACPP_BASE_URL="http://localhost:8080/v1"
export MODEL="llamacpp/模型标识"
注意事项
- 上下文长度:
--ctx-size参数至少设为 8192。Claude Code 的提示词较长,如果上下文过小,服务器会返回 HTTP 400 错误。 - 协议兼容性:确保你使用的 llama.cpp 版本较新,以支持 Anthropic Messages 格式的
/v1/messages端点。
本地模型的工具调用能力问题
Claude Code 的强大功能(如读写文件、执行命令、搜索代码)高度依赖模型精准的工具调用(Tool Use) 能力。本地模型在这方面的表现是配置时必须考虑的核心因素。
根据测试,不同规模和来源的本地模型,其工具调用能力存在显著差异:
| 能力维度 | 云端大模型 (Claude Opus/Sonnet) | 本地小模型 (7B-13B 参数) |
|---|---|---|
| 简单工具调用 | 准确、可靠 | 大部分模型能够执行 |
| 多工具并行调用 | 稳定,能同时处理多个工具 | 可能丢失部分工具请求 |
| 工具参数格式 | 严格符合 JSON Schema | 容易出现格式错误(如多余逗号、字段类型错误) |
| 流式工具调用 | 稳定,SSE 事件流完整 | 可能出现事件流中断或格式问题 |
应对策略:
- 模型选择:优先选择在模型描述或社区反馈中明确支持
tool use或function calling的模型。 - 升级模型:如果 7B 模型工具调用频繁失败,尝试使用参数量更大的本地模型(如 13B、70B),能力会有质的提升。
- 回退方案:当本地模型无法完成复杂任务时,及时切换到云端 Provider(如 OpenRouter、DeepSeek)以保证工作流连续性。
FAQ
Q: 本地模型加载或生成响应太慢怎么办? A: 首先,使用量化版本的模型(如 GGUF 格式的 Q4_K_M 或 Q5_K_M),这在模型大小和推理速度之间取得了较好平衡。Ollama 默认使用的模型通常已经是量化版本。其次,确保你的电脑有足够的内存(RAM)或显存(VRAM)。
Q: 配置 llama.cpp 后启动 Claude Code 报 HTTP 400 错误?
A: 这通常是由于 --ctx-size 设置过小导致的。Claude Code 的请求包含较长的上下文,增加此参数(例如设置为 8192 或更高)即可解决。同时,请确认你的 llama.cpp 版本支持所需的 API 协议。
Q: Ollama 和 LM Studio 该选哪个? A: 两者都提供 OpenAI 兼容 API。Ollama 更轻量,适合喜欢命令行和脚本化管理的开发者。LM Studio 提供图形界面,对非技术用户或希望直观管理模型的人更友好。根据你的使用习惯选择即可。
Q: 本地模型能用 Claude Code 的“思考”模式吗?
A: 这取决于具体模型。根据项目文档,在 Free Claude Code 的 provider 目录中,Ollama 被标记为支持 thinking 能力。对于 LM Studio 和 llama.cpp,则需要确认你所加载的模型本身是否支持类似“思考”的推理特性。