NVIDIA NIM 是驱动 Free Claude Code 运行的免费 GPU 后端。你只需在 NVIDIA 平台申请一个免费的 API Key,并将其配置到项目的 .env 文件中,指定一个 NIM 上托管的模型,即可让 Claude Code CLI 或 IDE 插件通过 NIM 的强大算力运行。本文提供从零开始的完整接入指南。
Free Claude Code 接入 NVIDIA NIM:免费 GPU 推力驱动 Claude Code
NVIDIA NIM 是 Free Claude Code 的默认推荐后端,它基于 NVIDIA 的 GPU 集群提供模型推理服务,并向开发者提供免费的 API 调用额度。通过将 Claude Code 接入 NIM,你可以几乎零成本地使用这些高性能模型来辅助编程。
为什么选择 NVIDIA NIM
选择 NVIDIA NIM 作为后端主要基于两个优势:
- 免费额度:NVIDIA 为开发者提供免费的 API 调用额度,对于日常的编程辅助、代码生成和问答等任务,这些额度通常足够使用。
- 模型丰富:NIM 平台上托管了来自多家厂商的模型,如智谱 GLM、月之暗面 Kimi、MiniMax 等,且模型库在持续更新。你可以在 build.nvidia.com/explore/discover 浏览所有可用模型。
一个关键的技术细节是协议转换。NVIDIA NIM 采用的是与 OpenAI 兼容的 Chat Completions 格式。Free Claude Code 代理在中间扮演了翻译官的角色:它接收来自 Claude Code 的 Anthropic Messages 请求,将其内部转换为 OpenAI Chat 格式发送给 NIM,再将 NIM 返回的流式响应转换回 Anthropic 的 SSE 格式。整个过程对 Claude Code 客户端完全透明,你无需关心底层格式差异。如果你之前配置过 OpenRouter 等后端,会发现这个机制是通用的。
申请 NVIDIA NIM API Key
获取 API Key 是接入的第一步,请按以下流程操作:
- 访问 NVIDIA 的开发者门户:build.nvidia.com/settings/api-keys。
- 如果你已有 NVIDIA 账号,直接登录;如果没有,需要完成注册。
- 在 API Keys 管理页面,点击创建一个新的 API Key。
- 创建成功后,立即复制并妥善保存该 Key。
提示:NVIDIA NIM 的 API Key 格式固定,以
nvapi-开头,后面是一串字母数字字符,例如nvapi-abcdefg123456。
配置 .env 环境变量
获取 API Key 后,需要将其配置到 Free Claude Code 项目中。在项目根目录下找到或创建 .env 文件,并填入以下内容:
NVIDIA_NIM_API_KEY="nvapi-你的完整密钥"
MODEL="nvidia_nim/z-ai/glm4.7"
ANTHROPIC_AUTH_TOKEN="freecc"
这里有两个关键配置:
NVIDIA_NIM_API_KEY:填入你刚刚申请的密钥。MODEL:这个值的格式是nvidia_nim/模型发布者/模型名。它精确地告诉代理两件事:一是使用nvidia_nim这个 Provider,二是调用哪个具体的模型。ANTHROPIC_AUTH_TOKEN是客户端连接代理时的简单密码,保持默认的freecc即可。
修改保存后,重启 Free Claude Code 代理服务以使配置生效。
可用模型推荐
NIM 平台上的模型众多,以下是经过社区实践验证,适用于 Claude Code 工作流(包括代码生成、解释、工具调用)的推荐模型:
| 模型 | 说明 |
|---|---|
nvidia_nim/z-ai/glm4.7 |
智谱 GLM-4.7,性能均衡,工具调用兼容性好,是默认推荐。 |
nvidia_nim/z-ai/glm5 |
智谱 GLM-5,能力更强。 |
nvidia_nim/moonshotai/kimi-k2.5 |
月之暗面 Kimi K2.5,擅长长上下文和复杂推理,但可能消耗更多 Token。 |
nvidia_nim/minimaxai/minimax-m2.5 |
MiniMax M2.5 模型。 |
切换模型非常简单:只需修改 .env 文件中 MODEL 的值为表格中的任意一个模型标识,然后再次重启代理即可。
验证连通性
配置完成后,通过以下步骤验证代理和 NIM 服务是否正常联通。
首先,检查代理服务状态:
curl http://localhost:8082/
如果一切正常,你将看到类似下面的 JSON 返回,确认了当前使用的 Provider 和 Model:
{"status":"ok","provider":"nvidia_nim","model":"z-ai/glm4.7"}
然后,启动 Claude Code CLI 并连接到代理:
ANTHROPIC_AUTH_TOKEN="freecc" ANTHROPIC_BASE_URL="http://localhost:8082" claude
在 Claude Code 中进行几句简单的对话,例如询问“如何用 Python 读取 CSV 文件”或让它写一个简单的函数。如果模型能正常响应,并且你发出的命令能调用到正确的工具(如文件读写),就说明接入成功。
进阶配置:网络代理与速率限制
在某些网络环境下,你可能需要通过代理服务器才能访问 NVIDIA 的 API。在 .env 中添加以下配置:
NVIDIA_NIM_PROXY="http://username:password@host:port"
支持 HTTP 和 SOCKS5 代理协议。配置后重启代理生效。
Free Claude Code 内置了请求速率限制,以避免在免费额度下被 API 服务端限流。默认配置如下:
PROVIDER_RATE_LIMIT=1 # 每个时间窗口内最大请求数
PROVIDER_RATE_WINDOW=3 # 时间窗口大小(秒)
PROVIDER_MAX_CONCURRENCY=5 # 最大并发请求数
这些默认值通常能适应 NIM 的免费额度策略。如果你频繁遇到 HTTP 429 错误(表示请求过多),可以尝试适当增大 PROVIDER_RATE_WINDOW 的值,例如将其改为 5 或 10,来降低请求频率。
FAQ
Q: NVIDIA NIM 的免费额度用完了怎么办? A: NIM 的免费额度是按模型独立计算的。你可以先尝试切换到推荐表中的其他模型(如从 GLM4.7 切换到 Kimi K2.5),可能会有新的额度。如果所有推荐模型额度都用尽,可以考虑接入 OpenRouter 或 本地模型 等其他后端。
Q: 为什么默认推荐 GLM-4.7 而不是能力更强的模型? A: GLM-4.7 是在 NIM 平台上社区反馈综合表现最好的免费模型之一。它在工具调用(tool use)兼容性、响应速度和对编程指令的理解之间取得了良好平衡。更强的模型如 Kimi K2.5 虽然推理能力更优,但可能在某些场景下消耗 Token 更多或响应稍慢。
Q: NIM 的接口格式和直接用 OpenAI API 有区别吗?
A: 有区别。虽然 NVIDIA NIM 的 API 端点(/v1/chat/completions)和数据格式与 OpenAI 的 Chat Completions 兼容,但其背后的模型是 NVIDIA 集群上托管的第三方模型,并非 OpenAI 自己的模型(如 GPT-4)。Free Claude Code 代理已经完整处理了从 Anthropic 格式到 OpenAI 格式的转换,因此你无需关心这些底层差异。