站长自营 API 中转

正在比较模型套餐?可以把多个 AI API 接到一个网关里

ZZSwitch 是我自己运营的统一 API 网关,适合需要国内支付、兑换码充值、多模型切换和 OpenAI 兼容接口的开发者。不是 OpenCode 官方服务。

NVIDIA NIM 是驱动 Free Claude Code 运行的免费 GPU 后端。你只需在 NVIDIA 平台申请一个免费的 API Key,并将其配置到项目的 .env 文件中,指定一个 NIM 上托管的模型,即可让 Claude Code CLI 或 IDE 插件通过 NIM 的强大算力运行。本文提供从零开始的完整接入指南。

Free Claude Code 接入 NVIDIA NIM:免费 GPU 推力驱动 Claude Code

NVIDIA NIM 是 Free Claude Code 的默认推荐后端,它基于 NVIDIA 的 GPU 集群提供模型推理服务,并向开发者提供免费的 API 调用额度。通过将 Claude Code 接入 NIM,你可以几乎零成本地使用这些高性能模型来辅助编程。

为什么选择 NVIDIA NIM

选择 NVIDIA NIM 作为后端主要基于两个优势:

  1. 免费额度:NVIDIA 为开发者提供免费的 API 调用额度,对于日常的编程辅助、代码生成和问答等任务,这些额度通常足够使用。
  2. 模型丰富:NIM 平台上托管了来自多家厂商的模型,如智谱 GLM、月之暗面 Kimi、MiniMax 等,且模型库在持续更新。你可以在 build.nvidia.com/explore/discover 浏览所有可用模型。

一个关键的技术细节是协议转换。NVIDIA NIM 采用的是与 OpenAI 兼容的 Chat Completions 格式。Free Claude Code 代理在中间扮演了翻译官的角色:它接收来自 Claude Code 的 Anthropic Messages 请求,将其内部转换为 OpenAI Chat 格式发送给 NIM,再将 NIM 返回的流式响应转换回 Anthropic 的 SSE 格式。整个过程对 Claude Code 客户端完全透明,你无需关心底层格式差异。如果你之前配置过 OpenRouter 等后端,会发现这个机制是通用的。

申请 NVIDIA NIM API Key

获取 API Key 是接入的第一步,请按以下流程操作:

  1. 访问 NVIDIA 的开发者门户:build.nvidia.com/settings/api-keys
  2. 如果你已有 NVIDIA 账号,直接登录;如果没有,需要完成注册。
  3. 在 API Keys 管理页面,点击创建一个新的 API Key。
  4. 创建成功后,立即复制并妥善保存该 Key。

提示:NVIDIA NIM 的 API Key 格式固定,以 nvapi- 开头,后面是一串字母数字字符,例如 nvapi-abcdefg123456

配置 .env 环境变量

获取 API Key 后,需要将其配置到 Free Claude Code 项目中。在项目根目录下找到或创建 .env 文件,并填入以下内容:

NVIDIA_NIM_API_KEY="nvapi-你的完整密钥"
MODEL="nvidia_nim/z-ai/glm4.7"
ANTHROPIC_AUTH_TOKEN="freecc"

这里有两个关键配置:

  • NVIDIA_NIM_API_KEY:填入你刚刚申请的密钥。
  • MODEL:这个值的格式是 nvidia_nim/模型发布者/模型名。它精确地告诉代理两件事:一是使用 nvidia_nim 这个 Provider,二是调用哪个具体的模型。ANTHROPIC_AUTH_TOKEN 是客户端连接代理时的简单密码,保持默认的 freecc 即可。

修改保存后,重启 Free Claude Code 代理服务以使配置生效。

可用模型推荐

NIM 平台上的模型众多,以下是经过社区实践验证,适用于 Claude Code 工作流(包括代码生成、解释、工具调用)的推荐模型:

模型 说明
nvidia_nim/z-ai/glm4.7 智谱 GLM-4.7,性能均衡,工具调用兼容性好,是默认推荐。
nvidia_nim/z-ai/glm5 智谱 GLM-5,能力更强。
nvidia_nim/moonshotai/kimi-k2.5 月之暗面 Kimi K2.5,擅长长上下文和复杂推理,但可能消耗更多 Token。
nvidia_nim/minimaxai/minimax-m2.5 MiniMax M2.5 模型。

切换模型非常简单:只需修改 .env 文件中 MODEL 的值为表格中的任意一个模型标识,然后再次重启代理即可。

验证连通性

配置完成后,通过以下步骤验证代理和 NIM 服务是否正常联通。

首先,检查代理服务状态:

curl http://localhost:8082/

如果一切正常,你将看到类似下面的 JSON 返回,确认了当前使用的 Provider 和 Model:

{"status":"ok","provider":"nvidia_nim","model":"z-ai/glm4.7"}

然后,启动 Claude Code CLI 并连接到代理:

ANTHROPIC_AUTH_TOKEN="freecc" ANTHROPIC_BASE_URL="http://localhost:8082" claude

在 Claude Code 中进行几句简单的对话,例如询问“如何用 Python 读取 CSV 文件”或让它写一个简单的函数。如果模型能正常响应,并且你发出的命令能调用到正确的工具(如文件读写),就说明接入成功。

进阶配置:网络代理与速率限制

在某些网络环境下,你可能需要通过代理服务器才能访问 NVIDIA 的 API。在 .env 中添加以下配置:

NVIDIA_NIM_PROXY="http://username:password@host:port"

支持 HTTP 和 SOCKS5 代理协议。配置后重启代理生效。

Free Claude Code 内置了请求速率限制,以避免在免费额度下被 API 服务端限流。默认配置如下:

PROVIDER_RATE_LIMIT=1       # 每个时间窗口内最大请求数
PROVIDER_RATE_WINDOW=3      # 时间窗口大小(秒)
PROVIDER_MAX_CONCURRENCY=5  # 最大并发请求数

这些默认值通常能适应 NIM 的免费额度策略。如果你频繁遇到 HTTP 429 错误(表示请求过多),可以尝试适当增大 PROVIDER_RATE_WINDOW 的值,例如将其改为 510,来降低请求频率。

FAQ

Q: NVIDIA NIM 的免费额度用完了怎么办? A: NIM 的免费额度是按模型独立计算的。你可以先尝试切换到推荐表中的其他模型(如从 GLM4.7 切换到 Kimi K2.5),可能会有新的额度。如果所有推荐模型额度都用尽,可以考虑接入 OpenRouter本地模型 等其他后端。

Q: 为什么默认推荐 GLM-4.7 而不是能力更强的模型? A: GLM-4.7 是在 NIM 平台上社区反馈综合表现最好的免费模型之一。它在工具调用(tool use)兼容性、响应速度和对编程指令的理解之间取得了良好平衡。更强的模型如 Kimi K2.5 虽然推理能力更优,但可能在某些场景下消耗 Token 更多或响应稍慢。

Q: NIM 的接口格式和直接用 OpenAI API 有区别吗? A: 有区别。虽然 NVIDIA NIM 的 API 端点(/v1/chat/completions)和数据格式与 OpenAI 的 Chat Completions 兼容,但其背后的模型是 NVIDIA 集群上托管的第三方模型,并非 OpenAI 自己的模型(如 GPT-4)。Free Claude Code 代理已经完整处理了从 Anthropic 格式到 OpenAI 格式的转换,因此你无需关心这些底层差异。

站长自营 API 中转

ZZSwitch API 中转

统一接入多家模型,支持兑换码充值。

打开 ZZSwitch