如何省下数千美元成本，本地部署 Claude Code

打开终端向 Claude Code 下发指令，却得不到任何响应；查看服务状态页面，云端服务宕机。或是一次代码重构，就消耗掉大量调用额度。
Claude Code 是功能强大的代码智能体，但它高度依赖 Anthropic 云端服务器，受服务可用性、数据隐私规则、定价模式约束。由此引出一个关键问题：能否脱离云端、无需登录、不订阅付费，在本地运行同款智能体？
在一台 NVIDIA DGX Spark 设备上，将 Claude Code 对接完全本地运行的 2840 亿参数 DeepSeek V4 大模型开展实验。测试方案为：给智能体布置一项漏洞修复任务，并将运行结果，与另外三款代码智能体、两套推理引擎进行横向对比。

什么是 Claude Code？为何要本地部署？

Claude Code 是 Anthropic 推出的终端代码智能体。它能够读取代码仓库、修改文件、执行命令，完成完整智能体任务闭环。默认配置下，程序需要连接 Anthropic 公有云。即便云端 AI 使用便捷，仍有三大核心价值驱动企业选择对接本地模型运行：
自主可控，保障持续可用本地模型由自有团队运维、部署在自有硬件之上，不再依赖第三方云端服务的在线状态。
数据隐私完全自持所有源代码、指令提示词、运行日志、密钥与业务数据，全部留存于内部环境。对于需要遵循医疗隐私法规（HIPAA/PHI）、处理金融数据、自研私有代码，或是物理隔离（空气隔离）内网的企业至关重要。依托本地大模型，敏感业务数据分析无需向外传输任何数据至公网 API。
成本可预测，摆脱按量计费不存在席位订阅费、调用计量收费。一次性投入硬件成本后，只要硬件算力与电力条件允许，就能不限次数执行代码智能体任务：代码测试、重构、代码评审、技术实验等。
本地模型还可以实现很多云端智能助手无法支持的业务流程。部分机构要求系统全程离线、物理隔离运行；还有团队希望基于开放权重模型，自定义提示词、训练领域专属能力。本地部署的价值不只在于降低开销，更是实现 AI 系统全链路自主管控。
当然取舍同样存在：本地部署只能运行硬件可承载的模型，性能上限区别于顶级云端前沿大模型。本文核心目的，依托 NVIDIA DGX Spark 硬件，在真实漏洞修复场景中量化评估这一差距。

如何修改 Claude Code 调用的底层模型

Claude Code 调用 Anthropic 消息接口（/v1/messages），但它不限制服务提供方，只要后端服务遵循同一套接口协议，就能正常交互。
有两款本地推理服务可以提供兼容 Anthropic 标准的 API 接口：本次实验采用的 DS4 推理引擎，以及 Ollama。只需配置环境变量ANTHROPIC_BASE_URL指向本地 DS4 或 Ollama 服务地址，Claude Code 即可调用本地模型。
export ANTHROPIC_BASE_URL=http://localhost:8080   # your local server export ANTHROPIC_AUTH_TOKEN=dummy                 # local servers ignore it
除此之外还有 SigLLM 等更多推理引擎可供选择：https://www.sigllm.com/

在单台 NVIDIA DGX Spark 上运行 2840 亿参数前沿大模型

DeepSeek V4 Flash 拥有 2840 亿参数。采用全精度加载时，模型权重体积约 568GB，通常需要数据中心级集群承载。那么如何在单台 NVIDIA DGX Spark 硬件上实现运行？
采用选择性 Q2 GGUF 量化方案：绝大多数权重使用 2 比特量化，关键核心层保留 8 比特精度，将模型压缩至 86GB，能够容纳进 DGX Spark 内置 128GB 统一内存。实验基于原生 CUDA 推理引擎 DS4 完成模型部署。
NVIDIA DGX Spark 实测运行指标：

模型权重体积 86GB，加载耗时 10.5 秒
单条对话流生成速度约 15 token / 秒
128K 上下文窗口仅占用约 3GB 上下文缓存；内存开销主要来自模型权重
模型加载完成后，剩余可用内存仅 1GB；设备刚好能够容纳该模型，几乎占满显存。因此同一时间仅运行单模型任务。

分步教程：本地模型运行 Claude Code

整套部署流程分为三步：第一步，启动 DS4 推理服务，在 8080 端口对外提供兼容 Anthropic 协议的接口：
./ds4-server --cuda \   -m DeepSeek-V4-Flash-IQ2XXS-...-imatrix.gguf \   --ctx 131072 --host 127.0.0.1 --port 8080 --cors
第二步，配置环境变量，让 Claude Code 对接本地服务：
export ANTHROPIC_BASE_URL=http://localhost:8080 export ANTHROPIC_AUTH_TOKEN=dummy export ANTHROPIC_MODEL=deepseek-v4-flash
第三步，交互式启动 Claude Code，或后台静默执行自动化任务：
部署完成！无需登录账号、API 密钥，全程可以离线运行。

实测：本地 Claude Code 自动化修复代码漏洞

搭建一套简易 Python 待办事项程序，并人为植入缺陷：命令行传入--due截止时间参数，但程序不会保存该字段，配套 13 个自动化测试用例，存在 2 条失败用例。
向搭载 DeepSeek V4 本地模型的 Claude Code 下达指令：“程序会忽略 --due 参数，请定位漏洞、完成修复，并执行测试用例验证修复效果。”
智能体读取项目代码、定位缺陷，增加代码：
claude -p "fix the failing test" --model deepseek-v4-flash --dangerously-skip-permissions
随后自动执行测试套件，全部 13 条用例通过。同时智能体自主规避关联功能回归问题，整套任务三分钟内完成，全程离线本地运算。
在桌面级硬件使用 2840 亿参数前沿模型解决真实代码缺陷，表现亮眼。但本次实验最重要结论并不在此。

横向对比：Claude Code vs OpenCode vs Qwen Code

使用同一漏洞修复任务，测试三款代码智能体搭配四款本地模型。所有模型完成预热加载，串行执行测试。部分智能体框架会无限循环执行任务、直至超时，无法自主判定任务完成。交互式使用尚可接受，但无法用于自动化无人值守场景。任务统一采用 13 条测试用例标准。

12 组测试中，11 组能够正确修复漏洞，全部测试用例通过。对于 284B 前沿大模型以及 35B~80B 量级代码专用模型，模型本身不再是任务完成度瓶颈。
唯一失败案例并非代码推理能力不足：Ornith-35B 模型对话模板要求系统提示词置于文本首部。经由 Ollama 转换接口对接 Claude Code 时，格式冲突，返回 400 接口报错；但同一模型通过 OpenAI 协议对接 OpenCode、Qwen Code 则运行正常。新型模型上线时，容易出现接口兼容、对话模板适配问题，正式部署前务必充分验证。
模型参数规模直接影响任务耗时：DeepSeek-V4 284B 所有测试耗时约 170~230 秒，生成速度约 15 token/s；35B~80B 中端代码模型仅需 20~60 秒。日常代码智能场景中，轻量化高速代码模型体验优于超大参数前沿模型；只有当深度推理优先级高于响应速度时，再选用 284B 超大模型。
智能体框架同样影响效率：同样搭配 qwen3-coder-80B 模型，OpenCode 耗时仅 20 秒，Claude Code 需要 60 秒。

根据业务架构匹配模型：深度推理 vs 大规模并发

本地部署智能体之后，选型核心不再局限于 “哪个模型更强”，而要匹配业务使用模式：
深度推理场景：
需要攻克单一复杂难题，优先选用 DeepSeek V4 284B 这类顶级前沿模型，代价是生成速度较慢。单任务场景下批量并发优化没有意义。
均衡日常场景：兼顾单任务响应速度、支持业务扩容批量处理。qwen3-coder-80B 混合专家模型非常适配该场景。
大规模并发分支任务：同时启动大量子智能体（例如 8 路并行代码评审），性能瓶颈由单条请求延迟转变为整体吞吐。此时必须选用批量调度高效的推理引擎。
在 DGX Spark 硬件测试：Gemma-26B 基于 vLLM 引擎，支持 10 路并发智能体实现约 300 token / 秒总吞吐；Ollama 无论并发数量多少，吞吐上限稳定在 65 token / 秒。高并发分支场景更加适合轻量化模型，多路智能体会创建大量 KV 缓存，抢占 128GB 统一内存资源。
选型不能只参考单流推理速度跑分。独立深度推理智能体、集群式并行子智能体，对应的部署方案截然不同。

NVIDIA DGX Spark 部署前沿大模型关键考量

理想混合架构方案：一台超大参数 “主控智能体”，调度大量轻量化高速子智能体协同工作。这套架构需要同时常驻 DS4、vLLM 两套推理引擎。单台 128GB DGX Spark 内存不足以支撑，适合双机部署。
新一代轻量化混合专家代码模型：本次测试两款可单机部署的新型 MoE 代码模型 Ornith-1.0-35B（具备自迭代能力）、Qwen3.6-35B-A3B。
·两者运行速度出色，完成任务仅 24~43 秒，通过 OpenAI 接口均可稳定修复漏洞。
·轻量化新型 MoE 模型具备极高落地价值。注意前文提到的兼容风险： Ornith 模型对接 Claude Code 存在对话模板冲突，新模型上线需要调试模板才能适配全部智能体框架。

权限管控与任务终止机制，两大落地关键细节

本地代码智能体落地，两个实操要点不容忽视：
权限管理默认模式下，智能体修改文件、执行终端指令前会弹窗确认，属于安全防护机制，但大规模基准测试时反复确认操作十分繁琐。仅建议在临时沙箱代码库使用权限跳过参数。真实业务场景，在充分信任智能体任务闭环前，保持人工确认开启。
Claude Code：--dangerously-skip-permissions
Qwen Code：--approval-mode yolo
自动终止机制劣质智能体框架即便任务完成，仍持续读取文件、重复优化代码，持续消耗算力。运行低速本地大模型时，算力浪费尤为明显。优质框架能够识别测试全部通过，自动终止流程。挑选本地代码智能体时，该指标重要程度高于小幅 token 速度提升。

常见问答：本地部署 Claude Code

是否必须使用 GPU？最低需要多大内存？
内存空间需要容纳完整模型权重。284B DeepSeek V4 需要 DGX Spark 的 128GB 统一内存；80B 量级代码模型硬件门槛低很多。GB10 这类统一内存架构硬件优势显著，算力不被独立显存容量限制。
本地运行 Claude Code 真的没有后续费用吗？
不存在按 token 计费、软件订阅费。硬件一次性采购完成后，可以不限次数调试运行。
运行 Claude Code 该如何挑选本地模型？
追求日常代码任务响应速度：Ollama 部署经过代码专项优化的 80B Qwen3-Coder；追求极限推理能力、可以接受低速生成：DS4 部署 284B DeepSeek V4 模型。

总结

对于追求业务持续可控、数据隐私保护、长期优化推理成本的企业团队，本地部署 Claude Code 具备极高可行性。通过对接兼容 Anthropic 协议的本地推理接口，在单台 DGX Spark 硬件上，基于 284B DeepSeek V4 大模型运行同款智能体，足以独立完成真实漏洞修复业务。
模型能力不再是唯一决策指标。当模型性能达到任务最低标准之后，智能体运行框架极大影响最终落地效果：任务处理速度、工具调用稳定性、任务完成后自动终止、模型接口适配能力。
企业评估本地代码智能体方案时，最优架构是「模型 + 推理引擎 + 智能体框架 + 硬件」四者协同匹配，贴合自身业务流程。选择 NVIDIA DGX Spark，或是联泰集群多 GPU 集群方案，取决于目标模型规模、生成速度、并发数量、量化精度需求。
文中所有基准测试均可复现，推理引擎、漏洞测试工程、自动化运行脚本全部开源（仓库地址：https://github.com/510carlos/spark-coding-agent-lab克隆代码库），即可在自有 DGX Spark 硬件上复现整套实验。