在云 GPU 上运行 deepseek-v3:671b
deepseek-v3:671b 是 Ollama 推出的语言模型（LLM）模型。查看它需要多少显存、今天可以在哪些 GPU 上运行，以及自己运行的费用，按秒计费。
项目简介： A strong Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token.
租用 RTX PRO 6000 S $13.65/小时起
参数量
≈ 671B
所需显存
≈ 467 GB
许可证
—
来源
Ollama
今天可运行的 GPU
约 467 GB 显存：模型下载文件（默认 4-bit）加上工作内存。
| GPU | 显存 | 每小时 | 10 小时 | |
|---|---|---|---|---|
| 5× RTX PRO 6000 S | 480 GB | $13.65 | $136.50 | 租用 |
| 16× RTX 5090 | 512 GB | $14.40 | $144.00 | 租用 |
| 8× RTX PRO 6000 WS | 768 GB | $20.56 | $205.60 | 租用 |
| 8× A100 | 640 GB | $23.60 | $236.00 | 租用 |
| 4× H200 NVL | 560 GB | $24.00 | $240.00 | 租用 |
价格为目录中的实时起价。机器运行期间按秒付费。
如何运行 deepseek-v3:671b
- 01
租用 GPU
从上面选择一款 GPU。按秒计费；停止机器即停止计费。
- 02
打开终端或 Jupyter
通过 SSH 连接，或在浏览器中打开 Jupyter。PyTorch 和 CUDA 已就绪。
- 03
安装 Ollama 并运行模型
运行下面的命令。Ollama 会下载模型，并在 11434 端口提供兼容 OpenAI 的 API。
curl -fsSL https://ollama.com/install.sh | sh
ollama run deepseek-v3:671b为什么要自己运行？
自建 LLM 服务器没有按 token 计费，也没有速率限制，数据保持私密。按显存选择 GPU，用 vLLM 部署模型。
常见问题
- deepseek-v3:671b 需要多少显存？
- 按我们的估算，推理约需 467 GB（671B 参数）。更高分辨率、更长上下文或更大批次需要更多显存。
- 运行 deepseek-v3:671b 要花多少钱？
- 在 5× RTX PRO 6000 S 上 $13.65/小时起，按秒计费。十小时约 $136.50。
- 需要订阅吗？
- 不需要。您只需用 USD 余额支付机器实际运行的时间。用完即可停止。
几分钟内在您自己的 GPU 上试用
选择一款 GPU，打开 Jupyter 或 SSH，运行任意开源模型。按秒付费，随时可以停止；无需订阅，没有开通费。
- 以 USD 按秒计费
- PyTorch 和 CUDA 几分钟即可就绪
- 也可以通过 ChatGPT 或 Claude 租用