corehu
租用 GPU

开源模型 / 语言模型(LLM)

在云 GPU 上运行 r1-1776:671b

r1-1776:671b 是 Ollama 推出的语言模型(LLM)模型。查看它需要多少显存、今天可以在哪些 GPU 上运行,以及自己运行的费用,按秒计费。

项目简介: A version of the DeepSeek-R1 model that has been post trained to provide unbiased, accurate, and factual information by Perplexity.

参数量
≈ 671B
所需显存
≈ 467 GB
许可证
—
来源
Ollama

今天可运行的 GPU

约 467 GB 显存:模型下载文件(默认 4-bit)加上工作内存。

GPU显存每小时10 小时
5× RTX PRO 6000 S480 GB$12.60$126.00租用
16× RTX 5090512 GB$14.72$147.20租用
8× RTX PRO 6000 WS768 GB$16.16$161.60租用
8× RTX PRO 6000 Max-Q768 GB$18.24$182.40租用
8× A100640 GB$23.36$233.60租用

价格为目录中的实时起价。机器运行期间按秒付费。

如何运行 r1-1776:671b

  1. 01

    租用 GPU

    从上面选择一款 GPU。按秒计费;停止机器即停止计费。

  2. 02

    打开终端或 Jupyter

    通过 SSH 连接,或在浏览器中打开 Jupyter。PyTorch 和 CUDA 已就绪。

  3. 03

    安装 Ollama 并运行模型

    运行下面的命令。Ollama 会下载模型,并在 11434 端口提供兼容 OpenAI 的 API。

curl -fsSL https://ollama.com/install.sh | sh
ollama run r1-1776:671b

为什么要自己运行?

自建 LLM 服务器没有按 token 计费,也没有速率限制,数据保持私密。按显存选择 GPU,用 vLLM 部署模型。

常见问题

r1-1776:671b 需要多少显存?
按我们的估算,推理约需 467 GB(671B 参数)。更高分辨率、更长上下文或更大批次需要更多显存。
运行 r1-1776:671b 要花多少钱?
在 5× RTX PRO 6000 S 上 $12.60/小时起,按秒计费。十小时约 $126.00。
需要订阅吗?
不需要。您只需用 USD 余额支付机器实际运行的时间。用完即可停止。

几分钟内在您自己的 GPU 上试用

选择一款 GPU,打开 Jupyter 或 SSH,运行任意开源模型。按秒付费,随时可以停止;无需订阅,没有开通费。

  • 以 USD 按秒计费
  • PyTorch 和 CUDA 几分钟即可就绪
  • 也可以通过 ChatGPT 或 Claude 租用

类似的语言模型(LLM)模型