在云 GPU 上运行 exaone-deep:32b
exaone-deep:32b 是 Ollama 推出的语言模型（LLM）模型。查看它需要多少显存、今天可以在哪些 GPU 上运行，以及自己运行的费用，按秒计费。
项目简介： EXAONE Deep exhibits superior capabilities in various reasoning tasks including math and coding benchmarks, ranging from 2.4B to 32B parameters developed and released by LG AI Research.
租用 Tesla P40 $0.24/小时起
参数量
≈ 32B
所需显存
≈ 24 GB
许可证
—
来源
Ollama
今天可运行的 GPU
约 24 GB 显存：模型下载文件（默认 4-bit）加上工作内存。
| GPU | 显存 | 每小时 | 10 小时 | |
|---|---|---|---|---|
| Tesla P40 | 24 GB | $0.24 | $2.40 | 租用 |
| RTX 3090 | 24 GB | $0.39 | $3.90 | 租用 |
| Titan RTX | 24 GB | $0.40 | $4.00 | 租用 |
| RTX A5000 | 24 GB | $0.43 | $4.30 | 租用 |
| RTX PRO 4000 | 24 GB | $0.45 | $4.50 | 租用 |
价格为目录中的实时起价。机器运行期间按秒付费。
如何运行 exaone-deep:32b
- 01
租用 GPU
从上面选择一款 GPU。按秒计费；停止机器即停止计费。
- 02
打开终端或 Jupyter
通过 SSH 连接，或在浏览器中打开 Jupyter。PyTorch 和 CUDA 已就绪。
- 03
安装 Ollama 并运行模型
运行下面的命令。Ollama 会下载模型，并在 11434 端口提供兼容 OpenAI 的 API。
curl -fsSL https://ollama.com/install.sh | sh
ollama run exaone-deep:32b为什么要自己运行？
自建 LLM 服务器没有按 token 计费，也没有速率限制，数据保持私密。按显存选择 GPU，用 vLLM 部署模型。
常见问题
- exaone-deep:32b 需要多少显存？
- 按我们的估算，推理约需 24 GB（32B 参数）。更高分辨率、更长上下文或更大批次需要更多显存。
- 运行 exaone-deep:32b 要花多少钱？
- 在 Tesla P40 上 $0.24/小时起，按秒计费。十小时约 $2.40。
- 需要订阅吗？
- 不需要。您只需用 USD 余额支付机器实际运行的时间。用完即可停止。
几分钟内在您自己的 GPU 上试用
选择一款 GPU，打开 Jupyter 或 SSH，运行任意开源模型。按秒付费，随时可以停止；无需订阅，没有开通费。
- 以 USD 按秒计费
- PyTorch 和 CUDA 几分钟即可就绪
- 也可以通过 ChatGPT 或 Claude 租用