在云 GPU 上运行 gemma4:31b
gemma4:31b 是 Ollama 推出的视觉语言模型模型。查看它需要多少显存、今天可以在哪些 GPU 上运行,以及自己运行的费用,按秒计费。
项目简介: Gemma 4 models are designed to deliver frontier-level performance at each size. They are well-suited for reasoning, agentic workflows, coding, and multimodal understanding.
租用 RTX 3090 $0.38/小时起
参数量
≈ 31B
所需显存
≈ 24 GB
许可证
—
来源
Ollama
今天可运行的 GPU
约 24 GB 显存:模型下载文件(默认 4-bit)加上工作内存。
| GPU | 显存 | 每小时 | 10 小时 | |
|---|---|---|---|---|
| RTX 3090 | 24 GB | $0.38 | $3.80 | 租用 |
| Titan RTX | 24 GB | $0.40 | $4.00 | 租用 |
| RTX A5000 | 24 GB | $0.42 | $4.20 | 租用 |
| RTX PRO 4000 | 24 GB | $0.45 | $4.50 | 租用 |
| L4 | 24 GB | $0.48 | $4.80 | 租用 |
价格为目录中的实时起价。机器运行期间按秒付费。
如何运行 gemma4:31b
- 01
租用 GPU
从上面选择一款 GPU。按秒计费;停止机器即停止计费。
- 02
打开终端或 Jupyter
通过 SSH 连接,或在浏览器中打开 Jupyter。PyTorch 和 CUDA 已就绪。
- 03
安装 Ollama 并运行模型
运行下面的命令。Ollama 会下载模型,并在 11434 端口提供兼容 OpenAI 的 API。
curl -fsSL https://ollama.com/install.sh | sh
ollama run gemma4:31b为什么要自己运行?
在自己的 GPU 上运行文档和图像理解:不按图片收费,文件留在您的机器上。
常见问题
- gemma4:31b 需要多少显存?
- 按我们的估算,推理约需 24 GB(31B 参数)。更高分辨率、更长上下文或更大批次需要更多显存。
- 运行 gemma4:31b 要花多少钱?
- 在 RTX 3090 上 $0.38/小时起,按秒计费。十小时约 $3.80。
- 需要订阅吗?
- 不需要。您只需用 USD 余额支付机器实际运行的时间。用完即可停止。
几分钟内在您自己的 GPU 上试用
选择一款 GPU,打开 Jupyter 或 SSH,运行任意开源模型。按秒付费,随时可以停止;无需订阅,没有开通费。
- 以 USD 按秒计费
- PyTorch 和 CUDA 几分钟即可就绪
- 也可以通过 ChatGPT 或 Claude 租用