在云 GPU 上运行 command-a-vision-07-2025
command-a-vision-07-2025 是 CohereLabs 推出的视觉语言模型模型。查看它需要多少显存、今天可以在哪些 GPU 上运行，以及自己运行的费用，按秒计费。
租用 A100 SXM4 $2.68/小时起
参数量
112B
所需显存
≈ 270 GB
许可证
cc-by-nc-4.0
下载量
8,513
更新于 2025年10月30日
今天可运行的 GPU
我们估计使用 F16 权重推理约需 270 GB（含工作内存）。实际用量取决于分辨率、批大小和上下文长度。 使用 4-bit 量化约需 82 GB。
| GPU | 显存 | 每小时 | 10 小时 | |
|---|---|---|---|---|
| 4× A100 SXM4 | 320 GB | $2.68 | $26.80 | 租用 |
| 8× Q RTX 8000 | 360 GB | $3.84 | $38.40 | 租用 |
| 8× L40S | 360 GB | $6.00 | $60.00 | 租用 |
| 4× RTX PRO 6000 WS | 384 GB | $8.08 | $80.80 | 租用 |
| 9× RTX 5090 | 288 GB | $8.10 | $81.00 | 租用 |
价格为目录中的实时起价。机器运行期间按秒付费。
如何运行 command-a-vision-07-2025
- 01
租用 GPU
从上面选择一款 GPU。按秒计费；停止机器即停止计费。
- 02
打开终端或 Jupyter
通过 SSH 连接，或在浏览器中打开 Jupyter。PyTorch 和 CUDA 已就绪。
- 03
下载并运行模型
运行下面的命令。权重会直接从 Hugging Face 下载到您的机器。
此模型需申请访问：下载前请在 Hugging Face 上接受其许可证并运行 huggingface-cli login。
pip install -U vllm
vllm serve CohereLabs/command-a-vision-07-2025 --host 0.0.0.0 --port 8000为什么要自己运行？
在自己的 GPU 上运行文档和图像理解：不按图片收费，文件留在您的机器上。
常见问题
- command-a-vision-07-2025 需要多少显存？
- 按我们的估算，推理约需 270 GB（112B 参数）。更高分辨率、更长上下文或更大批次需要更多显存。
- 运行 command-a-vision-07-2025 要花多少钱？
- 在 4× A100 SXM4 上 $2.68/小时起，按秒计费。十小时约 $26.80。
- 需要订阅吗？
- 不需要。您只需用 USD 余额支付机器实际运行的时间。用完即可停止。
几分钟内在您自己的 GPU 上试用
选择一款 GPU，打开 Jupyter 或 SSH，运行任意开源模型。按秒付费，随时可以停止；无需订阅，没有开通费。
- 以 USD 按秒计费
- PyTorch 和 CUDA 几分钟即可就绪
- 也可以通过 ChatGPT 或 Claude 租用