在云 GPU 上运行 cogito:14b
cogito:14b 是 Ollama 推出的语言模型(LLM)模型。查看它需要多少显存、今天可以在哪些 GPU 上运行,以及自己运行的费用,按秒计费。
项目简介: Cogito v1 Preview is a family of hybrid reasoning models by Deep Cogito that outperform the best available open models of the same size, including counterparts from LLaMA, DeepSeek, and Qwen across most standard benchmarks.
租用 RTX 3060 $0.17/小时起
参数量
≈ 14B
所需显存
≈ 12 GB
许可证
—
来源
Ollama
今天可运行的 GPU
约 12 GB 显存:模型下载文件(默认 4-bit)加上工作内存。
| GPU | 显存 | 每小时 | 10 小时 | |
|---|---|---|---|---|
| RTX 3060 | 12 GB | $0.17 | $1.70 | 租用 |
| Titan Xp | 12 GB | $0.18 | $1.80 | 租用 |
| GTX TITAN X | 12 GB | $0.20 | $2.00 | 租用 |
| RTX 2060 | 12 GB | $0.20 | $2.00 | 租用 |
| RTX A4000 | 16 GB | $0.21 | $2.10 | 租用 |
价格为目录中的实时起价。机器运行期间按秒付费。
如何运行 cogito:14b
- 01
租用 GPU
从上面选择一款 GPU。按秒计费;停止机器即停止计费。
- 02
打开终端或 Jupyter
通过 SSH 连接,或在浏览器中打开 Jupyter。PyTorch 和 CUDA 已就绪。
- 03
安装 Ollama 并运行模型
运行下面的命令。Ollama 会下载模型,并在 11434 端口提供兼容 OpenAI 的 API。
curl -fsSL https://ollama.com/install.sh | sh
ollama run cogito:14b为什么要自己运行?
自建 LLM 服务器没有按 token 计费,也没有速率限制,数据保持私密。按显存选择 GPU,用 vLLM 部署模型。
常见问题
- cogito:14b 需要多少显存?
- 按我们的估算,推理约需 12 GB(14B 参数)。更高分辨率、更长上下文或更大批次需要更多显存。
- 运行 cogito:14b 要花多少钱?
- 在 RTX 3060 上 $0.17/小时起,按秒计费。十小时约 $1.70。
- 需要订阅吗?
- 不需要。您只需用 USD 余额支付机器实际运行的时间。用完即可停止。
几分钟内在您自己的 GPU 上试用
选择一款 GPU,打开 Jupyter 或 SSH,运行任意开源模型。按秒付费,随时可以停止;无需订阅,没有开通费。
- 以 USD 按秒计费
- PyTorch 和 CUDA 几分钟即可就绪
- 也可以通过 ChatGPT 或 Claude 租用