corehu
租用 GPU

开源模型 / 语言模型(LLM)

在云 GPU 上运行 xlnet-base-cased

xlnet-base-cased 是 xlnet 推出的语言模型(LLM)模型。查看它需要多少显存、今天可以在哪些 GPU 上运行,以及自己运行的费用,按秒计费。

参数量
—
所需显存
—
许可证
mit
下载量
111,494
更新于 2023年1月24日

今天可运行的 GPU

模型卡未注明模型大小,因此暂时无法估算显存。

目前没有显存足够的可用 GPU。请稍后再查看目录。

价格为目录中的实时起价。机器运行期间按秒付费。

如何运行 xlnet-base-cased

  1. 01

    租用 GPU

    从上面选择一款 GPU。按秒计费;停止机器即停止计费。

  2. 02

    打开终端或 Jupyter

    通过 SSH 连接,或在浏览器中打开 Jupyter。PyTorch 和 CUDA 已就绪。

  3. 03

    下载并运行模型

    运行下面的命令。权重会直接从 Hugging Face 下载到您的机器。

pip install -U vllm
vllm serve xlnet/xlnet-base-cased --host 0.0.0.0 --port 8000

为什么要自己运行?

自建 LLM 服务器没有按 token 计费,也没有速率限制,数据保持私密。按显存选择 GPU,用 vLLM 部署模型。

常见问题

需要订阅吗?
不需要。您只需用 USD 余额支付机器实际运行的时间。用完即可停止。

几分钟内在您自己的 GPU 上试用

选择一款 GPU,打开 Jupyter 或 SSH,运行任意开源模型。按秒付费,随时可以停止;无需订阅,没有开通费。

  • 以 USD 按秒计费
  • PyTorch 和 CUDA 几分钟即可就绪
  • 也可以通过 ChatGPT 或 Claude 租用

类似的语言模型(LLM)模型