corehu
GPU をレンタル

オープンモデル / 言語モデル(LLM)

qwen:14b をクラウド GPU で動かす

qwen:14b は Ollama による言語モデル(LLM)モデルです。必要な GPU メモリ、今日動かせる GPU、自分で動かした場合の費用(秒単位課金)を確認できます。

プロジェクトの説明: Qwen 1.5 is a series of large language models by Alibaba Cloud spanning from 0.5B to 110B parameters

パラメータ数
≈ 14B
必要な GPU メモリ
≈ 11 GB
ライセンス
—
ソース
Ollama

今日動かせる GPU

約 11 GB の GPU メモリ:モデルのダウンロード(既定で 4 ビット)と作業用メモリです。

GPUメモリ1 時間あたり10 時間
RTX 306012 GB$0.17$1.70レンタル
Titan Xp12 GB$0.18$1.80レンタル
GTX 1080 Ti11 GB$0.20$2.00レンタル
GTX TITAN X12 GB$0.20$2.00レンタル
RTX 206012 GB$0.20$2.00レンタル

カタログのリアルタイム開始価格です。マシンが動いている間だけ秒単位で支払います。

qwen:14b の動かし方

  1. 01

    GPU をレンタル

    上の GPU から 1 つ選びます。課金は秒単位で、マシンを停止すれば課金も止まります。

  2. 02

    ターミナルか Jupyter を開く

    SSH で接続するか、ブラウザで Jupyter を開きます。PyTorch と CUDA は準備済みです。

  3. 03

    Ollama をインストールしてモデルを実行

    下のコマンドを実行します。Ollama がモデルをダウンロードし、ポート 11434 で OpenAI 互換 API を提供します。

curl -fsSL https://ollama.com/install.sh | sh
ollama run qwen:14b

なぜ自分で動かすのか

自前の LLM サーバーならトークン課金もレート制限もなく、データも非公開のままです。メモリで GPU を選び、vLLM でモデルを提供しましょう。

よくある質問

qwen:14b にはどれくらいの GPU メモリが必要ですか?
推定では推論に約 11 GB(14B パラメータ)です。高解像度、長いコンテキスト、大きなバッチではさらに必要です。
qwen:14b を動かす費用は?
RTX 3060 で 1 時間 $0.17 から、秒単位の課金です。10 時間で約 $1.70 です。
サブスクリプションは必要ですか?
いいえ。マシンが動いた時間分だけを USD 残高から支払います。終わったら停止してください。

自分の GPU で数分で試せます

GPU を選び、Jupyter か SSH を開いて、好きなオープンモデルを動かしましょう。秒単位の支払いで、いつでも停止できます。サブスクリプションも初期費用もありません。

  • USD で秒単位の課金
  • PyTorch と CUDA が数分で準備完了
  • ChatGPT や Claude からもレンタル可能

似ている言語モデル(LLM)モデル