corehu
GPU をレンタル

オープンモデル / 言語モデル(LLM)

r1-1776:671b をクラウド GPU で動かす

r1-1776:671b は Ollama による言語モデル(LLM)モデルです。必要な GPU メモリ、今日動かせる GPU、自分で動かした場合の費用(秒単位課金)を確認できます。

プロジェクトの説明: A version of the DeepSeek-R1 model that has been post trained to provide unbiased, accurate, and factual information by Perplexity.

パラメータ数
≈ 671B
必要な GPU メモリ
≈ 467 GB
ライセンス
—
ソース
Ollama

今日動かせる GPU

約 467 GB の GPU メモリ:モデルのダウンロード(既定で 4 ビット)と作業用メモリです。

GPUメモリ1 時間あたり10 時間
5× RTX PRO 6000 S480 GB$13.65$136.50レンタル
16× RTX 5090512 GB$14.40$144.00レンタル
8× RTX PRO 6000 WS768 GB$20.56$205.60レンタル
8× A100640 GB$23.60$236.00レンタル
4× H200 NVL560 GB$24.00$240.00レンタル

カタログのリアルタイム開始価格です。マシンが動いている間だけ秒単位で支払います。

r1-1776:671b の動かし方

  1. 01

    GPU をレンタル

    上の GPU から 1 つ選びます。課金は秒単位で、マシンを停止すれば課金も止まります。

  2. 02

    ターミナルか Jupyter を開く

    SSH で接続するか、ブラウザで Jupyter を開きます。PyTorch と CUDA は準備済みです。

  3. 03

    Ollama をインストールしてモデルを実行

    下のコマンドを実行します。Ollama がモデルをダウンロードし、ポート 11434 で OpenAI 互換 API を提供します。

curl -fsSL https://ollama.com/install.sh | sh
ollama run r1-1776:671b

なぜ自分で動かすのか

自前の LLM サーバーならトークン課金もレート制限もなく、データも非公開のままです。メモリで GPU を選び、vLLM でモデルを提供しましょう。

よくある質問

r1-1776:671b にはどれくらいの GPU メモリが必要ですか?
推定では推論に約 467 GB(671B パラメータ)です。高解像度、長いコンテキスト、大きなバッチではさらに必要です。
r1-1776:671b を動かす費用は?
5× RTX PRO 6000 S で 1 時間 $13.65 から、秒単位の課金です。10 時間で約 $136.50 です。
サブスクリプションは必要ですか?
いいえ。マシンが動いた時間分だけを USD 残高から支払います。終わったら停止してください。

自分の GPU で数分で試せます

GPU を選び、Jupyter か SSH を開いて、好きなオープンモデルを動かしましょう。秒単位の支払いで、いつでも停止できます。サブスクリプションも初期費用もありません。

  • USD で秒単位の課金
  • PyTorch と CUDA が数分で準備完了
  • ChatGPT や Claude からもレンタル可能

似ている言語モデル(LLM)モデル