corehu
GPU をレンタル

オープンモデル / 言語モデル(LLM)

opencoder:8b をクラウド GPU で動かす

opencoder:8b は Ollama による言語モデル(LLM)モデルです。必要な GPU メモリ、今日動かせる GPU、自分で動かした場合の費用(秒単位課金)を確認できます。

プロジェクトの説明: OpenCoder is an open and reproducible code LLM family which includes 1.5B and 8B models, supporting chat in English and Chinese languages.

パラメータ数
≈ 8B
必要な GPU メモリ
≈ 7 GB
ライセンス
—
ソース
Ollama

今日動かせる GPU

約 7 GB の GPU メモリ:モデルのダウンロード(既定で 4 ビット)と作業用メモリです。

GPUメモリ1 時間あたり10 時間
GTX 10708 GB$0.14$1.40レンタル
RTX 306012 GB$0.15$1.50レンタル
GTX 1070 Ti8 GB$0.16$1.60レンタル
GTX 10808 GB$0.16$1.60レンタル
Q RTX 40008 GB$0.16$1.60レンタル

カタログのリアルタイム開始価格です。マシンが動いている間だけ秒単位で支払います。

opencoder:8b の動かし方

  1. 01

    GPU をレンタル

    上の GPU から 1 つ選びます。課金は秒単位で、マシンを停止すれば課金も止まります。

  2. 02

    ターミナルか Jupyter を開く

    SSH で接続するか、ブラウザで Jupyter を開きます。PyTorch と CUDA は準備済みです。

  3. 03

    Ollama をインストールしてモデルを実行

    下のコマンドを実行します。Ollama がモデルをダウンロードし、ポート 11434 で OpenAI 互換 API を提供します。

curl -fsSL https://ollama.com/install.sh | sh
ollama run opencoder:8b

なぜ自分で動かすのか

自前の LLM サーバーならトークン課金もレート制限もなく、データも非公開のままです。メモリで GPU を選び、vLLM でモデルを提供しましょう。

よくある質問

opencoder:8b にはどれくらいの GPU メモリが必要ですか?
推定では推論に約 7 GB(8B パラメータ)です。高解像度、長いコンテキスト、大きなバッチではさらに必要です。
opencoder:8b を動かす費用は?
GTX 1070 で 1 時間 $0.14 から、秒単位の課金です。10 時間で約 $1.40 です。
サブスクリプションは必要ですか?
いいえ。マシンが動いた時間分だけを USD 残高から支払います。終わったら停止してください。

自分の GPU で数分で試せます

GPU を選び、Jupyter か SSH を開いて、好きなオープンモデルを動かしましょう。秒単位の支払いで、いつでも停止できます。サブスクリプションも初期費用もありません。

  • USD で秒単位の課金
  • PyTorch と CUDA が数分で準備完了
  • ChatGPT や Claude からもレンタル可能

似ている言語モデル(LLM)モデル