corehu
GPU をレンタル

オープンモデル / 視覚言語モデル

bonsai-2:27b をクラウド GPU で動かす

bonsai-2:27b は Ollama による視覚言語モデルモデルです。必要な GPU メモリ、今日動かせる GPU、自分で動かした場合の費用(秒単位課金)を確認できます。

プロジェクトの説明: Bonsai 2 from Prism ML is a family of vision models built for ternary weights – smaller models with close to full-precision quality.

パラメータ数
≈ 27B
必要な GPU メモリ
≈ 11 GB
ライセンス
—
ソース
Ollama

今日動かせる GPU

約 11 GB の GPU メモリ:モデルのダウンロード(既定で 4 ビット)と作業用メモリです。

GPUメモリ1 時間あたり10 時間
RTX 306012 GB$0.17$1.70レンタル
Titan Xp12 GB$0.18$1.80レンタル
GTX 1080 Ti11 GB$0.20$2.00レンタル
GTX TITAN X12 GB$0.20$2.00レンタル
RTX 206012 GB$0.20$2.00レンタル

カタログのリアルタイム開始価格です。マシンが動いている間だけ秒単位で支払います。

bonsai-2:27b の動かし方

  1. 01

    GPU をレンタル

    上の GPU から 1 つ選びます。課金は秒単位で、マシンを停止すれば課金も止まります。

  2. 02

    ターミナルか Jupyter を開く

    SSH で接続するか、ブラウザで Jupyter を開きます。PyTorch と CUDA は準備済みです。

  3. 03

    Ollama をインストールしてモデルを実行

    下のコマンドを実行します。Ollama がモデルをダウンロードし、ポート 11434 で OpenAI 互換 API を提供します。

curl -fsSL https://ollama.com/install.sh | sh
ollama run bonsai-2:27b

なぜ自分で動かすのか

文書や画像の理解を自分の GPU で動かせます。画像ごとの料金はなく、ファイルは自分のマシンに残ります。

よくある質問

bonsai-2:27b にはどれくらいの GPU メモリが必要ですか?
推定では推論に約 11 GB(27B パラメータ)です。高解像度、長いコンテキスト、大きなバッチではさらに必要です。
bonsai-2:27b を動かす費用は?
RTX 3060 で 1 時間 $0.17 から、秒単位の課金です。10 時間で約 $1.70 です。
サブスクリプションは必要ですか?
いいえ。マシンが動いた時間分だけを USD 残高から支払います。終わったら停止してください。

自分の GPU で数分で試せます

GPU を選び、Jupyter か SSH を開いて、好きなオープンモデルを動かしましょう。秒単位の支払いで、いつでも停止できます。サブスクリプションも初期費用もありません。

  • USD で秒単位の課金
  • PyTorch と CUDA が数分で準備完了
  • ChatGPT や Claude からもレンタル可能

似ている視覚言語モデルモデル