corehu
GPU をレンタル

オープンモデル / 視覚言語モデル

clef-flash:9b をクラウド GPU で動かす

clef-flash:9b は Ollama による視覚言語モデルモデルです。必要な GPU メモリ、今日動かせる GPU、自分で動かした場合の費用(秒単位課金)を確認できます。

プロジェクトの説明: Clef-Flash is a 9B multimodal model that turns a state and a schema of typed questions into decisions.

パラメータ数
≈ 9B
必要な GPU メモリ
≈ 14 GB
ライセンス
—
ソース
Ollama

今日動かせる GPU

約 14 GB の GPU メモリ:モデルのダウンロード(既定で 4 ビット)と作業用メモリです。

GPUメモリ1 時間あたり10 時間
RTX A400016 GB$0.19$1.90レンタル
RTX 2080 Ti22 GB$0.20$2.00レンタル
RTX 5060 Ti16 GB$0.20$2.00レンタル
Tesla V10016 GB$0.22$2.20レンタル
Q RTX 500016 GB$0.24$2.40レンタル

カタログのリアルタイム開始価格です。マシンが動いている間だけ秒単位で支払います。

clef-flash:9b の動かし方

  1. 01

    GPU をレンタル

    上の GPU から 1 つ選びます。課金は秒単位で、マシンを停止すれば課金も止まります。

  2. 02

    ターミナルか Jupyter を開く

    SSH で接続するか、ブラウザで Jupyter を開きます。PyTorch と CUDA は準備済みです。

  3. 03

    Ollama をインストールしてモデルを実行

    下のコマンドを実行します。Ollama がモデルをダウンロードし、ポート 11434 で OpenAI 互換 API を提供します。

curl -fsSL https://ollama.com/install.sh | sh
ollama run clef-flash:9b

なぜ自分で動かすのか

文書や画像の理解を自分の GPU で動かせます。画像ごとの料金はなく、ファイルは自分のマシンに残ります。

よくある質問

clef-flash:9b にはどれくらいの GPU メモリが必要ですか?
推定では推論に約 14 GB(9B パラメータ)です。高解像度、長いコンテキスト、大きなバッチではさらに必要です。
clef-flash:9b を動かす費用は?
RTX A4000 で 1 時間 $0.19 から、秒単位の課金です。10 時間で約 $1.90 です。
サブスクリプションは必要ですか?
いいえ。マシンが動いた時間分だけを USD 残高から支払います。終わったら停止してください。

自分の GPU で数分で試せます

GPU を選び、Jupyter か SSH を開いて、好きなオープンモデルを動かしましょう。秒単位の支払いで、いつでも停止できます。サブスクリプションも初期費用もありません。

  • USD で秒単位の課金
  • PyTorch と CUDA が数分で準備完了
  • ChatGPT や Claude からもレンタル可能

似ている視覚言語モデルモデル