corehu
GPU をレンタル

オープンモデル / 言語モデル(LLM)

cogito:32b をクラウド GPU で動かす

cogito:32b は Ollama による言語モデル(LLM)モデルです。必要な GPU メモリ、今日動かせる GPU、自分で動かした場合の費用(秒単位課金)を確認できます。

プロジェクトの説明: Cogito v1 Preview is a family of hybrid reasoning models by Deep Cogito that outperform the best available open models of the same size, including counterparts from LLaMA, DeepSeek, and Qwen across most standard benchmarks.

パラメータ数
≈ 32B
必要な GPU メモリ
≈ 24 GB
ライセンス
—
ソース
Ollama

今日動かせる GPU

約 24 GB の GPU メモリ:モデルのダウンロード(既定で 4 ビット)と作業用メモリです。

GPUメモリ1 時間あたり10 時間
RTX 309024 GB$0.36$3.60レンタル
Titan RTX24 GB$0.40$4.00レンタル
A1024 GB$0.43$4.30レンタル
RTX A500024 GB$0.43$4.30レンタル
RTX PRO 400024 GB$0.45$4.50レンタル

カタログのリアルタイム開始価格です。マシンが動いている間だけ秒単位で支払います。

cogito:32b の動かし方

  1. 01

    GPU をレンタル

    上の GPU から 1 つ選びます。課金は秒単位で、マシンを停止すれば課金も止まります。

  2. 02

    ターミナルか Jupyter を開く

    SSH で接続するか、ブラウザで Jupyter を開きます。PyTorch と CUDA は準備済みです。

  3. 03

    Ollama をインストールしてモデルを実行

    下のコマンドを実行します。Ollama がモデルをダウンロードし、ポート 11434 で OpenAI 互換 API を提供します。

curl -fsSL https://ollama.com/install.sh | sh
ollama run cogito:32b

なぜ自分で動かすのか

自前の LLM サーバーならトークン課金もレート制限もなく、データも非公開のままです。メモリで GPU を選び、vLLM でモデルを提供しましょう。

よくある質問

cogito:32b にはどれくらいの GPU メモリが必要ですか?
推定では推論に約 24 GB(32B パラメータ)です。高解像度、長いコンテキスト、大きなバッチではさらに必要です。
cogito:32b を動かす費用は?
RTX 3090 で 1 時間 $0.36 から、秒単位の課金です。10 時間で約 $3.60 です。
サブスクリプションは必要ですか?
いいえ。マシンが動いた時間分だけを USD 残高から支払います。終わったら停止してください。

自分の GPU で数分で試せます

GPU を選び、Jupyter か SSH を開いて、好きなオープンモデルを動かしましょう。秒単位の支払いで、いつでも停止できます。サブスクリプションも初期費用もありません。

  • USD で秒単位の課金
  • PyTorch と CUDA が数分で準備完了
  • ChatGPT や Claude からもレンタル可能

似ている言語モデル(LLM)モデル