Vast.ai 完全ガイド：H100が時間$0.90から借りられる最安GPUクラウド【2026年6月最新版・料金/設定/ローカルとの分岐点】

「ローカルPCではVRAMが足りなくて Llama 3.3 70B が動かない」「Stable Diffusion 3.5 や FLUX を試したいが RTX 4090 を買う予算がない」——そんなときに最も柔軟で安いGPU調達手段が、本記事で紹介するクラウドGPUマーケットプレイス Vast.ai（ヴァスト・ドット・エーアイ）です。世界中の余剰GPUをP2Pで貸し借りする仕組みで、RTX 4090 を時間あたり 0.31ドル前後、H100 を 0.90ドル前後から借りられます。AWS や GCP の 1/5〜1/10 という価格破壊が最大の武器です。

本記事は 2026年6月時点の最新情報（Vast.ai 2026年5月製品アップデート / vastai 統合 pip パッケージ / 二要素認証 TOTP 対応 / Serverless SDK 公開ベータ）にもとづき、アカウント作成から70Bモデルの実運用、ローカルPCとのコスト分岐点まで 1万8000字 で網羅します。読み終えたとき、あなたは「自分のワークロードはローカルで持つべきか、Vast.aiで借りるべきか」を即断できる状態になっています。

とくに本ブログの読者である「ローカルLLM運用勢」にとって、Vast.ai は ローカルPCを補完するスポット火力として極めて優秀です。本記事では単なる紹介に留まらず、ローカルPC と Vast.ai の月次コスト試算、ハイブリッド運用パターン、セキュリティリスクとその回避策まで踏み込みます。

Vast.ai とは何か：GPUマーケットプレイスの位置づけ
1. 「クラウド」ではなく「マーケットプレイス」である理由
2. ライセンスと料金体系の基本
2026年最新リリース情報：直近6ヶ月の主要アップデート
他のGPUクラウドとの比較：どこが安く、どこが速いか
Vast.ai のメリットとデメリット（正直な評価）
1. メリット
2. デメリット
動作要件と前提知識
1. クライアントPC側の要件
2. 前提知識
アカウント作成からGPU起動までの完全手順
初期設定：起動直後にやるべき5つの設定
基本的な使い方：3つの主要ユースケース
実践：ローカルで動かせない大型モデルをクラウドで動かす完全手順
応用・カスタマイズ：パワーユーザー向け設定
パフォーマンス最適化：コストと速度の両立
よくあるエラーとトラブルシューティング
おすすめの組み合わせ・連携：ローカルPCとのハイブリッド運用
推奨PCスペック（クライアント側）と接続環境
セキュリティとプライバシー：機密データを扱う際の必須注意
ローカルPC運用とのコスト分岐点：いつローカルを買うべきか
まとめ：Vast.ai を使うべき人、避けるべき人
📦 この記事で紹介した商品

Vast.ai とは何か：GPUマーケットプレイスの位置づけ

Vast.ai は 2018年創業の米国企業で、世界中の余剰GPU（データセンター、企業の遊休資産、大規模マイニング業者の転用機）をP2Pマーケットプレイスとして取引するサービスです。創業以来 主要なセキュリティインシデントゼロを維持しており、現在は 40以上のデータセンター、20,000以上のGPUが稼働しています。

「クラウド」ではなく「マーケットプレイス」である理由

AWS や GCP は自社所有のサーバ群を貸し出します。Vast.ai は違います。価格を Vast.ai 側で決めません。GPU を貸したい「ホスト」が値段を提示し、借りたい「クライアント」が需給で選びます。これにより、たとえば仮想通貨マイニングの収益が下がった時期にはGPUの貸出単価が大幅に下落するなど、市場原理で常に最安水準が維持される仕組みです。

結果として、同じH100でも Lambda Labs では時間 3.29ドル、RunPod では 2.89ドル なのに対し、Vast.ai では Verified ホストで 0.90ドル〜2.50ドルという大幅な価格差が常時発生しています。

ライセンスと料金体系の基本

運営元: Vast.ai, Inc.（米国）
サービス開始: 2018年
課金単位: 秒単位課金（Per-second billing）。1分でも10分でも、使った分だけ
最低デポジット: 5ドル（クレジットカード/BitPay/Crypto.com 払い）
料金ティア: 3種類（後述）
- On-demand: 通常の借り上げ。中断なし
- Interruptible: 競売式で50%以上割引。ただし高額入札に上書きされる
- Reserved: 1/3/6ヶ月コミットで最大50%割引
対応GPU種別: 68種類以上（RTX 3060 から最新の B200 まで）

2026年最新リリース情報：直近6ヶ月の主要アップデート

Vast.ai は2026年に入ってからプラットフォーム機能を大きく拡張しました。とくに 5月のアップデートは利用者全員に影響する重要変更を含むため、確実に把握してください。

2026年5月製品アップデート（2026-05-12 公開）

二要素認証 (2FA) の TOTP アプリ対応：従来のSMS必須からGoogle Authenticator、1Password、Authy 等の認証アプリに対応。バックアップコードが自動発行され、CLIからも2FA設定可能に
ベンチマーク CLI の導入：H100/A100/RTX 5090/RTX 4090 などの複数GPU型を並列ベンチして、自分のワークロードに最適なGPUを定量比較できる新機能
All-in-One App Studio テンプレート：画像生成・動画生成・音楽生成・音声合成・文字起こし・LoRA学習・LLMファインチューニングを1コンテナで統合。KDE Plasma + Blender のGPU加速リモートデスクトップ付き
vastai pip パッケージへの統合：従来別パッケージだった CLI と SDK が pip install vastai 1つに統合された。古い vastai-sdk も後方互換で残るが、新規は vastai 推奨
CopyFail エクスプロイト対策の全面展開によるセキュリティ強化

2026年4月製品アップデート

Serverless SDK（Python）の公開ベータ：Dockerイメージ、APTパッケージ、オートスケール設定をすべてPythonコードで定義し、デプロイ可能。ダッシュボード操作なしでGPUエンドポイントを生成・管理できる
大量インスタンス管理の高速化：ページネーション導入で、数十〜数百のインスタンスを抱えるユーザーでも快適に
Serverless メトリクス可視化の改善：レイテンシ、QPS、コールドスタート率を時系列で確認可能に
新テンプレート/ガイドの大量追加：学習・推論・マルチモーダル・モデル移行用ワークフロー

テンプレートに新たに加わった対応モデル（2026年5-6月時点）

Kimi K2.6（Moonshot AI 最新世代）
Qwen3.6 35B A3B / Qwen3.5 27B（Alibaba）
Gemma 4 31B IT（Google）
Unsloth Studio（高速ファインチューニング環境）
Autoresearch（自律研究エージェント実行環境）

テンプレートは cloud.vast.ai/templates で全件公開されています。執筆時点で公式・コミュニティ合計 400以上のテンプレートが利用可能です。

他のGPUクラウドとの比較：どこが安く、どこが速いか

Vast.ai を選ぶ前に、競合となる主要GPUクラウドサービスとの違いを正確に押さえてください。2026年6月時点の最新価格で比較します。価格は公式ページ・サードパーティ価格インデックス・各社価格表を直接確認した値です。

主要4サービス価格比較表

GPU	Vast.ai	RunPod (Secure)	Lambda Labs	Paperspace
RTX 4090 (24GB)	$0.31〜0.52/hr	$0.69/hr	非取扱	非取扱
RTX 5090 (32GB)	$0.66〜2.00/hr	$0.99/hr	非取扱	非取扱
A100 80GB	$0.67〜1.50/hr	$1.39〜1.49/hr	$1.29/hr	$3.09/hr
H100 80GB	$0.90〜2.50/hr	$2.89/hr	$3.29〜3.99/hr	$5.95/hr
H200	提供あり（変動）	$4.39/hr	非取扱	非取扱
B200	提供あり（変動）	$5.89/hr	$4.99〜5.29/hr	非取扱
最低デポジット	5ドル	10ドル	クレカ登録のみ	サブスク制
SLA保証	Secure Cloudのみ	Secure 99.5%/Community 97-99%	99.5%+	あり

各サービスの強みと向き不向き

サービス	強み	向く用途	向かない用途
Vast.ai	圧倒的低価格・GPU種類豊富・秒課金	個人開発・実験・スポット推論・LoRA学習	本番SLA必須・機密データ・長時間連続学習
RunPod	Serverless強い・コンテナ模範・Secure/Community両建て	API/推論サーバ・バースト型ワークロード	最安重視
Lambda Labs	自社DC・SLA高・MLエンジニアサポート	本番学習・企業案件・長期予約	低予算個人
Paperspace	Gradient Notebookが使いやすい	学生・初学者	コスト最適化
Google Colab Pro	$9.99/月の手軽さ・A100/L4/H100/G4対応	研究・お試し	長時間ジョブ（セッション切れ）

同じH100でもどれくらい差が出るか（実例）

Llama 3.3 70B（FP16）を24時間連続でファインチューニングしたとします。H100×1枚で必要な時間料金を試算すると：

Vast.ai（Verified ホスト平均 $1.20/hr）：$28.80
RunPod Secure（$2.89/hr）：$69.36
Lambda Labs（$3.29/hr）：$78.96
Paperspace（$5.95/hr）：$142.80
AWS p5d.24xlarge 換算（H100 1枚分 ~$8.00/hr）：$192.00

同じ作業で 最大6.7倍の価格差が出ます。これが Vast.ai の威力です。ただし「価格は安いが信頼性に幅がある」というトレードオフの読み方を、次節で解説します。

Vast.ai のメリットとデメリット（正直な評価）

メリット

圧倒的な価格優位：AWS/GCP の 1/5〜1/10、競合GPUクラウドの 1/2〜1/3 が常態
GPU種類が異常に多い：RTX 3060（VRAM 12GB、エントリー向け）から B200（次世代Blackwell）まで 68種類以上。「とりあえずVRAM 16GBだけ欲しい」みたいな細かい要求に応えられる
秒単位課金：5分のスポット推論でも数円〜数十円。RunPod は分単位、AWS は最短秒だがインスタンス確保に時間
最低デポジット5ドル：ハードルが極めて低い。「とりあえずH100を1時間だけ試したい」が現実的
Verified ホスト機能：信頼性ランクが見える化され、99%稼働実績のあるホストだけに絞り込める
豊富なテンプレート：ComfyUI、ollama、vLLM、Stable Diffusion WebUI 等が クリック1つで起動。Docker知識ゼロでも動く
Jupyter / SSH / Cloudflare Tunnel 全対応
新しい Python SDK / CLIでインフラを完全コード化可能（2026年4-5月で大幅強化）

デメリット

ホスト品質にばらつき：個人ホストのGPUだと突発的なダウンや回線細さがあり得る。Verified ホストでも RunPod Secure や Lambda 並の SLA は期待できない
機密データには非推奨：P2Pマーケットなのでホストにマシン物理アクセス権がある。後述するが、HIPAA や GDPR 必要なら Secure Cloud フィルタ必須
Interruptible は本当に切れる：競売式で他人に上書きされると即停止。チェックポイント設計必須
UIはやや英語特化：日本語UIなし。ただしDocker操作の延長なので難易度は高くない
Storage は別課金：インスタンス停止中でもストレージ料金は発生する（後述）
ネットワーク速度のばらつき：大規模モデルのダウンロードに数十分かかるホストもある

動作要件と前提知識

Vast.ai を使ううえで、クライアント側（あなたのPC）に必要なものは極めて少ないです。重い計算はすべて借りたGPUインスタンス側で動くので、ローカルPCのスペックは無関係です。

クライアントPC側の要件

項目	最小	推奨
OS	Windows 10 / macOS 12 / Ubuntu 20.04	Windows 11 / macOS 14 / Ubuntu 22.04
ブラウザ	Chrome / Firefox / Edge / Safari いずれか最新版	Chrome 推奨（Jupyter最適化）
SSHクライアント	Windows標準 OpenSSH / Git Bash / WSL2	WSL2 + vastai CLI
Python	3.8以上（CLI用）	3.11以上
回線	30Mbps以上	100Mbps以上（大型モデルDL用）
支払手段	VISA/Mastercard クレジットカード	同左（オートチャージ推奨）

前提知識

基本的なLinuxコマンド（cd, ls, mkdir, nano など）
SSHキーペアの概念（公開鍵/秘密鍵）
Docker の最低限の概念（コンテナとは何か）
使いたい AI ツール（Ollama, vLLM, ComfyUI 等）の基本操作

これらは Ollama 完全ガイドや ComfyUI 完全ガイドでカバーしているので、不安があれば併せて参照してください。

アカウント作成からGPU起動までの完全手順

はじめての利用なら、ここから順番に実行すれば 10〜15分で最初のGPUインスタンスが起動します。

Step 1: アカウント作成とメール認証

cloud.vast.ai にアクセス
右上「Sign Up」からメールアドレスとパスワードを登録
確認メール内のリンクをクリック（届かない場合はSettings→Resend Verification）
メール認証完了までインスタンスのレンタル不可なので必ず実施

Step 2: 二要素認証(2FA)の設定（強く推奨）

2026年5月から TOTP アプリ対応になりました。クレジットカードを登録するので、必ず2FAをONにします。

Settings → Account Settings → Security → Two-Factor Authentication
「Use authenticator app」を選択
Google Authenticator / 1Password / Authy 等でQRコードをスキャン
表示された6桁コードを入力して有効化
バックアップコード（10個）を必ず保管（紙か1Password等の安全な場所に）

Step 3: クレジット入金（最低5ドル）

左サイドバー Billing → Add Credit
金額入力（5〜500ドル）、デフォルトはクレジットカード
オートチャージ（残高 X ドルを下回ったら Y ドル自動入金）を 必ず設定。これがないと長時間ジョブ中に残高切れで停止する
クレカ以外は BitPay（暗号通貨）、Crypto.com も選択可

Step 4: SSH キーの登録

Vast.ai は パスワード認証無効、SSHキー必須です。手元にキーがない場合は新規生成します。

# Linux / macOS / WSL2 / Git Bash で実行
ssh-keygen -t ed25519 -C "vastai" -f ~/.ssh/vastai_ed25519
# パスフレーズは空でEnter可（推奨は設定）

# 公開鍵を表示してコピー
cat ~/.ssh/vastai_ed25519.pub

# PowerShell（Windows ネイティブ）の場合
ssh-keygen -t ed25519 -C "vastai" -f $env:USERPROFILE\.ssh\vastai_ed25519

# 公開鍵を表示
Get-Content $env:USERPROFILE\.ssh\vastai_ed25519.pub

表示された公開鍵（ssh-ed25519 AAAA... vastai という1行）をコピーし、Vast.ai コンソールの Keys ページに貼り付けて「Add Key」。

Step 5: Python CLI / SDK のインストール（任意・上級者向け）

ブラウザ完結でも使えますが、自動化したいなら CLI を入れます。2026年5月から vastai 1パッケージに統合されました。

pip install vastai

# APIキーをセット（cloud.vast.ai/cli から取得）
vastai set api-key xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

# 動作確認
vastai search offers 'gpu_name=RTX_4090 verified=True' -o 'dph_total'
vastai show instances

Step 6: GPUオファーの検索とフィルタ

コンソール左の「Search」（または旧名「Create」）から、貸出中のGPUを検索します。絞り込みは慎重に：

Verified: ON にすると検証済みデータセンターホストのみ。初心者は必ずON
GPU Type: 用途に合わせる。70B LLM なら H100 / A100 80GB、画像生成なら RTX 4090 / 5090
Num GPUs: 1から複数枚まで指定可。マルチGPU構成は同一マシン内
Disk Space: 必須要件。一度決めたら後で変更不可。70Bモデルなら最低 100GB 推奨
DLPerf: ベンチマーク値（Deep Learning Perf）。高いほど学習が速い。価格との比でROI判断
Inet Up / Down: アップロード/ダウンロード回線速度。100Mbps以上推奨
Reliability: ホスト稼働率。95%以上を選ぶ
Datacenter: ON にすると個人ホスト除外

Step 7: テンプレートを選んで起動

Vast.ai の最大の強みは 「Pythonセットアップなしでクリック1つで環境が起動」することです。以下に代表的なテンプレートを示します。

テンプレート	用途	推奨GPU	必要ディスク
ollama official	LLM推論（API/CLI）	RTX 4090 / A100 / H100	50GB〜
vLLM	高速LLM推論API	A100 / H100	100GB〜
ComfyUI	画像生成（ノードベース）	RTX 4090 / 5090	80GB〜
Stable Diffusion WebUI (A1111)	画像生成（フォーム型）	RTX 4090	50GB〜
PyTorch / Jupyter	汎用機械学習	用途次第	30GB〜
Unsloth Studio	高速LoRAファインチューニング	A100 / H100	200GB〜
All-in-One App Studio	画像/動画/音楽/音声/学習統合	RTX 4090以上	200GB〜

Templates タブから上記いずれかを選択 → 「Use this template」
検索結果から欲しいGPUを「Rent」
30秒〜2分で起動完了
Instances ページに移って Connect → Jupyter / SSH を選択

初期設定：起動直後にやるべき5つの設定

インスタンスが起動したら、本格作業に入る前に必ず以下を済ませます。これを怠るとあとで詰みます。

1. SSHでの接続確認

# Instances ページの Connect 欄に表示されるコマンド例（実際の値はインスタンスごとに違う）
ssh -i ~/.ssh/vastai_ed25519 -p 30543 root@ssh4.vast.ai

接続できない場合は SSH キーが正しく登録されているか、-v オプションで詳細ログを確認。

2. GPUの認識確認

nvidia-smi
# 期待出力: GPU名、VRAM容量、ドライババージョンが表示されること

3. ディスク空き容量の確認

df -h
# /workspace や / の空き容量が想定通りかチェック

4. Python 環境の確認

python --version
nvidia-smi --query-gpu=driver_version --format=csv
nvcc --version 2>/dev/null || echo "CUDA toolkit not preinstalled"

5. オートストップ（自動停止）の設定

Vast.ai では 停止し忘れが最大のコスト要因です。コンソール → Instances → 該当インスタンス → ⏱ Schedule Stop でタイマー停止を必ず設定します。3時間後 / 12時間後 / 翌朝6時など、確実に切る前提で運用してください。

基本的な使い方：3つの主要ユースケース

ユースケース1: 70B LLM を Ollama で動かす

ローカルRTX 4090 1枚（24GB）では Q4 量子化でも 70B は厳しい。Vast.ai の H100 80GB なら FP16で快適に動きます。

# H100 80GB ホストで以下を実行
# 1. Ollama 公式テンプレートを使うか、まっさらなUbuntu+CUDAテンプレートにOllamaをインストール
curl -fsSL https://ollama.com/install.sh | sh

# 2. 70B モデルをプル（35GB程度のダウンロード、約5-10分）
ollama pull llama3.3:70b

# 3. 推論
ollama run llama3.3:70b "日本語で簡単な自己紹介をしてください"

外部からAPI経由で叩きたい場合は、Vast.ai の Cloudflare Tunnel を経由するのが最も安全です。Instance Portal でポート 11434 を公開すると、認証トークン付きのhttps URLが発行されます。

ユースケース2: vLLM で高速 LLM 推論サーバを立てる

本格的にAPIを叩くなら、Ollama よりも vLLM のほうが 14〜24倍高速です。とくに同時並列リクエストの捌きで圧倒的に差がつきます。

# vLLM テンプレートを選ぶか、手動でインストール
pip install vllm  # 2026年6月時点で v0.21.0 が最新

# Llama 3.3 70B を 2x RTX 4090 で分散実行
vllm serve meta-llama/Llama-3.3-70B-Instruct \
  --tensor-parallel-size 2 \
  --dtype bfloat16 \
  --max-model-len 8192 \
  --port 8000

# 別ターミナルからOpenAI互換APIで叩く
curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.3-70B-Instruct",
    "messages": [{"role": "user", "content": "ハロー"}]
  }'

2026年5月リリースの vLLM v0.21.0 では CUDA 13.0 がデフォルトCUDA wheelになり、Python 3.14 もサポートされました。MRV2（Model Runner V2）を有効化すれば B200 では 従来比 56% のスループット向上が出ます。

# MRV2 を有効化
export VLLM_USE_V2_MODEL_RUNNER=1
vllm serve ...

ユースケース3: ComfyUI で動画生成（SeeDance 2.0等）

ComfyUI v0.26.2（2026年6月25日リリース）で SeeDance 2.0 Mini や Alibaba HappyHorse 1.1、Grok 動画生成の 1080p 対応など、画像生成の最先端モデルがほぼ即日対応されています。RTX 4090 なら 720p 動画生成が現実的、5090 や H100 なら 4K の SeeDance も。

# ComfyUI 公式テンプレートを起動後、SSH に入って最新化
cd /workspace/ComfyUI
git pull origin master
pip install -r requirements.txt

# 起動
python main.py --listen 0.0.0.0 --port 8188

ブラウザから Instance Portal 経由でアクセスすれば、ローカルPCに重いモデルをDLすることなく動画生成を試せます。試作1動画あたり 10-30セント程度。買い切りで RTX 5090 PC を組むより圧倒的に安く実験できます。

実践：ローカルで動かせない大型モデルをクラウドで動かす完全手順

ここでは 「ローカルRTX 4090 1枚しか持っていないが、Llama 3.3 70B を試したい」という典型ケースを完走させます。

Step 1: GPUを選ぶ（コスト見積もり込み）

Llama 3.3 70B のVRAM要件：

FP16（無量子化）: 約 140GB → H100 2枚 / A100 80GB 2枚 / B200 1枚
BF16: 約 140GB（FP16同等）
Q8: 約 70GB → H100 1枚 / A100 80GB 1枚
Q4_K_M: 約 40GB → RTX 4090 2枚 / H100 1枚で余裕

「お試し試用」なら最安構成として H100 1枚 + Q8 量子化がベスト。1時間あたり Vast.ai で 0.90〜1.50ドル。

Step 2: 検索クエリと借り上げ

vastai search offers \
  'gpu_name=H100 verified=True num_gpus=1 disk_space>=100 reliability>0.97 inet_down>500' \
  -o 'dph_total' | head -20

もしくはコンソールで「H100」「Verified」「Disk≥100GB」「Reliability≥97%」「Down≥500Mbps」と絞り込み、最安をRent。

Step 3: SSH接続とOllama導入

# Vast.ai から発行された ssh コマンドで接続
ssh -i ~/.ssh/vastai_ed25519 -p XXXXX root@sshN.vast.ai

# Ollama インストール（curl 一発）
curl -fsSL https://ollama.com/install.sh | sh

# Ollama サーバ起動（バックグラウンド）
nohup ollama serve > /workspace/ollama.log 2>&1 &

# モデル取得（10分前後）
ollama pull llama3.3:70b

# GPU が使われているか確認
nvidia-smi
# Memory-Usage に40GB前後乗っていればOK

Step 4: 外部から叩く（自宅PCから安全に）

Cloudflare Tunnel を有効化して、外部の認証付きURL経由でアクセスします。Vast.ai の Instance Portal が標準でこれをサポート。

# Instance Portal が起動してなければ起動
# テンプレートに含まれていない場合は手動で:
cloudflared tunnel --url http://localhost:11434 &

# 発行された xxxxx.trycloudflare.com を自宅PCから叩く
curl https://xxxxx.trycloudflare.com/api/chat \
  -d '{
    "model": "llama3.3:70b",
    "messages": [{"role": "user", "content": "Vast.aiの感想は？"}]
  }'

Step 5: 終了時の片付け（最重要）

# 1. インスタンス内のクリーンアップ（任意）
ollama rm llama3.3:70b
rm -rf /workspace/*

# 2. SSH を抜けて、コンソールから "Destroy" を必ず実行
# Stop だけだとストレージ料金が継続発生する

Stop と Destroy の違いを誤解しないでください：

Stop（停止）：GPUは止まるが、ストレージ・モデルファイル・APIキー等の状態を保持。月 $0.05-0.20/GB のストレージ料金が継続発生
Destroy（破棄）：全消去。一切の料金停止。再開時はゼロから

「明日も同じ環境を再開したい」なら Stop、「もう要らない」なら Destroy です。

応用・カスタマイズ：パワーユーザー向け設定

カスタム Docker イメージを使う

テンプレートに収まらない要件があれば、自分の Docker イメージを Docker Hub にPushしておき、Vast.ai 上で your-org/your-image:tag を指定して起動できます。Vast 公式のベースイメージは vast-ai/base-image として公開されています。TLS、認証、Instance Portal が標準でセットアップされており、これを継承するのが楽です。

FROM vastai/base-image:cuda-12.4-cudnn-pytorch
RUN pip install vllm transformers accelerate
COPY entrypoint.sh /opt/
ENTRYPOINT ["/opt/entrypoint.sh"]

Serverless SDK（2026年4月から公開ベータ）

従来コンソールでぽちぽちしていたエンドポイント作成を、すべてPythonコードで宣言できるようになりました。CI/CDに組み込みやすく、本番運用に近づく機能です。

from vastai import VastAI
from vastai.serverless import Endpoint, AutoScaleConfig

vast = VastAI()

ep = Endpoint(
    name="llama-70b-prod",
    image="vllm/vllm-openai:v0.21.0",
    gpu_filter="H100",
    autoscale=AutoScaleConfig(
        min_workers=0,
        max_workers=4,
        target_qps=2.0,
    ),
    env={
        "VLLM_MODEL": "meta-llama/Llama-3.3-70B-Instruct",
        "VLLM_ARGS": "--tensor-parallel-size 1 --max-model-len 8192",
    },
)
ep.deploy()
print(ep.endpoint_url)

2FA を CLI から設定する

2026年5月から CLI 経由でも2FA管理が可能に。チーム運用で複数アカウントを一括管理する場面で便利です。

vastai 2fa setup --type totp
vastai 2fa list-backup-codes
vastai 2fa rotate

マルチGPU構成と Tensor Parallelism

1枚で収まらないモデルは Tensor Parallelism で複数GPUに分散します。同じインスタンス内のマルチGPU構成を選ぶことが前提（マルチノードはServerless Clusters機能を使う）。

# 例: A100 80GB x 2 で Qwen3.5 27B BF16 を分散
vllm serve Qwen/Qwen3.5-27B-Instruct \
  --tensor-parallel-size 2 \
  --dtype bfloat16 \
  --gpu-memory-utilization 0.92

パフォーマンス最適化：コストと速度の両立

適切なGPUを選ぶ（用途別マトリックス）

ワークロード	最適GPU	理由
7B-13B LLM 推論	RTX 3090 / 4090	VRAM 24GB で余裕。最安
30B-34B LLM 推論	A100 40GB / RTX 4090×2	Q4 でちょうど収まる
70B LLM 推論	H100 80GB / A100 80GB	Q8で1枚完結
70B 推論（FP16）	H100×2 / B200×1	無量子化で品質最大
SDXL / FLUX 画像生成	RTX 4090 / 5090	VRAM 24-32GB
動画生成（HunyuanVideo等）	H100 / B200	長尺はVRAM多必須
LoRA ファインチューニング	A100 80GB	QLoRAでコスパ最高
フルファインチューニング	H100×4-8 / B200×2	マルチノード必須

Interruptible（中断可）を使ってコスト半減

On-demand 価格の 半額以下になります。チェックポイントを15-30分ごとに保存する設計なら、学習ジョブでも実用できます。逆に「絶対止まると困る本番API」では絶対に避けてください。

Reserved（予約）で長期コミット

1ヶ月以上同じGPUを使い続けるなら、Reserved で最大 50%引き。たとえば H100 を 3ヶ月コミットすると 0.65-1.20ドル/hr程度まで落ちます。「常時走る推論API」「定常学習バッチ」向き。

ストレージコストの最適化

モデルファイルを /workspace に置きっぱなしにすると、Stop中も課金
頻繁に Destroy → 再構築なら、モデルファイルは Hugging Face Hubから毎回 pull が安い
常駐運用なら、最初から ディスク容量を必要分ぴったりで選ぶ（後から変更不可）

ベンチマーク CLI（2026年5月新機能）で実機検証

本番投入前に、候補GPUを実測比較できます。「カタログでは速いはずなのに、特定モデルだとボトルネックが別」という事故を防げます。

vastai benchmark gpu \
  --gpus "H100,A100_80GB,RTX_5090,RTX_4090" \
  --workload llm_inference \
  --model meta-llama/Llama-3.3-70B-Instruct \
  --duration 600

# 出力: 各GPUのスループット(tok/s)、レイテンシ、コスト($/1Mトークン)が表に

よくあるエラーとトラブルシューティング

エラー1: SSH接続が「Permission denied (publickey)」で失敗する

原因：SSH公開鍵が Vast.ai 側に未登録、または使用キーが違う

対処：

cat ~/.ssh/vastai_ed25519.pub で公開鍵を表示し、コンソールの Keys ページに登録済みか確認
既存インスタンスは 新しいキーを自動取得しない。インスタンス画面の「Edit SSH Keys」から個別に追加
ssh -v -i ~/.ssh/vastai_ed25519 -p XXXXX root@sshN.vast.ai で詳細ログを取り、どの段階で失敗しているか特定

エラー2: 「ssh: connection refused」または「terminfo not working」

原因：起動直後はSSHデーモンが立ち上がっていない、または ghostty/wezterm等のターミナルで terminfo 不一致

対処：

起動完了の表示が出てから 追加で30-60秒待つ
terminfo エラーは、ローカル側で infocmp -x | ssh ... -- tic -x - で対応するか、TERM=xterm-256color ssh ... で回避

エラー3: モデルダウンロードが極端に遅い

原因：選んだホストの回線が細い（個人ホストでありがち）

対処：

speedtest-cli で計測。100Mbps以下なら破棄して別ホストへ
検索条件で inet_down > 500 Mbps を必須にする
Datacenter フィルタをONにする

エラー4: 「CUDA out of memory」

原因：モデルがVRAMに収まっていない

対処：

量子化を1段下げる（FP16 → Q8 → Q4_K_M）
vLLM なら --max-model-len を半減（例：8192 → 4096）
--gpu-memory-utilization 0.92 で限界使用率を明示
それでもだめなら1ランク上のGPUに切替

エラー5: Interruptible が頻繁に切れる

原因：人気GPUで競売単価が上昇

対処：

入札価格を上げて優先順位を確保
On-demand に切り替える
不人気時間帯（米国深夜＝日本朝）に走らせる
チェックポイント間隔を15分以内に短縮

エラー6: 残高切れで突然停止

原因：オートチャージ未設定 + 長時間ジョブ

対処：

Billing → Auto-billing を必ず有効化
長時間学習なら、ジョブ開始前に 「予想時間 × 時間単価 × 2倍」の残高を確保
Telegram/Slack通知を設定し、残高1ドル以下でアラート

エラー7: Jupyter にブラウザ警告（証明書エラー）

原因：Vast.ai 自己署名証明書のため初回はブラウザが警告

対処：

初回は「詳細→このまま続行」で許可
恒久対応として Vast.ai の Jupyter 証明書をローカルに 1回だけインストールすると、以降は警告が消える

おすすめの組み合わせ・連携：ローカルPCとのハイブリッド運用

本ブログの読者である ローカルLLM運用勢にとって、Vast.ai は「ローカルを置き換えるもの」ではなく 「ローカルを補完するスポット火力」と位置づけるのが最強です。以下の3パターンが実用的です。

パターン1: ローカル常用 + クラウド突発スパイク

日常の7B-13Bモデル推論はローカル（RTX 4090 / RTX 5090）で完結。70B以上が必要な場面だけ Vast.ai を立ち上げる。

ローカル側：Ollama 常駐、外部公開なし
クラウド側：必要時に vastai create instance でH100を借り、Cloudflare Tunnel で安全に接続
コスト感：月10時間使うとして H100 × 1.20ドル × 10 = 月12ドル。これ以上ローカルを強化する投資より圧倒的に安い

パターン2: ローカルで開発 → クラウドで本番推論

プロトタイプ・LoRA学習はローカルRTX 4090で、本番APIは Vast.ai Serverless で。

ローカル：Unsloth で QLoRA を学習、Hugging Face にPush
クラウド：Serverless Endpoint で学習済みアダプタをロード、HTTPで提供
強み：自動スケール対応、トラフィックなしならゼロ円

パターン3: ローカルで動画生成 → クラウドで超大型

720p動画はRTX 5090で、4K SeeDance や長尺HunyuanVideo は Vast.ai のH100で。

普段：ComfyUI ローカル運用、低コスト
特別：4K 30秒動画は H100 1時間借りで完結（約1.20ドル）

推奨PCスペック（クライアント側）と接続環境

Vast.ai のクライアント側（あなたのPC）には高性能GPUは不要です。ただし、ローカルとのハイブリッド運用を視野に入れるなら、ローカル側の構成は重要になります。

入門：「クラウド100%」運用向け

パーツ	推奨	理由
CPU	Ryzen 5 / Core i5	SSH + ブラウザだけなら不要
RAM	16GB DDR5	VSCode + Chrome余裕
SSD	1TB NVMe SSD	モデルキャッシュ程度
GPU	不要（オンボードでOK）	計算は全てクラウド側
回線	100Mbps以上	大型モデルDL高速化

標準：「ローカル+クラウドハイブリッド」運用向け

パーツ	推奨	用途
CPU	Ryzen 7 / Core i7	ローカル推論支援
RAM	32GB DDR5 5600	13Bモデル動かす余裕
SSD	2TB NVMe SSD	複数モデルキャッシュ
GPU	RTX 4070 Ti SUPER (16GB)	13B Q4 までは快適
回線	1Gbps（光回線）	大型モデル試験DL

ハイエンド：「ローカルメイン+クラウドスポット」運用向け

パーツ	推奨	用途
CPU	Ryzen 9 / Core i9	マルチGPU運用
RAM	64GB〜128GB DDR5	大型モデルCPUオフロード
SSD	4TB NVMe SSD	多数モデルキャッシュ
GPU	RTX 5090 (32GB)	30B Q4 / 動画生成快適
回線	1〜10Gbps	クラウドモデル即時取得

セキュリティとプライバシー：機密データを扱う際の必須注意

Vast.ai は P2P マーケットプレイスです。ホストはあなたのデータが乗っているマシンに物理アクセス権を持っています。これを正しく理解しておかないと、後で重大なインシデントになりかねません。

Vast.ai のセキュリティモデル（公式FAQから）

全ワークロードは 非特権 Docker コンテナで実行され、ホスト本体や他テナントから完全に隔離される
クライアント間でファイルシステム共有なし
インスタンス削除時はデータ即時破棄
すべての通信は暗号化（https / SSH / Jupyter HTTPS）
2018年の創業以来 主要セキュリティインシデントゼロ

Secure Cloud と Community（P2P）の違い

項目	Secure Cloud	Community / P2P
ホスト	検証済みDC事業者のみ	個人含む全ホスト
認証	ISO 27001 必須	不要
その他	HIPAA / NIST / PCI / SOC 1-3 / GDPR 対応事業者あり	—
価格	やや高め	最安
用途	本番・機密データ	個人開発・実験

必須対策（公式推奨）

機密データはアップロード前に暗号化（gpg / age 等）
API キー、SSH秘密鍵、認証トークン等を インスタンス内に保存しない
外部キーマネージャ（Vault, AWS KMS等）を使うか、env変数で都度渡す
用済みになったら 即 Destroy
機密情報を扱うなら 必ず Secure Cloud フィルタON
「絶対漏れてはいけない個人情報・営業秘密」は Vast.ai では扱わないのが原則

ローカルPC運用とのコスト分岐点：いつローカルを買うべきか

本記事の最重要セクションです。「ローカルGPUを買うべきか、Vast.ai で借り続けるべきか」を 数字で判断できる試算を出します。

初期投資 vs クラウド：H100相当を3年間使う場合

方式	初期費用	3年間電気代	3年間レンタル	合計
ローカルRTX 5090 PC（新規）	約60万円	約9万円	0円	69万円
ローカルRTX 4090 中古PC	約40万円	約9万円	0円	49万円
Vast.ai H100 月10時間使用	0円	0円	約5万円	5万円
Vast.ai H100 月100時間使用	0円	0円	約52万円	52万円
Vast.ai H100 月300時間使用	0円	0円	約156万円	156万円

※H100相当は Vast.ai Verified 平均 $1.20/hr、1ドル150円換算。

分岐点の読み方

月100時間（≒1日3時間）以下の利用：間違いなくクラウドが安い。ローカル買う意味なし
月100-200時間：ローカルRTX 4090中古とクラウドが拮抗。所有欲・データプライバシー・常時稼働の必要性で判断
月200時間超（毎日6時間以上）：ローカル所有が完全に有利。さらにこのレベルだとプライバシー観点でもローカル必須
「H100クラスが必要な作業を月10回未満」：絶対クラウド。ハードを買う合理性なし

判断フローチャート（簡易版）

機密データを扱うか？ → YES なら原則ローカル or Vast.ai Secure Cloud のみ
必要VRAMは何GB？ → 16GB以下ならローカルRTX 5060 Ti/4060 Ti、24GBならRTX 4090、32GBならRTX 5090、それ以上はクラウド一択
月の累計利用時間は？ → 100時間未満ならクラウド、200時間超ならローカル
常時API公開する？ → YES なら Vast.ai Reserved または RunPod Serverless、NOならスポット利用

まとめ：Vast.ai を使うべき人、避けるべき人

Vast.ai は 2026年6月時点で世界最安水準のGPUマーケットプレイスであり、ローカルLLM運用勢にとって 「ローカルを補完するスポット火力」として極めて優秀です。最後に、推奨対象を明確にしておきます。

強く推奨する人

ローカルRTX 4090 / 5090 を持っているが、たまに70B以上を試したい
LoRA / QLoRA を頻繁に試したいが H100 を買う予算はない
動画生成（SeeDance, HunyuanVideo等）を時々試したい
個人開発でAPI推論を提供したい（Serverless で従量課金）
研究・実験用途で月利用時間が100時間未満
新しいGPU（B200等）を買う前に 1時間だけ実機検証したい

避けるべき / 別の選択肢を検討すべき人

金融・医療など 規制業界の機密データを扱う → Lambda Labs か AWS / Azure 等エンタープライズ
本番APIで 99.99% SLAが必要 → Lambda Labs / RunPod Secure / クラウド大手
月300時間以上の使用が見込まれる → ローカルRTX 5090 PC を所有したほうが安い
絶対に止まってはいけない本番システム → Vast.ai は P2P 特性上、Interruptibleでなくても完璧ではない

今後の展望

Vast.ai は2026年に入ってから Serverless SDK / 2FA TOTP / ベンチマークCLI / All-in-One App Studioと連続して機能拡張しており、エンタープライズ寄りの強化が顕著です。今後 マルチノードクラスタの強化と Secure Cloud事業者の拡充が予定されており、より大規模なワークロード（数十枚規模のH100クラスタでのフルファインチューニング等）が現実的なコストで実行可能になる見込みです。

「いま月3万円ローカル電気代を払っているなら、その半分をクラウドに振り替えるだけで H100 を100時間使える」——これが2026年のGPU調達の新常識です。本記事をブックマークして、必要なときに参照してください。

本ブログのローカルLLM関連記事も併せて参照することで、ローカルとクラウドの最適な使い分けが体得できます：