ローカルLLMに必要なスペック【GPU・メモリの選び方】
目次
ローカルLLMを快適に動かすには、適切なハードウェアが必要です。
この記事では、用途別の推奨スペックとコストを解説します。
スペックの考え方
重要な要素
| 要素 | 重要度 | 理由 |
|---|---|---|
| GPU VRAM | ◎ | モデルの読み込みに必要 |
| GPU性能 | ○ | 推論速度に影響 |
| メモリ | ○ | 大きいモデルで必要 |
| ストレージ | △ | モデル保存に必要 |
| CPU | △ | GPU推論では影響小 |
モデルサイズとVRAM
【目安】
モデルパラメータ数 × 2 ≒ 必要VRAM（GB）
※ 4bit量子化の場合
例：
7Bモデル → 約4GB VRAM
13Bモデル → 約8GB VRAM
30Bモデル → 約16GB VRAM
70Bモデル → 約40GB VRAMGPUの選び方
NVIDIA GPU比較
| GPU | VRAM | 価格目安 | 対応モデル |
|---|---|---|---|
| RTX 3060 | 12GB | 3〜4万円 | 〜13B |
| RTX 4060 Ti | 16GB | 6〜7万円 | 〜20B |
| RTX 4070 | 12GB | 8〜9万円 | 〜13B |
| RTX 4080 | 16GB | 15〜18万円 | 〜20B |
| RTX 4090 | 24GB | 25〜30万円 | 〜30B |
選び方のポイント
【VRAMが最重要】
・GPUの演算性能より VRAM容量を優先
・12GBあれば多くの用途に対応
・24GBあれば大型モデルも可
【コスパ重視なら】
RTX 3060 12GB（3〜4万円）
→ VRAM容量に対して安価GPU推論が必要な理由
【CPU推論】
・遅い（10〜100倍遅い）
・でも動く
・試用には使える
【GPU推論】
・高速
・実用的
・リアルタイム応答可能メモリとストレージ
システムメモリ
| 用途 | 推奨メモリ |
|---|---|
| 7Bモデル | 16GB以上 |
| 13Bモデル | 32GB以上 |
| 30B以上 | 64GB以上 |
【メモリが必要な理由】
・モデルの一部をメモリに展開
・GPU VRAMが足りない場合のオフロード
・他のアプリケーションとの同時使用ストレージ
【必要容量の目安】
・OS・アプリ：50GB
・モデル1つ：4〜40GB
・複数モデル：100GB以上推奨
【SSD推奨】
・モデル読み込みが高速
・NVMe SSDが最適用途別推奨スペック
入門・検証用
【用途】
・ローカルLLMの試用
・小規模な利用
・学習目的
【推奨スペック】
GPU：RTX 3060 12GB
CPU：Core i5以上
メモリ：16GB
ストレージ：SSD 256GB
【対応モデル】
7B〜13Bクラス
【費用目安】
15〜20万円（PC全体）実務利用（個人・小規模）
【用途】
・日常的なAI活用
・文書作成支援
・データ分析補助
【推奨スペック】
GPU：RTX 4060 Ti 16GB / RTX 4070
CPU：Core i7以上
メモリ：32GB
ストレージ：SSD 512GB
【対応モデル】
7B〜20Bクラス
【費用目安】
25〜35万円（PC全体）本格運用（部門・チーム）
【用途】
・複数人での利用
・高品質な応答が必要
・複雑なタスク
【推奨スペック】
GPU：RTX 4090 24GB
CPU：Core i9 / Ryzen 9
メモリ：64GB
ストレージ：SSD 1TB
【対応モデル】
〜30Bクラス
【費用目安】
50〜70万円（PC全体）構成例と費用
構成例1: 入門構成
【パーツ構成】
CPU：Intel Core i5-13400（3万円）
GPU：RTX 3060 12GB（4万円）
メモリ：DDR4 16GB（0.8万円）
SSD：500GB NVMe（0.6万円）
マザーボード：B660（1.5万円）
電源：650W（1万円）
ケース：（0.8万円）
【合計】約12万円
※ OS別、中古活用でさらに安く構成例2: 実務構成
【パーツ構成】
CPU：Intel Core i7-13700（5万円）
GPU：RTX 4060 Ti 16GB（7万円）
メモリ：DDR5 32GB（1.5万円）
SSD：1TB NVMe（1万円）
マザーボード：B760（2万円）
電源：750W（1.2万円）
ケース：（1万円）
【合計】約19万円構成例3: ハイエンド構成
【パーツ構成】
CPU：Intel Core i9-14900K（8万円）
GPU：RTX 4090 24GB（28万円）
メモリ：DDR5 64GB（3万円）
SSD：2TB NVMe（2万円）
マザーボード：Z790（3万円）
電源：1000W（2万円）
ケース：（1.5万円）
【合計】約48万円Mac（Apple Silicon）の場合
Apple Siliconの特徴
【メリット】
・統合メモリ（GPU/CPU共有）
・電力効率が良い
・Ollamaが最適化されている
・静音
【デメリット】
・メモリ増設不可
・NVIDIAに比べると遅い場合あり推奨モデル
| Mac | メモリ | 対応モデル | 価格 |
|---|---|---|---|
| M1/M2 | 16GB | 〜7B | 15〜20万円 |
| M1/M2 Pro | 32GB | 〜13B | 25〜35万円 |
| M1/M2 Max | 64GB | 〜30B | 40〜50万円 |
| M2 Ultra | 128GB | 〜70B | 80万円〜 |
Macでの実行
【Ollama on Mac】
・M1以降のMacで動作
・統合メモリをフル活用
・インストールは簡単
# インストール
brew install ollama
# 実行
ollama run llama3.1クラウドGPUの選択肢
クラウドを使う場合
【向いているケース】
・初期投資を抑えたい
・一時的な利用
・超大型モデルを使いたい
【サービス例】
・Google Colab（無料枠あり）
・AWS（EC2 GPU インスタンス）
・Azure（GPU VM）
・Lambda Labs
・RunPodコスト比較
【月100時間利用の場合】
クラウド（RTX 4090相当）：
約3〜5万円/月
自前（RTX 4090）：
初期50万円、電気代月3000円程度
→ 1年以上使うなら自前が安いまとめ
スペック選びの基本
1. 使いたいモデルサイズを決める
2. 必要なVRAMを確認
3. 予算に合わせてGPUを選択
4. メモリ・ストレージを決定推奨構成
【入門】
RTX 3060 12GB + 16GB RAM
→ 7B-13Bモデル、約15万円
【実務】
RTX 4060 Ti 16GB + 32GB RAM
→ 7B-20Bモデル、約25万円
【本格】
RTX 4090 24GB + 64GB RAM
→ 30Bまで、約50万円参考・一次情報
- Ollama公式「Hardware support」 — NVIDIA・AMD・Apple GPUの対応条件を確認する公式ハードウェア資料です。
- Ollama公式FAQ — モデルがCPU・GPUのどちらに載ったかの確認方法、コンテキスト長と並列処理によるメモリ増加の説明があります。
- llama.cpp公式「Quantization」 — 量子化によるモデル容量の変化、必要RAM・ディスク容量、品質とのトレードオフを示すプロジェクト一次資料です。
- llama.cpp公式リポジトリ — CPU・CUDA・Metalなどの対応バックエンドと、Apple Silicon最適化を確認できます。
関連記事
お問い合わせ
ローカルLLM環境構築についてのご相談は、お気軽にお問い合わせください。
最終更新: 2025年1月