ローカルAI用PCの選び方(実測データで見る目安)

「自分のPCでAIは動く?」「これから買うなら何を見ればいい?」に、このサイトで実際に測った数字で答えます。

結論:見るべきは「メモリ」と「GPUのVRAM」
  • モデルの使用メモリより、PCのメモリ(GPUならVRAM)に余裕があるか
  • GPUがなくても、小さめのモデルなら会話に使える速さが出る
  • 速さを求めるなら、モデルがVRAMに全部収まるGPUを選ぶ

ポイント1:PCのメモリで「動くかどうか」が決まる

ローカルAIは、モデル全体をメモリに読み込んで動かします。OSやブラウザなどにも数GB使うため、ここでは約4GBを差し引いた残りに収まるモデルを「動かせそう」としています。

メモリ 8GB(GPUなし)

  • gemma3:1b使用メモリ 0.9GB・約62トークン/秒⚡ 一瞬
  • llama3.2:3b使用メモリ 2.3GB・約27トークン/秒😊 快適
  • qwen3.5:2b使用メモリ 2.3GB・約28トークン/秒😊 快適
  • gemma3:4b使用メモリ 2.8GB・約21トークン/秒😊 快適
  • qwen3.5:4b使用メモリ 3.1GB・約19トークン/秒😊 快適

メモリ 16GB(GPUなし)

  • gemma3:1b使用メモリ 0.9GB・約62トークン/秒⚡ 一瞬
  • llama3.2:3b使用メモリ 2.3GB・約27トークン/秒😊 快適
  • qwen3.5:2b使用メモリ 2.3GB・約28トークン/秒😊 快適
  • gemma3:4b使用メモリ 2.8GB・約21トークン/秒😊 快適
  • qwen3.5:4b使用メモリ 3.1GB・約19トークン/秒😊 快適
  • qwen3.5:9b使用メモリ 6.0GB・約11トークン/秒🙂 少し待つ

メモリ 32GB(GPUなし)

  • gemma3:1b使用メモリ 0.9GB・約62トークン/秒⚡ 一瞬
  • llama3.2:3b使用メモリ 2.3GB・約27トークン/秒😊 快適
  • qwen3.5:2b使用メモリ 2.3GB・約28トークン/秒😊 快適
  • gemma3:4b使用メモリ 2.8GB・約21トークン/秒😊 快適
  • qwen3.5:4b使用メモリ 3.1GB・約19トークン/秒😊 快適
  • qwen3.5:9b使用メモリ 6.0GB・約11トークン/秒🙂 少し待つ
  • gemma4:12b-it-q8_0使用メモリ 14.2GB・約5トークン/秒🐢 待つ

ポイント2:GPUのVRAMで「速さ」が決まる

モデルがGPUのVRAMに全部収まると、GPUだけで高速に処理できます。収まらないと一部をCPUで処理することになり、速度が大きく落ちます。ここでは約1GBの余裕を見込んでいます。

たとえば gemma4:12b-it-q8_0(使用メモリ 14.2GB)は、GPUありで43.5トークン/秒、CPUのみで4.6トークン/秒でした。同じモデルでも、GPUに全部載るかどうかで体感が大きく変わります。

VRAM 8GB のGPU

  • gemma3:1b使用メモリ 0.9GB・約217トークン/秒⚡ 一瞬
  • llama3.2:3b使用メモリ 2.3GB・約190トークン/秒⚡ 一瞬
  • qwen3.5:2b使用メモリ 2.3GB・約170トークン/秒⚡ 一瞬
  • gemma3:4b使用メモリ 2.8GB・約142トークン/秒⚡ 一瞬
  • qwen3.5:4b使用メモリ 3.1GB・約132トークン/秒⚡ 一瞬
  • qwen3.5:9b使用メモリ 6.0GB・約96トークン/秒⚡ 一瞬

VRAM 12GB のGPU

  • gemma3:1b使用メモリ 0.9GB・約217トークン/秒⚡ 一瞬
  • llama3.2:3b使用メモリ 2.3GB・約190トークン/秒⚡ 一瞬
  • qwen3.5:2b使用メモリ 2.3GB・約170トークン/秒⚡ 一瞬
  • gemma3:4b使用メモリ 2.8GB・約142トークン/秒⚡ 一瞬
  • qwen3.5:4b使用メモリ 3.1GB・約132トークン/秒⚡ 一瞬
  • qwen3.5:9b使用メモリ 6.0GB・約96トークン/秒⚡ 一瞬

VRAM 16GB のGPU

  • gemma3:1b使用メモリ 0.9GB・約217トークン/秒⚡ 一瞬
  • llama3.2:3b使用メモリ 2.3GB・約190トークン/秒⚡ 一瞬
  • qwen3.5:2b使用メモリ 2.3GB・約170トークン/秒⚡ 一瞬
  • gemma3:4b使用メモリ 2.8GB・約142トークン/秒⚡ 一瞬
  • qwen3.5:4b使用メモリ 3.1GB・約132トークン/秒⚡ 一瞬
  • qwen3.5:9b使用メモリ 6.0GB・約96トークン/秒⚡ 一瞬
  • gemma4:12b-it-q8_0使用メモリ 14.2GB・約43トークン/秒⚡ 一瞬

ポイント3:まずは手持ちのPCで試すのがおすすめ

買い替えの前に、今のPCで小さいモデルから試すと、自分に必要な速さが分かります。あなたのPCで動く?チェッカーで、メモリとGPUを選ぶと目安を確認できます。

速さはこのサイトの運営PC(Ryzen 7 9800X3D / メモリ31GB / RTX 4080(VRAM 16GB))での実測値です。GPU(RTX 4080での値)やCPUが違えば速さも変わります。測り方