ローカルAI用PCの選び方(実測データで見る目安)
「自分のPCでAIは動く?」「これから買うなら何を見ればいい?」に、このサイトで実際に測った数字で答えます。
結論:見るべきは「メモリ」と「GPUのVRAM」
- モデルの使用メモリより、PCのメモリ(GPUならVRAM)に余裕があるか
- GPUがなくても、小さめのモデルなら会話に使える速さが出る
- 速さを求めるなら、モデルがVRAMに全部収まるGPUを選ぶ
ポイント1:PCのメモリで「動くかどうか」が決まる
ローカルAIは、モデル全体をメモリに読み込んで動かします。OSやブラウザなどにも数GB使うため、ここでは約4GBを差し引いた残りに収まるモデルを「動かせそう」としています。
メモリ 8GB(GPUなし)
- gemma3:1b使用メモリ 0.9GB・約62トークン/秒⚡ 一瞬
- llama3.2:3b使用メモリ 2.3GB・約27トークン/秒😊 快適
- qwen3.5:2b使用メモリ 2.3GB・約28トークン/秒😊 快適
- gemma3:4b使用メモリ 2.8GB・約21トークン/秒😊 快適
- qwen3.5:4b使用メモリ 3.1GB・約19トークン/秒😊 快適
メモリ 16GB(GPUなし)
- gemma3:1b使用メモリ 0.9GB・約62トークン/秒⚡ 一瞬
- llama3.2:3b使用メモリ 2.3GB・約27トークン/秒😊 快適
- qwen3.5:2b使用メモリ 2.3GB・約28トークン/秒😊 快適
- gemma3:4b使用メモリ 2.8GB・約21トークン/秒😊 快適
- qwen3.5:4b使用メモリ 3.1GB・約19トークン/秒😊 快適
- qwen3.5:9b使用メモリ 6.0GB・約11トークン/秒🙂 少し待つ
メモリ 32GB(GPUなし)
- gemma3:1b使用メモリ 0.9GB・約62トークン/秒⚡ 一瞬
- llama3.2:3b使用メモリ 2.3GB・約27トークン/秒😊 快適
- qwen3.5:2b使用メモリ 2.3GB・約28トークン/秒😊 快適
- gemma3:4b使用メモリ 2.8GB・約21トークン/秒😊 快適
- qwen3.5:4b使用メモリ 3.1GB・約19トークン/秒😊 快適
- qwen3.5:9b使用メモリ 6.0GB・約11トークン/秒🙂 少し待つ
- gemma4:12b-it-q8_0使用メモリ 14.2GB・約5トークン/秒🐢 待つ
ポイント2:GPUのVRAMで「速さ」が決まる
モデルがGPUのVRAMに全部収まると、GPUだけで高速に処理できます。収まらないと一部をCPUで処理することになり、速度が大きく落ちます。ここでは約1GBの余裕を見込んでいます。
たとえば gemma4:12b-it-q8_0(使用メモリ 14.2GB)は、GPUありで43.5トークン/秒、CPUのみで4.6トークン/秒でした。同じモデルでも、GPUに全部載るかどうかで体感が大きく変わります。
VRAM 8GB のGPU
- gemma3:1b使用メモリ 0.9GB・約217トークン/秒⚡ 一瞬
- llama3.2:3b使用メモリ 2.3GB・約190トークン/秒⚡ 一瞬
- qwen3.5:2b使用メモリ 2.3GB・約170トークン/秒⚡ 一瞬
- gemma3:4b使用メモリ 2.8GB・約142トークン/秒⚡ 一瞬
- qwen3.5:4b使用メモリ 3.1GB・約132トークン/秒⚡ 一瞬
- qwen3.5:9b使用メモリ 6.0GB・約96トークン/秒⚡ 一瞬
VRAM 12GB のGPU
- gemma3:1b使用メモリ 0.9GB・約217トークン/秒⚡ 一瞬
- llama3.2:3b使用メモリ 2.3GB・約190トークン/秒⚡ 一瞬
- qwen3.5:2b使用メモリ 2.3GB・約170トークン/秒⚡ 一瞬
- gemma3:4b使用メモリ 2.8GB・約142トークン/秒⚡ 一瞬
- qwen3.5:4b使用メモリ 3.1GB・約132トークン/秒⚡ 一瞬
- qwen3.5:9b使用メモリ 6.0GB・約96トークン/秒⚡ 一瞬
VRAM 16GB のGPU
- gemma3:1b使用メモリ 0.9GB・約217トークン/秒⚡ 一瞬
- llama3.2:3b使用メモリ 2.3GB・約190トークン/秒⚡ 一瞬
- qwen3.5:2b使用メモリ 2.3GB・約170トークン/秒⚡ 一瞬
- gemma3:4b使用メモリ 2.8GB・約142トークン/秒⚡ 一瞬
- qwen3.5:4b使用メモリ 3.1GB・約132トークン/秒⚡ 一瞬
- qwen3.5:9b使用メモリ 6.0GB・約96トークン/秒⚡ 一瞬
- gemma4:12b-it-q8_0使用メモリ 14.2GB・約43トークン/秒⚡ 一瞬
ポイント3:まずは手持ちのPCで試すのがおすすめ
買い替えの前に、今のPCで小さいモデルから試すと、自分に必要な速さが分かります。あなたのPCで動く?チェッカーで、メモリとGPUを選ぶと目安を確認できます。
速さはこのサイトの運営PC(Ryzen 7 9800X3D / メモリ31GB / RTX 4080(VRAM 16GB))での実測値です。GPU(RTX 4080での値)やCPUが違えば速さも変わります。測り方