gemma4:12b-it-q8_0 の必要メモリと速さ【実測】

gemma4:12b-it-q8_0 を自宅のPCで実測。使用メモリ約14.2GB、GPUで約43トークン/秒、CPUのみで約4.6トークン/秒。VRAM・メモリ別にどのPCで動くかまとめました。

結論
  • 使用メモリは約14.2GB(測定日 2026-10-04)
  • GPU(VRAM 16GB)で約43.5トークン/秒 ⚡ 一瞬
  • GPUなし(CPUのみ)で約4.6トークン/秒 🐢 待つ

条件ごとの速さ

条件速さ(トークン/秒)体感
GPU・VRAM 16GB(RTX 4080)43.5⚡ 一瞬
VRAM 12GB相当17.2😊 快適
VRAM 8GB相当8.2🙂 少し待つ
CPUのみ(GPUなし)4.6🐢 待つ

どのPCで動く?

◎ VRAMに全部収まる / △ 収まらない分をCPUで処理 / ○ GPUなしで動く / × メモリ不足。OSなどに約4GB、GPUに約1GBの余裕を見込んでいます。

ほかのモデルとの比較

生成速度(トークン/秒)GPUあり(RTX 4080)CPUのみgemma3:4bメモリ 2.8GB142.021.5qwen3.5:9bメモリ 6.0GB96.411.2★ gemma4:12b-it-q8_0メモリ 14.2GB43.54.6
このサイトの運営PC(Ryzen 7 9800X3D / メモリ31GB / RTX 4080(VRAM 16GB))で、同じ質問に答える速さを実測。測り方

よくある質問

gemma4:12b-it-q8_0 に必要なメモリは?

このサイトの実測では、読み込み時の使用メモリは約14.2GBでした。GPUで速く動かすならVRAM 16GB以上、GPUなしならPCのメモリ32GB以上が目安です。

gemma4:12b-it-q8_0 はGPUなしでも動く?

動きます。CPUのみで約4.6トークン/秒(待つ)でした。長い文章では待ち時間が気になります。

gemma4:12b-it-q8_0 はVRAM 8GBのGPUで動く?

動きますが、VRAMに全部は収まらないため一部をCPUで処理します。VRAM 8GB相当で約8.2トークン/秒、VRAM 16GBでは約43.5トークン/秒でした。

このサイトの運営PC(Ryzen 7 9800X3D / メモリ31GB / RTX 4080(VRAM 16GB))での実測値です。「VRAM 8GB/12GB相当」は、RTX 4080 のまま使えるVRAMの量を制限して測った値です。実際の 8GB・12GB のGPUは、4080より処理が遅いぶん速さが下がることがあります。測り方