ローカルLLM用PC診断|動かしたいモデルから選ぶ
クラウドではなく自分のPCでAIモデル(ローカルLLM)を動かすには、モデルの大きさに見合ったメモリ(VRAM/ユニファイドメモリ)が必要です。この診断では「動かしたいモデルの規模」から逆算して、PCの候補を出します。
本ページはプロモーションを含みます
診断結果
理由
向かない選択
注意点
価格は変動するため、このページには載せていません。価格はリンク先で確認してください。
VRAMの目安(経験則)
以下はQ4量子化を前提にした経験則の目安です。モデルやコンテキスト長によって変わります。詳しくはVRAM目安の解説記事へ。
| モデルの規模 | 必要なVRAM/メモリの目安(Q4) |
|---|---|
| 7〜8B | 8〜16GB |
| 14B | 12〜16GB |
| 32B | 24GB以上 |
| 70B | ユニファイドメモリ64GB以上(GPUなら複数枚構成が現実的) |
解説記事
ローカルLLMに必要なVRAMの目安
モデル規模×量子化でメモリはどれくらい要るのか。経験則として整理しました。
RTX 5060 Ti 16GB完成品と中古RTX 3090で迷ったらVRAM・発熱・中古リスクなど、判断軸を並べて比べます。
Mac(Apple Silicon)でローカルLLMユニファイドメモリの考え方と、向く規模・向かない用途。
初めてのローカルLLM用PCの選び方完成品/GPU追加/Macの3択と、見落としがちな確認点。
量子化(Q4/Q8/FP16)で何が変わるかメモリ・速度・品質のトレードオフを整理します。
このサイトについて
このサイトは、ローカルLLM(自分のPCで動かすAIモデル)を動かすためのPC選びを、「動かしたいモデルの規模」から逆算して考える診断サイトです。スペック表を眺めるのではなく、先に「何を動かしたいか」を決めてから、必要なメモリやグラフィックボードのクラスを絞り込む、という順番で案内します。
メモリ容量の目安は経験則に基づくもので、モデルや設定によって結果は変わります。価格は変動が大きいため掲載せず、リンク先で確認する形式にしています。