生成AI

Qwen3.8-27Bを自分のPCで動かしてみたい人向けに、GGUF＋llama.cppと公式FP8＋vLLMの2つの方法を紹介します。GPUメモリ別の選び方からインストール、API接続、OOM対策まで、実際にローカルLLMを使うときに困りやすいポイントをまとめました。