ローカルLLM - Tag - KANAF Workshttps://kanaf.info/tags/%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABllm/ローカルLLM - Tag - KANAF WorksHugo -- gohugo.iojaFri, 23 Oct 2026 18:11:53 +0900【自宅サーバー勢向け】 RTX 4090とRTX 4000 AdaでVRAMに乗らないMoE LLMを動かし比べてみた話 【ローカルLLM】https://kanaf.info/posts/tips/local-llm-moe-2gpu/Fri, 23 Oct 2026 18:11:53 +0900Authorhttps://kanaf.info/posts/tips/local-llm-moe-2gpu/手元の開発用 Linux サーバーに RTX 4090 と RTX 4000 Ada の2枚が挿さっているので、VRAM に乗りきらない大きな MoE モデルを、どの推論エンジンでどれくらいの速度で動