KANAF Works

Tech and Misc

最新の記事

RTX 4090とRTX 4000 AdaでVRAMに乗らないMoE LLMを動かし比べてみた話

RTX 4090とRTX 4000 Adaの2枚で、VRAMに乗りきらない大きなMoE LLM(Qwen3.8-Flash-Next 125B、GLM-5.3-Flash 321B、DeepSeek-V4.1-Flash 748B)を、llama.cpp・Ollama・Strata・Project Mayaで動かし比べた検証記録。専用エンジンは生成で3倍強、読み込みで最大10倍速く、100万トークンのコンテキストやClaude Codeのバックエンドとしても実用になった。異種の2枚は、モデルがRAMに乗るなら1枚の方が速い。

NVMe SSD 3枚のbtrfs RAID0を理論値と実測で検証した話

NVMe SSD 3枚(うち1枚はUSB4とレーンを分け合うx2接続)でbtrfs RAID0を組み、構成から見積もった理論値とfioの実測を突き合わせた検証記録。読み込みは「一番遅いドライブ×台数」どおり18.8GB/sに達した一方、書き込みはbtrfsがチェックサム付きファイルへのO_DIRECTをバッファ書き込みに切り替えるため伸びず、LLMのモデルのロードはページキャッシュ経由の読み込みで頭打ちだった。推論エンジンStrataのローダーをO_DIRECT対応にするパッチも作成。

Cloudflare WARP × WSL2 で起きる証明書エラーの罠に対処した話

Cloudflare WARPが常時接続の貸与PCで、WSL2から一部のサイトだけHTTPSが証明書エラーになり、uvなどのインストールスクリプトが動かなかった。WARPのTLSインスペクションで使われている証明書をWindowsから特定・エクスポートしてWSL2に登録するまでの手順と、配布版の証明書では通らなかった理由、常駐サービスの再起動の注意点。

自前のtailnetを使いながら取引先のtailnetにも同時に参加してみた話

Tailscaleの公式クライアントは同時に1つのtailnetにしかつなげない。取引先のtailnetはDockerコンテナ(userspace networking + SOCKS5)に参加させ、自前のtailnetとLAN開発を維持したまま、ブラウザやClaude Codeからだけ取引先のexit-node経由でステージング環境にアクセスする構成と、そのハマりどころ。

新品ノートPCを買う際の予算感について

割と色々な人から、「新しいノートパソコンを買いたいんだけど、オススメってある?」みたいなことを聞かれるので、 こちらからは予算や用途を聞いた中でオススメできそうなものを勧めることにしていますが、 「そもそもノートPCの予算感が分からん」っていう人も多いようですので、これから初めて …