ローカルLLMを「相棒」として育てる計画を進める中、6月13日と6月17日に2つの作業をした。1つは手持ちのMacの実力差を実データで確認すること、もう1つは過去の失敗を踏まえて学習プランを書き直すことだった。
Contents
やったこと：性能比較
MacBook Air M4（24GB）とMacBook Pro M4 Pro（48GB）で、8B〜9B級のローカルLLMを動かした場合の性能差を調査した。調べる過程で、当初指定していたモデル名が実在しないものと混同していたことも判明し、まず正しいモデル名を特定するところから始めた。
結果として、メモリ帯域幅がAirの120GB/sに対しProは273GB/s、生成速度にして約3〜4倍の差が見込まれることが分かった。理由は、LLMの推論がトークンを1つ生成するたびにモデルの重みをメモリから読み出す必要があるため、CPU/GPUのコア数よりメモリの読み出し速度の方が効くという性質によるもの。とくにQwen系の「Thinking Mode」（回答前に内部で思考プロセスを生成する機能）は1回の回答で数千〜数万トークンを消費するため、Airでは実用的な速度を大きく下回る可能性が高いことも分かった。
やったこと：プランの修正
この調査と並行して、別の機会に作った「相棒を育てる最初の2週間プラン」を見直した。きっかけは、元のプランが「朝5分、LM Studioで対話する」中心の内容で、自分が過去に本当に苦労した道具——Aider——が一度も出てこなかったことに気づいたためだ。
過去を振り返ると、iMacを設計役・Airを実装役にしてAiderで2台分業させようとした構成が、設定の煩雑さ（環境変数を毎回切り替える必要がある等）で最後まで運用できなかった、という経験があった。これはMac mini級のサーバーが常駐して初めて快適になる仕組みであり、腕の問題ではなく構成の選び方の問題だったと判断した。
そこで、2週間プランに週1回「aiderデー」を追加しつつ、2台分業は今回あえて封印し、Air1台・モデル1つのシンプルな構成だけを触り直す形に修正した。コピペ一発で起動できるaliasもあらかじめ用意し、環境変数を毎回打つ煩雑さをなくした。
気づいたこと
性能比較だけで終わらせず、自分の過去の失敗（2台分業が運用できなかったこと）を正直にプランへ反映できたのが、今回の一番の収穫だった。「できなかったこと」を隠さずに計画へ織り込む方が、結局は続けやすい計画になる——これはAiderに限らず、今後の学習プラン全体に使える教訓だと思う。
Mac mini / Aider / ローカルLLM / ベンチマーク
このブログでは、ローカルLLM・Aider・個人開発の試行錯誤をそのまま記録しています。
