ローカルLLM環境を作るまで、AIと20回対話して気づいたこと

Contents

「Qwen3.5-9Bを動かしたい」から始まった2週間の物語


ローカルLLMを使った開発環境を、自分なりに構築しようと動き始めたのが、ある日の夜のことでした。

きっかけは単純な疑問です。

「手元のMacBook Air M4 24GBで、Qwen3.5-9Bってどれくらい快適に動くんだろう?」

その日からAIに相談しながら、2週間以上、20回以上の対話を重ねることになりました。

そして最終的に、Mac mini M4 Pro 48GB / 1TB を発注する という結論に辿り着きました。

ただ、面白いのはここからで、Mac miniを選ぶまでに、5回くらい結論が変わっています。

  • 「M4 Pro買えばいいや」
  • 「いや、M5 Proの方が速いらしい」
  • 「でも14インチは発熱問題があるらしい」
  • 「じゃあ16インチか? でも高い」
  • 「中古でも探そうか」
  • 「待って、自宅のiMacもあるじゃないか」
  • 「Windowsデスクトップ自作機も検討するか?」
  • 「やっぱりMac mini追加が一番合理的だ」

この 「迷いと撤回と再考」のプロセス こそが、自分にとって最大の学びでした。

そして気づいたのは、AIとの対話は 「答えをもらう場」ではなく「自分の思考を整理する場」 だということ。

今回は、個人開発初学者として、AIと対話しながら機材選定を進めた記録を、できるだけ正直に共有します。

同じようにAIツールと対話しながら学んでいる方の、何かの参考になれば嬉しいです。


第1章:最初の問いと、いきなりの指摘

ローカルLLMに興味を持ち始めた当初、自分の手元にあったのはこの2台でした。

  • MacBook Air M4(10コア/10GPU)24GB / 512GB
  • iMac M1 16GB / 512GB(ネット用途のみ)

実は少し前まで、ASUS ROG Flow Z13(ストリックスハロー版) も持っていました。ゲーミング性能と携帯性を両立したWindowsタブレットで、「重い処理用に」と購入したものでしたが、結局はMacとの2台運用が続かず、流れで売却することに。

この「過去の経験」が後で大きな意味を持つことになるのですが、それはまた後の章で。

さて、肝心のローカルLLM検討に戻ります。

ベンチマーク記事を漁ってみたものの、書いてある数値の前提がバラバラで、自分の環境にどう当てはめればいいのか分からない。

そこでAIに聞いてみました。

「MacBook Air M4 24GB で Qwen3.5-9B を動かしたい。実データを探して」

返ってきた答えで、最初の衝撃を受けます。

「そもそもQwen3.5-9Bというモデル、本当にあります? Qwen3-8BかQwen2.5-7Bと混同していませんか?」

調べてみると、Qwen3.5シリーズは確かに存在するものの、巷で広く比較されているベンチマークは別バージョン。

つまり、自分は曖昧なモデル名で検索していた可能性があった。

検索エンジンに「Qwen3.5-9B benchmark」と打ち込んでいたけれど、本来比較されている主流モデルは別物。これでは正確な情報に辿り着けるはずがない。

「動かしたいものの正体を、自分自身が分かっていなかった」

これが学びの1つ目でした。

個人開発初学者がやりがちな失敗: 「動かしたいモデル」の名前と仕様を、最初に正確に確認する

AIに聞かなければ、たぶん何時間もムダな調査をしていたと思います。


第2章:「最新が最強」という思い込みにハマる

「じゃあM5 Proの方が速いらしい」

そう聞いて、当初はM5 Pro 16インチ48GBが本命に見えました。

新しいチップ、Neural Acceleratorという新機能、メモリ帯域幅の向上。スペック表を眺めるたびに「これだ」と思いました。

ところが、調べを進めるとこんな事実が出てきます。

  • M5 Pro 14インチには深刻なサーマルスロットリング問題
  • 同じチップでも、16インチなら筐体が大きいので問題は緩和
  • でも16インチは48万円〜
  • M4 Pro 16インチ中古なら35万円程度で買える

じゃあM4 Pro中古でいいのでは?

ここで一度、結論が変わります。

しかも、AIに何度か対話していると、こんな指摘が入ってきました。

「短時間ピークの性能と、長時間負荷での実効性能は別物です」 「ローカルLLMは長時間フル稼働するワークロードです」 「Cinebenchの結果より、30分間の連続生成テストの方が実態に近い」

これも目から鱗でした。

ベンチマークの数値は基本「ピーク値」。でも実際の開発で使うのは、コードを生成し続けたり、長文を書き続けたり、長時間の連続処理です。

短いベンチマークが速くても、5分後にスロットルで半分の速度に落ちるなら、それは「実用速度ではない」。

スペック表より、実際の使用条件下での持続性能の方が重要だと気づいた瞬間でした。

最新を追わない方が、合理的な選択になる場面もある。


第3章:ROG Z13を手放した、という過去の事実

機材を1台に集中させるか、複数で役割分担するかの議論にも、かなりの時間を費やしました。

最初の発想は「MacBook Pro M5 Pro 1台に全部集約」でした。新品を買って、現有のAirは売却。シンプルで分かりやすい。

途中、「Windowsデスクトップを自作すれば、同価格でGPU性能が2倍以上」という選択肢も出てきました。RTX 3090中古や RTX 4090搭載のBTOマシンなど、確かにLLM推論性能では魅力的な選択肢です。

ところが、AIとの対話の中で、自分の過去を思い出すことになります。

冒頭でも触れた、ASUS ROG Flow Z13(ストリックスハロー版) のことです。

ゲーミング性能と携帯性を両立した、当時としては最強クラスのWindowsタブレット。Strix Halo世代のAPUを搭載した、ローカルLLM運用にも適性のあるマシンでした。

それを、結局手放した。

AIに「なぜ手放したと思いますか?」と聞かれて、改めて考えてみたら理由は明確でした。

  • 異なるOS間でのデータ移動が手間
  • キーバインドの違い(Cmd vs Ctrl)
  • 2台それぞれのメンテナンス負担
  • 結局、片方を起動しなくなる
  • macOSの統一感に戻った時の安心感
  • 流れで売却するに至った

理論的な合理性と、実際の運用継続性は別物。

AIはこう返しました。

「ROG Z13を手放した経験は、貴重な学びです」 「同じ失敗を繰り返さないために、その学びを次の選択に活かしましょう」

その通りでした。

「Windows自作機の方が同価格でGPU性能が高い」というのは事実だけれど、自分にとってのコストは「価格」だけじゃない。運用継続できるかどうかが、隠れた最大のコスト。

このやりとりで、「Windowsデスクトップ追加」という選択肢は静かに却下されました。

macOS統一が自分にとっての生産性の核だと、改めて確認できました。

そして次の段階で気づくことになります。

「あれ?自宅にあるiMac M1を入れたら、3台構成いけるんじゃ?」


第4章:転機 — 既存資産の真の価値

iMac M1 24インチ、グリーン。買ってから4年、メールチェックとブラウジングくらいにしか使っていません。

「古いし、いずれ買い替えだろうな」と漠然と思っていました。

しかし、AIに勧められてSSDの健康状態を測定してみたら、結果に驚きました。

Percentage Used: 2%
Available Spare: 100%
Power On Hours: 1,893時間
Temperature: 34℃
Media Errors: 0
SMART overall-health: PASSED

SSDの寿命をたった2%しか使っていない。

軽負荷で大切に使われていたiMacは、ほぼ新品同様の健康状態だったのです。

ターミナルでこのコマンドを打って、自分の機材の状態が「数値で」分かった瞬間、何かが変わりました。

sudo smartctl -a disk0

たった1行で、4年使ったMacの「あと何年使えるか」が見える。

これを知った瞬間、戦略が一変しました。

  • iMacはあと10年使える(macOSサポートが続く限り)
  • WordPressもコーディングも十分こなせる16GBメモリ
  • 24インチ4.5K Retinaディスプレイは買えば15万円相当
  • これを「メイン開発機」として復活させればいい

そして残りの役割分担も自然に決まります。

マシン役割状態
iMac M1メイン開発機健康度98%、残10年
MacBook Air M4モバイル + サブ健康度100%、残10年
Mac mini M4 Pro 48GB(新規)LLMサーバー専用注文済み

新規投資はMac mini分(約26万円)だけ。

MacBook Pro M5 Pro 48GBを買う(42万円)より16万円安く、しかも3台体制で故障リスクも分散できる。

既に持っているものの価値」を、自分は完全に見落としていたのです。


第5章:「実測」という個人開発者の基本作法

この一連のプロセスで、自分が一番変わったのは 「推測ではなく実測する」習慣 を持てたことです。

たとえばMacBook Air M4も同じく測定してみました。

Percentage Used: 0%
Power On Hours: 200時間
Temperature: 28℃

200時間しか使っていない。

つまり、新しいMacBook Airも、**まだ「使い始めの段階」**だったのです。

これからが本番。

数字で見ると、自分の機材たちの「これからの可能性」が見えてきました。

2台合計の資産価値をAIと一緒に計算してみました。

  • iMac M1(残10年): 約30万円相当
  • Air M4(残10年): 約23万円相当
  • Mac mini M4 Pro(新規): 26万円

合計約79万円相当の資産 を、実支出26万円で構築できる。

これは「もったいない」ではなく「賢明な投資」だと確信できる数字でした。

数字で語れると、判断の根拠が強くなる。

主観的な「不安」が、客観的な「データに基づく確信」に変わる瞬間です。


第6章:価格高騰への対応 — 「待つ」と「動く」の境界線

ここまで来て、もう一つ重要な要素に気づきます。

Apple製品の価格高騰です。

  • 物価高(インフレ)
  • データセンター需要によるApple Silicon調達競争
  • 円安進行
  • M5世代でも価格上昇傾向

「待てば最新が手に入る」と思っていましたが、最新を待つほど価格が上がる可能性が高い。M6世代では1.5倍近くになる可能性も否定できない状況。

特に思ったのは:

「必要だと分かっているのに、価格高騰で買えなくなる」のは個人開発者にとって最悪のシナリオ

長く対話を重ねた結果、当初は「6ヶ月後にじっくり判断」と言っていたのを、「3〜6ヶ月以内に動く」に変更しました。

そして、ある夜、発注ボタンを押すことになります。


第7章:発注の瞬間

Mac mini M4 Pro 48GB / 1TBの注文を確定したのは、ある夜のことです。

10週間の納期。届くのは7月中旬。

注文確定の画面を見ながら、不思議と、迷いはありませんでした。

2週間にわたって、20回以上の対話で考え抜いた結論だったからです。

衝動買いなら、後悔したかもしれません。

しかし、今回は違いました。

  • 自分の用途を整理し
  • 過去の経験(ROG Z13を含む)を活かし
  • 既存資産の健康度を実測し
  • 経済環境のリスクを評価し
  • 期限を切って決断する

これだけのプロセスを経た結論は、揺らぎません。

「これが今、自分にとって最適な選択だ」と、堂々と言える。

その確信が持てたことが、機材以上に大きな収穫でした。


AIとの対話で得た10の学び

最後に、この2週間でAIと対話する中で得た学びを、箇条書きにまとめます。

同じようにAIツールと対話しながら学んでいる方の参考になれば。

1. 「最新最強」と「自分に最適」は別物

スペック表の数値より、自分の用途で実際に何が必要かが重要。

2. AIは「答え」をくれるんじゃなく「整理」を手伝ってくれる

何度も対話するうちに、自分の中の優先順位がはっきりしてくる。

3. 既存資産を測定すると、隠れた価値が見える

「古い」は感覚、健康度は数値。SSD診断は無料で5分でできる。

4. 過去の失敗(売却)も貴重な学習データ

ROG Z13を手放した経験が、Windowsデスクトップ追加を却下する判断材料になった。

5. 発熱とサーマルスロットリングは購入後に効いてくる

ベンチマークの数値は短時間ピーク。実用は長時間持続性能で決まる。

6. 「価格は今がいちばん安い」可能性

物価高・円安・需要過多。待つほど高くなるリスク。

7. モバイル機と据置機の役割は違う

1台に全部やらせると、どの用途も中途半端になりがち。

8. AIには率直に弱みを話したほうがいい

「分からない」「迷っている」と素直に言うほど、的確なフィードバックが返ってくる。

9. 「動いた」より「なぜ動いたか」を考える習慣

ハードやソフトを買い増す前に、原理を理解する方が長期的に得。

10. 期限を切らない検討は、永遠に決まらない

完璧な選択肢を待つより、現時点での最善を選ぶ方が前に進める。


これからの10年計画

7月中旬、Mac mini M4 Pro 48GBが届きます。

  • iMac M1(健康度98%): あと10年メイン機
  • MacBook Air M4(健康度100%): あと10年モバイル機
  • Mac mini M4 Pro 48GB(新品): あと10年LLMサーバー

3台で約79万円相当の資産。新規投資は26万円。

10年後、自分が個人開発者としてどこまで成長しているかは分かりません。

ただ、機材は確実にそこにある。

「環境がない」という言い訳はもうできません。

WordPress設定の完成、電車サービスの開発、職場のClaude Code活用。やるべきことは山積みです。

機材を整えることがゴールではなく、ここからがスタート。

そして、たぶん次にこの記録を更新する時には、また別の悩みと別の決断が書かれているはずです。

それでいい。

個人開発者の成長は、迷いと決断の連続でしか進まない のだから。


おわりに — 同じようにAIと対話しているあなたへ

長い記事を最後まで読んでくださってありがとうございました。

もしあなたが同じように:

  • 「ローカルLLMを始めたいけど、機材が分からない」
  • 「最新を買うべきか、中古でいいか」
  • 「1台に集約か、2台体制か」
  • 「自分の選択に自信が持てない」

と悩んでいるなら、この記事が判断材料の一つになれば嬉しいです。

そして、これだけは伝えたい。

AIとの対話は、答えをもらう場ではなく、自分の思考を整理する場です。

何度でも聞き直せるし、自分の言葉で説明することで、自分自身の優先順位が見えてくる。

20回対話しても、たぶん多すぎることはない。

ぜひ、自分なりの2週間を過ごしてみてください。

きっと、納得できる結論に辿り着けます。

そして、その結論に至るまでの「迷いの過程」こそが、あなた自身の成長になります。


この記事は、個人開発初学者がAIと対話しながら機材選定を進めた記録です。 同じような悩みを持つ方への参考になれば幸いです。 ご意見・ご感想はコメント欄でお聞かせください。


この記事を書いた人について: 個人開発初学者。WordPress設定変更、電車サービス開発を進行中。 2026年7月にMac mini M4 Pro 48GBが届き、3台構成でのローカルLLM運用を本格スタート予定。