MacBook Proユーザーが128GB超えLLM用ミニPCを探してるんだが

掲示板 フォーラム スマホ・ガジェット MacBook Proユーザーが128GB超えLLM用ミニPCを探してるんだが

スレッド概要

「MacBook Proユーザーが128GB超えLLM用ミニPCを探してるんだが」についてのスレッドです。普段はMacユーザーで、メイン機にMacBook Pro、24時間稼働のエージェント用にMac mini M4、NASでストレージと軽量コンテナを運用してる。 最近ClaudeとかのAPI費用がバカにならなくて、ローカルLLM用の専用サーバーが欲しくなった。 21件の返信で意見交換されています。

  • このトピックには21件の返信、7人の参加者があり、最後に名無しさんにより1ヶ月、 3週前に更新されました。
21件の返信を表示中(うち親返信7件)
  • 投稿者
    投稿
    • #466386 返信
      名無しさん
      普段はMacユーザーで、メイン機にMacBook Pro、24時間稼働のエージェント用にMac mini M4、NASでストレージと軽量コンテナを運用してる。最近ClaudeとかのAPI費用がバカにならなくて、ローカルLLM用の専用サーバーが欲しくなった。理想は128GB以上のRAMで、最低5年は戦える構成。予算は仕事で出せるから柔軟に考えたい。おすすめある?

    • #466387 返信
      名無しさん
      素直にすごいな。でも128GB積めるミニPCってまだ選択肢少ないよね。メーカー公称スペックで見ると、AMDのStrix Haloプラットフォームがコスパ良さそうだけど、実際の供給はまだらだし。

    • #466388 返信
      名無しさん
      今ならStrix Halo搭載機が一番コスパいいと思う。RAMの値上がり傾向考えると投資としても悪くない。Mac Studioの128GB版はもっといいけど、かなり高くなる。

      • #466390 返信
        名無しさん
        Mac Studio調べたけど、128GB RAMってなぜかUKでは選べなかったんだよね。地域限定なのかな。

        • #466391 返信
          名無しさん
          96GBでも十分な場合もあるけど、長いコンテキスト扱うなら余裕が減るよな。俺はBOSGAME M5を£2kでポチった。今のところUKで一番安いHalo機。他は£3kからだし、GMK X2は£2.7kだけど評価悪い。NvidiaのGB10(Spark)は£4.2kから。MacかAMDの方が将来潰しが効くと思う。Macはメモリ帯域が広いからモデルの推論速度は上。ただRAM不足と価格高騰がなあ。

          • #466392 返信
            名無しさん
            AMDのHalo開発者プラットフォーム、予約開始してるけどUSのみっぽい。ソフトウェア最適化も期待してるから、もう少し待つか。公式の仕様見ると、メモリ帯域はLPDDR5xで256GB/sってとこか。実際のパフォーマンスはドライバ次第だな。

    • #466389 返信
      名無しさん
      Strix Haloか、RTX Sparkを待つかだな。

    • #466393 返信
      名無しさん
      5年の将来性を考えるならミニPCは厳しいよ。拡張性がほぼないからな。Strix HaloもMacも、LLM用途だとパーツ交換できないし、使うモデル次第で寿命が変わる。

    • #466394 返信
      名無しさん
      現実的な選択肢は2つ、頑張って3つだな。MacがダメならAMD 395 Max+かNvidia DGX Spark。性能は近いけど、SparkはNVFP4サポートとNvidia環境への移行が楽。AMDは$3000くらい、Nvidiaは$4000くらい。あとはIntel Panther Lakeのミニデスクトップ、例えばAsus NUC 16にx7 358h搭載とか。でも正直どれも5年は保たないと思う。

      • #466399 返信
        名無しさん
        512bit以上のメモリバスとDDR5が正解だよ。ついでに言うと、Apple Siliconには勝てない。M5 Ultraは1024bitバスでLPDDR5x 9600MT/s、1.2TB/s。Epyc 9575Fは768bitでDDR5 6400MT/s、614GB/s。消費電力もAppleが4分の1。512GBのM5 Ultraが出れば、800Bクラスのローカル推論を支配するだろうね。規格上はLPDDR5xの省電力性が効いてる。

        • #466402 返信
          名無しさん
          このレス見て、数ヶ月待ってM5 Ultraを狙うのもアリかと思えてきた。仕事で申請通しやすいのがMacの強みだし。ただ、サポートページで実際の供給時期と価格を確認しないとな。

        • #466404 返信
          名無しさん
          確かにその通り。俺は市場に出てるハードに限定して考えてた。512GBのM4 Ultraがいくらになるか興味あるよ。M3 Ultraの512GBはメモリ価格高騰前に$10kだったけど、今は96GBでも$7600だし。次世代を待つなら、Epyc Veniceも16チャンネルで1.6TB/sとか言われてるし、にわかには信じがたいが。マニュアルの注意点としては、こういうハイエンド構成は冷却と電源に気をつけないとすぐサーマルスロットリングする。

          • #466407 返信
            名無しさん
            Epyc VeniceはMR-DIMMを採用するらしい。LPDDR5xの9600MT/sに対して、MR-DIMMは1枚で12,800MT/sだけど20W~35W食う。512GBのLPDDR5xクラスタが約28Wなのと対照的だ。互換表を確認するときは、マザーボードのメモリQVLをしっかり見ないと、せっかくの高速メモリが定格で動かないことがあるから注意。

      • #466403 返信
        名無しさん
        有益な回答ありがとう。カスタムビルドは考えてなかったけど、計算すると割に合わないね。AIの進化が速いし、ハードもすぐ変わりそう。UKでまだ買えないAMD Haloの後継も噂されてるし。

    • #466395 返信
      名無しさん
      ちょっと聞きたいんだけど、人生でそこまでAIに依存するってどんな仕事?ローカルに専用サーバー置く必要あるの?なんか怖いわ。

      • #466397 返信
        名無しさん
        仕事でAI推奨されてて、トークン使いすぎて月$500のAPI代が馬鹿らしくなった。$5-10Kのマシン買った方が経済的だと思っただけ。エージェントはビジネス分析やコードレビュー、セキュリティ監査とかで、今はクラウドだけどコストが急増してる。低負荷なエージェントをローカルLLMに移して、高価値なタスクだけClaudeに投げたい。公式の保証条件まで見ると、法人向けサポートが手厚いメーカーを選ぶべきかもな。

        • #466398 返信
          名無しさん
          俺も仕事してるよ。要するにAI使ったビジネスやってるってことだろ。最初からそう言えばいいのに、上から目線でムカつくわ。

        • #466400 返信
          名無しさん
          DeepSeek V4のAPI試した?めちゃくちゃ安いし、Claudeに引けを取らない。OpenRouterか9routerでClaude Codeに統合できるよ。

          • #466401 返信
            名無しさん
            考えてなかった。ただ仕事でDeepSeek使うのは抵抗あるな。ホームラボならいいけど、コンプライアンス的にまだ判断つかない。

            • #466405 返信
              名無しさん
              NSAで働いてるわけじゃないんだろ?なら趣味プロジェクトとして始めて、バーチャルカードで$5チャージしてDS APIを試してみなよ。MVPアプリ作れるくらいのトークンは手に入るし、DeepSeekのモデルをじっくり研究できるぜ。

            • #466406 返信
              名無しさん
              性能はいいと思うよ。問題は社内のセキュリティとコンプライアンスチームを通せるかだ。DSはいろいろ理由があって企業環境では好まれないんだよね。

    • #466396 返信
      名無しさん
      予算次第だけど、AMD 395 Max+狙ってる感じか?

21件の返信を表示中(うち親返信7件)
返信先: MacBook Proユーザーが128GB超えLLM用ミニPCを探してるんだがで#466390に返信
あなたの情報:




AA
tchmii
タイトルとURLをコピーしました