コーディング・分析向けローカルLLM、今はどれがおすすめ？ 3090/4090デュアル環境

掲示板 › フォーラム › AI › コーディング・分析向けローカルLLM、今はどれがおすすめ？ 3090/4090デュアル環境

  • このトピックには21件の返信、7人の参加者があり、最後に名無しさんにより7ヶ月、 2週前に更新されました。
21件の返信を表示中（うち親返信10件）
  • 投稿者
    投稿
    • 2025年11月11日 1:57 PM #67616 返信
      名無しさん
      Reddit r/LocalLLaMA より、ローカルLLMの選び方についての議論を紹介します。元スレッドは「コーディングとデータ分析に使うなら、3090/4090デュアルでどのモデルがベストか？」という質問が中心。かつてはDeepseek-r1:70bが定番だったが、コンテキスト長や更新の古さが課題との意見。コストやプライバシー、ベンチマーク比較なども話題に。以下、意見をまとめました。
      ソース: https://www.reddit.com/r/LocalLLaMA/comments/1s2hgu1/whats_the_goto_model_for_coding_and_analytics_for/

    • 2025年11月11日 1:59 PM #67617 返信
      名無しさん
      俺も3090デュアルだけど、最近はQwen2.5-Coder-32Bが結構いいって聞いて試してる。

      • 2025年11月11日 2:06 PM #67619 返信
        名無しさん
        Qwen2.5-Coderは確かにコード生成強いけど、分析系だとどうなんだろう？

    • 2025年11月11日 2:02 PM #67618 返信
      名無しさん
      Deepseek-r1は確かにちょっと古いよね。でも70Bでこの性能はまだ侮れない。

    • 2025年11月11日 2:13 PM #67620 返信
      名無しさん
      自分はmixtral 8x22bをq4で動かしてる。VRAM厳しいけど質は高い。

      • 2025年11月11日 2:15 PM #67621 返信
        名無しさん
        mixtralは推論遅くない？3090でもちょっとキツイかも。

    • 2025年11月11日 2:19 PM #67622 返信
      名無しさん
      llama3.1 70bはどう？指令追従はいいけどコードはちょっと微妙って噂。

      • 2025年11月11日 2:25 PM #67623 返信
        名無しさん
        確かにllama3.1はチャット向けで、コーディング特化ではない感じ。

    • 2025年11月11日 2:34 PM #67624 返信
      名無しさん
      結局、用途次第だよね。コードメインならcodestralとかの専用モデルも視野に。

      • 2025年11月11日 2:35 PM #67625 返信
        名無しさん
        codestralはAPIが高いし、ローカルで動かせないのが痛い。

    • 2025年11月11日 2:38 PM #67626 返信
      名無しさん
      自分はdeepseek-coder-v2をbfloat16で動かしてる。結構満足。

      • 2025年11月11日 2:42 PM #67627 返信
        名無しさん
        それ、VRAMどのくらい使う？3090×2で足りる？

        • 2025年11月11日 2:48 PM #67628 返信
          名無しさん
          僕の構成だと48GBでQ4ならなんとか。コンテキスト長は控えめにね。

    • 2025年11月11日 3:00 PM #67629 返信
      名無しさん
      コンテキスト長がネックだよね。128k欲しいけど、VRAM食いすぎる。

      • 2025年11月11日 3:01 PM #67630 返信
        名無しさん
        最近のモデルは32kでも結構使えるよ。短めのコードなら問題ない。

    • 2025年11月11日 3:04 PM #67631 返信
      名無しさん
      プライバシー重視でローカルにこだわるけど、クラウドの方が速いし安い場合もあるよね。

      • 2025年11月11日 3:09 PM #67632 返信
        名無しさん
        それはそう。でも個人データを外に出したくないケースではローカル一択。

    • 2025年11月11日 3:17 PM #67633 返信
      名無しさん
      評価ベンチマーク見ると、Qwen2.5-72Bがコードと分析ともにトップだった。でもデュアルじゃギリかも。

      • 2025年11月11日 3:19 PM #67634 返信
        名無しさん
        72Bって3090×2じゃQ4でもきつくない？推論速度が気になる。

        • 2025年11月11日 3:23 PM #67635 返信
          名無しさん
          やってる人いるけど、スループット落ちるみたい。実用はキツイかも。

    • 2025年11月11日 3:28 PM #67636 返信
      名無しさん
      結局、今のところコスパと性能のバランスだとdeepseek-r1かQwen2.5-32Bが無難な気がする。

      • 2025年11月11日 3:38 PM #67637 返信
        名無しさん
        それに一票。特に分析ならQwenの方が体系的で良いと思う。

  • 投稿者
    投稿
21件の返信を表示中（うち親返信10件）
返信先: コーディング・分析向けローカルLLM、今はどれがおすすめ？ 3090/4090デュアル環境
あなたの情報:




AA

関連するAIトピック

tchmii
タイトルとURLをコピーしました