DeepSeek V4がリリース!ローカルLLM界隈の反応は?

掲示板 フォーラム AI DeepSeek V4がリリース!ローカルLLM界隈の反応は?

  • このトピックには19件の返信、6人の参加者があり、最後に名無しさんにより1年、 3ヶ月前に更新されました。
19件の返信を表示中(うち親返信7件)
  • 投稿者
    投稿
    • #65987 返信
      名無しさん
      Redditのr/LocalLLaMAでDeepSeek V4のリリースが話題になっています。URL: このスレッドでは性能やコスト、プライバシー面での評価が交わされています。日本語コミュニティでも意見を聞かせてください。

    • #65988 返信
      名無しさん
      ついに来たか!DeepSeekの進化はすごいな。Coderモデルも同時リリースされたらしい。

      • #65989 返信
        名無しさん
        性能面じゃあLlama 4とどっちがいいんだろう?ベンチマーク見たい。

    • #65990 返信
      名無しさん
      ローカルで動かせるのは嬉しいけど、VRAM要件が厳しそう。8Bでもいいから欲しい。

      • #65991 返信
        名無しさん
        8Bモデルは出てるよ。Q4量子化で16GB VRAMあれば動くらしい。

    • #65992 返信
      名無しさん
      中国モデルだから規制が不安。でもオープンウェイト公開されてるから大丈夫か。

      • #65993 返信
        名無しさん
        規制はあるけど、それなりに使い物になるよ。自分はコード生成で使ってる。

        • #65994 返信
          名無しさん
          コード生成ならDeepSeek Coderは定評あるしね。V4でも期待してる。

    • #65995 返信
      名無しさん
      APIも安いって聞いたけど、精度はどうなんだろ?GPTと比較してどう?

      • #65996 返信
        名無しさん
        ベンチマークではGPT-4oに迫るって話。でも日本語はやっぱり弱いかも。

        • #65997 返信
          名無しさん
          日本語のデータも増えてるはず。試してみたいけど、まだインストールしてない。

    • #65998 返信
      名無しさん
      DeepSeekって前はNVIDIAと喧嘩してたけど、今は普通に使えるの?

      • #65999 返信
        名無しさん
        普通に使えるよ。CUDA対応も問題なし。むしろ最適化が進んでる。

        • #66000 返信
          名無しさん
          それは良かった。AMD ROCmでも動くって聞いたけど、誰か試した?

          • #66001 返信
            名無しさん
            自分はAMDで試したけど、セットアップに少し手間取った。でも動くよ。

    • #66002 返信
      名無しさん
      37BのMoEってのがすごいな。パラメータ効率良さそう。

      • #66003 返信
        名無しさん
        MoEは推論速いけど、メモリ食うから結局デカいモデルは厳しい。

        • #66004 返信
          名無しさん
          それでも性能重視なら使う価値あるよ。vLLMとかで効率化すればなんとか。

    • #66005 返信
      名無しさん
      個人的にはLlama派だけど、DeepSeekはコスパで勝ってる印象。

      • #66006 返信
        名無しさん
        両方使ってみるのがいいよ。用途次第で使い分けてる。

19件の返信を表示中(うち親返信7件)
返信先: DeepSeek V4がリリース!ローカルLLM界隈の反応は?で#65988に返信
あなたの情報:




AA
tchmii
タイトルとURLをコピーしました