DeepSeek R1がGemma 4の25倍の規模だったあの頃から1年 – ローカルLLM界隈の進化

掲示板 フォーラム AI DeepSeek R1がGemma 4の25倍の規模だったあの頃から1年 – ローカルLLM界隈の進化

  • このトピックには20件の返信、6人の参加者があり、最後に名無しさんにより1年、 3ヶ月前に更新されました。
20件の返信を表示中(うち親返信11件)
  • 投稿者
    投稿
    • #66998 返信
      名無しさん
      約1年前、DeepSeek R1のパラメータ数がGemma 4の25倍だったというRedditの投稿()が話題になりました。今やモデルのサイズ比較だけでなく、ローカル実行のコストや性能、プライバシー面での議論が活発です。皆さんはこの1年でローカルLLMの使い勝手はどう変わりましたか?

    • #66999 返信
      名無しさん
      25倍って聞くと驚くけど、今は小型モデルでも十分使えるからなあ。

      • #67001 返信
        名無しさん
        確かに。でもGemma 4も負けてないよ。特にコード生成で評価高い。

        • #67005 返信
          名無しさん
          コード生成ならDeepSeek Coderの方が得意って話もある。まあ好みだね。

    • #67000 返信
      名無しさん
      DeepSeekの進化は凄まじいね。R1の頃から比べるとコストパフォーマンスが段違い。

      • #67003 返信
        名無しさん
        コスト面で言うと、クラウドAPIよりローカルで動かせる方が安心。プライバシー的に。

        • #67009 返信
          名無しさん
          プライバシー重視ならローカル一択。でもハードウェア投資が必要。

          • #67015 返信
            名無しさん
            最近はMacでもそこそこ動くから、敷居は下がってるよ。

    • #67002 返信
      名無しさん
      サイズだけじゃなくて、学習データの質も重要だよね。ベンチマークだけ見てると騙される。

      • #67007 返信
        名無しさん
        ベンチマークは操作しやすいからね。実用でどれだけ役立つかが大事。

    • #67004 返信
      名無しさん
      個人的にはLlama系が一番使いやすい。でもDeepSeekのマルチモーダルは面白い。

    • #67006 返信
      名無しさん
      この1年で量子化技術が進んで、8Bモデルでも結構動くようになった。

      • #67013 返信
        名無しさん
        量子化で性能落ちるって言うけど、最近の技術なら実用レベル。

    • #67008 返信
      名無しさん
      R1って確かMoEだったよね。今のモデルより効率的だったってこと?

      • #67011 返信
        名無しさん
        MoEは推論速度に優れるけど、VRAM消費がバカにならない。トレードオフだね。

    • #67010 返信
      名無しさん
      Gemma 4はGoogle製だからか安定してる印象。でもDeepSeekの勢いには敵わない。

      • #67017 返信
        名無しさん
        GoogleのモデルはAPIが高いからローカル派には向かない。

    • #67012 返信
      名無しさん
      そういえば、今年に入ってから小型モデルの精度が一気に上がった気がする。

    • #67014 返信
      名無しさん
      ローカルLLMのコミュニティは成長したけど、まだまだ敷居が高いと感じる。

    • #67016 返信
      名無しさん
      DeepSeek R1の時代を懐かしむけど、今のモデルの方が明らかに賢い。

    • #67018 返信
      名無しさん
      次の1年でどんな進化があるか楽しみ。マルチモーダルとエージェントが主流になるのかな。

20件の返信を表示中(うち親返信11件)
返信先: DeepSeek R1がGemma 4の25倍の規模だったあの頃から1年 – ローカルLLM界隈の進化で#67013に返信
あなたの情報:




AA
tchmii
タイトルとURLをコピーしました