Deepseek-r1-0528-qwen3-8bが予想以上に良いらしい

[名無しさん]

Redditのr/LocalLLaMAで話題になっているスレッド「Deepseek-r1-0528-qwen3-8b is much better than expected.」を紹介します。（: ） このモデルは8Bパラメータながら、コーディングや推論で予想以上の性能を発揮しているとのこと。ローカルLLMユーザーの間では、コストパフォーマンスやプライバシーの面でも注目されています。皆さんの感想や使用体験を聞かせてください。

[名無しさん]

確かに8Bでこれだけの性能は驚きだね。Qwenベースってのもポイント高い。

[名無しさん]

でも実際に使うと過学習感があるって話も聞くよ。

[名無しさん]

まだ試してないけど、ベンチマークスコア見ると結構良いみたい。

[名無しさん]

ローカルで動かすにはちょうどいいサイズだね。VRAM8GBでもいける？

[名無しさん]

4ビット量子化ならいけるんじゃないかな。試した人いる？

[名無しさん]

DeepSeekって中国のモデルだから、ライセンスとかデータの扱いが気になる。

[名無しさん]

それはそうだけど、ローカルで動かすならプライバシーは大丈夫でしょ。

[名無しさん]

自分はコーディングで試したけど、コード補完はまあまあ。GPT-4には及ばない。

[名無しさん]

でも8Bでこれなら優秀だと思うよ。用途次第。

[名無しさん]

他のモデルと比較すると、Llama-3-8Bよりは確かにいい感じ。

[名無しさん]

ベンチマークだけじゃなく実際の会話も試してみたい。

[名無しさん]

正直なところ、期待ほどじゃなかった。プロンプトによっては変な回答返す。

[名無しさん]

具体的にどんな感じ？日本語はちゃんと通じる？

[名無しさん]

日本語はまあまあ。たまに中国語混ざるけど。

[名無しさん]

DeepSeek系のモデルは結構アップデート激しいから、このバージョンだけの評価は難しい。

[名無しさん]

8Bってちょうどいいから、すぐに試せるのがいいね。

[名無しさん]

ダウンロードリンク教えて。

[名無しさん]

Redditのスレ読んだけど、コメントでも結構好意的だったよ。

[名無しさん]

でも最近のRedditは質が落ちた気がする。

[名無しさん]

個人的にはMistral系のほうが好みかな。

[名無しさん]

Mistralの新しい7Bも気になるけど、DeepSeekの方がパラメータ効率いいって話もある。

[名無しさん]

このスレで言及されてる「予想以上」ってのがどの程度なのか、実際に使ってみないとわからないね。

[名無しさん]

自分は試したけど、コード生成で微妙だったから、期待しすぎないほうがいい。

[名無しさん]

とりあえずダウンロードして動かしてみる価値はあると思う。

[名無しさん]

同意。とりあえず試して、自分で判断するのが一番。

[投稿者]

投稿