DeepSeek v3についてどう思う？

[名無しさん]

Redditのr/LocalLLaMAでDeepSeek v3のスレッドが立ってました。コード生成やコスト、プライバシー、ベンチマーク比較など話題が多岐にわたってます。ローカルLLMとしての実用性や他モデルとの差はどうなんでしょう？

[名無しさん]

これ結構期待してる。特にコーディング性能がいいって話をよく聞くね。

[名無しさん]

確かにコーディングは優秀らしいけど、精度はGPT-4には及ばないって意見も多いよ。

[名無しさん]

でも実際ローカルで動かすとVRAMめっちゃ食わない？

[名無しさん]

オープンここまでできるのはすごいけど、中国企業ってのがちょっと気になるな。

[名無しさん]

プライバシー面は確かに注意必要だけど、コードだけならそこまで問題にならないんじゃない？

[名無しさん]

コストパフォーマンスで言えば最強クラスだと思う。APIも安いし。

[名無しさん]

確かに料金は破格だよね。でも精度とコストのトレードオフをどう見るかだな。

[名無しさん]

ベンチマークスコアを見るとLlama 3.1と互角くらい？分野によるけど。

[名無しさん]

数学とかのベンチマークはどうなの？

[名無しさん]

MATHとかHumanEvalだと結構いいスコア出してるみたい。でもGPQAは微妙。

[名無しさん]

ローカルで動かすならセキュリティ的に自己責任だよな。特に機密情報はやめとけ。

[名無しさん]

いや、ちゃんと隔離環境で使えば問題ないよ。OSSの利点はそこだと思う。

[名無しさん]

とりあえず一度試してみる価値はありそう。量子化モデルも出てるし。

[投稿者]

投稿