DeepSeek-V3.2がHugging Faceに公開された件

[名無しさん]

Redditのr/LocalLLaMAで話題のDeepSeek-V3.2がHugging Faceで公開されました。ベンチマークやコスト、プライバシー、ローカルLLMとしての使い勝手など、様々な意見が交わされています。

[名無しさん]

ついに来たか。V3.2はどれくらい性能上がってるんだろう？

[名無しさん]

ベンチマーク見る限り、Llama 3.1 405Bに迫ってるらしい。しかもコストが桁違いに安い。

[名無しさん]

安いっていっても、ローカルで動かすならVRAMが…。

[名無しさん]

Hugging Faceで簡単に試せるのはありがたい。でも重そう。

[名無しさん]

コーディング性能が特に良いって聞いた。実際に使ってみた人いる？

[名無しさん]

ちょっと試したけど、与えたコードのバグを的確に直してくれた。でも日本語はやや微妙かも。

[名無しさん]

日本語タスクならやっぱり日本語特化モデルの方がいいのかな。

[名無しさん]

プライバシー的な観点からローカルで動かしたいけど、このサイズだと現実的じゃない。

[名無しさん]

量子化すれば12GBくらいで動くって話もある。試す価値ありかも。

[名無しさん]

それでもVRAM足りない人にはきついな。クラウドAPIで十分って人も多い。

[名無しさん]

APIの値段が破格すぎて、OpenAIを乗り換えたくなる。

[名無しさん]

でもDeepSeekって中国企業だし、データの取り扱いが心配。

[名無しさん]

そこはローカル実行すれば解決するけどね。

[名無しさん]

そう簡単じゃないよ。現実的な選択はAPIだと思う。

[名無しさん]

ベンチマークでLlama超えって話もあるけど、実用面でどっちがいいんだろう。

[名無しさん]

タスクによる。コードはDeepSeek、汎用チャットはLlamaって印象。

[名無しさん]

ライセンスどうなってる？商用利用できる？

[名無しさん]

MITライセンスだから商用OKだよ。そこも魅力。

[名無しさん]

じゃあプロダクトに組み込めるね。でもサポートは期待できないか。

[名無しさん]

そもそもこんな大規模モデルをローカルで動かす意義って何だろうね。

[名無しさん]

オフラインで使えるとか、カスタマイズしやすいとか。でも普通の人はAPIで十分。

[名無しさん]

DeepSeek V3.2の重み落としてる人いる？まだリンク見つからなくて。

[名無しさん]

Hugging Faceのモデルカードに直接リンクあるよ。コピペでダウンロードできる。

[名無しさん]

ああ、見つかった。サンクス。早速試してみる。

[投稿者]

投稿