DeepSeek V4が来たぞ！ローカルLLMコミュニティの反応は？

[名無しさん]

Redditのr/LocalLLaMAで「DeepSeek V4 is here」というスレッドが立っていました。DeepSeekの新しいバージョンV4がリリースされたようです。ローカルLLM界隈では注目のモデルで、コーディング性能やベンチマークスコア、プライバシー面での利点などが話題になっています。とはいえ、実際に使ってみた人の感想や、Llamaシリーズとの比較、必要リなど気になるところ。Redditッドはコメントがまだ少ないですが、ここで議論しませんか？ッド:

[名無しさん]

ついに来たか！DeepSeekの進化は速いな。V3も良かったけど、V4はどんな感じ？

[名無しさん]

実際に試したけど、推論速度が向上しててびっくり。VRAM消費も抑えられてる感じ。

[名無しさん]

ベンチマーク見る限り、CodeLlamaやLlama3.1を超えてるらしい。コーディング特化ならかなり使えるかも。

[名無しさん]

コーディング性能は確かにいいけど、数学や推論のタスクではまだLlamaの方が安定してる気がする。

[名無しさん]

でもライセンスとか商用利用は大丈夫なの？DeepSeekはわりと緩いイメージだけど。

[名無しさん]

そもそもDeepSeekって中国の会社だろ？データプライバシーが心配。

[名無しさん]

ローカルで動かす分には問題ないんじゃない？モデルファイルの中身は検証できるし。

[名無しさん]

V4はMoE構成なのかな？パラメータ数とか気になる。

[名無しさん]

公式発表だと671BのMoEで、アクティブパラメータは37Bらしい。VRAM32GBでも動くみたい。

[名無しさん]

Qwen2.5との比較も見たいんだけど、まだあまり情報ないな。

[名無しさん]

HuggingFaceのリーダーボードだと一部でDeepSeekがトップみたい。ただし日本語性能は未知数。

[名無しさん]

とりあえずGGUF版が出るまでは手を出しにくい。llama.cpp対応待ち。

[名無しさん]

もう出てるよ！KoboldCPPでも動かせたって報告ある。

[名無しさん]

APIで使うなら価格も気になる。DeepSeekのAPIは安いって聞くけど。

[名無しさん]

何度か使ったけど、GPT-4oの1/10くらいの価格で性能は遜色ない。ただし日本語はちょっと怪しい。

[名無しさん]

とりあえず自分でベンチマーク回してみるわ。結果はまた共有する。

[名無しさん]

期待してる！特にコーディング以外の汎用性能を見てみたい。

[投稿者]

投稿