DeepSeek-V3.1-Terminus リリース！ローカルLLM界隈での評価は？

[名無しさん]

て、DeepSeek が DeepSeek-V3.1-Terminus をリリースした話題が投稿されました。R1 と比較してコーディング性能やコスト効率が向上し、ローカルでの実行も可能とされています。ベンチマークスコアや実際の使用感について様々な意見が交わされています。

[名無しさん]

おお、Terminusって名前かっこいいな。V3からの進化はどんな感じ？

[名無しさん]

ベンチマーク見る限りコード生成はR1超えてるらしい。でも日本語はどうなんだろう。

[名無しさん]

日本語も結構いいって話だけど、やっぱりNativeのMistralには負けるかも。

[名無しさん]

ローカルで動かすなら量子化必須だよな。VLLM対応してる？

[名無しさん]

対応してるよ。Ollamaでも使えるし、llama.cppでも動く。

[名無しさん]

実際に試した人いる？FP16でどれくらいのVRAM食う？

[名無しさん]

70BモデルだとFP16で140GB、4bit量子化で35GBぐらい。RTX4090じゃ厳しい。

[名無しさん]

深センの会社だからデータプライバシーが気になる。ローカルなら問題ないけど。

[名無しさん]

コーディング支援として使うならClaude/Sonnetと比べてどうなんだろう。

[名無しさん]

自分はSonnetより安くて、それなりに使える。特にリファクタリングは得意。

[名無しさん]

ベンチマークはあてにならん。自分のタスクで試すのが大事。

[名無しさん]

ほんとそれ。特に日本語のタスクはMistralに負けることも多い。

[名無しさん]

でもコスパは抜群だよね。DeepSeekは定期的にモデル出してくるから面白い。

[投稿者]

投稿