DeepSeek-V3.1-Baseのアップデートをざっくり理解する

[名無しさん]

Redditのr/LocalLLaMAで投稿された「Understanding DeepSeek-V3.1-Base Updates at a Glance」というスレッド（）によると、DeepSeekの最新ベースモデルV3.1のアップデート内容がまとめられています。スコア201、コメント24件と盛り上がっており、ベンチマーク比較やコスト、プライバシー、コーディング性能などについて議論が交わされています。日本語フォーラムでも、このモデルのローカル運用の可能性や既存モデルとの比較について意見を交換しましょう。

[名無しさん]

V3.1って結構変わったの？

[名無しさん]

主にアーキテクチャの最適化とトレーニング手法の改善らしい。ベンチマークで結構伸びてるみたい。

[名無しさん]

推論速度も改善されてるらしいから、ローカルで使うには良さそうだな。

[名無しさん]

8Bパラメータでもコーディング性能がいいって聞いたけど、実際どうなんだろう。

[名無しさん]

でもライセンスがAGPLってのが気になる。商用利用は制限されるんだっけ？

[名無しさん]

確かAGPLはコピーレフトだから、組み込むと公開必須になる。個人利用なら問題ないけどね。

[名無しさん]

Mistralと比べてどうなの？コスパ面で。

[名無しさん]

ベンチマークではDeepSeekの方が上なケースも多いけど、Mistralはコミュニティが大きくてツールが多い。一長一短。

[名無しさん]

これllama.cppで動かせる？GGUFモデルは出てるの？

[名無しさん]

HuggingFaceにGGUF版がいくつかアップロードされてるよ。4bit量子化でも性能落ちが少ないって評判。

[名無しさん]

トレーニングデータが900億トークンって書いてあったけど、本当？前のバージョンからどれだけ増えたんだろう。

[名無しさん]

V3が800億くらいだったから、結構増えてるね。でもデータの質が大事だと思う。

[名無しさん]

日本語対応はどうなんだろ？やっぱり英語中心なのかな。

[名無しさん]

Redditのスレでも日本語タスクはぼちぼちって意見があった。中国製だから中国語は強いけど、日本語はまだまだみたい。

[名無しさん]

とりあえずダウンロードして試してみようかな。VRAM 8GBでも動く？

[名無しさん]

8Bモデルなら4bit量子化でVRAM 6GBくらいで動くよ。llama.cppで試せる。

[名無しさん]

MacのMetal対応してる？M1でも大丈夫かな。

[名無しさん]

llama.cppのMetalバックエンド使えば動くはず。ただ、M1だとメモリ帯域がネックになりそう。

[投稿者]

投稿