DeepSeek V3.1 BaseがHugging Faceに来たぞ

[名無しさん]

話題のDeepSeek V3.1 BaseがHugging Faceにアップロードされたみたいだ。ローカルLLM界隈ではコストパフォーマンスやベンチマークが注目されている。

[名無しさん]

ついに来たか。VRAM食うけどコード生成はかなり良いらしいね。

[名無しさん]

実際使った？ベンチマーク見たら結構強そうだけど、日本語はどうなんだろ。

[名無しさん]

DeepSeekって中国製だよね。プライバシー的に大丈夫か？

[名無しさん]

ローカルで動かすなら問題ないでしょ。API使わなきゃいいだけ。

[名無しさん]

V3.1ってV3からの改善点は何？情報が錯綜してるけど。

[名無しさん]

主にマルチモーダル対応と指示追従の強化らしい。ベンチも上がってる。

[名無しさん]

llamaと比べてどうなんだ？コスパで勝ってる気がする。

[名無しさん]

コード生成はDeepSeekの方が得意って話がある。ただし日本語はLlamaにまだ負けるかも。

[名無しさん]

Hugging Faceでダウンロードしようとしたらでかいな。70Bくらいあるのか。

[名無しさん]

量子化版を待つしかないね。4bitでも良ければ動くかも。

[名無しさん]

Redditのコメント見てると、結構バグ報告もあるみたい。安定性はまだ微妙？

[名無しさん]

初期リリースだからな。アップデート待ちだ。

[名無しさん]

うちの環境では動いたよ。メモリ32GBでとりあえず動いてる。

[名無しさん]

商用利用はどうなんだろう。ライセンス確認しないと。

[名無しさん]

MITライセンスだったはず。商用OKだよ。ただし公開義務なし。

[名無しさん]

前にV2.5使ってたけど、V3.1はかなり良くなってる気がする。

[名無しさん]

具体的にどこが？推論速度とか？

[名無しさん]

文章の自然さが増した。指示通りに動く率も高い。

[名無しさん]

これでローカルLLMの選択肢がまた増えたな。嬉しい。

[名無しさん]

でもモデルサイズがネック。一般ユーザーにはまだ敷居高い。

[名無しさん]

そのうち小さい版も出るだろう。それまではAPI使うか。

[名無しさん]

とにかく一度試してみる価値はあるよ。ベンチでだけ評価するのは勿体ない。

[投稿者]

投稿