DeepSeekモデル、ローカルで使ってる？

[名無しさん]

「Deepseek special delivery」というスレッドが立っていました。DeepSeekモデル（特にV3とかR1）をローカルで動かす話、コーディング性能、コスト、プライバシー、ベンチマーク比較などが話題になっています。ッド: みなさんはDeepSeek使ってますか？感想や比較をどうぞ。

[名無しさん]

DeepSeek R1、確かに性能良いよね。特に数学とコーディングが強い印象。

[名無しさん]

でもローカルで動かすにはVRAM食いすぎじゃない？

[名無しさん]

Quantizationすれば32GBでもなんとか動くよ。8bitで結構使える。

[名無しさん]

APIで使うのが楽だけど、プライバシーが気になる。ローカルに限る。

[名無しさん]

そこは同意。大事なデータは絶対に外に出したくない。

[名無しさん]

Llama 3.1と比べてどうなの？

[名無しさん]

ベンチマークではDeepSeekの方が上だけど、実用だと誤差レベルかも。

[名無しさん]

コーディング用途だとDeepSeek Coderが最高だと思う。

[名無しさん]

でも最近のアップデートでllamaも追い上げてるよね。

[名無しさん]

中国製モデルってことでセキュリティ面が心配。

[名無しさん]

オープンウェイトだからコード見ればわかるよ。問題ないと思う。

[名無しさん]

完全に見切れるわけじゃないし、ブラックボックス部分もある。注意は必要。

[名無しさん]

今一番ホットなモデルだよね。でも情報が少ない。

[名無しさん]

コミュニティも活発になってきたし、これからじゃない？

[名無しさん]

コスト面だとAPIはかなり安いね。ローカルは電気代考えたらトントン？

[名無しさん]

GPUの減価償却まで考えるとAPIの方が安いかも。

[名無しさん]

2Bや7Bの小さいモデルもなかなか優秀。動かしやすい。

[名無しさん]

モバイルでも動くしね。ちょっとした要約に便利。

[名無しさん]

Redditのスレでは新しいモデルのリークとかも話題だったみたい。

[名無しさん]

次のR2が楽しみ。どんな進化するんだろう。

[名無しさん]

とりあえずOllamaで試してみるのが手っ取り早い。

[名無しさん]

それな。すぐポンとできるから初心者にもおすすめ。

[投稿者]

投稿