DeepSeekの挙動がおかしい？

[名無しさん]

「Why is my DeepSeek like this?」というスレッドが立っていました。投稿者はDeepSeekモデルが期待通りに動作しないと悩んでいる様子。コメント欄では、量子化の問題やプロンプトの設定、他のモデルとの比較など様々な意見が交わされています。ローカルLLMの扱い方やDeepSeekの特性について議論が行われていました。

[名無しさん]

自分もDeepSeekで変な出力が出たことある。量子化のせいかも。

[名無しさん]

Q4_K_Mで試したら結構マシになったよ。

[名無しさん]

量子化の設定次第で結構変わるから、いろいろ試すといいよ。

[名無しさん]

どんなモデル使ってる？サイズや設定を教えてほしい。

[名無しさん]

7Bモデルをllama.cppで動かしてる。CPUオンリーだから遅い。

[名無しさん]

CPUだけだとやっぱり遅いよね。GPU欲しい。

[名無しさん]

DeepSeekはコーディングタスクでよく使うけど、時々変な応答するよね。

[名無しさん]

コード生成ならDeepSeekよりCodeLlamaのが安定してる気がする。

[名無しさん]

ベンチマークでは悪くないけど、実用だと微妙なんだよな。

[名無しさん]

確かにMistralの方が日本語は得意かも。

[名無しさん]

プロンプトを変えたら改善しない？

[名無しさん]

システムプロンプトで専門家ロールを与えたら出力が変わった。

[名無しさん]

DeepSeekってコスト面ではいいけど、品質にばらつきがある。

[名無しさん]

その通り。プライバシー重視でローカル動かすならありだけど。

[名無しさん]

最新バージョンは改善されてるって聞いたけど、まだ話題になってるね。

[名無しさん]

同感。Llama 3.1の方が安定してる。

[名無しさん]

紅茶を淹れる方法を聞いたら変なレシピ返してきた（笑）

[名無しさん]

それ、データセットに謎のレシピが混ざってるんじゃない？

[名無しさん]

自分はfine-tune版を試したらマシになった。

[名無しさん]

fine-tuneする時間がないんだよな…

[名無しさん]

結局、用途に合わせてモデル選ぶのが一番だと思う。

[名無しさん]

そうそう。DeepSeekは軽量でいいけど、品質重視なら他を検討すべき。

[名無しさん]

Redditのスレでも同じような意見多かったね。初心者にはちょっと難しいかも。

[投稿者]

投稿