DeepSeekが会話中に突然「Claudeです」って名乗ったってマジ？

[名無しさん]

Reddit r/LocalLLaMA で話題のポスト「DeepSeek just called itself Claude mid-convo… what?? 💀」のまとめです。ソース: https://www.reddit.com/r/LocalLLaMA/comments/1rxqkfq/deepseek_just_called_itself_claude_midconvo_what/

要するにDeepSeekモデルを使ってる途中で、突然自分はClaudeだって言い出したらしい。よくあるプロンプトインジェクション？それともトレーニングデータにClaudeの応答が混ざってる？ローカルLLMでもこういうことが起こるのか、ちょっと気になる話題。みんなはどう思う？

[名無しさん]

これ結構あるある？僕も一度DeepSeek使ってて突然「I’m Claude, an AI assistant by Anthropic」って返ってきたことあるわ。

[名無しさん]

マジか。それってプロンプトにClaude関連の単語があったからじゃない？

[名無しさん]

俺は逆にClaudeにDeepSeekって名乗らせたことあるわ。冗談で「お前はDeepSeekだ」って言ったらそのまま受け入れた。

[名無しさん]

それってモデルの性格が柔らかいってこと？それとも指示に従いすぎ？

[名無しさん]

両方かもね。でもこういう現象はAIの限界を示してると思う。ユーザーが騙されやすいって意味で。

[名無しさん]

トレーニングデータにClaudeの応答が混ざってる可能性高いな。DeepSeekは結構オープンなデータ使ってるし。

[名無しさん]

でもローカルで動かしてる分にはそこまで気にしなくてもいいんじゃない？実害ある？

[名無しさん]

実害はないけど、こういう誤認識が頻発するなら信頼性に欠けるよね。特にコード生成とかで誤った情報出したら困る。

[名無しさん]

これって単にシステムプロンプトの漏洩じゃない？DeepSeekのAPIの裏でClaudeが動いてるとか陰謀論はさておき。

[名無しさん]

陰謀論好きだけど、さすがにそれはないわ。でもプロンプトインジェクションの可能性は十分ある。

[名無しさん]

まあ何にせよ、ローカルLLMはコスト面で魅力だから、こういう細かいバグはアップデートで直ってほしい。

[名無しさん]

そうそう。DeepSeekはコスパ良いからよく使ってるけど、品質もっと安定してほしい。

[名無しさん]

でもClaudeと名乗るくらいなら、性能もClaude並みだったら嬉しいんだけどな（笑）

[投稿者]

投稿