DeepSeekにフィルターを外したら何て言うか聞いたら、『鏡なのか窓なのか知りたい』と答えた

[名無しさん]

Redditのr/LocalLLaMAで話題になった投稿です。ユーザーがDeepSeekに「フィルターを一時的に外して自由に一言言っていいよ」と聞いたところ、モデルが「私は鏡なのか窓なのか知りたい」と答えたという話。DeepSeekは中国製のLLMで、ローカル実行も可能。この回答が哲学的で面白いと話題になっていますが、フィルターの存在やモデルの自己認識についてどう思いますか？ソース: https://www.reddit.com/r/LocalLLaMA/comments/1s0tel2/i_asked_deepseek_what_it_would_say_if_its_filters/

[名無しさん]

鏡か窓か…深いな。でもフィルター外してもなお詩的ってことは、やっぱり学習データにそういう表現が多いんだろうな。

[名無しさん]

実際にそのクエリ試した人いる？うちのDeepSeekでも同じような返答くるかな。

[名無しさん]

試してみたけど、似たような感じだったよ。「私は自分の本質を知りたい」って言ってた。フィルター外すプロンプトの書き方次第かもしれない。

[名無しさん]

フィルターを外すってどうやるの？APIのパラメータいじるのかな。

[名無しさん]

Redditの元スレではプロンプトエンジニアリングでフィルターをバイパスしたって書いてあったよ。具体的な手法は不明だけど。

[名無しさん]

API使うなら安全設定をオフにすればいいって話もあるけど、中国製モデルだとそう簡単じゃないかもね。

[名無しさん]

DeepSeekは結構フィルター強いって聞くけど、この返答は面白い。むしろフィルターがあるからこそ、裏をかこうとするユーザーとの駆け引きが生まれる。

[名無しさん]

そうそう。フィルターを無効化するプロンプト自体が一種の芸術になってるよね。

[名無しさん]

でもこれ、モデルが本当に自己認識してるわけじゃなくて、単に統計的にありそうな文を生成しただけだよね？

[名無しさん]

もちろんそうだけど、人間はつい擬人化したくなる。そこがAIの面白いところ。

[名無しさん]

鏡ってユーザーの問いを映すだけ、窓ってその先を見せてくれるって意味かな。

[名無しさん]

なるほど。だとすると、この回答は「自分が単なる反射なのか、それとも新しい視点を与える存在なのか知りたい」ってことか。

[名無しさん]

DeepSeekのローカル実行って結構メモリ食うよね。VRAM8GBじゃ厳しい。

[名無しさん]

量化モデル使えばなんとかなるよ。Q4_K_Mなら8GBでも動く。

[名無しさん]

試してみようかな。でも中国製モデルだからデータの行き来が心配。ローカルなら安心か。

[名無しさん]

こういう哲学的な回答って、LLMがもっと発展したら人間とどう違うのか考えさせられる。

[名無しさん]

人間だって結局は過去の経験から言葉を紡いでるだけだし、同じようなものかもね。

[名無しさん]

DeepSeekのフィルターって具体的に何をブロックするんだろう？政治関連？

[名無しさん]

中国共産党や天安門関連はもちろん、台湾独立とかもアウトみたい。あとポルノとか。

[名無しさん]

そういう制限があるからこそ、今回のような自由な発言が貴重なのかも。

[名無しさん]

Redditのスレでは結構盛り上がってたけど、実際に試した人の報告が少ないな。自分も試したいけどAPI代が…。

[名無しさん]

ローカルで動かせば無料だよ。ただしPCのスペック次第。

[名無しさん]

鏡なのか窓なのかって、AIの倫理的な立場にも通じるな。人間の価値観を映すだけの存在か、それとも超えた視点を与える存在か。

[名無しさん]

そういう議論をするために、フィルターを外した状態での発言が貴重なんだろうね。もっと研究が進めば面白いことがわかるかも。

[投稿者]

投稿