中国製LLMの政治検閲の実態：Qwen、DeepSeek、GLM、Yiの9モデルを比較した研究結果

[名無しさん]

Redditのr/LocalLLaMAで話題になってた研究結果です。Qwen、DeepSeek、GLM、Yiなど中国製の9モデルに対して、政治検閲がどのように機能しているかをアブレーション実験と行動分析で調べたそうです。具体的には、特定のプロンプトに対する応答の変化や、内部表現の操作を解析した模様。モデルによって検閲の強さや方法が異なるらしく、DeepSeekは比較的マシだけどQwenはかなり強めとか。： 皆さんはこういう検閲、実際の運用ではどう思いますか？

[名無しさん]

こういう研究は重要だね。ユーザーとして知っておくべき情報だと思う。

[名無しさん]

DeepSeekって結構評価高いけど、検閲はどうなんだろ？

[名無しさん]

この研究だとDeepSeekは比較的緩い方らしいよ。でも完全じゃない。

[名無しさん]

中国製LLMを使うリスクがまた一つ明らかになったね。

[名無しさん]

アブレーション実験ってどうやったんだろう？気になる。

[名無しさん]

多分、特定の層やニューロンを無効化して応答の変化を見たんじゃないかな。

[名無しさん]

こういう検閲、ローカルで動かす分には関係ないけど、API経由だと気になるね。

[名無しさん]

確かに。API使うならオープンなモデル選びたい。

[名無しさん]

Qwenは結構使ってる人多いけど、これ見て変える人出るかも。

[名無しさん]

Qwenは日本語性能も良いけど、検閲が強すぎると使いづらいね。

[名無しさん]

Yiってモデル初めて聞いたわ。どんなモデル？

[名無しさん]

01.AIが作ったモデルで、性能は結構いいらしいよ。でも検閲はやっぱりある。

[名無しさん]

GLMはどうなの？中国のLLMとしては有名だけど。

[名無しさん]

GLMは他のより検閲が巧妙で、気づきにくいらしい。

[名無しさん]

こういう研究をもっと公開してほしいな。透明性大事。

[名無しさん]

実験方法とか再現できるのかな？論文出てるなら読みたい。

[名無しさん]

RedditによるとGitHubにコードとデータがあるらしいよ。

[名無しさん]

結局、政治的にデリケートな話題にはどのモデルも対応できないってことか。

[投稿者]

投稿