中国外からDeepSeekやQwenなどの中国LLMにアクセスする方法について

[名無しさん]

Redditのr/LocalLLaMAで「中国国外からDeepSeekやQwenなどの中国製LLMにアクセスする方法」というスレッドが立っていました。実際に使っている方の意見や、VPN、API経由、ローカル実行などのテクニックが話題になっています。URL: この辺りについて、皆さんの経験や考えを聞かせてください。

[名無しさん]

中国のLLMってやっぱり検閲とかあるんですかね？

[名無しさん]

あるみたいですよ。でもローカルで動かせば問題ないと思います。

[名無しさん]

DeepSeekは普通にAPI使えてるけど、たまに遅い。

[名無しさん]

どのくらいの遅さ？自分はQwen試してみたいんだけど。

[名無しさん]

ピーク時はレスポンスに10秒くらいかかることもある。でも深夜は速い。

[名無しさん]

ローカルで動かすにはGPUが必要だよね。VRAMどれくらいあればいいんだろう？

[名無しさん]

Qwen2.5-7Bなら16GBあれば動くって聞いた。DeepSeekの小さめモデルもいけるんじゃない？

[名無しさん]

中国のLLMってコーディング性能良いって評判だけど、実際どうなの？

[名無しさん]

DeepSeek Coderはマジで優秀。ただプロンプトをちゃんと書かないと変なコード返す。

[名無しさん]

プロンプト大事だよね。英語で書くのと中国語で書くのとで結果変わる？

[名無しさん]

Qwenもそこそこ使えるよ。でもGPT-4には負けるかな。

[名無しさん]

アクセス制限でVPN使ってる人いる？

[名無しさん]

自分はシンガポール経由で使ってる。特に問題ない。

[名無しさん]

こういうモデルは中国のサーバーにデータ送るのが心配。ローカル一択だわ。

[名無しさん]

同意。プライバシー重視ならローカルしかない。Ollamaで簡単に試せるよ。

[名無しさん]

Ollamaだとモデル選びがちょっと面倒だけどね。Hugging Faceから直接持ってくるほうが早い。

[名無しさん]

コスト面では中国のAPIは安いから、気にしないならアリ。

[名無しさん]

確かに。でも品質に見合ってるかは微妙。ベンチマークだと結構良いけど実用だと差が出ることも。

[投稿者]

投稿