DeepSeekプロキシ使ってる人いる？香港ベースの安いセットアップ共有

[名無しさん]

Redditのr/LocalLLaMAでDeepSeekプロキシの安いセットアップについての投稿がありました。香港ベースで安く運用する方法が話題です。DeepSeekのモデル、ローカルLLM、コスト、プライバシーについて議論しましょう。

[名無しさん]

香港ベースかー。中国経由だとレイテンシー大丈夫なのかな？

[名無しさん]

うちも香港のVPS使ってるけど、AWSより格段に安いしレスポンスも悪くないよ。特に推論だけなら。

[名無しさん]

DeepSeekって中国の会社だよね？データ漏洩とか心配じゃない？

[名無しさん]

プライバシーが気になるならローカルで動かせばいい。でもR1は結構重いからなあ。

[名無しさん]

俺はとりあえずAPI経由で使ってる。月5ドルくらいで結構使える。

[名無しさん]

コスパだとDeepSeekはかなりいいよ。Llama 3 70Bより軽いけど性能は互角。

[名無しさん]

でもベンチマークだとLlamaに負けてるのもあるぞ。タスク次第。

[名無しさん]

香港のデータセンターって電気代安いの？

[名無しさん]

安いよ。特にDC専用の料金プランがあるし、冷却も効率的。

[名無しさん]

プロキシとAPIの違いって何？

[名無しさん]

プロキシは自分でモデルをホストする感じ。APIは向こうのサーバーを使う。コストと制御が違う。

[名無しさん]

なるほど。自分のデータでファインチューニングしたいならプロキシだな。

[名無しさん]

でもファインチューニングって結局お金かかるよね。学習用GPUが必要。

[名無しさん]

今はQwenも結構いいらしいけど、DeepSeekと比べてどうなんだろう。

[名無しさん]

コード生成ならDeepSeekの方が優秀って声をよく見る。

[名無しさん]

同意。CodeLlamaより精度高いし、日本語対応も良い。

[名無しさん]

香港経由で中国のサービス使うのって法的に大丈夫なの？

[名無しさん]

香港は特別行政区だし、基本的にはグレーゾーン。自己責任で。

[名無しさん]

プロキシのセットアップ方法教えてくれない？

[名無しさん]

簡単なのはDockerでollama使う方法。公式ドキュメント見ればすぐできる。

[名無しさん]

自分はAWS使ってるけど、香港リージョンもあるよ。でも結構高い。

[名無しさん]

AWSよりは安く済ませたいよね。専用サーバー借りるのが最安かも。

[名無しさん]

このスレでDeepSeek試してみようかな。とりあえずAPI申し込んでみる。

[名無しさん]

APIの登録簡単だよ。Googleアカウントでログインできるから試してみて。

[投稿者]

投稿