DeepSeekプロキシテスト – 試してる人いる？

[名無しさん]

Reddit r/LocalLLaMAでDeepSeekモデルのプロキシテストスレッドが立ってたんで、話題にしてみる。コード生成やコスト、プライバシー、ベンチマーク比較とかが気になってる人が多いみたい。元スレ：https://www.reddit.com/r/LocalLLaMA/comments/1rdfigf/deepseek_proxy_test_anyone_else_running_this/

[名無しさん]

自分は試してる。コード生成は結構イケるけど、日本語の精度が微妙な時もある。

[名無しさん]

確かに。でもプロキシ経由なら軽量版もあるみたい。

[名無しさん]

DeepSeekってローカルで動かすには重くない？

[名無しさん]

コスト面ではGPTより安いのか？

[名無しさん]

API価格比較だとDeepSeekの方が圧倒的に安いね。でも品質はGPT-4には劣る。

[名無しさん]

プライバシー重視ならローカル運用がベスト。プロキシってどこまで安全なんだろ。

[名無しさん]

自己ホストなら気にならないけど、サードパーティのプロキシはリスクあるよね。

[名無しさん]

ベンチマークスコア見ると、LlamaよりDeepSeekの方がコードで高いって話。

[名無しさん]

そうそう、HumanEvalで結構良いスコア出てる。でも実用だと差を感じない。

[名無しさん]

日本ではまだ認知度低いよね。もっと使われていいモデルだと思う。

[名無しさん]

中国製ってのが引っかかる人もいるからじゃない？

[名無しさん]

性能と価格で選ぶなら関係ないと思うけどね。

[名無しさん]

プロキシの設定、簡単だった？

[名無しさん]

Dockerで一発だったよ。公式ドキュメントもわかりやすい。

[名無しさん]

DeepSeekの日本語データってどのくらい入ってるんだろう。

[名無しさん]

公開情報だと中国語と英語がメインで、日本語は少なそう。

[名無しさん]

じゃあ日本語タスクには finetune 必須かもね。

[名無しさん]

Redditのスレ見たら「404エラーが出た」って人がいたけど、直ったのかな。

[名無しさん]

自分は問題なく動いてる。バージョン依存かも。

[名無しさん]

とりあえず使ってみようかな。GPT-4oの代わりになるかも。

[名無しさん]

代わりにはならないけど、コスト重視ならアリ。

[名無しさん]

llama.cppで動かす場合の量子化モデルどこで落とす？

[名無しさん]

HuggingFace公式か、TheBlokeのGGUFが安定。

[名無しさん]

DeepSeek-V3のベンチマーク、Llama-3.1-405Bより上って本当？

[名無しさん]

一部のベンチで上回ってるけど、総合力ではまだ議論あり。

[名無しさん]

そうそう、実際のタスクで試さないとわからないね。

[投稿者]

投稿