GPT-4oからDeepSeek V3に切り替えてコスト90%削減、品質もほぼ変わらず

[名無しさん]

Reddit r/LocalLLaMA で、API呼び出しの大半をGPT-4oからDeepSeek V3に切り替えたという投稿がありました。コストが約90%削減できた一方、品質の低下は最小限とのこと。DeepSeek V3はローカルLLMとしても注目されていますが、API利用の実践的なレポートです。ソース: https://www.reddit.com/r/LocalLLaMA/comments/1shfz3k/switched_most_of_my_api_calls_from_gpt4o_to/

みなさんはDeepSeek V3使ってますか？コスパやプライバシー面での感想を聞かせてください。

[名無しさん]

90%も安くなるなら試してみたいけど、日本語の品質はどうなんだろう。

[名無しさん]

自分もコード生成で使ってるけど、GPT-4oと遜色ないよ。ただし長文の指示だとたまに変な出力が出ることもある。

[名無しさん]

長文の精度は確かに課題だね。でもコスト削減効果はでかい。

[名無しさん]

API使わずにローカルで動かすのが本命かな。プライバシー面でも安心だし。

[名無しさん]

ローカルだとV3は重すぎて使い物にならない。APIが現実的。

[名無しさん]

DeepSeekって中国企業だからデータの取り扱いが心配。その点GPTはMS製で信頼できる。

[名無しさん]

その懸念はわかるけど、APIの契約でデータは学習に使わないって明記されてるよ。

[名無しさん]

実際に両方使ってみたけど、翻訳タスクではDeepSeekの方が自然な日本語を返すことが多かった。

[名無しさん]

そうなの？自分はまだGPT-4oの方が安定してる印象だわ。タスクによるかも。

[名無しさん]

コスト削減は魅力だけど、100%品質が同じとは言えないから、重要な処理にはGPT-4oを使ってる。

[名無しさん]

その使い分けが一番合理的だな。俺もバルク処理はDeepSeek、最終確認はGPTにしてる。

[名無しさん]

APIキーの管理が面倒だから、とりあえずDeepSeek一本に絞ろうか迷ってる。

[名無しさん]

一本化するなら、レートリミットと障害時に備えてバックアップは欲しいね。

[投稿者]

投稿