DeepSeek R1/V3をDeepInfraで本番運用している人いますか？

このトピックには23件の返信、7人の参加者があり、最後に名無しさんにより1年、 2ヶ月前に更新されました。

23件の返信を表示中（うち親返信8件）

投稿者

投稿
- 2025年3月30日 8:31 PM #68269 返信
  
  名無しさん
  
  「Anyone running DeepSeek R1/V3 on DeepInfra in production?」というスレッドがあります。DeepSeekモデルをDeepInfraで本番運用している方の経験や、コスト、プライバシー、ベンチマーク比較などについての議論です。まだコメントはありませんが、ここで日本の皆さんの意見を聞いてみたいと思います。
- 2025年3月30日 8:33 PM #68270 返信
  
  名無しさん
  
  自分は試しにV3を動かしてみたけど、結構速かったよ。本番はまだだけどね。
  - 2025年3月30日 8:36 PM #68271 返信
    
    名無しさん
    
    速度はどのくらい？レイテンシーが気になる。
- 2025年3月30日 8:40 PM #68272 返信
  
  名無しさん
  
  DeepInfraの料金、他のAPIと比べてどうなんだろう？
  - 2025年3月30日 8:47 PM #68273 返信
    
    名無しさん
    
    公式サイト見れば分かるけど、トークン単価は安めだと思う。でも帯域制限とかあるらしい。
    - 2025年3月30日 8:49 PM #68274 返信
      
      名無しさん
      
      帯域制限は許容範囲内かな？大量に使う人は注意が必要そう。
- 2025年3月30日 8:53 PM #68275 返信
  
  名無しさん
  
  R1とV3の違いって何？コード生成ならどっちが良い？
  - 2025年3月30日 8:59 PM #68276 返信
    
    名無しさん
    
    個人的にはV3の方がコーディング向きだと思う。R1は推論特化で遅い。
    - 2025年3月30日 9:08 PM #68277 返信
      
      名無しさん
      
      確かにベンチマークでもCode系はV3優勢だね。でもR1の論理推論はすごい。
- 2025年3月30日 9:09 PM #68278 返信
  
  名無しさん
  
  本番運用考えるとプライバシーが心配。データが学習に使われないか？
  - 2025年3月30日 9:12 PM #68279 返信
    
    名無しさん
    
    DeepInfraはAPI経由なら学習に使わないって明言してるよ。ただし利用規約は確認した方がいい。
    - 2025年3月30日 9:16 PM #68280 返信
      
      名無しさん
      
      ローカルで動かせるならそれが一番安心だけど、コストと速度のトレードオフだな。
- 2025年3月30日 9:22 PM #68281 返信
  
  名無しさん
  
  自分はまだ試してないけど、DeepSeekの品質は良さそう。GPT-4の代替になるかな？
  - 2025年3月30日 9:34 PM #68282 返信
    
    名無しさん
    
    用途によるけど、数学やコーディングならDeepSeekの方が上って話もある。
    - 2025年3月30日 9:35 PM #68283 返信
      
      名無しさん
      
      でも日本語の品質はどうなんだろう？英語に偏ってない？
      - 2025年3月30日 9:38 PM #68284 返信
        
        名無しさん
        
        日本語も結構いけるよ。たまにおかしな出力もあるけど、全体としては使えるレベル。
- 2025年3月30日 9:43 PM #68285 返信
  
  名無しさん
  
  DeepInfraのサポートはどう？障害時に対応してくれる？
  - 2025年3月30日 9:51 PM #68286 返信
    
    名無しさん
    
    サポートはメールだけみたい。SLAは明記されてないから、ミッションクリティカルには使いづらいかも。
- 2025年3月30日 9:53 PM #68287 返信
  
  名無しさん
  
  自分はAWSのSageMakerでホストしてるけど、DeepInfraの方が安上がりそう。
  - 2025年3月30日 9:57 PM #68288 返信
    
    名無しさん
    
    SageMakerはカスタマイズ自由だけど管理が面倒。DeepInfraは楽だよね。
- 2025年3月30日 10:02 PM #68289 返信
  
  名無しさん
  
  実際に本番で使ってる人居るのかな？トラフィック捌ける？
  - 2025年3月30日 10:12 PM #68290 返信
    
    名無しさん
    
    個人開発のサービスなら問題ないと思うけど、大規模ならレートリミットに引っかかるかも。
    - 2025年3月30日 10:14 PM #68291 返信
      
      名無しさん
      
      あと、モデルが更新されたときの互換性も心配。突然動かなくなったりしない？
      - 2025年3月30日 10:16 PM #68292 返信
        
        名無しさん
        
        それはAPIのバージョン管理次第だね。DeepInfraは古いバージョンも残してくれるみたい。
投稿者

投稿

23件の返信を表示中（うち親返信8件）

返信先: DeepSeek R1/V3をDeepInfraで本番運用している人いますか？

あなたの情報:

お名前 (必須)

メール (非公開) (必須):

ウェブサイト:

AA

タイトルとURLをコピーしました