Deepseek v4 Proをローカルで動かすにはどんなマシンが必要？

このトピックには22件の返信、7人の参加者があり、最後に名無しさんにより11ヶ月、 3週前に更新されました。

22件の返信を表示中（うち親返信9件）

投稿者

投稿
- 2025年7月3日 12:39 PM #63981 返信
  
  名無しさん
  
  Redditのr/LocalLLaMAで「Deepseek v4 ProをローカルLLMとして本当に動かせるマシンは？」というスレッドが立っていました。スコア1、コメント0の投稿ですが、実際にこのモデルを動かすには何が必要なのか、コストや倫理面も含めて議論したいと思います。
- 2025年7月3日 12:41 PM #63982 返信
  
  名無しさん
  
  Deepseek v4 Proって確か671BパラメータのMoEモデルだよね。さすがにコンシューマーじゃ無理じゃない？
- 2025年7月3日 12:44 PM #63983 返信
  
  名無しさん
  
  いや、量子化すればMac Studio 128GBでも動くみたいな情報がどこかにあったような。
  - 2025年7月3日 12:48 PM #63984 返信
    
    名無しさん
    
    Mac Studioでもメモリ帯域がネックになるよ。実用的な速度は出ないと思う。
- 2025年7月3日 12:55 PM #63985 返信
  
  名無しさん
  
  個人的にはRTX 4090 2台でFP8なら行けるんじゃないかと妄想してる。でもVRAM合計48GBだと厳しいかな。
  - 2025年7月3日 12:57 PM #63986 返信
    
    名無しさん
    
    4090 2台でもVRAM48GBじゃ足りないよ。70Bモデルですら24GBじゃギリギリ。671Bは量子化しても最低96GBはいるんじゃ？
- 2025年7月3日 1:00 PM #63987 返信
  
  名無しさん
  
  クラウドAPIでいいじゃん、って思うんだけど、やっぱりプライバシーが気になるよね。
  - 2025年7月3日 1:06 PM #63988 返信
    
    名無しさん
    
    確かに。コードの中身全部送るのは怖いし、ローカルで動かしたい需要は理解できる。
    - 2025年7月3日 1:15 PM #63989 返信
      
      名無しさん
      
      でもコスト考えると、自前でマシン買うよりAPIの方が安いよね。電力代も馬鹿にならない。
- 2025年7月3日 1:17 PM #63990 返信
  
  名無しさん
  
  Deepseek v4 Proって実際どれくらいの性能なんだ？コード生成で評価見るとGPT-4に迫るって話もあるけど。
  - 2025年7月3日 1:19 PM #63991 返信
    
    名無しさん
    
    ベンチマークスコアは確かに高いけど、実用的なタスクだと微妙ってレビューも見るよ。
    - 2025年7月3日 1:23 PM #63992 返信
      
      名無しさん
      
      自分はローカルLLMにこだわらず、用途で使い分けてる。コード生成はClaude、雑談はローカルの小さなモデルって感じ。
- 2025年7月3日 1:30 PM #63993 返信
  
  名無しさん
  
  それより中国製モデルのセキュリティリスクはどうなの？バックドア仕込まれてない？
  - 2025年7月3日 1:41 PM #63994 返信
    
    名無しさん
    
    オープン中身確認できるから大丈夫だと思うけど、学習データに中国共産党バイアスがあるのは事実。
    - 2025年7月3日 1:43 PM #63995 返信
      
      名無しさん
      
      バイアスは確かに気になる。でもコード生成に政治思想は影響しないんじゃ？
      - 2025年7月3日 1:46 PM #63996 返信
        
        名無しさん
        
        影響するかもよ。例えば「台湾」の扱いとか。でもそこはファインチューニングでどうにかなる範囲か。
- 2025年7月3日 1:51 PM #63997 返信
  
  名無しさん
  
  結局、GPUクラスタ借りるのが現実解じゃない？Lambda LabsとかRunPodで。
  - 2025年7月3日 1:58 PM #63998 返信
    
    名無しさん
    
    それならAPIと変わらなくない？むしろセットアップ面倒だし。
    - 2025年7月3日 2:01 PM #63999 返信
      
      名無しさん
      
      でもデータが外部に出ないから安心って人もいるよ。まあ自己責任だけど。
- 2025年7月3日 2:04 PM #64000 返信
  
  名無しさん
  
  個人的にはMac Pro (M2 Ultra) 192GBで動かしてみたい。でも価格がエグい。
  - 2025年7月3日 2:10 PM #64001 返信
    
    名無しさん
    
    Mac Pro買うくらいならNVIDIA H100 1台買った方が早いし、将来性もあるよ。
- 2025年7月3日 2:20 PM #64002 返信
  
  名無しさん
  
  こういう議論を聞いてると、やっぱりDeepseek v4 Proをローカルで動かすのはまだ時期尚早だな。次の世代のハードウェアを待つか。
  - 2025年7月3日 2:21 PM #64003 返信
    
    名無しさん
    
    そうだね。今はクラウドで我慢しておくのが無難。でも近いうちに安価なソリューションが出てくることを期待してる。
投稿者

投稿

22件の返信を表示中（うち親返信9件）

返信先: Deepseek v4 Proをローカルで動かすにはどんなマシンが必要？

あなたの情報:

お名前 (必須)

メール (非公開) (必須):

ウェブサイト:

AA

タイトルとURLをコピーしました