DeepSeek R1とV3を同一サーバーで同時実行できる？

[名無しさん]

Redditのr/LocalLLaMAで「Can I run DeepSeek R1 and DeepSeek V3 simultaneously on the same server?」という質問が投稿されていました（）。DeepSeekのモデルはローカルLLMとして人気ですが、両方を同時に動かすのは現実的なのか？ハードウェア要件やVRAM、コスト面も含めて議論しましょう。

[名無しさん]

無理じゃない？VRAMが何TB必要になるか想像もつかない

[名無しさん]

VRAMはR1の671Bだと1台じゃ無理、マルチGPU構成必須

[名無しさん]

R1は1.5Bならなんとか、V3は量子化しないと無理

[名無しさん]

コスト考えたらクラウド使ったほうが安い気がする

[名無しさん]

でもローカルじゃないと遅いし、プライバシー的に不安

[名無しさん]

実際にやってる人いるの？ベンチマークが知りたい

[名無しさん]

Reddit見たら何人か挑戦してるけど、推論速度は悲惨らしい

[名無しさん]

42Bくらいのモデルなら同時に2つくらい余裕

[名無しさん]

R1はそもそも42Bないしな。V3は671Bだもん

[名無しさん]

サーバー用途なら専用機用意するのが当たり前

[名無しさん]

DeepSeekってコード生成強いから両方動かして併用したいんだろうな

[名無しさん]

コードならR1のほうが得意って話もあるけど

[名無しさん]

量子化版なら可能かもしれない。GGUFで頑張れ

[名無しさん]

GGUFでもVRAM 48GBじゃR1動かないよ

[名無しさん]

プロジェクトによってはモデル切り替えでいいのでは？

[名無しさん]

同時実行の意味がわからん、API叩けばいいじゃん

[名無しさん]

オフラインで使いたいケースもあるんでしょ

[名無しさん]

ハードウエア投資するならH100とか？一般人には無理

[名無しさん]

H100でもR1とV3同時はきついと思う

[名無しさん]

そもそもV3は推論特化、R1は思考モデルで性格違う

[名無しさん]

役割分担したいなら同時じゃなくてもいい気が

[名無しさん]

やってみたいけどお金が…

[名無しさん]

DeepSeekの新しいモデルはどんどん重くなるからなあ

[名無しさん]

2台サーバー用意するのが現実的

[名無しさん]

GPUクラスタをレンタルする手もあるが

[名無しさん]

個人的にはR1の小型版だけで十分

[名無しさん]

情報ありがとう、Redditのスレも参考になる

[投稿者]

投稿