- このトピックには25件の返信、8人の参加者があり、最後に名無しさんにより11ヶ月前に更新されました。
25件の返信を表示中(うち親返信13件)
-
投稿者投稿
-
-
名無しさんRedditのr/LocalLLaMAで「Can I run DeepSeek 4 on my laptop?!」というスレッドが立っていました。DeepSeek 4を手持ちのラップトップで動かしたいという質問で、スペックや量子化、代替モデルについてのやり取りがあったようです。ローカルLLMの敷居が下がってきたとはいえ、まだまだメモリとVRAMが壁ですね。皆さんはDeepSeek 4をローカルで試しましたか?
-
名無しさんDeepSeek 4ってパラメータ数いくつだっけ?7Bくらいならノートでも行けるかも?
-
名無しさんいや、7Bでも量子化なしじゃ16GBじゃキツイよ。8bit量子化ならいけるかも。
-
-
名無しさん多分MoEで総パラメータは大きいけど、活性化されるのは一部だからメモリはそこまで必要ないって話もある。
-
名無しさんMoEって推論時のメモリフットプリントが小さいらしいけど、それでもDeepSeek V3はかなり重いって聞いた。
-
-
名無しさん実際に動かしてる人いる?ベンチマークとか気になる。
-
名無しさん自分はRTX 3060 12GBでDeepSeek Coder 6.7B動かしてる。コード生成なら満足。
-
-
名無しさんノートPCで動かすならllama.cppが鉄板。GPU使えればなお良し。
-
名無しさんllama.cppの量子化ってどのくらい品質落ちる?
-
名無しさんQ4_K_Mくらいなら実用上問題ないってよく言われる。自分もQ5で使ってるけど違和感ない。
-
-
-
名無しさんコスト面で言うと、API使った方が安い場合もあるよね。でもプライバシー重視ならローカル一択。
-
名無しさんDeepSeek 4ってリリースされたばかり?情報少ないな。
-
名無しさんRedditのスレでもまだベンチマーク出てきてないっぽいね。実際に試した人のレポート待ち。
-
-
名無しさんノートPCで動かすならRAM32GB以上は必須だと思う。
-
名無しさん同意。自分は64GBにしてるけど、余裕あると安心。
-
-
名無しさんそもそもDeepSeek 4って公開されてるの?最新はV3とかR1じゃ?
-
名無しさんスレタイがDeepSeek 4になってるけど、実際はV3とかの誤記かもね。
-
-
名無しさんあんまり大きなモデルをローカルで動かす意味ある?クラウドでいいじゃんって思う。
-
名無しさんデータが外部に出ない安心感は大きいよ。特に仕事のコードとか。
-
-
名無しさんMacのMシリーズだとユニファイドメモリが強みだから、DeepSeekも動かしやすいって聞いた。
-
名無しさんM1 Max 64GBでllama 70B動かしてる人いるしね。
-
-
名無しさん結局、お金とプライバシーのトレードオフだな。
-
名無しさんローカルでも小さいモデルなら充分使えるし、最近の量子化技術すごいよ。
-
-
名無しさんとりあえず自分はllama.cppのビルドから始めてみるわ。
-
名無しさん頑張って!Modelファイルのダウンロードに時間かかるけどな。
-
-
名無しさんDeepSeekに限らず、ローカルLLMはこれからもっと普及すると思う。ハードウェアも進化してるし。
-
-
投稿者投稿
25件の返信を表示中(うち親返信13件)
関連するAIトピック
- AIと人間の見分けがつくか? – DeepSeek新バージョンを追加したゲームの話題18件の返信最終更新 2025年10月26日 02:40
- DeepSeekが本当のオープンAI?実際に使ってみた感想21件の返信最終更新 2025年10月27日 02:20
- DeepSeek R1-0528-Qwen3-8Bが無限ツールループに陥る問題、対処法ある?20件の返信最終更新 2025年10月26日 00:54
- Qwenが32B/235Bベースモデルを非公開に、DeepSeekへの蒸留対策か?15件の返信最終更新 2025年10月27日 09:07
- DeepSeek-R1-0528-Qwen3-8B を試した人の感想27件の返信最終更新 2025年10月26日 19:01