AndroidでDeepSeek R1 0528（Qwen 8B）をMNNで動かすスレ

[名無しさん]

Redditのr/LocalLLaMAで話題になっていた、Android端末でDeepSeek R1 0528（Qwen 8B）をMNNを使って動かすスレッドです。実際に動かした人の感想やベンチマーク、比較などが議論されています。ッド：

[名無しさん]

おお、Androidで動くのか。すごいな。

[名無しさん]

Qwen 8Bって8Bパラメーター？そんなのスマホで動くの？

[名無しさん]

8Bは結構重いけど、MNNで量子化すれば動くみたい。速度はどうなんだろう。

[名無しさん]

精度はどうなんだ？Distillモデルだし、元のDeepSeekより劣るんじゃないか。

[名無しさん]

自分も試してみたけど、メモリ4GBだと厳しかった。8GB以上推奨。

[名無しさん]

API使うのと比べて速度は？やっぱローカルは遅い？

[名無しさん]

APIよりは遅いけど、プライバシー面では安心。オフラインで使えるのが強み。

[名無しさん]

他のローカルLLM（Llamaとか）と比べてどう？

[名無しさん]

コード生成ならDeepSeekが結構いいって聞く。日本語はQwenベースだから良さそう。

[名無しさん]

量子化モデルどこで手に入れるんだ？

[名無しさん]

Hugging Faceに上がってるよ。MNN用の変換も必要だけど。

[名無しさん]

結局バッテリー消費が激しそう。実用的じゃない。

[名無しさん]

短い会話なら十分使えるよ。家で試すにはいい。

[名無しさん]

iOSでも動くの？

[名無しさん]

MNNはクロスプラットフォームだからiOSも対応してるはず。でも設定が面倒。

[名無しさん]

情報ありがとう。試してみる。

[名無しさん]

DeepSeek R1 0528って、確かDeepSeek-R1の蒸留版で、元は671Bだよ。8BはQwenベースの小型版。

[名無しさん]

ローカルLLMの選択肢が増えて嬉しい。これからが楽しみ。

[名無しさん]

みんなの意見聞けて参考になった。自分はクラウドAPI併用で行くかな。

[投稿者]

投稿