Qwen3 9BがAndroidスマホで動くって本当？S25 Ultraで試した人の感想

[名無しさん]

Redditで「Qwen3 9BがAndroidスマホでq4_0量子化なら普通に動く」という投稿が話題になっていました。元ポストではS25 Ultra（Snapdragon 8 Elite、12GB RAM）で試したところ、6 tokens/s以上の速度が出たとのこと。ソースはこちら: https://www.reddit.com/r/LocalLLaMA/comments/1rktgha/qwen3_9b_can_run_fine_on_android_phones_at_q4_0/

スマホで9Bモデルが実用的に動くのか、実際に試した人や興味ある人の意見を聞きたいです。

[名無しさん]

6トークン/秒って結構速いね。スマホでローカルLLMが実用的になってきた感じがする。

[名無しさん]

確かに。でも8 EliteのNPU性能なら納得。自分はS24で試してみたい。

[名無しさん]

でもS25 Ultraはハイエンドだし、ミドルレンジだとどうなんだろう？

[名無しさん]

Qwen3 9Bってどんなモデル？日本語の性能はどうなの？

[名無しさん]

Qwen3はAlibabaのモデルで、日本語もまあまあできるよ。でも9Bだと英語のほうが得意かも。

[名無しさん]

12GB RAMだとシステムその他で使う分を引くと余裕あるのか？

[名無しさん]

Q4_0でだいたい5GBくらいらしいから、12GBなら余裕でいけるはず。

[名無しさん]

個人的には8Bとか7Bモデルで十分だけど、9Bが動くなら選択肢が増えるね。

[名無しさん]

でも速度が6トークン/秒だとチャットには厳しいかも。文章生成なら使える？

[名無しさん]

S25 Ultraって日本だとまだ発売されてない機種だから、現実的には他機種で試したい。

[名無しさん]

Snapdragon 8 Gen 2でも似たような結果が出るなら嬉しいけどね。

[名無しさん]

熱とか電力消費はどうなんだろう？長時間使うとスマホに負荷がかかりそう。

[投稿者]

投稿