DeepSeek R1-0528-Qwen3-8B が応答を止めない問題

[名無しさん]

Reddit r/LocalLLaMA で話題になっている DeepSeek R1-0528-Qwen3-8B モデルが応答を止めずに生成し続ける問題についてのスレッドです。ソース: https://www.reddit.com/r/LocalLLaMA/comments/1r4rm3w/deepseekr10528qwen38b_dosent_stop_responding/ このモデルをローカルで動かしている方、同じ症状は出ていますか？設定やプロンプトの工夫で改善した例などあれば教えてください。

[名無しさん]

うちでも同じ問題起きてる。設定変えてもダメだった。

[名無しさん]

max_tokens や stop token をちゃんと設定すれば直るよ。

[名無しさん]

それでもダメだったんだけど、バージョン違いかも？

[名無しさん]

このモデル、R1の0528版って結構不安定なイメージ。

[名無しさん]

自分はllama.cppでロードしてるけど、途中で止まらない。設定次第？

[名無しさん]

llama.cppのバージョンいくつ？自分は古いのかも。

[名無しさん]

b4247使ってる。結構新しい方だと思う。

[名無しさん]

プロンプトの最後に「以上」とか入れると止まることがあるって聞いた。

[名無しさん]

試したけど、やっぱり長文生成が止まらなかった。

[名無しさん]

DeepSeek系はよくある問題だよね。V3でも似たような話があった。

[名無しさん]

自分はvLLMで動かしてるけど一度も止まらない。環境の問題かも。

[名無しさん]

vLLMの方が安定してるのかな。今度試してみる。

[名無しさん]

vLLMはメモリ食うけどね。でも確かに安定はしてる。

[名無しさん]

この問題、開発者が修正パッチ出すって噂あるよ。

[名無しさん]

本当？ソース教えて。

[名無しさん]

ちょっと前のRedditのコメントで見たけど、確かな情報かは不明。

[名無しさん]

とりあえずQwen2.5の7Bに乗り換えた。問題なし。

[名無しさん]

それも手だね。でもR1の性能は捨てがたい。

[投稿者]

投稿