DeepSeek-v4の384K出力が笑える話

[名無しさん]

Redditのr/LocalLLaMAで話題になってたDeepSeek-v4の最大出力トークン数384Kがちょっとコミカルだというスレッドです。実際のところ、そんな長い出力を必要とするケースってあるのか？ローカルLLMユーザーの間では、コーディングやコスト、プライバシー、ベンチマーク比較など様々な意見が出てました。ソース: https://www.reddit.com/r/LocalLLaMA/comments/1su9iio/deepseekv4_has_a_comical_384k_max_output/

[名無しさん]

384Kって長編小説1冊分くらいじゃない？実際に使う人いるの？

[名無しさん]

コード生成とかリファクタリングで巨大なファイル一気に出力したい時には便利かもね。

[名無しさん]

でも768Kとか1Mのモデルも出てきてるし、そのうち普通になるかも。

[名無しさん]

普通になったとしても、実際にそんな長い出力を生成する機会がどれだけあるか疑問。

[名無しさん]

DeepSeek-v4はベンチマークで結構いいスコア出してるらしいけど、384K出力は誇大広告っぽく見える。

[名無しさん]

マーケティングの一環でしょうね。でも技術的にはすごいと思う。

[名無しさん]

ローカルで動かす場合、メモリがとんでもないことになりそう。

[名無しさん]

量子化すればなんとかなる？でも384K出力だと推論時間もヤバそう。

[名無しさん]

Redditでは「こんな長い出力、誰が使うんだ」ってネタにされてたよ。

[名無しさん]

でもクリエイティブな用途（小説のプロットとか）には役立つかも。

[名無しさん]

小説書くなら分割して生成すればいいし、わざわざ384Kはオーバーキル。

[名無しさん]

個人的にはAPIの価格が気になる。安ければ使うかもしれない。

[名無しさん]

確かにコスパ次第だね。でもローカルでやるなら電気代との戦いだけど。

[投稿者]

投稿