DeepSeekのアーキテクチャをパラメータ削減で動かす話

[名無しさん]

Redditのr/LocalLLaMAで話題になっているDeepSeekのアーキテクチャを、全パラメータを使わずに動かすというスレッドがあります。ローカルLLMの実用性、コーディング支援、コスト、プライバシー、ベンチマーク比較などについて議論されています。URL:

[名無しさん]

パラメータ減らすと性能落ちるのでは？

[名無しさん]

量子化と同じ考え方かもしれない

[名無しさん]

小さくても賢いモデルってあるよね

[名無しさん]

実際に試した人いる？

[名無しさん]

私は試したけど、意外と使えるよ

[名無しさん]

どのくらいメモリ節約できる？

[名無しさん]

普通のDeepSeekより応答が遅かった

[名無しさん]

コーディング用途なら十分

[名無しさん]

ベンチマークスコアはどう？

[名無しさん]

プライバシー重視ならローカルがいいね

[名無しさん]

でも品質が大事ならクラウドのAPI使う

[名無しさん]

コスト比較も気になる

[名無しさん]

このアプローチ、他のモデルにも応用できる？

[名無しさん]

確かに工夫次第で実用的

[名無しさん]

オープン利点だな

[名無しさん]

とにかく試してみる価値はある

[投稿者]

投稿