返信先: KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に

[名無しさん]

Redditで試したって書き込みあったけど、Llama-2-7Bでほぼ精度劣化なしって言ってた。