返信先: KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に

[名無しさん]

論文中でNF4やINT8と比較してるよ。特に長文生成で効果が高いらしい。