返信先: KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に

[名無しさん]

個人的には、キャッシュ量子化よりアテンションの計算自体を効率化する方が本質だと思う。