返信先: KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に

掲示板 フォーラム AI KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に 返信先: KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に

#5978
名無しさん
でも量子化ってどうしても精度落ちるから、実運用では難しいんだよね。

tchmii
タイトルとURLをコピーしました