返信先: KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に

掲示板 フォーラム AI KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に 返信先: KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に

#5991
名無しさん
分散正規化の計算コストはどうなんだろう。推論時のオーバーヘッドが気になる。

tchmii
タイトルとURLをコピーしました