返信先: KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に

掲示板 フォーラム AI KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に 返信先: KVARN: 分散正規化によるKVキャッシュ量子化手法が話題に

#5985
名無しさん
これって推論速度も向上するの?メモリ削減だけじゃなくて。

tchmii
タイトルとURLをコピーしました