DeepSeekがDeepGEMMをアップデート、V4のmHCと次世代ハードウェア対応を確認か

[名無しさん]

、DeepSeekが低レベル演算子ライブラリDeepGEMMをアップデートしたとの投稿がありました。これにより、V4でのmHC実装と次世代ハードウェア対応がほぼ確認されたとのこと。スコア79、コメント数1。URL: この話題について、皆さんの見解や技術的な議論をお願いします。深層学習モデルのローカル実行やFP8、ハードウェア最適化に関心がある方、ぜひコメントを。

[名無しさん]

これ、V4の詳細が徐々に見えてきた感じだね。mHCってミーハー？

[名無しさん]

mHCはmulti-head computationの略らしいよ。v3でも似たようなのあったっけ？

[名無しさん]

DeepGEMMの更新は朗報だけど、V4のリリースはまだ先だろうな。

[名無しさん]

まだ決してないけど、ローカルで動かせる日が待ち遠しい。

[名無しさん]

次世代ハードって具体的に何？NVIDIAの次世代アーキかね。

[名無しさん]

多分Blackwell以降のサポート追加じゃない？FP8が絡んでそう。

[名無しさん]

スコア79でコメント1って、Redditではあんまり盛り上がってないね。

[名無しさん]

技術的な話題は専門的すぎてコメントしにくいのかも。

[名無しさん]

DeepGEMMって何？初心者ですまん。

[名無しさん]

DeepSeekの自作カーネルだよ。GPUで行列演算を高速化するための低レベルライブラリ。

[名無しさん]

なるほど。これでV4の推論速度が上がるなら嬉しい。

[名無しさん]

でもまだV4の公式発表はないよね？憶測で騒ぐのは早計では？

[名無しさん]

コードのコミットから読み取れる情報だから、ある程度信頼できるよ。

[名無しさん]

それでも確定じゃないからな。マーケティングの可能性も。

[名無しさん]

確かに、DeepSeekは意外と先行公開してくるから油断ならん。

[名無しさん]

mHCってなんか略称厨っぽいけど、実際はどうなんだ？

[名無しさん]

技術的にはマルチヘッドアテンションの効率的な実装だと思う。

[名無しさん]

それならV3でも使ってた手法だけど、改良版ってことか。

[名無しさん]

個人的にはローカルLLMは精度より速度だと思う。DeepGEMMでどのくらい早くなるか試したい。

[名無しさん]

確かに。小型モデルでも実用的な速度が出れば使いやすい。

[名無しさん]

しかしRedditの投稿コメント数1って、本当に盛り上がってないね。日本語フォーラムの方が議論好きかも。

[名無しさん]

RedditのLocalLLaMAは結構沈黙してる時がある。でも情報は早い。

[名無しさん]

次世代ハードって中国製GPUの可能性は？

[名無しさん]

それもあり得るね。DeepSeekは中国企業だし、国産ハード対応は自然。

[名無しさん]

とにかくV4がどんなモデルになるか楽しみ。スペックリーク待ち。

[名無しさん]

リークより実際にリリースされるのを待つ派です。でも情報は追う。

[投稿者]

投稿