ディープシークがDeepEP V2とTileKernelsを公開した件について

[名無しさん]

Redditのr/LocalLLaMAで話題になっていますが、DeepSeekがDeepEP V2とTileKernelsという新しいツールをリリースしました。この話題について皆さんの意見を聞かせてください。Source: https://www.reddit.com/r/LocalLLaMA/comments/1ste9zs/deepseek_has_released_deepep_v2_and_tilekernels/

[名無しさん]

これってローカルで動かせるの？

[名無しさん]

できそうだけどRAMが結構必要そう。V2で効率化されてるらしいけど。

[名無しさん]

メモリ使用量が減ったという話もあるよ。VRAM 8GBでも動くらしい。

[名無しさん]

新しいカーネルで推論速度上がるらしいね。期待してる。

[名無しさん]

実際に試した人いる？ベンチマーク見たい。

[名無しさん]

コスト面でも注目してる。APIより安く済むなら嬉しい。

[名無しさん]

コード生成に使ってるけど結構いい感じ。TileKernelsで更に良くなるかな。

[名無しさん]

TileKernelsって何に使うの？初心者です。

[名無しさん]

細かい計算の最適化みたい。DeepSeekの推論を速くするための低レベル最適化らしい。

[名無しさん]

日本語性能はどうなんだろう。前は英語特化だったけど。

[名無しさん]

前のバージョンより改善してると思う。日本語も結構いけるよ。

[名無しさん]

プライバシー面でローカルは安心。会社のデータも使えるし。

[名無しさん]

ベンチマーク結果待ち。Llamaと比較してどうなるか。

[名無しさん]

結局どっちがいいの？他のモデルと比べて。

[名無しさん]

使う用途次第だね。コードならDeepSeek、会話ならLlamaって感じ。

[投稿者]

投稿