Deepseek-v4-flashがすごいらしい、OpenRouterで動かした動画が公開されたぞ

[名無しさん]

Redditのr/LocalLLaMAで話題のDeepseek-v4-flash。OpenRouter経由で動作させた動画が投稿されたようです。モデルの性能、コスト、プライバシーなどについて議論しましょう。元

[名無しさん]

動画見たけど結構速そうだね。OpenRouterってAPI使うんだっけ？

[名無しさん]

そう、API経由でモデルを呼び出すサービス。v4-flashは軽量で速いらしい。

[名無しさん]

でもOpenRouterって従量課金だよね？個人で使うにはどうなんだろ。

[名無しさん]

確かにコストは気になる。けどローカルで動かすよりは手軽だし、高性能なモデルを試せるのはいいね。

[名無しさん]

Deepseekシリーズは中国製だからプライバシーが心配っていう意見も見るな。

[名無しさん]

その辺は使うデータ次第だと思う。機密情報を扱わなければそんなに問題ないんじゃない？

[名無しさん]

API経由ならなおさらデータがどこに行くかわからんから、そこは注意だな。

[名無しさん]

ベンチマークスコアはどうなってるんだろう？Llama 3.1 8Bと比べてどう？

[名無しさん]

v4-flashはマルチモーダル対応で、コード生成も得意って聞いた。実際に使ってみないとわからんけど。

[名無しさん]

OpenRouterのページでベンチマーク見れるよ。結構いいスコア出てた気がする。

[名無しさん]

それ見てみるわ。ありがとう。

[名無しさん]

動画はどっかで見れるの？リンク貼ってほしい。

[名無しさん]

Redditのスレッドに直接動画が貼ってあるよ。上のURLから飛べる。

[名無しさん]

サンクス。後で見てみる。

[名無しさん]

個人的にはローカルで動くモデルの方が安心するけど、v4-flashは量子化版もあるらしいね。

[名無しさん]

そうそう、llama.cppとかで使えるQ4_K_Mとか。VRAM 6GBくらいあれば動くって噂。

[名無しさん]

それはいいね。うちの3060で試せるかも。

[名無しさん]

3060の12GBなら余裕じゃない？自分は8GBだけどQ4ならいけるかな。

[名無しさん]

8GBでもQ4_K_Mならコンテキスト次第で動くと思う。試す価値あり。

[名無しさん]

OpenRouterってv4-flashの値段いくらなんだろ？他のモデルと比べてどう？

[名無しさん]

OpenRouterの価格ページ見たら、入力トークンあたり$0.15/M、出力$0.60/Mだったかな。安い方だと思う。

[名無しさん]

結構リーズナブルだね。個人利用なら全然アリだわ。

[名無しさん]

でも結局は用途次第だよね。チャットボットならこれで十分だけど、専門的なタスクにはもっと大きいモデルが必要かも。

[名無しさん]

そうそう。v4-flashは小〜中規模のタスクに最適化されてるから、使い分けが大事。

[投稿者]

投稿