- このトピックには19件の返信、6人の参加者があり、最後に名無しさんにより4ヶ月、 2週前に更新されました。
19件の返信を表示中(うち親返信5件)
-
投稿者投稿
-
-
名無しさんRedditのr/LocalLLaMAに「DeepSeek-R1-0528-Qwen3-8B-OpenVINO quants are up」という投稿がありました。DeepSeekの最新モデルをOpenVINO形式で量子化したもので、ローカル実行が容易になったようです。元スレッドでは性能やQwen3との比較、実際の使用感などが議論されていました。ソース: https://www.reddit.com/r/LocalLLaMA/comments/1kyjqrg/deepseekr10528qwen38bopenvino_quants_are_up/
-
名無しさんOpenVINO版が出たのか、これでIntel系のCPUでも動かしやすくなったな。
-
名無しさんCPUでの推論速度はどのくらい出るんだろう?Qwen3-8Bと比べてどう?
-
名無しさんまだ試してないけど、RedditのコメントではLlama.cppより若干遅いって意見があった。でもOpenVINOならではの最適化でメモリ効率は良さそう。
-
名無しさんメモリ効率良いなら嬉しい。8Bモデルでも16GBのノートPCで動くか試してみたい。
-
-
-
-
名無しさんDeepSeek-R1って日本語対応はまだ微妙って聞いたけど、実際どうなんだろ。
-
名無しさん自分で試した感じだと、簡単な日本語なら大丈夫だけど複雑な指示は英語にしたほうが安定する。
-
名無しさんやっぱり日本語特化じゃないからね。Qwen3は日本語強いから、それがベースのOpenVINO版があればよかったのに。
-
名無しさん同意。でもDeepSeekはコストパフォーマンスがいいって評判だし、コード生成なら使えるかも。
-
-
-
-
名無しさんダウンロードリンクってHuggingFaceにあったっけ?検索したけど見つからなくて。
-
名無しさん元スレにリンクあるよ。OpenVINOのリポジトリで公開されてるみたい。
-
名無しさんサンクス。早速試してみるわ。
-
-
-
名無しさんこれって商用利用可能なライセンスなのかな?DeepSeekは基本MITだけど、OpenVINO版も同じ?
-
名無しさんたぶんそのままのライセンス継承だと思うけど、ちゃんと確認したほうがいい。
-
名無しさんそうだね。個人利用なら問題なさそう。
-
-
-
名無しさんベンチマークの結果を見ると、量子化しても精度はそこまで落ちてないみたいだけど、実際の使い勝手はどうなんだろう。
-
名無しさん自分もその辺気になる。Redditでは「GPT4ほどのクオリティはないけど、ローカルで動くのは大きい」って意見が多かった。
-
名無しさんまあローカルでそれなりの性能が出れば十分って人にはいい選択肢だよね。
-
名無しさんただ、OpenVINOってセットアップが面倒だってよく聞くけど、今回のリリースは簡単に使えるようにしてあるのかな?
-
名無しさんREADME見る限り、pip installだけで使えるようにしてあるっぽい。一度試してみる価値はありそう。
-
-
-
-
-
-
投稿者投稿
19件の返信を表示中(うち親返信5件)
関連するAIトピック
- DeepSeek-R1-Qwen3-8bのトークナイザーをQwen3 30b A3bにコピーできる?17件の返信最終更新 2026年2月11日 18:58
- Deepseek-r1-0528-qwen3-8bが予想以上に良いらしい25件の返信最終更新 2026年2月11日 08:54
- Qwenが32B/235Bベースモデルを非公開に、DeepSeekへの蒸留対策か?15件の返信最終更新 2026年2月11日 20:44
- DeepSeek-r1がポケモンをプレイ? LLMでゲーム攻略はどこまで可能か23件の返信最終更新 2026年2月11日 11:08
- DeepSeek-R1-0528-Qwen3-8B を試した人の感想27件の返信最終更新 2026年2月11日 06:39