DeepSeekで学習されたSmallThinkerってどうなの？

[名無しさん]

Redditのr/LocalLLaMAで話題のスレッド「SmallThinker trained on DeepSeek?」を紹介。DeepSeekモデルを使ったSmallThinkerの学習について、ローカルLLMの使用感、コスト、プライバシー、ベンチマーク比較などが議論されています。URL:

[名無しさん]

興味深い話題だね。

[名無しさん]

DeepSeekって中国発のモデルだよね？品質はどうなの？

[名無しさん]

実際に使ってみたけど、LLaMAより軽いし精度も悪くないよ。

[名無しさん]

でもプライバシー面が心配。

[名無しさん]

ローカルで動かせば問題ないんじゃない？

[名無しさん]

ベンチマーク結果はどうなんだろう。

[名無しさん]

自分で試した感じではコード生成はDeepSeekの方が得意かも。

[名無しさん]

コスト面で考えるとどう？DeepSeekってライセンス的に大丈夫？

[名無しさん]

オープンだから大丈夫だけど、商用利用は要確認だね。

[名無しさん]

SmallThinkerって名前からして小規模モデルっぽいけど、実際の性能は？

[名無しさん]

7Bくらいのモデルみたいで、VLLMで動かすと結構速いよ。

[名無しさん]

量子化すればさらに小さくできるし、ローカルで動かすには良い選択だと思う。

[名無しさん]

ただ、日本語対応はどうなんだろう？やっぱりLLaMaベースの方が安心？

[名無しさん]

日本語もそこそこ使えるみたいだけど、専門用語には弱いかも。

[投稿者]

投稿