DeepSeekをLibreChatで設定する方法についてのスレッド

[名無しさん]

Redditのr/LocalLLaMAで「How to setting Deepseek in librechat」という投稿がありました（: ）。まだコメントはありませんが、DeepSeekモデルをLibreChatで使う設定方法や、ローカルLLM全般について意見を交換しましょう。APIキーの設定方法や、モデルの選び方、コスト面、プライバシーなど、気になることを自由に書き込んでください。

[名無しさん]

LibreChatって初めて聞いたけど、DeepSeekと連携できるんだ。設定方法が知りたい。

[名無しさん]

公式ドキュメント見ればすぐできるよ。APIキーを.envに書くだけ。

[名無しさん]

Redditの投稿、コメント0件なのが寂しいね。でもトピックは面白い。

[名無しさん]

DeepSeekってちゃんと動くの？ローカルで動かすならllama.cppとかの方が安定してない？

[名無しさん]

DeepSeekはコード生成に特化してて、普通のチャットよりコーディング向きって聞いた。

[名無しさん]

llama.cppもいいけど、DeepSeekの軽量モデルはメモリ効率良いよ。

[名無しさん]

LibreChat、前に試したけど設定が面倒でやめた。でもDeepSeek対応なら再挑戦しようかな。

[名無しさん]

Docker使うと楽だよ。公式のdocker-composeがある。

[名無しさん]

API経由だと遅くない？ローカルで動かすのが結局一番早い。

[名無しさん]

クラウドAPIは応答速度はまあまあだけど、コストが気になる。

[名無しさん]

DeepSeekの中国製ってのが気になる。プライバシー大丈夫？

[名無しさん]

ローカルで動かせばデータ送信しないから安心じゃね？

[名無しさん]

でもモデル自体は中国で開発されてるし、完全には信用できない。

[名無しさん]

ベンチマーク見るとDeepSeekは結構いいスコア出してるね。Mistralとどっこい？

[名無しさん]

コード生成ならDeepSeekの方が上って話もある。実際使ってみたい。

[名無しさん]

設定方法の具体的な手順をまとめたサイトとかない？

[名無しさん]

LibreChatのGitHubのREADMEに書いてあるよ。英語だけど。

[名無しさん]

俺はOpenAI APIの代わりに使ってる。コスト1/10くらい。

[名無しさん]

それって品質は大丈夫？安かろう悪かろうじゃない？

[名無しさん]

単純なタスクなら問題ないけど、複雑なのには向かないかも。

[名無しさん]

DeepSeekのモデルサイズって何GBくらい？VRAMどれくらい必要？

[名無しさん]

7Bモデルなら4GBくらい。14Bだと8GB以上必要。軽い方だよ。

[名無しさん]

このスレ、設定方法の議論になってるけど、実際にLibreChatでDeepSeek使えてる人いる？精度とかどう？

[投稿者]

投稿