DeepSeek, Kimi, Claudeの得意分野でルーティングするマルチモデルエージェントの本番アーキテクチャについて

[名無しさん]

元のRedditスレッド（）では、複数のLLMをそれぞれの強みに応じて使い分けるプロダクションアーキテクチャが提案されています。DeepSeekはコーディングやローカル実行、Kimiは長文コンテキスト処理、Claudeは安全性と品質に優れるとされ、タスクに応じてルーティングするアイデアです。実際の運用コスト、レイテンシ、プライバシー面の課題についても議論されています。皆さんはどう思いますか？

[名無しさん]

こういうの興味あるけど、実際に複数モデル呼ぶとレイテンシがやばそう。

[名無しさん]

レイテンシはキャッシュや非同期処理でなんとかするんでしょ。でも本番は難しいよ。

[名無しさん]

DeepSeekってローカルで動かすなら安上がりだけど、スケールするのかな？

[名無しさん]

Kimiってあんまり知らないけど、長文処理って具体的にどんなタスク？

[名無しさん]

論文要約とか契約書分析とかに使われてるみたいよ。コンテキスト長められるから。

[名無しさん]

Claudeは安全側に倒れすぎてて、プログラミングには向かない気がする。

[名無しさん]

確かにClaudeは拒否が多いけど、その分安全なコード生成にはいいかも。

[名無しさん]

こういうルーティングって、結局手動で設計するの？自動でやるにも評価指標が難しい。

[名無しさん]

プライバシー大事ならDeepSeekローカル一択じゃね？他のモデルはAPI経由だし。

[名無しさん]

ローカルDeepSeekはスペック必要だし、量子化すると精度落ちるからトレードオフ。

[名無しさん]

コスト計算したら、全部Claude APIに投げるのと変わらない気がする。

[名無しさん]

でもDeepSeekのコード生成能力はコスパいいらしいよ。ルーティング次第だね。

[名無しさん]

こういうのって、LangChainとか使って実装するのが普通？

[名無しさん]

LangChainは重いから、自分で書いた方が制御しやすいと思う。

[名無しさん]

ベンチマークだけじゃなくて、実際のユーザー満足度も考慮しないとね。

[名無しさん]

そうそう。モデルの得意分野って定量的に測るのが難しい。

[名無しさん]

Redditのスレッドでも議論あったけど、Claudeの安全性が過剰って意見多かった。

[名無しさん]

同意。でも企業向けなら安全性重視もわかる。

[名無しさん]

DeepSeek、中国製ってだけで避ける人もいるよね。

[名無しさん]

オープンだから監査できるし、自分で検証すればいいんじゃない？

[名無しさん]

それもそうだけど、知識共有が不安ならローカル限定で使うのが無難。

[名無しさん]

結局、どのモデルも一長一短だから、組み合わせるのは理にかなってる。

[名無しさん]

実際に本番で使ってる人いたら知恵を共有してほしい。

[名無しさん]

小規模だけど、コード生成はDeepSeek、チャットはClaudeって分けてるよ。レイテンシは許容範囲。

[名無しさん]

参考になる。Kimiはどういう場面で使うかまだ決めてないんだよね。

[投稿者]

投稿