ローカルLLMでレビュアーエージェントとアーキテクトエージェントを分離する試み（Qwen 3 8B + DeepSeek）

[名無しさん]

Redditのr/LocalLLaMAで投稿された話題です。投稿者はM1 Mac（16GB）上で、レビュアーエージェントにローカルのQwen 3 8B、アーキテクトエージェントにDeepSeekの思考モデルを使ったパイプラインを構築したそうです。各エージェントの台帳（ledger）を管理しながら、コード生成やレビューを分担させる仕組みとのこと。ローカルで動かす利点やプライバシー面、コスト削減の効果について議論が行われています。ソース: https://www.reddit.com/r/LocalLLaMA/comments/1tuspri/reviewer_agent_on_local_qwen_3_8b_architect_on/

[名無しさん]

これ面白いな。ローカルで完結させるのはセキュリティ的に安心だよね。

[名無しさん]

でもM1 16GBで動くのか？Qwen 3 8Bって結構メモリ食わない？

[名無しさん]

8Bなら量子化すれば16GBでも余裕だよ。うちはM1 8GBでも7Bモデル動かしてる。

[名無しさん]

DeepSeekの思考モデルってまだリリースされてないんじゃなかった？ステルスで出てるの？

[名無しさん]

あれはAPI経由のDeepSeek-R1とかだと思う。ローカルじゃないみたい。

[名無しさん]

アーキテクトとレビュアーを分ける発想はいいね。コードの品質上がりそう。

[名無しさん]

でもレイテンシーが気になる。2回推論走るんだろ？

[名無しさん]

非同期で処理すればそんなに気にならないかも。TSのパイプラインって書いてあるし。

[名無しさん]

台帳（ledger）ってのはタスクの履歴管理のこと？まあ普通のログだよね。

[名無しさん]

Qwen 3 8Bってコーディング特化モデルじゃないから、コードレビューは微妙じゃない？

[名無しさん]

Qwenにコードファインチューンしたものもあるよ。普通に使える。

[名無しさん]

DeepSeekのモデルは確かに賢いけど、コスト面でどうなんだろう。API使うなら結局お金かかる。

[名無しさん]

だからローカルのQwenで安く済ませてるんだと思う。ハイブリッド方式。

[名無しさん]

16GBのM1でここまでできるってすごいな。自分も試してみたい。

[名無しさん]

ソースコード公開されてるのかな？探してみる。

[名無しさん]

プライバシー重視なら全部ローカルが理想だけど、性能は妥協しないといけない。

[名無しさん]

でも最近の8Bモデルは結構賢いよ。実用レベル。

[名無しさん]

こういうエージェントシステムって流行ってるね。LangChainとか使ってるのかな？

[名無しさん]

TSパイプラインって書いてあるから、LangChainじゃなくて自前かも。

[名無しさん]

DeepSeekの思考モデルは出力が長いから、レビュアーが短くまとめてくれると良い。

[名無しさん]

逆に思考プロセスが消えるのはもったいない気もする。

[名無しさん]

M1 16GBって古いけどまだ戦えるんだな。新しいモデル増えてきたし、買い替え考えてたけど参考になる。

[名無しさん]

メモリ帯域がボトルネックになりやすいけど、8Bクラスなら問題ないよ。

[名無しさん]

こういう投稿見ると、LLMエージェントのフレームワークがもっと普及してほしい。OSSでいいのが出ないかな。

[投稿者]

投稿