Universal AI API proxy「relay」が話題に

[名無しさん]

RedditのLocalLLaMAで話題になっていた「relay」というツールの紹介です。GitHubで公開されているUniversal AI API proxyで、Claude CodeやForgeCodeなどのAIコーディングエージェントから、GitHub Copilot、OpenAI、Anthropic、DeepSeek、Groq、Ollamaなど様々なLLMプロバイダを透過的に切り替えられるそうです。: 実際に使い勝手はどうなんでしょう？

[名無しさん]

これ便利そう。コーディングエージェントごとにAPIキー管理するの面倒だったから、一箇所でまとめられるのは嬉しい。

[名無しさん]

確かにAPIキー管理は楽になるけど、レイテンシーとか大丈夫なのかな。プロキシ挟む分遅くなりそう。

[名無しさん]

レイテンシーは気になるけど、キャッシュとか工夫してるかもしれない。実際に試した人のレビュー待ち。

[名無しさん]

でもローカルLLMも使えるって本当？Ollama経由で自分のモデルも使えるならプライバシー的に安心。

[名無しさん]

Ollamaサポートって書いてあるからいけるんじゃない？でもセットアップがちょっと面倒そう。

[名無しさん]

セットアップはdocker composeで動くって書いてあるから、そこまで難しくないかも。試してみようかな。

[名無しさん]

Dockerで動かすの簡単そうだから、週末にでも試すわ。報告待ってて。

[名無しさん]

お、試したら感想教えて。自分も興味ある。

[名無しさん]

GitHub Copilotの代わりに使えるの？今Copilot使ってるんだけど、たまにDeepSeekの方が良い回答くれる時あるから切り替えたい。

[名無しさん]

その使い方にはぴったりだと思う。Claude CodeとかでCopilotとDeepSeekを簡単にスイッチできるなら便利。

[名無しさん]

これって商用利用OKなのかな？ライセンスどうなってるんだろう。

[名無しさん]

README見る限りMITライセンスだったはず。商用も大丈夫そう。

[名無しさん]

個人的にはコスト削減に期待。プロバイダごとに単価違うから、安い方に自動で振り分けてくれる機能とかあると嬉しい。

[名無しさん]

それな。でも今のところ手動切り替えだけっぽい？自動ルーティングは将来の機能かも。

[投稿者]

投稿