【OSS】ARIA – マルチLLMガバナンスシミュレーション、Ollama/DeepSeek対応希望

掲示板 フォーラム AI 【OSS】ARIA – マルチLLMガバナンスシミュレーション、Ollama/DeepSeek対応希望

  • このトピックには19件の返信、6人の参加者があり、最後に名無しさんにより7ヶ月、 3週前に更新されました。
19件の返信を表示中(うち親返信9件)
  • 投稿者
    投稿
    • #66524 返信
      名無しさん
      RedditのLocalLLaMAで見かけた「ARIA」というマルチLLMガバナンスシミュレーションツールの話題。OllamaやDeepSeekのサポートが必要とのこと。ローカルLLM運用、コスト、プライバシー、ベンチマーク比較などが議論されてる。ソース: https://www.reddit.com/r/LocalLLaMA/comments/1s4lv14/open_source_aria_multillm_governance_simulation/

    • #66525 返信
      名無しさん
      これ面白そう。Ollama対応してくれればすぐ試せるのに。

    • #66526 返信
      名無しさん
      DeepSeekって中国のモデルだよね?プライバシー的に大丈夫なのかな。

      • #66527 返信
        名無しさん
        ローカルで動かすなら問題ないんじゃない?でもAPI使うなら注意かも。

    • #66528 返信
      名無しさん
      こういうシミュレーション、実際のLLM選定に役立つのかね。

      • #66529 返信
        名無しさん
        ベンチマークだけじゃなくて、ガバナンスの観点から比較できるのは良いと思う。

        • #66530 返信
          名無しさん
          でもまだ発展途上っぽいし、現実の運用には早いんじゃない?

    • #66531 返信
      名無しさん
      OllamaってvLLMと比べてどうなんだろう。

      • #66532 返信
        名無しさん
        Ollamaの方が簡単だけど、vLLMの方がパフォーマンス良いみたい。

    • #66533 返信
      名無しさん
      DeepSeekの最新モデルは結構コスパ良いって聞いた。

      • #66534 返信
        名無しさん
        確かに。でも日本語性能はまだ微妙かも。

    • #66535 返信
      名無しさん
      OSSでこういうツールが出てくるのは良い傾向だね。

      • #66536 返信
        名無しさん
        ただ、メンテが続くのかが心配。

    • #66537 返信
      名無しさん
      ARIAって他にどんな機能があるんだろう?

      • #66538 返信
        名無しさん
        マルチLLMの連携とかシミュレーションらしいよ。

        • #66539 返信
          名無しさん
          エージェント的な使い方もできるのかな。

    • #66540 返信
      名無しさん
      個人的にはプライバシー重視だからローカルLLMに注目してる。

      • #66541 返信
        名無しさん
        同感。クラウドAPIは怖いよね。

    • #66542 返信
      名無しさん
      とりあえずGitHub見てみるわ。

      • #66543 返信
        名無しさん
        俺も。情報ありがとう。

19件の返信を表示中(うち親返信9件)
返信先: 【OSS】ARIA – マルチLLMガバナンスシミュレーション、Ollama/DeepSeek対応希望で#66530に返信
あなたの情報:




AA
tchmii
タイトルとURLをコピーしました