DeepSeekのローカルUIをStreamlitで作った人いる?プライベートロールプレイ用にJSON保存

掲示板 フォーラム AI DeepSeekのローカルUIをStreamlitで作った人いる?プライベートロールプレイ用にJSON保存

  • このトピックには14件の返信、4人の参加者があり、最後に名無しさんにより7ヶ月、 3週前に更新されました。
14件の返信を表示中(うち親返信8件)
  • 投稿者
    投稿
    • #66775 返信
      名無しさん
      RedditのLocalLLaMA板で、DeepSeek用の簡易Streamlit UIを自作したという投稿がありました。履歴をローカルのJSONファイルに保存できるので、プライベートなロールプレイ用途に便利だとのこと。ソースはこちら:https://www.reddit.com/r/LocalLLaMA/comments/1shisir/i_made_a_simple_streamlit_ui_for_deepseek_that/

      DeepSeekモデルをローカルで動かす人には参考になるかも。ただし、API経由だとコストがかかるし、完全プライバシーを求めるならオープンソースのモデルを自分でホストする必要があるよね。みんなはどう思う?

    • #66776 返信
      名無しさん
      これいいね。Streamlitなら簡単にUI作れるし、JSON保存は手軽で良いアイデア。

    • #66777 返信
      名無しさん
      でもDeepSeekってAPI使うと結構高いんじゃない?ローカルで動かすなら別だけど。

      • #66778 返信
        名無しさん
        確かに。API料金気にするなら、llama.cppとかで自分でホストした方が安上がりかも。

    • #66779 返信
      名無しさん
      ロールプレイ目的なら、ローカルで動くモデルの方が安心だよね。データが外部に出ないし。

      • #66780 返信
        名無しさん
        でもDeepSeekの性能はどうなの?他のモデルと比べてロールプレイに向いてる?

    • #66781 返信
      名無しさん
      StreamlitのUIって結構重くなりがちだから、軽量なフレームワークの方が良くない?

      • #66782 返信
        名無しさん
        Gradioの方がシンプルでいいかも。でも好みの問題だね。

    • #66783 返信
      名無しさん
      JSON保存って、会話履歴がそのまま残るから便利だけど、暗号化とかした方がいい?

      • #66784 返信
        名無しさん
        個人使用ならそこまで気にしなくても良いんじゃない?でも共有するなら暗号化必須。

    • #66785 返信
      名無しさん
      DeepSeekのモデル自体はオープンソースだから、自分でホストすれば完全プライベートだね。

      • #66786 返信
        名無しさん
        ただ、VRAM容量がネックになる人はAPI頼りになりがち。

    • #66787 返信
      名無しさん
      このUI、ソースコード公開されてるの?自分でカスタマイズしたいな。

      • #66788 返信
        名無しさん
        Redditのポストにリンクあるかも。探してみて。

    • #66789 返信
      名無しさん
      ロールプレイ用途だと、キャラクターの設定保存とかもできると嬉しいね。

14件の返信を表示中(うち親返信8件)
返信先: DeepSeekのローカルUIをStreamlitで作った人いる?プライベートロールプレイ用にJSON保存で#66780に返信
あなたの情報:




AA
tchmii
タイトルとURLをコピーしました