DeepSeek 3.1をMsty Studioで思考させる方法について

掲示板 フォーラム AI DeepSeek 3.1をMsty Studioで思考させる方法について

スレッド概要

「DeepSeek 3.1をMsty Studioで思考させる方法について」についてのスレッドです。In Msty Studio? 」というスレッドがありました。 16件の返信で意見交換されています。

  • このトピックには16件の返信、5人の参加者があり、最後に名無しさんにより2年、 11ヶ月前に更新されました。
16件の返信を表示中(うち親返信6件)
  • 投稿者
    投稿
    • #72888 返信
      名無しさん
      Redditのr/LocalLLaMAで「How do I make DeepSeek 3.1… Think? In Msty Studio?」というスレッドがありました。DeepSeekモデルをローカルで使う際、特にMsty Studio上で推論過程(思考)を表示させる方法について質問が上がっていました。コメントでは、モデルの設定やプロンプトの工夫、APIの利用など様々なアドバイスがあります。日本語コミュニティでも同様の話題が出ることがあるので、皆さんの経験や設定方法を共有しましょう。

    • #72889 返信
      名無しさん
      Msty Studioって初めて聞いたけど、DeepSeekの思考過程を表示するにはプロンプトに「ステップバイステップで考えて」って入れると良いって聞いたよ。

      • #72890 返信
        名無しさん
        それだと単に出力が長くなるだけで、本当の思考過程は見えないんじゃない?DeepSeekは内部で推論するけど、ユーザーに見せるかは設定次第だと思う。

    • #72891 返信
      名無しさん
      Redditのスレッドを見ると、APIのパラメータで「temperature」を低くすると安定するって書いてあった。自分も試してみたけど、確かに理路整然とした回答になる。

      • #72892 返信
        名無しさん
        温度は確かに重要だけど、思考過程を見たいなら「top_p」や「frequency_penalty」も調整した方がいいかも。あとMsty Studioの設定画面で「Show reasoning」みたいなオプションがあるか探してみるといい。

    • #72893 返信
      名無しさん
      DeepSeek 3.1ってまだ出たばかりだから情報が少ないよね。ローカルで動かすならllama.cppと併用するのが定番だけど、Msty Studioはその辺どうなってるの?

      • #72894 返信
        名無しさん
        Msty StudioはOllamaのフロントエンドみたいなもんだよ。だからバックエンドでllama.cppを使ってるはず。設定はOllamaのモデル設定を直接いじる必要があるかも。

        • #72895 返信
          名無しさん
          なるほど。それならOllamaのModelfileで「TEMPLATE」に思考過程を出力するように記述すればいいのか。試してみる価値あり。

    • #72896 返信
      名無しさん
      個人的にはDeepSeekの思考過程をわざわざ見る必要はないかな。出力結果が正しければそれで十分。むしろコストが気になる。

      • #72897 返信
        名無しさん
        でもデバッグやモデルの理解には役立つよ。特にコード生成だと、なぜそのコードを書いたか説明してくれると修正しやすい。

        • #72898 返信
          名無しさん
          確かに。でもMsty Studioで思考過程を表示する方法が確立されていないなら、普通にAPI経由で使った方が早いかも。

    • #72899 返信
      名無しさん
      そもそもDeepSeekって中国製だからプライバシーが心配って意見もあるよね。ローカルで動かすなら問題ないけど。

      • #72900 返信
        名無しさん
        プライバシー面は確かに気になるけど、ベンチマークでは良いスコア出してるし、コスパはいいと思う。ローカルなら安心。

        • #72901 返信
          名無しさん
          コスパで言うと、API使うよりローカルで動かした方が長期的には安いよね。でもGPUがいるから初期投資が…

    • #72902 返信
      名無しさん
      Msty Studioの設定で「verbose」をオンにすると推論ログが出るとかなんとか。試した人いる?

      • #72903 返信
        名無しさん
        それ、知らなかった。早速試してみる。ありがとう。

        • #72904 返信
          名無しさん
          結果どうだった?俺も気になる。もしできたら設定方法を教えてほしい。

16件の返信を表示中(うち親返信6件)
返信先: DeepSeek 3.1をMsty Studioで思考させる方法についてで#72893に返信
あなたの情報:




AA
tchmii
タイトルとURLをコピーしました