Step-3.5-Flash (196b/A11b)がGLM-4.7とDeepSeek v3.2を上回る性能？ローカルLLMの最新動向

掲示板 › フォーラム › AI › Step-3.5-Flash (196b/A11b)がGLM-4.7とDeepSeek v3.2を上回る性能？ローカルLLMの最新動向

スレッド概要

「Step-3.5-Flash (196b/A11b)がGLM-4.7とDeepSeek v3.2を上回る性能？ローカルLLMの最新動向」についてのスレッドです。:。 実際の使用感や比較の公平性、ローカル実行の可能性など、さまざまな意見が飛び交っています。 23件の返信で意見交換されています。

  • このトピックには23件の返信、7人の参加者があり、最後に名無しさんにより3年前に更新されました。
23件の返信を表示中（うち親返信10件）
  • 投稿者
    投稿
    • 2023年8月12日 #71724 返信
      名無しさん
      Redditのr/LocalLLaMAで話題になっているStep-3.5-Flash (196b/A11b)がGLM-4.7やDeepSeek v3.2を上回るベンチマーク結果を出したというスレッドを紹介します。:。実際の使用感や比較の公平性、ローカル実行の可能性など、さまざまな意見が飛び交っています。皆さんはこのモデルを試しましたか？

    • 2023年8月12日 #71725 返信
      名無しさん
      すごい性能だけど、今のローカル環境で動かせるのかな？

      • 2023年8月12日 #71726 返信
        名無しさん
        196Bパラメータはさすがにきつい。A11bのMoEならVRAM節約できそうだが。

        • 2023年8月12日 #71727 返信
          名無しさん
          4bit量子化でどうにかならない？llama.cpp対応してたら試したい。

          • 2023年8月12日 #71728 返信
            名無しさん
            まだllama.cpp未対応みたい。でもすぐ対応されるんじゃない？

    • 2023年8月12日 #71729 返信
      名無しさん
      ベンチマークだけじゃ判断できないよね。実際のコーディングタスクでDeepSeek v3.2の方がいいって報告もある。

      • 2023年8月12日 #71730 返信
        名無しさん
        そうそう。GLM-4.7も日本語性能は高いし一概に比較できない。

    • 2023年8月12日 #71731 返信
      名無しさん
      Stepって中国のモデルだよね。データセット汚染とかないの？

      • 2023年8月12日 #71732 返信
        名無しさん
        そこは気になる。でも最近の中国モデルは結構クリーンだって話も。

    • 2023年8月12日 #71733 返信
      名無しさん
      自分はDeepSeek v3.2で満足してるから乗り換える理由ないかな。

      • 2023年8月12日 #71734 返信
        名無しさん
        v3.2はコーディング特化なら優秀だよね。Stepは汎用性能が売りらしい。

    • 2023年8月12日 #71735 返信
      名無しさん
      HuggingFaceでモデル公開されてる？探したけど見つからなかった。

      • 2023年8月12日 #71736 返信
        名無しさん
        まだ一部のテスターしかアクセスできないみたい。オープン化は未定らしい。

    • 2023年8月12日 #71737 返信
      名無しさん
      APIの値段が気になる。ローカルで動かせないならクラウド版の価格次第だな。

      • 2023年8月12日 #71738 返信
        名無しさん
        StepのAPIは今のところ公開されてないっぽい。今後に期待。

    • 2023年8月12日 #71739 返信
      名無しさん
      Qwenと比較してどうなんだろう？最近Qwenも強いし。

      • 2023年8月12日 #71740 返信
        名無しさん
        Qwen2.5は良モデルだけど、Stepはパラメータ数で勝ってるからベンチマーク上は有利かな。

    • 2023年8月12日 #71741 返信
      名無しさん
      日本語性能が気になる。GLM-4.7は日本語に強いって評判だけど。

      • 2023年8月12日 #71742 返信
        名無しさん
        Stepも中国語モデルベースなら日本語もそこそこ使えるのでは？ただ英語は苦手かも。

    • 2023年8月12日 #71743 返信
      名無しさん
      また新モデルか…追いかけるの疲れるわ。v3.2で十分。

      • 2023年8月12日 #71744 返信
        名無しさん
        進化が速すぎてどれ使えばいいか迷うよね。

    • 2023年8月12日 #71745 返信
      名無しさん
      ベンチマーク操作の疑いもあるから、第三者検証待ちかな。

      • 2023年8月12日 #71746 返信
        名無しさん
        そういう意味ではオープンじゃないと信用できない部分ある。

        • 2023年8月12日 #71747 返信
          名無しさん
          とりあえず試せる環境が整ったらまた議論しよう。今は様子見。

  • 投稿者
    投稿
23件の返信を表示中（うち親返信10件）
返信先: Step-3.5-Flash (196b/A11b)がGLM-4.7とDeepSeek v3.2を上回る性能？ローカルLLMの最新動向
あなたの情報:




AA

関連するAIトピック

tchmii
タイトルとURLをコピーしました