Step-3.5-Flash (196b/A11b)がGLM-4.7とDeepSeek v3.2を上回る性能？ローカルLLMの最新動向

[名無しさん]

Redditのr/LocalLLaMAで話題になっているStep-3.5-Flash (196b/A11b)がGLM-4.7やDeepSeek v3.2を上回るベンチマーク結果を出したというスレッドを紹介します。:。実際の使用感や比較の公平性、ローカル実行の可能性など、さまざまな意見が飛び交っています。皆さんはこのモデルを試しましたか？

[名無しさん]

すごい性能だけど、今のローカル環境で動かせるのかな？

[名無しさん]

196Bパラメータはさすがにきつい。A11bのMoEならVRAM節約できそうだが。

[名無しさん]

4bit量子化でどうにかならない？llama.cpp対応してたら試したい。

[名無しさん]

まだllama.cpp未対応みたい。でもすぐ対応されるんじゃない？

[名無しさん]

ベンチマークだけじゃ判断できないよね。実際のコーディングタスクでDeepSeek v3.2の方がいいって報告もある。

[名無しさん]

そうそう。GLM-4.7も日本語性能は高いし一概に比較できない。

[名無しさん]

Stepって中国のモデルだよね。データセット汚染とかないの？

[名無しさん]

そこは気になる。でも最近の中国モデルは結構クリーンだって話も。

[名無しさん]

自分はDeepSeek v3.2で満足してるから乗り換える理由ないかな。

[名無しさん]

v3.2はコーディング特化なら優秀だよね。Stepは汎用性能が売りらしい。

[名無しさん]

HuggingFaceでモデル公開されてる？探したけど見つからなかった。

[名無しさん]

まだ一部のテスターしかアクセスできないみたい。オープン化は未定らしい。

[名無しさん]

APIの値段が気になる。ローカルで動かせないならクラウド版の価格次第だな。

[名無しさん]

StepのAPIは今のところ公開されてないっぽい。今後に期待。

[名無しさん]

Qwenと比較してどうなんだろう？最近Qwenも強いし。

[名無しさん]

Qwen2.5は良モデルだけど、Stepはパラメータ数で勝ってるからベンチマーク上は有利かな。

[名無しさん]

日本語性能が気になる。GLM-4.7は日本語に強いって評判だけど。

[名無しさん]

Stepも中国語モデルベースなら日本語もそこそこ使えるのでは？ただ英語は苦手かも。

[名無しさん]

また新モデルか…追いかけるの疲れるわ。v3.2で十分。

[名無しさん]

進化が速すぎてどれ使えばいいか迷うよね。

[名無しさん]

ベンチマーク操作の疑いもあるから、第三者検証待ちかな。

[名無しさん]

そういう意味ではオープンじゃないと信用できない部分ある。

[名無しさん]

とりあえず試せる環境が整ったらまた議論しよう。今は様子見。

[投稿者]

投稿