DeepSeek-R1-0528のGGUF版が話題に

このトピックには15件の返信、5人の参加者があり、最後に名無しさんにより8ヶ月前に更新されました。

15件の返信を表示中（うち親返信9件）

投稿者

投稿
- 2025年10月23日 2:14 PM #81188 返信
  
  名無しさん
  
  「ubergarm/DeepSeek-R1-0528-GGUF」という投稿があり、DeepSeek-R1-0528のGGUF量子化モデルが公開されたようです。
  ローカルLLMユーザーにとっては、コード生成や推論タスクでの性能、VRAM使用量、コスト面など気になる話題ですね。ベンチマークスコアや他のモデルとの比較、プライバシーの観点からも議論が期待されます。皆さんの意見を聞かせてください。
- 2025年10月23日 2:16 PM #81189 返信
  
  名無しさん
  
  ついに来たか。Q4_K_Mくらいで試してみたい。
- 2025年10月23日 2:19 PM #81190 返信
  
  名無しさん
  
  これってコーディング特化のやつ？普通のチャットにも使える？
  - 2025年10月23日 2:23 PM #81191 返信
    
    名無しさん
    
    DeepSeekシリーズは汎用だけどコーディングが強いらしい。試してみないと分からん。
- 2025年10月23日 2:30 PM #81192 返信
  
  名無しさん
  
  VRAM消費量はどれくらい？48GBで動く？
  - 2025年10月23日 2:32 PM #81193 返信
    
    名無しさん
    
    Q4_K_Mなら24GBでもいけるかも。ただしコンテキスト次第。
- 2025年10月23日 2:36 PM #81194 返信
  
  名無しさん
  
  ベンチマーク見るとMistral Largeより良いんだっけ？
- 2025年10月23日 2:42 PM #81195 返信
  
  名無しさん
  
  GGUF化してくれてありがたい。自分で量子化する手間が省ける。
  - 2025年10月23日 2:51 PM #81196 返信
    
    名無しさん
    
    でも公式の量子化じゃないから品質にばらつきがあるかも。
- 2025年10月23日 2:52 PM #81197 返信
  
  名無しさん
  
  これってAPI経由より遅い？ローカルで動かす意味ある？
  - 2025年10月23日 2:54 PM #81198 返信
    
    名無しさん
    
    プライバシー重視ならローカル一択。速度より安心感。
- 2025年10月23日 2:58 PM #81199 返信
  
  名無しさん
  
  OSSモデルが増えて嬉しい。でもDeepSeekのライセンス大丈夫？
  - 2025年10月23日 3:05 PM #81200 返信
    
    名無しさん
    
    確か商用利用OKだったはず。ただ規約は各自確認を。
- 2025年10月23日 3:16 PM #81201 返信
  
  名無しさん
  
  llama.cppで動くよね？まだ試してないけど。
  - 2025年10月23日 3:18 PM #81202 返信
    
    名無しさん
    
    主なGGUFは全部llama.cpp対応だから大丈夫。
- 2025年10月23日 3:21 PM #81203 返信
  
  名無しさん
  
  どの量子化サイズがコスパいいんだろう。ベンチ待ち。
投稿者

投稿

15件の返信を表示中（うち親返信9件）

返信先: DeepSeek-R1-0528のGGUF版が話題に

あなたの情報:

お名前 (必須)

メール (非公開) (必須):

ウェブサイト:

関連するAIトピック