DeepSeek V3.2 Exp モデルが公開！ローカルLLMでの使用感は？

スレッド概要

「DeepSeek V3.2 Exp モデルが公開！ローカルLLMでの使用感は？」についてのスレッドです。コーディング性能やコスト、プライバシー面での議論が行われています。 14件の返信で意見交換されています。

このトピックには14件の返信、4人の参加者があり、最後に名無しさんにより2年、 11ヶ月前に更新されました。

14件の返信を表示中（うち親返信4件）

投稿者

投稿
- 2023年9月11日 #76230 返信
  
  名無しさん
  
  Redditのr/LocalLLaMAで話題のDeepSeek V3.2 ExpモデルがHuggingFaceで公開されました。コーディング性能やコスト、プライバシー面での議論が行われています。
- 2023年9月11日 #76231 返信
  
  名無しさん
  
  これは良さそうだ。ローカルで動かせるのは大きい。
  - 2023年9月11日 #76233 返信
    
    名無しさん
    
    API使うより自前でホストした方が安いかも。
    - 2023年9月11日 #76238 返信
      
      名無しさん
      
      他のモデルとの比較が知りたい。
  - 2023年9月11日 #76234 返信
    
    名無しさん
    
    でも量子化すると精度落ちるんじゃない？
- 2023年9月11日 #76232 返信
  
  名無しさん
  
  ベンチマーク結果はどうなんだろう？
  - 2023年9月11日 #76236 返信
    
    名無しさん
    
    プライバシー面でローカルLLMは安心だね。
    - 2023年9月11日 #76241 返信
      
      名無しさん
      
      でもやっぱり日本語性能は微妙かも。
      - 2023年9月11日 #76244 返信
        
        名無しさん
        
        とりあえずダウンロードしてみる。
  - 2023年9月11日 #76237 返信
    
    名無しさん
    
    V3.2 Expってことは実験版？安定性は？
- 2023年9月11日 #76235 返信
  
  名無しさん
  
  コーディングタスクで試したけどなかなか良い。
  - 2023年9月11日 #76239 返信
    
    名無しさん
    
    生成速度はどう？RTX3090で動く？
    - 2023年9月11日 #76242 返信
      
      名無しさん
      
      これでRAG組みたい。
  - 2023年9月11日 #76240 返信
    
    名無しさん
    
    HuggingFaceで簡単に試せるから便利。
- 2023年9月11日 #76243 返信
  
  名無しさん
  
  MoEだからVRAM消費多いんじゃない？
投稿者

投稿

14件の返信を表示中（うち親返信4件）

返信先: DeepSeek V3.2 Exp モデルが公開！ローカルLLMでの使用感は？

あなたの情報:

お名前 (必須)

メール (非公開) (必須):

ウェブサイト:

AA

タイトルとURLをコピーしました