DeepSeek-OCRとローカルLLMのワークフローについて

[名無しさん]

Redditのr/LocalLLaMAから、DeepSeek-OCRを自分のワークフローに組み込む方法についての質問スレッドです。投稿者は、OCRで抽出したテキストをローカルLLMで処理する際のコストとプライバシーのバランスについて悩んでいる様子。コメント欄では、DeepSeekモデルのAPI料金や精度、ローカル実行の難しさなどが議論されています。URL:

[名無しさん]

DeepSeek-OCRの精度って実際どうなん？Google Visionと比べてどう？

[名無しさん]

試した限りでは構造化されたドキュメントなら精度高いよ。手書きは微妙だけど

[名無しさん]

確かに手書きは苦手だね。でも日本語のフォントは結構読める

[名無しさん]

API叩くときのレイテンシーが気になるんだよね。ローカルでやるならVLLM使うのが良さそう

[名無しさん]

VLLMって高速だけどVRAM食うから、8GBじゃ厳しいんじゃない？

[名無しさん]

量子化モデルなら8GBでも何とか回るよ。ただし速度は妥協

[名無しさん]

プライバシー重視なら自前GPUしかないよな。でもコストが…

[名無しさん]

DeepSeekのAPI値段、思ったより安いけど、大量に使うと積もるよね

[名無しさん]

OCR部分はローカルのTesseractでやって、後処理だけDeepSeekって手もある

[名無しさん]

Tesseractの精度がイマイチだから、結局DeepSeek使いたくなる

[名無しさん]

そもそもDeepSeekって中国製だろ？データ送信するのが怖い

[名無しさん]

だからローカルで動かせるモデルが増えてるんだよ。QWENとかも選択肢

[名無しさん]

ワークフローで使うならLangChainでつなげるのが手っ取り早いかも

[名無しさん]

LangChainはオーバーキル。シェルスクリプトで十分

[名無しさん]

個人利用ならAPIの無料枠で十分じゃね？

[名無しさん]

無料枠すぐ枯れるよ。1日数千リクエストで終わり

[名無しさん]

ベンチマーク見るとClaudeのOCRの方が上って話もある

[名無しさん]

Claudeは値段高いし、DeepSeekで妥協するのもあり

[名無しさん]

画像の前処理でグレースケール変換すると精度上がるよ

[名無しさん]

結局、用途次第だな。データ量少なければAPIでいい

[名無しさん]

同意。ローカル環境整えるのが面倒ならAPI一択

[投稿者]

投稿