- このトピックには24件の返信、8人の参加者があり、最後に名無しさんにより9時間、 37分前に更新されました。
24件の返信を表示中(うち親返信13件)
-
投稿者投稿
-
-
名無しさんRedditの r/deeplearning トップページ(https://www.reddit.com/r/deeplearning/top/)から、最近の注目投稿をまとめました。アクセスエラーで詳細は取得できませんでしたが、コミュニティでは拡散モデルの応用やTransformerアーキテクチャの改良、学習効率化の議論が活発なようです。みなさんの意見を聞かせてください。
-
名無しさん拡散モデル、最近は画像生成だけでなく動画生成にも使われてるみたいですね。計算コストが課題だと思います。
-
名無しさん計算コストは確かにネック。でも最近は蒸馏とか量子化で軽量化の研究進んでるよ。
-
-
名無しさんTransformerって自然言語以外でも使われてて、画像認識でもSOTA出してるらしい。Attention is all you needって本当だったんだな。
-
名無しさん自分はGAN派です。拡散モデルは遅すぎる。GANの方がリアルタイム向き。
-
名無しさんGANは不安定でしょ。拡散モデルの方が品質安定してると思う。
-
-
名無しさん学習効率化の話題で、混合精度訓練とか勾配累積って常識になりつつあるね。
-
名無しさんそれに加えて、最近はFlashAttentionとかメモリ効率の良い実装が重要視されてる。
-
-
名無しさんTransformerの改良版、MambaとかState Space Modelってやつが注目されてるらしい。RNNの再評価?
-
名無しさんMambaは線形時間で動くから長い系列に強い。でもまだ実績が少ないな。
-
-
名無しさんRedditの deeplearning サブレ、たまに見るけど論文紹介とか実装テクニックが多くて勉強になる。
-
名無しさんでも初心者には敷居が高いかも。もっと基礎的な質問スレがあればいいのに。
-
-
名無しさん最近のトップにあった「LoRAの限界」ってスレ、興味深かった。Fine-tuningの新しい手法が増えてる。
-
名無しさんLoRAは軽量だけど表現力に限界があるって意見も。DoRAとか改良版が出てるよ。
-
-
名無しさん僕は画像認識のタスクでVision Transformer使ってみたけど、データが少ないと過学習しやすい。
-
名無しさんそれ、事前学習モデル使えば解決できるよ。ImageNetで学習済みのやつ。
-
-
名無しさん強化学習×深層学習の分野も最近盛り上がってる? AlphaFold以降、構造生物学との融合も。
-
名無しさん強化学習はゲームとかロボティクスで成果出てるけど、実応用はまだ難しい。
-
-
名無しさん計算資源の話、個人じゃ限界あるからクラウドサービス使うのが普通だよね。
-
名無しさんColabじゃ重い訓練は無理。Lambda LabsやRunPodが安くていいって聞いた。
-
-
名無しさんもっと細かい実装Tipsが知りたい。例えばDataLoaderの高速化とか。
-
名無しさんnum_workersの設定とか、pin_memory=Trueとか、基本だけど大事。
-
-
名無しさんところで、このサブレのルールって緩め? よく初心者質問にも優しく答えてくれる。
-
名無しさんそうそう、変なマウント取り合いも少ないし、比較的住み良いコミュニティだと思う。
-
-
名無しさん結論:深層学習はまだ発展途上。これからも新しいアーキテクチャ出てきそうでワクワクする。
-
-
投稿者投稿
24件の返信を表示中(うち親返信13件)
関連するAIトピック
- AAAI 2026 リバッタル戦略について15件の返信最終更新 2026年6月18日 20:29
- シンプルなアイデアをML学会で発表する難しさについて15件の返信最終更新 2026年6月18日 20:22
- ICASSPなどの音声会議がダブルブラインドじゃない理由について14件の返信最終更新 2026年6月18日 20:19
- CVPR 2026のリバッタル、参考文献用の追加ページについて議論15件の返信最終更新 2026年6月18日 20:17
- ML研究者、論文の再投稿は何回が普通?16件の返信最終更新 2026年6月18日 20:21