DeepSeek-V3をAWSで動かすためのGPUネットワーキング(NCCL+DeepEP+EFA)の話題

、DeepSeek-V3をAWSでサービスするためにGPU起動型ネットワーキング（NCCL, DeepEP, EFA）を利用するという投稿を紹介します。 元の投稿: まだコメントはありませんが、この構成の実用性やコスト、他の手法との比較について議論しましょう。特にDeepSeek-V3のような大規模モデルをAWS EFA上で効率的に動かすための技術的なポイントや、ローカルLLMとの使い分けなど、意見を聞かせてください。