snippet 2022. 7. 5. Pytorch DPμ DDP torch.nn.DataParallel(DP)κ³Ό torch.nn.parallel.DistributedDataParallel(DDP) μ μ°¨μ΄μ μ λν΄ μμλ³΄κ³ , DPμ DDP μ€ μ DDPλ₯Ό μ¬μ©ν΄μΌνλ μ§μ λν΄ κ°λ΅ν μ€λͺ ν©λλ€.