pytorch

snippet

Pytorch DP와 DDP

torch.nn.DataParallel(DP)κ³Ό torch.nn.parallel.DistributedDataParallel(DDP) 의 차이점에 λŒ€ν•΄ μ•Œμ•„λ³΄κ³ , DP와 DDP 쀑 μ™œ DDPλ₯Ό μ‚¬μš©ν•΄μ•Όν•˜λŠ” 지에 λŒ€ν•΄ κ°„λž΅νžˆ μ„€λͺ…ν•©λ‹ˆλ‹€.

snippet

πŸ“Œ PyTorch Snippets

Pytorchλ₯Ό μ‚¬μš©ν•˜λ©΄μ„œ μ•Œκ²Œλœ μ‚¬μ†Œν•˜μ§€λ§Œ 은근 μ€‘μš”ν•œ 정보(κΏ€νŒ)듀을 μ •λ¦¬ν•©λ‹ˆλ‹€.