loss backward 관련 질문

[hxngiee]

안녕하세요, @rosinality 님

공개해주신 코드 덕분에 공부하는데 있어 많은 도움을 받고있습니다

코드 리뷰 중, 이해가 잘 가지 않는 부분이 있어 질문드립니다

train.py 144, 152 line에서

    real_predict.backward(Tensor(-1.0))
    fake_predict.backward(Tensor(1.0))

backward 뒤에 gradient값이 real_predict에서 -1.0, fake_predict에서 1.0을 주는 이유가 궁금합니다

감사합니다

[rosinality]

tensor.backward(tensor_a)는 tensor에 대한 gradient를 tensor_a로 지정해주는 효과가 있습니다. wgan discriminator loss는 fake - real이므로 loss에 대한 real의 gradient는 -1이 됩니다. 그냥 (-real_predict).backward()를 써도 되지만요.

[hxngiee]

tensor.backward(tensor_a)는 tensor에 대한 gradient를 tensor_a로 지정해주는 효과가 있습니다. wgan discriminator loss는 fake - real이므로 loss에 대한 real의 gradient는 -1이 됩니다. 그냥 (-real_predict).backward()를 써도 되지만요.

Wgan loss였군요 !

빠른 답변 감사드립니다 !