J.Kim et al

Proof (GAN optimal point) GAN은 딥러닝을 연구하는 사람이라면, 한 번쯤은 들어봤을 법한 말이다. 흔히 경찰과 위조지폐범, 즉 minmax 게임과 유사하다고들 한다. 이번 포스팅에서는 GAN의 object function에서 discriminator를 최적화 하는 것이 거리함수와 어떤 연관이 있는지 알아볼 것이다. 더 자세한 설명은 Jonathan Hui의 홈페이지를 방문하면 된다. GAN을 최적화하는 것은 거리함수인 JS-divergence와 밀접한 관련이 있다. 먼저 GAN의 object function을 정의하면 다음과 같다. 증명을 시작하기 전에, optimal point를 먼저 살펴보자. p = q the discriminator cannot distinguish the r..

GAN(Generative Adversarial Nerwork)을 활용한 연구를 진행하면서 확률과 통계학의 필요성에 대해 절실히 깨달았다. GAN을 단지 '경찰과 도둑 게임' 또는 'minmax 게임'으로만 이해하려고 했던 내 자신이 부끄러웠다. 단순히 새로운 이미지를 만드는 것이 아닌, 기존 Image Data의 PDF(Probability Density Function)에 최대한 근사하게끔 모델링하는 것. 정말 간단히 말하자면 그런 뜻이다. GAN 뿐만 아니라, 딥러닝 기초 강의를 제작할 때에도 딥러닝이 비약적인 발전을 하는데 있어서 통계학이 얼마나 중요한 근간이 되었는지 가늠은 했지만 지금이나마 공부를 시작하려고 한다. 모든 포스팅은 KOCW에서 제공하는 한양대학교 이상화 교수님의 확률 및 통계학 ..