J.Kim et al

Moments of RVs Arithmetic Average 우리는 초등학교 때부터 전과목 평균으로 등수를 매기는 방식 아래 살아왔기에 평균을 구하는 방법에 대해서는 잘 알고 있다. different frequency 전자전기공학부 출신들은 frequency를 들으면 바로 "주파수!"라고 대답할 것이다. 하지만 확률에서는 빈도수를 뜻한다. 여기서 w_i는 A라는 이벤트의 갯수를 의미한다. Expectation (mean) 흔히 기대값이라고 일컫으며 평균을 의미한다. 식을 살펴보면 discrete한 경우에는 특정한 x_i라는 data와 그 x_i에 대응하는 확률값을 곱한 후 더하는 것이고, continuous한 경우에는 정적분과 같은 형태이다. Poisson distribution 포아송 분포는 모든 모델..

Continuous Random Variable 앞선 포스팅에서는 이산확률변수에 대해서 알아보았다. RV를 discrete하게 지정을 하는 것이다. 하지만 우리가 살고 있는 세상은 변수가 굉장히 많다. 인구, 동물 수, 극단적으로 나노미터 크기의 분자까지. 이러한 outcome들은 정확한 RV로써 정의내리기란 불가능할 것이다. 그래서 나온것이 Continuous RV이다. 이것은 어떠한 outcome들을 모든 Real number에 대응시키는 것이다. 이때 Sample Space와 Real number는 셀 수 없이 무한 해야 한다. 그렇다면 0과 1 사이의 연속확률변수 x를 생각해보자. 0과 1사이에는 무수히 많은 실수가 존재한다. 그중에서 딱 0.5에 해당하는, 0.50000000...에 해당할 확률..

Random Variables Definition of Random Variable 우리는 일상에서 발생하는 수 많은 사건들을 예시로 들어 확률 및 통계학을 공부한다. 동전 던지기, 주사위, 공 꺼내기, 등등 사실 미래를 예측한다는 것은 사실상 확률 싸움과도 같다. '내일 논문 리뷰를 포스팅할 경우의 확률은?' 라는 것을 다뤄보자. 경우의 수는 당연히 두 가지이다. 하느냐 마느냐. 자 그럼, 위의 문장을 수학적으로 풀어보자. 그러기 위해서는 단순히 생각해보면 크게 두 가지가 필요하다. 인풋, 아웃풋 정도이다. 여기서 인풋은 내일 논문을 포스팅할 경우이고 아웃풋은 내일의 결과이다. 이것을 수학적으로 해석하기 위해서는 인풋에 해당하는 것을 변수로 설정하는 것이 계산하는 데 유용하다. 즉, 하나의 실수(Rea..

Independent Events 만약 사건 A와 사건 B가 (상호) 독립적이라면 다음과 같이 나타낼 수 있다. 즉, A가 무슨 사건이든 간 B가 발생할 확률에 영향을 주지 않는다. 이것은 다음과 같이 증명하기만 하면 된다. 주머니에서 공을 빼는 것을 생각하면 이해하기 쉽다. 검은 공과 흰 공이 들어 있는 주머니에서 한 개의 공을 뺐다가 다시 넣지 않으면 현재 사건과 다음사건은 독립적인 사건이 된다. 만약 공을 다시 집어 넣고 뽑게 된다면 , 다음 사건은 현재의 사건에 영향을 받기 때문에 독립적이지 않다고 할 수 있다. 그래서 독립사건은 조건에 어떤 의미를 부여하는지에 따라 모델링이 달라질 수 있다. 또한 A와 B가 독립이면, 각각의 여집합도 독립이다. Combinatorial Analysis (순열, ..

조건부 확률 Sample Space Sample Space란, 어떠한 상황에서 발생하는 가능한 모든 outcome들의 집합이며, S(set)-집합이라한다. Event(A) Sample Space의 부분집합을 말하며, A라는 사건은 Sample Space에 포함된다. P(A) 라고 하는 것은 A가 발생할 확률이라는 것을 의미하기 보단, S의 outcome이 A라는 특정 사건에 속할 확률을 뜻한다. Conditional Probability (조건부 확률) P(B|A): Event A가 발생했을 때, Event B가 발생할 확률이며, 다음과 같이 나타낼 수 있다. 여기서 분자는 A와 B가 동시에 발생했을 때이고 분모는 A가 발생할 확률이다. 날씨로 예를 들어보자. 오늘의 날씨가 비가 올지, 눈이 올지, 화창..

GAN(Generative Adversarial Nerwork)을 활용한 연구를 진행하면서 확률과 통계학의 필요성에 대해 절실히 깨달았다. GAN을 단지 '경찰과 도둑 게임' 또는 'minmax 게임'으로만 이해하려고 했던 내 자신이 부끄러웠다. 단순히 새로운 이미지를 만드는 것이 아닌, 기존 Image Data의 PDF(Probability Density Function)에 최대한 근사하게끔 모델링하는 것. 정말 간단히 말하자면 그런 뜻이다. GAN 뿐만 아니라, 딥러닝 기초 강의를 제작할 때에도 딥러닝이 비약적인 발전을 하는데 있어서 통계학이 얼마나 중요한 근간이 되었는지 가늠은 했지만 지금이나마 공부를 시작하려고 한다. 모든 포스팅은 KOCW에서 제공하는 한양대학교 이상화 교수님의 확률 및 통계학 ..