Bayes theorem(베이즈정리)와 MLE/MAP

이제부터 두 개의 포스팅을 통해 Bayesian learning에 대해서 살펴보도록 할 것이다. 기본적으로 Bayesian learning은 추론에서 확률적인 접근을 제공한다. 우리가 관심을 갖는 값(모델,클래스)이 확률분포에 의해 좌우된다는 생각에서 시작한다. 그리고 관측된 데이터와 함께 확률을 추론함으로써, 관심을 갖는 값에 대한 optimal한 decision을 내릴 수 있다는 것을 기초로 하는 learning이다. 기본적으로 확률시간에 많이 배웠던 베이즈정리를 한번 쉬운말로 정리해보고 class의 분류(classification)에 쓰일 수 있는 MLE와 MAP에 대해 직관적으로 설명해보도록 하겠다. 또한 데이터 모델링에 사용되는 파라미터(weight같은)를 예측하는데 쓰일 때 least square solution과 같아지는 경우도 알아보겠다.

Bayes theorem

 

 

많이 본 식인데, 대학교때 확률과 랜덤프로세스를 배운 사람들이면 모두 아는 그 식이다. 이거 이용해서 시험문제 참 많이 나왔던 기억이....(코쓱)..... 바로 이 베이즈정리를 우리가 해석하려는 MLE/MAP에 관한 용어들과 함께 소개해보겠다.

 

• X: 관측된 데이터, Observation을 뜻한다. 우리가 갖고 있는건 이거다!! (머신러닝에서는 트레이닝 데이터.....)
• Θ: Hypothesis를 말하는데 데이터를 통해 추정하고자 하는 값이 되겠다. classification문제에서는 각 discrete한 클래스가 될 수 있고 linear regression의 경우 추정하려고 하는 weight들이 될 수 있다. 그 외에 추정하고자 하는 모든 문제에서 추정하고싶은 target값이 된다.
• Marginal probability P(X): 데이터 X자체의 분포를 뜻한다.
• A prior probability(사전확률) P(Θ): 사전에 가지고 있는 확률을 말한다. 이때 Θ는 mutually independent해야한다.예를들어. "하늘이 파랗다"/"하늘이 파랗지 않다" 이 두가지 가정은 독립이고 두 확률의 합이 1이 되어야한다. (사전적으로 hypothesis에 대한 지식이 없을 때는 그냥 hypothesis의 element들이 가질 확률이 모두 같다고 두자)
• Likeihood(우도) P(X|Θ): hypothesis를 두고, 다시말해 어떤 가정을 한 상태의 데이터의 분포를 뜻한다.
• A posterior probability(사후확률) P(Θ|X): observation이 주어졌을 때의 hypothesis의 분포를 뜻한다. 얘같은 경우에는 데이터 X의 영향을 반영하는 애다.

​

머신러닝에서는 관찰된 training data X에 대해 최적의 hypothesis를 결정하는데 관심이 있다. '최적의 hypothesis'가 의미하는 바를 구체화 할 수 있는 한가지 방법이 가장 probable한(확률적으로 그럴듯한...?)가정을 하는 것이다. 이때 베이즈정리는 관련된 확률들을 이용해서 직접적인 계산결과를 줄 수 있다.

​

예시를 하나 들어보자.

암인지 아닌지에 대한 가정이있다고 하자.

'+'와'-'는 양성판정 음성판정이 된 data를 말한다.

 

 

각각에 대해 사후확률을 구하기 위한 확률 값을 수집해보면 위와 같다.

 

 

양성인지 음성인지에 대한 확률은 normalize factor에 불과하므로 계산하지 않았다. 이때 직접적인 계산으로 데이터가 '+'일때 암이라고 가정하는 것이 옳다는 것을 계산해낼 수 있다 . (오류 수정)

Posterior를 계산한 결과, '+'(양성)일 때, cancer(암)에 걸릴 확률보다 그렇지 않을 확률이 더 크기 때문에,

'+'일때 암이 아니다 라고 가정하는 것이 옳다.

 

 

MLE vs MAP

이제 앞으로 MAP와 MLE에 대해 설명을 할텐데 간략하게 뭐가 다른지를 설명하고 넘어가려고 한다. 일단 MLE와 MAP는 확률모델을 이용하여 어떤 변수(Θ), (예시로 분류문제의 클래스가 될 수 있다.)를 추정하는 방법이다. 두 방법 모두 full distribution을 구하지 않고 single estimate를 계산해낸다. (full distribution을 구하는 것은 generative model의 영역이다.)

 

 

여기서 P(Θ1|X)(observation X가 주어졌을 때, 클래스1일 확률)과 P(Θ2|X)(observation X가 주어졌을 때, 클래스2일 확률) 둘 중 더 큰 확률을 가지는 클래스를 고르면 observation에 대한 클래스를 고를 수 있을 것이다.

 

최종적으로 우리가 하고싶은 일은 A posteri probability가 최대가 되게 하는 어떤 Θ값을 찾고싶은 것이다.

그래서 이걸 최대화 해야되는데?!

우리는 left-hand side의 값을 알 수 없다.  그렇기 때문에 베이즈정리를 이용해서 left-hand side와 등식이 성립하는 right-hand side term가 커지는 방향으로 Θ를 찾는 전략을 취한다. 그런데 분모에 있는 P(x)는 상수값으로 일정하므로 비례관계에서는 제외할 수 있겠다.

​

1)그래서 right-hand에 있는 전체 term(P(x)는 상수니까 제외하고)을 최대로 만들고자 하는 방법은 a posterior probability자체를 최대화하는 것으로 생각할 수 있겠고, 그것을 Maximum A posterior Probability(MAP)라고 한다.

2)그리고 P(Θ)도 제외시키고 Likelihood term​만 최대로 만들고자 하는 방법을 Maximum likelihood Probability(MLE)라고 한다.

​

그래서 수식적으로 어떤 부분을 최대화하는 방법인지 두 가지를 비교해 보았다.

이제 자세한 수식은 아래 각각의 section에서 소개하도록 하겠다.

Maximum Likelihood Estimation(MLE)

Likelihood probability(우도) P(X|Θ)가 최대가 되는 어떤 변수(Θ)를 찾는 방법,

 

 

A posterior probability(사후확률)을 크게 하는 것은 Likelihood(우도)를 크게 하는 것이라고 생각하는 방식이다.

 

 

그래서 P(X|Θ)를 크게하는 Θ를 찾는 것이 MLE방법이 된다. (argmax는 최대값을 찾는 것이 아닌 최대값이 되게 하는 변수를 찾는 것이다.) 여기서 X벡터의 각각의 element에 대한 확률 곱으로 다시 P(X|Θ)를 만들 수 있다.(각 element가 mutually exclusive) 근데 여기서 P(xi|Θ)는 확률 값이므로 곱할 수록 0에 가까워진다.

 

 

그래서 여기서 log를 취하게 된다. log는 단조증가함수이기 때문에, log를 취해도 똑같이 max값을 구하면 된다. log를 취하면 곱이 합으로 바뀌기 때문에 최종 MLE의 식을 완성할 수 있다.

Maximum A posterior Probability(MAP)

A posterior probability(사후확률) P(Θ|X)가 최대가 되는 어떤 변수(Θ)를 찾는 방법!

 

 

하지만 아까도 말했듯이 P(X)는 constant이다. Normalizing constant이기 때문에 비례식에서는 중요치 않으니까 제외시켜 위의 식의 가장 오른쪽 텀을 최대로 하는 클래스를 찾는다.

 

 

P(X|Θ)P(Θ)값을 최대로 하는 Θ를 찾으면 된다. MLE에서와 동일하게 log를 취하면 MAP식을 완성하게 된다.

MAP가 MLE와 같아지는 조건

MLE는 a prior probability가 uniform distribution이라고 가정한 MAP라고 볼 수 있다.

 

만약에 Θ가 uniform distribution이라면 어떤 일이 벌어질까?

uniform distribution을 따른다는 뜻은 분류문제를 예로 들었을 때, 클래스1과 클래스 2가 나타날 확률이 같다는 뜻이다. P(Θ1)=P(Θ2)=0.5로 상수값을 가질 것이다. argmax식에서 상수값은 최대화시키는 task에서 아무 영향을 미치지 못한다. 그래서 이는 식에서 빠지게 되고 결국 MAP가 MLE식과 같아지게 된다.

 

MLE/MAP와 Least Square solution

이번에는 특정 learning algorithm이 명시적으로 베이즈룰을 쓰거나 확률계산을 하지 않아도,  MAP가정의 의미를 갖는다는 것을 보이도록 하겠다. 아까는 계속 hypothesis를 discrete한 클래스의 추정처럼 얘기했는데 이번엔 continuous한 값을 추정한다고 해보자. 이런 continuous한 값에 대한 문제들은 neural net이나 linear regression, 다항식커브의 fitting같은 다양한 학습알고리즘에서 사용된다.

근데!

 

​"Training data가 gaussian noise에 의해 degrade되었다고 할 때, likelihood를 maximize하는 것은 squared error를 minimize하는 것과 같아진다."

 

왜 이런일이 발생하는 것일까?

 

우리가 어떤 데이터 분포를 모델링하고자 한다.

 

 

그렇다면 아래와 같이 가정하는 모델 f에 error를 더한 값으로 estimate될 것이다.

 

 

그리고 만약 모델 f가 선형이라면 위와 같은 그래프를 그릴 수 있고 hML라고 구한 점선은 noisy한 data를 가지고 ML solution을 구한 선이 되겠다. 확률을 구할때, continuous한 경우에는 pdf를 이용해야하지만 그냥 확률 값으로 쓸 수있다고 가정한다. ML은 아래와 같이 구할 수 있다.

 

 

일때, 주어진 가정에 대해서 mutually independent하다고 하면 아래의 식으로 정리할 수 있다.

 

 

여기서 error ei가 정규분포(zero mean gaussian)를 따른다고 하자. 그러면 p(di|h)를 normal distribution에 관해 정리할 수 있다.

 

 

자 이제 log를 취해보자.

 

 

여기서 h와 관련없는 텀은 소거해도 상관없다. 이걸 최대화 하는 h를 구하고싶은거지 최대값을 직접 구해야되는거 아니니까!

 

 

여기서 '-'부호를 빼면 minimize문제로 둔갑할 수 있다.

 

 

쓸데없는 상수텀을 빼보도록하자.

 

MLE와 Least square이랑 같아져버렸다....여기서는 training data가 random gaussian noise에 의해 degrade 되었다는 가정이 들어갔을 때의 결과이다. 그래서 아까 말했던 어떤 assumption은 'training data가 random gaussian noise에 의해 degrade 되었다'는 것이다. 여기에 linear regression에 regulizer term을 추가한 ridge regression도 MAP와 같아진다는 결과도 있는데 아직 linear regression을 안했으니 다음에 언급해보도록 하겠다.

​Reference

Machine Learning - Tom Mitchell

https://wiseodd.github.io/techblog/2017/01/01/mle-vs-map/