4.3. Logistic Regression Parameter Approximation 1

Maximum Conditional Likelihood Estimation(MCLE):

θ를 구하기 위해 수행하는 과정

 

class varaiable을 모델링하는 과정과 마찬가지인데, Xi라는 주어진 컨디션이 있을 때 θ를 구한다.

이 때 N은 dataset(instance)의 개수이다.

이를 로그를 사용하고 P를 정리하면 다음과 같다.

이를 미분하여 정리하면,

MLE에선 θ = 형식으로 정리했지만 이번에 θ으로 정리하기 쉽지 않다.  

>> There is no closed form solution.

>> Open form solution -> approximate!