4.1 Decision Boundary ~ 4.2 Introduction to Logistic Regression

Sigmoid function:

특징 : Bounded, Differentiable, Real function, Defined for all real inputs, With positive derivate(증가하는 방향)

 

Logistic Function:

f(x)가 0부터 1까지 존재.

 

Sigmoid function 특징을 가지고 있으며,

미분을 하는데 있어 계산하기가 매우 용이하다.

>> Optimization하는데 편하다.

 

Logic function:

 Logistic function의 역함수

 

Logistic Regression:

probabilistic classifier to predict the binomial or the multinomial outcome

이 때, mu(x)를 logstic function으로 정의한다.

θ^T는 nothing but θ, 즉 Xθ를 의미힌다.

또한 계산에 의해,

여기서 우리가 유일하게 모르는 값은 θ이다.

즉, θ를 알아내는 작업이 logistic function을 learning하고 parameter를 inference하는 과정이다.

>> θ를 배우는 과정이 중요하다.