인공지능) Logistic Regression

Logistic Regression

: Logistic Func을 사용하여, Classification 하는 것

==> Sigmoid Function 사용 이유 : Gradient Descent -> 미분가능하기 때문

==> 수식

==> 출력이 0~1로 제한됨

==> ( * 신경망에서도 쓰임 )

○ Decision Boundary

: 경계선

- 선형 분류

- 비선형 분류

- 멀티 클래스의 경우

==> One vs Rest 전략

--> 하나의 클래스 vs 나머지 클래스

○ Overfitting 문제

- Linear Regression

- Logistic Regression

==> overfit의 경우, 고차방정식 필요함 , 신경망에서 쓰기도 함

- Overfitting 줄이기

1) feature 줄이기

2) Regularization (penalty term)

○ Regularization

- 란다 : Regularization Parameter , 비율을 정하는 것

- 이 항이 클수록 비용이 커진다. (overfitting의 경우)

--> why? 고차 term이 영향을 받기 때문

==> 이러한 이유 때문