인공지능) Decision Tree

기계 학습 - Decision Tree

성능은 좋지만, 해당 결과가 어떻게 결정되었는지 설명은 하지 못함

* Random Forest : Decision Tree 보다 성능은 좋은 편, 해석도 일부 가능

○ 방법 

: Entropy를 낮게 구성하면서 진행하는 것

==> 기본 : Greedy 기법

--> 근사법임

--> 최선이라는 보장은 없음

○ 엔트로피

: 혼란도, 잘 분포되어 있는가

* 엔트로피가 높낮이

- 높다 ~ 7:7

- 낮다 ~ 14:0 or 0:14

- Information Gain

○ 예제

< 계산 >

○ Overfitting

- Training Data : 비교적 좋은 결과

- Testing Data : 비교적 잘 못함

* 일부 데이터가 연속값이라면?

: 경계를 매번 설정하면서 적정 위치 찾아감

(example/ 온도의 기준을 바꾸면서 나눔 )