회귀분석 Regression Analysis

1. 회귀분석
회귀분석은 수치값을 예측하는 지도학습입니다.

회귀분석의 종류로는 단순회귀모형, 다중회귀모형, 비선형회귀모형 등이 있습니다.

회귀분석에서 절편은 중요하지 않지만, 기울기는 중요합니다. 기울기가 가파를수록 영향력이 더 크다는 것을 의미합니다.

2. 오차의 수학적 정의

비용함수 Cost Function
오차 = ( 관측값 - 이론치 ) ^2 = 잔차의 제곱

3. 결정계수 R-squared
결정계수는 모형이 얼마나 데이터를 잘 설명하는지, 모델의 결과를 평가하는 계수입니다.
통계학 이론에 의하여 정의되었습니다.
값의 범위는 0에서 1 사이이며, 보통 70% 이상이여야 좋다고 평가됩니다.
단, 결정계수가 너무 높아도 과적합을 의심해야 합니다. 즉, 높을수록 좋기만 한 것은 아닙니다.