머신러닝 - 4. 평균 제곱 오차(Mean Squared Error, MSE)

평균 제곱 오차란

< 수식 1 - MSE 공식 >

 

 평균 제곱 오차(이하 MSE)는 말 그대로, 오차(Error) 값들을 제곱한 값의 평균을 뜻한다. 여기서 ^y는 예측한 값을 뜻하고, y는 실제 값을 의미한다.

 

< 그림 1 - 오차값에 따른 MSE(赤)와 MAE(靑) 그래프 >

 

 MSE의 계산에 지수함수가 들어가다보니, 오차값이 커질수록 변화량이 급격히 커진다. 평균 절대 오차(Mean Absolute Error, MAE)에 비해서 특이값이나 이상치(outlier)에 대해 민감하다는 특징이 있다. 반면 MAE는 이상치에 대해 강건하다.

 

< 수식 2 - MSE를 이용한 손실함수 계산식 >

 

 머신러닝에서는 손실 함수로 이용된다. 이를 나타낸 것이 위의 수식 2이다. 수식 1과 다른 것처럼 보이나, 사실상 같은 수식이다. 이러한 손실 함수를 최소로 하는 최솟값을 찾아가는 과정으로 경사 하강법과 같은 알고리즘을 이용한다.