gradient descent1 경사하강법(gradient descent) 경사하강법은 머신러닝이 학습 시킬 때 최소의 오차를 찾는 방법입니다. 오차 함수에 대한 경사도(미분계수)를 기준으로 매개변수를 반복적으로 이동해가며 최소 오차를 찾습니다.여기서 말하는 매개변수는 선형 회귀로 치면 계수(변수에 대한 기울기 값)에 해당합니다. 예를 들어 매개변수(x)에 대한 오차(y) 수식이 다음과 같다고 가정해보겠습니다$y = x^{2} - 4x + 10$여기서 오차 y의 최소값은 위 수식을 x에 대해 미분하면 됩니다. f’(x)=2x-4 이므로 x가 2일때 최소값 6이 나온다는 사실을 쉽게 알 수 있습니다. 그래프에서 미분값은 접선의 기울기를 의미하고 y가 최소값이 되는 지점에서 기울기는 0입니다.경사하강법은 임의의 매개변수에서 시작하여 미분값, 즉 오차값 그래프에서 접선의 기울기를 확.. 2024. 8. 12. 이전 1 다음
