728x90 반응형 활성화함수1 (딥러닝 with 파이썬) 오차역전파 / 활성화 함수 1. 오차역전파(Back propagation) 인간의 지능은 뇌에서 뉴런들의 작용으로 인해 형성된 것처럼, 인공지능도 이와 같은 원리로 개발되지 않을까하는 생각으로 출발한 퍼셉트론(Perceptron) 단일 퍼셉트론이 해결하지 못한 XOR 문제를 해결한 다층퍼셉트론(Multi Layer Perceptron)으로 인공지능의 겨울을 극복하게 되었다. 이때, 작은 문제가 생기게 된다. 그것은 바로 다층신경망에서의 경사하강법을 적용하는 방법이다. 경사 하강법은 임의의 가중치를 선언하고 결괏값을 이용해 오차를 구한 후 이 오차가 최소인 지점으로 계속해서 조금씩 이동시키는 것이다. 하지만, 위에서 언급한 것은 입력층과 출력층만 존재한 단일 퍼셉트론일때 가능한 것이다. 은닉층(Hidden layer)이 생기면서, .. 2022. 8. 2. 이전 1 다음 728x90 반응형
