1. 수치 미분과 역전파 | Notion 참고 자료 bottlenose-oak-2e3.notion.site 0. 들어가면서 딥러닝을 공부하다 보면 항상마주치는 개념이 있다. 딥러닝 뉴비들이 갈려나가는 첫번째 위기라고 할 수 있는 오차역전파 (backpropagation) 이다. 고등학교 이후 수학, 특히 미분과 담을 쌓은 사람이라면 또는 수포자였다면 해당 위기는 정말 큰 위기로 느껴질 것이다. 하지만 딥러닝의 핵심을 이해하기 위해서는 (오차역전파라는 개념이 존재했기 때문에 현재의 딥러닝이 가능한 것이다. 최근에는 역전파 이외에 forward-forward라는 방법도 제시되고 있다) 해당 개념을 이해하고 넘어가는 것이 필수 적이다. 이번 시간에는 역전파와 관련된 개념들을 알아보고 numpy를 활용해서 직접..

인공지능을 공부하다 보면 '미분'이라는 장치는 알지 못하면 수식 자체를 이해하지 못하는 경우가 대부분이다 특히, 문과출신인 나에게 '미분'이라는 과제는 크게 다가온다 기본적인 미분의 공식은 잘 알고 있지만 지수나, 로그 함수를 미분했을 때 만들어지는 도함수는 머리속에서 잘 그려지지 않는다 그래서 공부를 하면서 참고할려고 아래에 여러 '미분 공식'을 정리하였다 아직, 지수 및 로그 함수의 미분 결과가 왜 저렇게 나오는지 이해해보려고 노력하고 있지만 일단 수식 자체를 이해하기 위해서 아래의 공식을 활용할 것이다. ✅미분 공식 정리 1. 상수를 미분하면 0이된다 2. 상수배한 함수를 미분하는 것은 도함수에 상수배를 한 것과 같다 3. 두 함수 f(x)와 g(x)의 합과 차를 미분하는 것은 각 함수의 도함수의 ..