1. 수치 미분과 역전파 | Notion 참고 자료 bottlenose-oak-2e3.notion.site 0. 들어가면서 딥러닝을 공부하다 보면 항상마주치는 개념이 있다. 딥러닝 뉴비들이 갈려나가는 첫번째 위기라고 할 수 있는 오차역전파 (backpropagation) 이다. 고등학교 이후 수학, 특히 미분과 담을 쌓은 사람이라면 또는 수포자였다면 해당 위기는 정말 큰 위기로 느껴질 것이다. 하지만 딥러닝의 핵심을 이해하기 위해서는 (오차역전파라는 개념이 존재했기 때문에 현재의 딥러닝이 가능한 것이다. 최근에는 역전파 이외에 forward-forward라는 방법도 제시되고 있다) 해당 개념을 이해하고 넘어가는 것이 필수 적이다. 이번 시간에는 역전파와 관련된 개념들을 알아보고 numpy를 활용해서 직접..

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 ✅ Week 1 목차 벡터 행렬 경사하강법 역전파 확률, 통계 벡터 (복습 중요도 : ⭐⭐) 벡터는 공간에서 한 점 n차원 공간에서 한 점 (공간 ⬇️) 1 차원 - 수직선 2 차원 - 좌표 평면 벡터는 원점으로부터 상대적 위치를 표현 벡터에 숫자를 곱해주면(스칼라 곱) 길이만 변화 (방향 변화 x) 단, 곱해주는 실수의 값이 0보다 작다면 반대 방향으로 변화 벡터끼리 같은 모양이면 덧셈, 뺄셈을 계산할 수 있다. 같은 모양이 아니면 불가 벡터가 같은 모양이면 성분곱(Hadamard product)를 계산할 ..