본글은 순수한 의문에 의해서 작성된 글입니다 글쓴이의 부족한 수학지식에 의해서 오류가 있을 경우가 다분하니 참고해서 읽어주시길 바랍니다 딥러닝 모델을 학습하다 보면 항상 마주치는 문제가있다 물론 모델이 마주치는 문제가 아니라 모델을 작성하거나 공부하는 인간이 마주치는 문제이다 " 바로 수식이다 " 수학은 많은 사람들을 혼란스럽게 만든다 이번 글은 그런 수식에 관한 글이다 이번 글을 시작으로 다양한 딥러닝의 수식들을 정리해보려고한다 물론 당장 딥러닝 모델을 학습 시키는데 완벽한 이해는 필요없는 부분이지만 우리의 슨배님들이 모두 구현 해놓았다고 공부하지 않을 수는 없다 ✅ 정보이론 : 정보량 (Quantity of information) Entropy와 CrossEntropy를 이해하기 위해서는 우선 정보이..

✅3주차 회고 3주차는 강의의 양이 지난 주 보다 많이 늘었고 특히 Transformer, 생성 모델 등 어려운 개념들이 나와서 추가적으로 공부가 필요했다 -3주차 아쉬운 점- 많은 양의 강의가 한꺼번에 등장을 해서 복습에 큰 집중을 하지 못했다 아직도 아침 컨디션이 그렇게 좋지 못하다 그러나 점차 개선중🔥 데이터 시각화 강의 부분을 꼼꼼히 듣지를 못했다 - 다시 복습하자✅ 하루 종일 앉아 있긴만 해서 그런지 건강한 생활을 하지 못했다 -3주차 좋았던 점- 하루에 배운 내용을 바로바로 정리해서 그래도 내용정리를 잘 할 수 있었다 하루 1백준을 다시 시작하면서 코딩에 대한 이해를 올렸다 논문을 읽고 해당 논문의 내용을 코딩으로 구현하면서 모델에 대한 이해를 높였다 ✅4주차 목표 Week 4에서는 이러한 교..

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 이번주에 정해진 진도를 이미 목요일날 다 나갔기 때문에 오늘은 특별히 이번주 내용중 하나였던 VAE - Variational Auto-Encoder를 pytroch를 활용해서 구현하는 글을 작성했습니다 ✅ Week 3 목차 간략한 VAE 소개 pytorch를 활용해 VAE 구현하기 model train ✅ 1. 간략한 VAE 소개하기 이번주 Generative Model 시간에 간단하게 VAE, Variational Auto-Encoder를 알아보았다 [네이버 부스트 캠프 AI Tech] Generative ..

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 이번 부스트캠프 과정주의 저의 가장큰 목표는 '경험하지 않은 어려운 길을 가자'입니다 평소 GPU 1대도 구하기 힘들어 파라미터가 큰 모델은 학습을 돌려보지 못했던 저에게 Multi - GPU는 너무나 꿈같은 이야기 처럼 들렸습니다 그럼에도 불구하고 개인 단위가 아니라 회사 단위로 넘어 갔을 때 Multi - GPU에 대한 개념이 잡혀있지 않다면 큰 부족함으로 느껴질 것 같아서 pytorch에서 Multi-GPU를 학습하는 방법에 대해서 조사해보고 정리하였습니다 추가적인 정보나 잘못된 정보가 있다면 댓글 부탁..

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 아직 이해도가 많이 부족한 분야입니다🥲😢 따라서 오류가 있으니 발견시 지적 부탁드립니다 그리고 정보를 얻은 링크를 걸어 두었으니 자세한 내용이나 전문적인 견해를 얻고 싶으면 링크를 참조해주시길 바랍니다 ✅ Week 3 목차 What is Generative Model? 생성모델의 과정 Explicit density Exact density - Autoregressive generation Approximate density - VAE Implicit density GAN Diffusion Moels 🔥Refe..

13549번: 숨바꼭질 3 수빈이는 동생과 숨바꼭질을 하고 있다. 수빈이는 현재 점 N(0 ≤ N ≤ 100,000)에 있고, 동생은 점 K(0 ≤ K ≤ 100,000)에 있다. 수빈이는 걷거나 순간이동을 할 수 있다. 만약, 수빈이의 위치가 X일 www.acmicpc.net [문제] [코드] from collections import deque n , k = map(int, input().split()) visited = [0] * 100001 def bfs(): q = deque() q.append(n) while q: now = q.popleft() if now == k: return visited[now] for next_to in [now*2, now-1, now+1]: if 0

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 ✅ Week 3 목차 What is transformer Encoder Self Attention Positional Encoding The Residuals Decoder Masking The Residuals The Residuals ✅ Intro 오늘 도비와 함께 배울 딥러닝 내용 한줄 요약 ⬇️ Reference The Illustrated Transformer Discussions: Hacker News (65 points, 4 comments), Reddit r/MachineLearning (29 ..

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 ✅ Week 3 목차 RNN LSTM GRU ✅ Intro 오늘 도비와 함께 배울 내용 3줄 요약 - RNN ? - LSTM ? - GRU ? ✅1. RNN What is RNN? RNN은 Recurrent Neural Networks로 히든 노드가 방향을 가진 엣지로 연결되어 순환구조를 이루는 신경망이다 여기서 핵심은 순환구조를 이룬다는 것인데 이는 Sequential Data를 다루기 위해서이다 그럼 우선 RNN을 다루기 전에 Squence Data에 대한 이해가 필요하다 🔥Sequential Data S..

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 ✅ Week 3 목차 CNN Models Computer Vision Applications ✅ Intro 다시 돌아온 도비와 함께 떠난 딥러닝 공부.. 😢 한화팬 아닙니다... 그런방 아닙니다.. 도비는 이미 Image Classification 모델을 학습해봤기 때문에 CNN모델에 대해서 어느정도 알고있다 그러나 도비는 다양한 CNN 모델들을 알고 싶어졌다 그리고 도비가 한번도 경험 하지 못한 Image task 분야가 존재한다는 것을 알게 되었다 오늘의 2편에서는 도비와 함께 다양한 CNN 모델을 자세히..

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 ✅ Week 3 목차 Deep learning에서 중요한건 꺾기지 않는 마음? What is Model optimizer? What is Regularization? ✅ Intro 도비는 그동안 딥러닝 모델을 pytorch와 python을 통해서 코딩하는 방법에 대해서 알아왔다 그러나 도비에게는 딥러닝의 원리와 역사, 그리고 학습 방법등 기초적인 지식이 부족하다 그래서 오늘은 이런 도비의 지식을 채워주기 위해 도비와 함께 딥러닝의 기초, model optimizer에 대해서 알아보도록 하자 +) 추가로 최근 ..

✅2주차 회고 2주차는 강의가 비교적 여유로웠고 과제 내용도 해봤던 내용들이라서 그렇게 어렵지 않아서 편안한 한 주였다 -2주차 아쉬운 점- 아직도 아침형 인간이 아니었기 때문에 컨디션 관리가 힘들었다. 처음 보는 pytorch 기능들이 몇몇 있어 (특히 gather) Doc를 읽고 문제를 푸는데 조금 어려웠다. VGG논문리뷰에 대한 개인적인 준비가 부족했다. 진도 이외에 추가적인 공부가 부족했다. -2주차 좋았던 점- 하루에 배운 내용을 바로바로 정리해서 그날 공부 내용이 머릿속에서 정리가 되었다. 하루 1백준을 다시 시작하면서 코딩에 대한 이해를 올렸다. ✅3주차 목표 Week 3에서는 이러한 교훈을 기반 삼아 아래의 목표를 설정하려고 한다 실행 여부는 다음주 이 시간에 회고하면서 확인할 것이다 하루..

1806번: 부분합 첫째 줄에 N (10 ≤ N = s: result = min(result, end-start) total -= number[start..