네이버 부스트캠프 🔗/⭐주간 학습 정리 43

[부스트 캠프]Week 4 회고 및 Week 5 목표 정리

✅4주차 회고 4주차 강의 양은 그렇게 많은 편은 아니었지만 내용면에서 처음접하는 용어들이 많았고 기초가 없는 부분도 있어서 추가적으로 찾아보는 시간이 더 많이 소모된 것 같다 -4주차 아쉬운 점- 강의 내용에 처음 접하는 내용이 많아서 스스로 찾아본 내용을 완벽하게 소화하지는 못했다 위의 이유로 인해서 공부 내용을 정리할 때 정확히 알지 못하는 부분은 넘긴 부분이 많이 있었다 강의 내용 뿐만 아니라 추가적인 개인 학습에 소홀 했던 것 같다 -4주차 좋았던 점- 처음 접한 내용이라고 하더라도 이해를 어느 정도 해서 task에 대한 이해를 확장할 수 있었다 스스로 찾아보면서 확실히 이해한 부분은 정리하였고 이를 통해서 논문을 읽고 실제로 2개의 모델을 구현했다 1일 1백준을 유지하였다 ✅5주차 목표 Wee..

[네이버 부스트 캠프 AI Tech] Object Detection의 흐름

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 ✅ Week 4 목차 What is Object Detection? Two-stage detector Single-stage detector Focal loss, RetinaNet Transformer in Detection 1. What is Object Detection? object detection task도 CV 분야에서 오랜시간 발전해온 분야이다 특히, 최근 자율주행과 사람 동작인식 등 산업적인 영역에서 응용될 가능성이 많은 분야이기 때문에 많은 기업들이 기술적으로 보유할려고 하는 분야이기도 하다 ..

[네이버 부스트 캠프 AI Tech] Semantic segmentation의 흐름

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 ✅ Week 4 목차 What is Semantic segmentation? FPN Unet DeepLab 1. What is Semantic segmentation? 우리가 일반적으로 CNN을 활용해서 또는 Attention 기법을 활용해서 CV 문제를 해결한다고 가정을 했을 때 가장 먼저 떠오르는 task는 Image Classifiaction이다 Image Classification의 대표적인 데이터 셋으로는 ImageNet, Cifar 등이 있는데 이런 Image Classification은 한 장의 ..

[네이버 부스트 캠프 AI Tech] Wandb 사용설명서

이번 글은 네이버 부스트 캠프 내용 중 추가로 공부가 필요하다고 여겨서 공부를 하고 작성한 글입니다 ✅ Week 4 목차 What is wandb? How to use wandb 1. What is wandb? 요즘 MLops라는 말이 심심치 않게 들린다 데이터 수집 - 전처리 - 모델 가공 - 실험 - 또는 서비스 배포 등 위의 일련의 과정을 관리할 수 있는 하나의 시스템을 MLops라고 하는데 실제로 딥러닝 모델을 개발하거나 연구를 할 때도 MLops를 이용할 수 있다 그중에서 특히 시각화 부분이나 자신이 학습한 모델을 비교하고 하이퍼 파라미터를 쉽게 튜닝할 수 있게 해준다 그러한 MLops의 한 종류로 이번에 잘펴 볼 것은 wandb이다 풀네임 Weight & bias로 딥러닝 모델의 학습 과정을 ..

[네이버 부스트 캠프 AI Tech]Data Augmentation & Efficient Learning

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 ✅ Week 4 목차 Data Augmentation data augmentation? type of augmentation torch vision & albumentations Efficient Learning knowledg distillation semi-supervised learning self-training ✅ Intro 딥러닝을 학습하다 보면 항상 마주치는 문제, 고질적인 문제가 있다 바로 Data이다 Data가 문제라고 ?😢😢 처음 이 소리를 들으면 이해가 되지 않을 것이다 하지만 다르게 생각..

[부스트 캠프]Week 3 회고 및 Week 4 목표 정리

✅3주차 회고 3주차는 강의의 양이 지난 주 보다 많이 늘었고 특히 Transformer, 생성 모델 등 어려운 개념들이 나와서 추가적으로 공부가 필요했다 -3주차 아쉬운 점- 많은 양의 강의가 한꺼번에 등장을 해서 복습에 큰 집중을 하지 못했다 아직도 아침 컨디션이 그렇게 좋지 못하다 그러나 점차 개선중🔥 데이터 시각화 강의 부분을 꼼꼼히 듣지를 못했다 - 다시 복습하자✅ 하루 종일 앉아 있긴만 해서 그런지 건강한 생활을 하지 못했다 -3주차 좋았던 점- 하루에 배운 내용을 바로바로 정리해서 그래도 내용정리를 잘 할 수 있었다 하루 1백준을 다시 시작하면서 코딩에 대한 이해를 올렸다 논문을 읽고 해당 논문의 내용을 코딩으로 구현하면서 모델에 대한 이해를 높였다 ✅4주차 목표 Week 4에서는 이러한 교..

[네이버 부스트 캠프 AI Tech] VAE 직접 구현하기 by Pytorch

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 이번주에 정해진 진도를 이미 목요일날 다 나갔기 때문에 오늘은 특별히 이번주 내용중 하나였던 VAE - Variational Auto-Encoder를 pytroch를 활용해서 구현하는 글을 작성했습니다 ✅ Week 3 목차 간략한 VAE 소개 pytorch를 활용해 VAE 구현하기 model train ✅ 1. 간략한 VAE 소개하기 이번주 Generative Model 시간에 간단하게 VAE, Variational Auto-Encoder를 알아보았다 [네이버 부스트 캠프 AI Tech] Generative ..

[네이버 부스트 캠프 AI Tech] Multi-GPU에 간단한 고찰

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 이번 부스트캠프 과정주의 저의 가장큰 목표는 '경험하지 않은 어려운 길을 가자'입니다 평소 GPU 1대도 구하기 힘들어 파라미터가 큰 모델은 학습을 돌려보지 못했던 저에게 Multi - GPU는 너무나 꿈같은 이야기 처럼 들렸습니다 그럼에도 불구하고 개인 단위가 아니라 회사 단위로 넘어 갔을 때 Multi - GPU에 대한 개념이 잡혀있지 않다면 큰 부족함으로 느껴질 것 같아서 pytorch에서 Multi-GPU를 학습하는 방법에 대해서 조사해보고 정리하였습니다 추가적인 정보나 잘못된 정보가 있다면 댓글 부탁..

[네이버 부스트 캠프 AI Tech] Generative Model

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 아직 이해도가 많이 부족한 분야입니다🥲😢 따라서 오류가 있으니 발견시 지적 부탁드립니다 그리고 정보를 얻은 링크를 걸어 두었으니 자세한 내용이나 전문적인 견해를 얻고 싶으면 링크를 참조해주시길 바랍니다 ✅ Week 3 목차 What is Generative Model? 생성모델의 과정 Explicit density Exact density - Autoregressive generation Approximate density - VAE Implicit density GAN Diffusion Moels 🔥Refe..

[네이버 부스트 캠프 AI Tech] Transformer

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 ✅ Week 3 목차 What is transformer Encoder Self Attention Positional Encoding The Residuals Decoder Masking The Residuals The Residuals ✅ Intro 오늘 도비와 함께 배울 딥러닝 내용 한줄 요약 ⬇️ Reference The Illustrated Transformer Discussions: Hacker News (65 points, 4 comments), Reddit r/MachineLearning (29 ..