pytorch 4

[네이버 부스트 캠프 AI Tech]Pytorch 알쓸신잡 - Autograd 작동원리

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 ✅ Week 6 autograd backward() grad zero() no_grad() 1. autograd 오늘은 모델 학습을 위해서 간단하게 알아보는 '알두면 쓸데가많은 신기한 잡학사전' pytorch Autograd에 대한 내용이다 많은 모델을 학습하다보면 맹목적으로 .backward()를 통해서 배치마다 모델의 역전파를 계산해서 가중치를 업데이트해주는 행동을 할때가 있다 이런경우 대부분 원리를 이해하기보다 원래 그런갑다 하는 마인드로 모델을 학습하게 될 수 있다 따라서 오늘은 이러한 부분에서 조금은..

[네이버 부스트 캠프 AI Tech] Multi-GPU에 간단한 고찰

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 이번 부스트캠프 과정주의 저의 가장큰 목표는 '경험하지 않은 어려운 길을 가자'입니다 평소 GPU 1대도 구하기 힘들어 파라미터가 큰 모델은 학습을 돌려보지 못했던 저에게 Multi - GPU는 너무나 꿈같은 이야기 처럼 들렸습니다 그럼에도 불구하고 개인 단위가 아니라 회사 단위로 넘어 갔을 때 Multi - GPU에 대한 개념이 잡혀있지 않다면 큰 부족함으로 느껴질 것 같아서 pytorch에서 Multi-GPU를 학습하는 방법에 대해서 조사해보고 정리하였습니다 추가적인 정보나 잘못된 정보가 있다면 댓글 부탁..

[Pytorch] tensor의 연산과 인덱싱

✅목차 Tensor 연산 Tensor 인덱싱 ✅ Pytorch의 Tensor 파이토치를 다루다 보면 마주치는 자료형이 있다 바로 Tensor이다 파이토치의 텐서는 Numpy의 배열 또는 행렬과 비슷한 모양을 갖고 있다 - 사실 같은 모양 그러나 유사하지만 파이토치의 특수한 자료형이다 물론 Numpy와 파이썬의 리스트를 이용해서 텐서를 만들 수 있다 바로 torch.tensor()함수를 이용하는 것이다 이것에 대한 내용 주간학습정리에서 간단하게 다루어 보았다 [네이버 부스트 캠프 AI Tech] Week 2 - Day 1 수업 본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해..

[네이버 부스트 캠프 AI Tech] Pretrained Model & Training Monitoring

본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 + ✅일주일 동안 글쓰는 내용이 많아져서 딱딱한 말투와 재미없는 글로 변화하고 있다고 생각했습니다 그래서 학습의 효율성을 올리고 누구나 봐도 이해하기 쉽운 글로 변화를 주고 싶어서 우리의 친구 집요정 도비 를 이번 글 부터 출연시키게 되었습니다 앞으로 함께할 도비와 그의 AI 학습 여정에 기대를 해주세요 :) 🎈도비의 프로필 - 출생 : ?년 6월 28일 - 종 : 집요정 - 키 : 약 91cm - 좋아하는 것 : 양말 - 경력 : - 말포이 가문 집요정 (? - 1993) - 호그와트 집요정 (1994 - ..