[네이버 부스트 캠프 AI Tech] Multi-GPU에 간단한 고찰
Cat_Code:
본 글은 네이버 부스트 캠프 AI Tech 기간동안 개인적으로 배운 내용들을 주단위로 정리한 글입니다 본 글의 내용은 새롭게 알게 된 내용을 중심으로 정리하였고 복습 중요도를 선정해서 정리하였습니다 이번 부스트캠프 과정주의 저의 가장큰 목표는 '경험하지 않은 어려운 길을 가자'입니다 평소 GPU 1대도 구하기 힘들어 파라미터가 큰 모델은 학습을 돌려보지 못했던 저에게 Multi - GPU는 너무나 꿈같은 이야기 처럼 들렸습니다 그럼에도 불구하고 개인 단위가 아니라 회사 단위로 넘어 갔을 때 Multi - GPU에 대한 개념이 잡혀있지 않다면 큰 부족함으로 느껴질 것 같아서 pytorch에서 Multi-GPU를 학습하는 방법에 대해서 조사해보고 정리하였습니다 추가적인 정보나 잘못된 정보가 있다면 댓글 부탁..