벼랑끝 바이오 매드 컴퓨터 사이언티스트

모델 학습을 하다가 중간에 멈추는 경우 모델은 중단되었는데 전용 GPU 메모리는 할당된 채로 남아있는 경우가 있다. 자연스레 out of memory error가 발생하고 모델을 돌릴 수 없는데 torch.cuda.empty_cache() 함수를 사용해도 GPU 메모리가 지워지지 않는 경우가 종종 발생하더라. pip install numba를 입력해서 필요한 패키지를 설치해주고 다시 작성하던 노트북 파일이나 VS Code등으로 돌아와서 다음 코드를 입력하고 실행하자. !pip install numba from numba import cuda device = cuda.get_current_device(); device.reset() 아래와 같이 GPU 할당 메모리가 초기화 되는 것을 볼 수 있을 것이다. ..