[PyTorch 오류 해결] RuntimeError: CUDA error: device-side assert triggered

  오류 메시지는 다음과 같다.

 

 

  이 오류는 복잡한 GPU 디바이스 환경 설정 관련 오류인 것처럼 보이지만, 실제로는 입출력 차원(dimension)을 제대로 맞추지 않아서 발생하는 경우가 많다. 필자의 경우 ① 실제 데이터셋과는 다르게 출력(output) 차원의 크기를 설정했을 때 그리고 ② 실제 데이터셋과는 다르게 입력(output) 차원의 크기를 설정했을 때 각각 이러한 오류를 만난 적이 있다.

 

  예를 들어 Transfer Learning을 할 때는 출력 차원을 우리의 데이터셋에 맞게 바꾸어야 한다. 실제 가지고 있는 데이터셋이 3개의 레이블로 구성되어 있을 때, Transfer Learning을 위한 모델의 출력 차원을 10개로 설정했다면 이러한 오류 메시지를 만날 수 있다. 조금 더 하이 레벨에서 오류를 친절하게 알려주었으면 하는 바램이 있지만... 아무튼 개인적으로는 이 문제를 차원 크기를 잘못 설정했을 때에만 만났다.