out of memory
-
TensorFlow GPU Memory error인공지능(AI)/TensorFlow 2020. 3. 9. 17:55
텐서플로우를 이용하여 GPU에서 트레이닝이나 추론을 할 때 메모리 에러를 만났다. 매 번 어려움을 겪어서 조금 정리해 본다. 에러 환경 : TensorFlow, GPU, CNN 을 조합으로 사용할 때 매 번 에러를 만났던 것 같다. 원인은 대부분 Out Of Memory 문제 였던 것 같은 데, 아래 링크에 비교적 잘 정리가 되어 있으니 참고. https://datamasters.co.kr/33 https://goodtogreate.tistory.com/entry/TensorFlow%EB%A5%BC-%EA%B3%B5%EC%9A%A9-GPU%EC%97%90%EC%84%9C-%EC%82%AC%EC%9A%A9-%ED%95%A0-%EB%95%8C-%EB%A9%94%EB%AA%A8%EB%A6%AC-%EC%A0%8..