tensorflow
-
TensorFlow GPU Memory error - 절대적으로 GPU 메모리가 부족할 때 나는 에러인공지능(AI)/TensorFlow 2020. 3. 9. 18:02
이미지 사이즈가 큰 데이터로 딥러닝 트레이닝을 하려고 했는데 에러가 나고 안됐다. 절대적으로 GPU 메모리가 부족하다고 결론을 내렸다. 배치 사이즈가 1이므로 배치 크기를 더 줄일 수도 없었다. 이미지 크기를 잘게 잘라서 했더니 실행이 되었다. 아래와 같은 에러 메시지가 나왔었다. 에러 로그 메시지 일부------------------------------------------------------------- 아래처럼 별 에러 없이 메모리를 계속 할당하다가 결국 메모리가 부족해서 에러가 난다고 말하는 것 같은 메시지가 보였다. 2020-02-19 00:42:50.537629: I tensorflow/core/common_runtime/bfc_allocator.cc:674] 2 Chunks of size..
-
TensorFlow GPU Memory error인공지능(AI)/TensorFlow 2020. 3. 9. 17:55
텐서플로우를 이용하여 GPU에서 트레이닝이나 추론을 할 때 메모리 에러를 만났다. 매 번 어려움을 겪어서 조금 정리해 본다. 에러 환경 : TensorFlow, GPU, CNN 을 조합으로 사용할 때 매 번 에러를 만났던 것 같다. 원인은 대부분 Out Of Memory 문제 였던 것 같은 데, 아래 링크에 비교적 잘 정리가 되어 있으니 참고. https://datamasters.co.kr/33 https://goodtogreate.tistory.com/entry/TensorFlow%EB%A5%BC-%EA%B3%B5%EC%9A%A9-GPU%EC%97%90%EC%84%9C-%EC%82%AC%EC%9A%A9-%ED%95%A0-%EB%95%8C-%EB%A9%94%EB%AA%A8%EB%A6%AC-%EC%A0%8..
-
CentOS 7 Kernel updateLinux 2020. 2. 21. 16:53
현재 가장 많이 사용되는 Linux Package 중 하나가 CentOS일 것 입니다. CentOS 7.x 버전이 아직도 많이 사용되고 있습니다. 그런데 CentOS 7.x 의 경우 Linux Kerne Version이 3.10입니다. 참고로 최신 Linux Kernel Version은 5.6(2020년 2월 현재 기준)이며 Ubuntu 16.04의 경우 4.x 입니다. 상대적으로 CentOS의 Kernel Version이 낮은 것을 알 수 있습니다. 그런데 3.x의 Kernel 버전이 Memory 처리에 문제가 있는 것 같습니다. 딥러닝 관련되어 큰 작업을 실행할 경우 문제가 될 수 있으므로 Kernel을 4.x 이상으로 업데이트하라는 문서가 있습니다. (본 것 같은데 찾지를 못하겠네요, 찾는대로 링크..
-
TensorFlow Error 2020/02/20인공지능(AI)/TensorFlow 2020. 2. 20. 18:07
TensorFlow를 GPU에서 사용할 때 그리고 CNN을 사용할 때 에러가 많이 납니다. 오늘도 하나 에러가 나서 고생 좀 했습니다. 2020-02-20 17:11:38.802615: I tensorflow/stream_executor/platform/default/dso_loader.cc:42] Successfully opened dynamic library libcublas.so.10.0 2020-02-20 17:11:38.945746: I tensorflow/stream_executor/platform/default/dso_loader.cc:42] Successfully opened dynamic library libcudnn.so.7 2020-02-20 17:11:39.211419: E tens..
-
TensorFlow Error 2020/02/19인공지능(AI)/TensorFlow 2020. 2. 19. 18:21
TensorFlow를 사용하다 보면 이래저래 에러를 만나게 된다. 내가 만난 에러들을 생각나는 대로 정리해 본다. 1) 가장 많은 것이 GPU 관련 에러인 것 같다. cnn을 사용하는 경우 CPU 버전에서는 잘 돌던 코드가 GPU 버전에서는 안돈다. -> version이 1.x 인 경우 아래를 추가 한다. config = tf.ConfigProto() config.gpu_options.allow_growth = True 2) GPU 메모리가 부족할 때 다음과 같은 에러가 발생한다.(실제 로그는 매우 길다. 관련 있는 것으로 짐작되는 라인이 아래와 같다.) Resource exhausted: OOM when allocating tensor wi th shape[64,67,67,1024] and type f..
-
아나콘다에 Python, TensorFlow, & Keras 설치하기인공지능(AI)/Python 2019. 10. 14. 11:12
Installation of Python, TensorFlow, & Keras (in Anaconda) http://yp87.proboards.com/thread/21/installation-python-tensorflow-keras-anaconda?page=1&scrollTo=28 - 이재현 글 퍼옴(비공개) * 목적 - Anaconda를 설치. - Anaconda를 설치하면 Python를 사용할 수 있는 "base"라 불리우는 환경(environment)이 기본적으로 설정되는데, 이것 이외에 아래와 같이 두개의 환경을 추가 설치. * Python 3.7.3위에 TensorFlow 2.0.0 * Python 3.7.3위에 TensorFlow 1.14.0 (앞으로 이 environments를 각각 py3..