1. Nvidia GPU 환경 설정
1. GPU 사양 확인
시스템 > 디스플레이 > 고급 디스플레이
2. nvidia 드라이브 다운로드
3. cuda toolkit 설치
CUDA Toolkit 12.0 Update 1 Downloads
블로그에서 요런 글을 봤는데 마침 내 GPU도 3070ti라서 12.0.1 버전을 설치했음
4. Visual studio 설치 혹은 버전 확인
툴킷 버전에 맞는 visual studio이 필요한 것 같음
마침 설치되어있는 visual studio가 2022 버전… 컴퓨터에 설치되어있는 visual studio가 없다면 버전에 맞게 새로 설치해야할 듯
5. Visual studio에서 cuda runtime 설치 확인
visual studio에서 새 프로젝트 만들기 → 템플릿 검색에서 cuda 검색했을 때, 위의 사진처럼 cuda runtime이 뜨면 잘 설치 된 것임
6. cuDNN 설치
반드시 내가 설치한 cuda 버전과 운영체제에 맞게 설치해주어야 함
이거 설치하려면 회원 가입해줘야 함
설치 후 압축을 푼 뒤에 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.0 위치에 bin, lib, include 폴더를 넣어주면 됨
7. CMD에서 확인
8. 가상환경 내에서 GPU 사용 가능 여부 확인하기
GPU 설정을 할 때 한 가상환경 내에서는 pytorch나 tensorflow 둘 중 하나로 결정해서 사용해야 충돌이 없는 듯
나는 pytorch 코드를 돌려보려는 중이라 pytorch환경에서 gpu 사용 가능 여부를 위의 코드를 통해 확인해봤고 윗 줄은 False, 아랫줄은 cpu라는 충격적인 결과가 나왔음
⇒ pytorch 버전 중 cuda를 사용할 수 있는 특정 버전이 따로 있음
torch, torchvision, torchaudio을 uninstall 해주고 위의 명령어로 다시 install 해주었음
cuda 사용 가능한 버전 뒤에는 저렇게 버전 뒤에 이상한 알파벳이 더 붙는다
참고한 블로그