NVIDIA GeForce RTX 4060 Laptop GPU - CUDA 환경 구성 / Pytorch 환경 구성

아래의 글들을 참고하였다!!

GPU 사용을 위한 CUDA 환경 구성하기

 

[Setup] 딥러닝 개발 환경 구축 한방에 끝내기

 

NVIDIA GeForce RTX 4060 Laptop GPU CUDA Conda Windows 가상환경 설치

 

Pytorch 설치 - CUDA Toolkit, cuDNN 설치

 

[Ubuntu] CUDA 설치 & Multi CUDA 설치

 

CUDA 환경 구성하기

anaconda가 설치되어 있다고 가정하고 시작한다.

설치되어 있지 않다면 설치하시길...

1. NVIDIA 드라이버 설치

cmd 창에 nvidia-smi 입력

드라이버가 설치되어 있으면!!! 아래와 같이 뜨게 됨.

 

이때 우측 상단의 CUDA Version이 현재 깔린 드라이버에서 사용할 수 있는 가장 높은 CUDA version임.

 

설치되어 있지 않다면!!! 아래 페이지에 접속하여 드라이버 설치하기.

https://www.nvidia.com/en-us/drivers/

Download The Latest Official NVIDIA Drivers

 

자신의 GPU와 OS에 맞는 버전을 설정하여 설치하면 됨.

 

2. GPU와 호환되는 CUDA Toolkit 버전 체크

https://en.wikipedia.org/wiki/CUDA#GPUs_supported

CUDA - Wikipedia

 

RTX 4060의 경우 Compute capability는 8.9이므로. CUDA Toolkit은 11.8 부터 사용가능하다.

설치되어 있는 드라이버에서 허용하는 CUDA version이 12.0 까지이므로, 11.8과 12.0 사용 가능

 

pytorch와 호환되는 버전을 확인해보면, CUDA 11.8과 12.1, 12.4가 사용 가능하다. 따라서 CUDA 11.8을 설치해야 함.

 

https://pytorch.org/

PyTorch

 

3. CUDA Toolkit 설치

https://developer.nvidia.com/cuda-toolkit-archive

CUDA Toolkit Archive

 

앞서 결정한 CUDA Toolkit 11.8.0 버전을 설치한다.

 

윈도우 버전으로 깔아주기

 

4. cuDNN 설치

https://developer.nvidia.com/rdp/cudnn-archive

cuDNN Archive

 

CUDA Toolkit과 호환되는 cuDNN을 다운받는다.

두번째의 CUDA 11.x를 설치하면 된다.

이 때 nvidia 계정이 필요하니 가입해서 진행한다.

 

 

가장 상단의 윈도우 Zip 버전을 다운받기.

 

 

다운받은 파일 압축해제시 lib, include, bin 폴더가 포함되어 있다.

 

 

앞서 다운받은 CUDA Toolkit이 설치된 폴더를 찾아 들어간다. 설치시에 경로가 AppData로 되어있는데, 거기 없고 Program Files의 NVIDIA GPU Computing Toolkit 폴더 안에 있으니 잘 찾아본다.

("C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8")

 

 

lib, include, bin 폴더에 압축해제한 폴더 안의 파일을 붙여넣어준다.

 

 

5. 환경 변수 확인

시작 검색창에 환경변수를 검색해서 '시스템 환경 변수 편집'에 들어간다.

 

환경 변수 클릭.

시스템 변수에 CUDA_PATH가 잘 들어갔는지 확인.

 

 

상단의 사용자 변수에서 Path 선택 후 더블클릭

 

 

새로 만들기로 Toolkit의 bin, include, lib 경로를 추가해준다.

 

 

6. CUDA 설치 확인

 

다시 cmd 창으로 들어간다.

모든 설치를 마친 후에 nvidia-smi를 해도 이전과 동일하게 CUDA version이 12.0으로 나오지만 당황하지 말기.

 

nvcc --version 입력

 

11.8 버전이 설치되어 있음을 확인할 수 있다.

 

여기까지 했는데 안되면 어딘가에서 버전이 안맞은 것인데....

어디서 잘못되었는지 찾기도 힘들고 수정하기도 힘드니 전부 삭제 후 재설치 하는 것을 추천한다 (내가 그랬다)

 

설정 - 앱 - NVIDIA 검색해서 나오는거 싹 제거 후 드라이버부터 재설치

Pytorch 설치

1. 설치할 Pytorch 버전 확인

https://pytorch.org/

PyTorch

• python은 3.9 이상의 버전을 사용
• CUDA 11.8
• Pytorch 2.5.1

 

2. 가상환경 생성 및 구성

Anaconda Prompt 접속하여 pytorch 설치할 가상환경 생성.

가상환경 이름은 원하는 대로 설정해도 됨. 여기에서는 pytorch와 python 버전을 명시했다. (pytorch251_p39)

-n 다음에 가상환경 이름을 넣어주면 됨

C:\Users\Admin> conda create -n pytorch251_p39 python=3.9

 

가상환경에 접속한다.

C:\Users\Admin> conda activate pytorch251_p39

 

위 pytorch 페이지의 Run this Command 명령어를 복사해 실행하여 설치한다.

(pytorch251_p39) C:\Users\Admin> conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c pytorch -c nvidia

 

3. Jupyter Notebook 환경 설정

jupyter notebook 등 원하는 라이브러리 설치한다. 이때 가상환경에 설치해준다고 명시해줘야 함.

-n 다음에 가상환경 이름 넣어준다.

(pytorch251_p39) C:\Users\Admin> conda install -n pytorch251_p39 jupyter notebook ipython

 

라이브러리가 잘 설치되었는지 확인

(pytorch251_p_39) C:\Users\Admin> conda list

 

구축한 가상환경을 ipython kernel로 등록 (해야 주피터에서 쓸 수 있음)

(pytorch251_p39) C:\Users\Admin> python -m ipykernel install --user --name pytorch251_p39

 

주피터 노트북 접속

(pytorch251_p39) C:\Users\Admin>jupyter notebook

 

새로운 노트북 생성 시 가상환경이 추가되었다! 해당 커널을 연결한다.

 

아래 코드를 실행시켜서 pytorch 설치 및 GPU 연결이 잘 되었는지 확인한다.

import torch
print(f"get device name : {torch.cuda.get_device_name(0)}")
print(f"is available : {torch.cuda.is_available()}")
print(f"torch version : {torch.__version__}")