CUDA компоненттерін орнату

GPU бар ВМ-ге қосылыңыз немесе бұрын жасалмаған болса, жаңасын жасаңыз.
Бұрын орнатылмаған болса, GPU драйверін орнатыңыз.
CUDA Toolkit, CUDA Runtime, CUDA Libraries және cuDNN орнатылғанын тексеріңіз:
- CUDA Toolkit:
```
/usr/local/cuda/bin/nvcc --version 2>/dev/null || /usr/local/cuda-*/bin/nvcc --version
```
  No such file or directory қатесі, әдетте, CUDA Toolkit орнатылмағанын білдіреді.
- CUDA Runtime, CUDA Libraries және cuDNN:
```
ldconfig -p | grep -E 'libcudart\.so|libcuda\.so|libcublas\.so|libcudnn\.so'
```
  - libcudart.so — CUDA Runtime.
  - libcublas.so — CUDA Libraries.
  - libcuda.so — драйвер кітапханасы. Драйвер дұрыс орнатылған болса, ол көрсетілуі тиіс. Драйвердің бар-жоғын Linux-жүйесіне арналған GPU драйверін орнату бөлімінде тексеруге немесе қайта орнатуға болады.
  - libcudnn.so — cuDNN.
  Егер кітапханалардың бірі көрсетілмесе, тиісті компонент жүйеде орнатылмаған.
Егер барлық қажетті компоненттер орнатылған, бірақ олардың нұсқасы қажеттіден төмен болса, CUDA компоненттерін жаңарту бөліміне өтіңіз.

Егер компоненттердің бірі орнатылмаған болса, сценарийлердің бірін таңдаңыз:
- Тек жетіспейтін компоненттерді, бұрыннан орнатылғандармен бірдей нұсқада орнатыңыз. Бұл тәсілді бұрыннан орнатылған нұсқалар сіздің тапсырмаларыңызға сай келсе пайдаланыңыз. Қажет болса, оларды кейін жаңартуға болады.
- Барлық компоненттерді толығымен қайта орнатыңыз. Бұл үшін алдымен барлық компоненттерді толығымен жойыңыз, содан кейін орнатуға қайта оралыңыз. Бұл тәсілді нұсқаны төмендету немесе таза орнату қажет болғанда пайдаланыңыз.

NVIDIA CUDA репозиторийінен CUDA Toolkit, CUDA Runtime, CUDA Libraries және cuDNN орнатыңыз. Ол үшін:

Ubuntu/Debian

Red Hat Enterprise Linux

Дистрибутив нұсқасын анықтаңыз:
```
cat /etc/os-release
```

Дистрибутивіңіздің тиісті нұсқасына арналған NVIDIA CUDA репозиторийінен cuda-keyring_1.1-1_all.deb пакетін жүктеп алып, орнатыңыз:


wget https://developer.download.nvidia.com/compute/cuda/repos/<ДИСТРИБУТИВ><НҰСҚА>/x86_64/cuda-keyring_1.1-1_all.deb && \sudo dpkg -i cuda-keyring_1.1-1_all.deb

Мұнда:

<ДИСТРИБУТИВ> — дистрибутив атауы латын әліпбиімен.
<НҰСҚА> — дистрибутив нұсқасы. Тек сандар көрсетіледі, нүктесіз.

Мысалдар: debian13, ubuntu2404.

Пакеттік менеджердің индекстерін жаңартыңыз:
```
sudo apt update
```

Орнату үшін CUDA компоненттерінің қажетті нұсқалары қолжетімді екеніне көз жеткізіңіз:


apt-cache policy -<МАЖОР_НҰСҚА>-<МИНОР_НҰСҚА> \   cuda-libraries-<МАЖОР_НҰСҚА>-<МИНОР_НҰСҚА> \   cuda-runtime-<МАЖОР_НҰСҚА>-<МИНОР_НҰСҚА> \   cudnn9-cuda-<МАЖОР_НҰСҚА>-<МИНОР_НҰСҚА>

Мұнда <МАЖОР_НҰСҚА> және <МИНОР_НҰСҚА> — CUDA компоненттерінің мажорлық және минорлық нұсқаларының нөмірлері. Мысалы, CUDA Toolkit 12.4 үшін пакеттің атауы cuda-toolkit-12-4 болады.

Команда сәтті орындалған кезде шығыста көрсетілген пакеттің орнатылатын нұсқасын білдіретін Candidate өрісі болады.

CUDA компоненттерін орнатыңыз:


sudo apt -y install \   cuda-toolkit-<МАЖОР_НҰСҚА>-<МИНОР_НҰСҚА> \   cuda-libraries-<МАЖОР_НҰСҚА>-<МИНОР_НҰСҚА> \   cuda-runtime-<МАЖОР_НҰСҚА>-<МИНОР_НҰСҚА> \   cudnn9-cuda-<МАЖОР_НҰСҚА>-<МИНОР_НҰСҚА>

CUDA Toolkit жұмысқа қабілеттілігін тексеріңіз:
```
nvcc --version
```

Егер nvcc --version командасын орындау кезінде command not found қатесі шықса, CUDA Toolkit-ті орта айнымалыларына қолмен қосыңыз:


sudo tee /etc/profile.d/cuda-path.sh >/dev/null <<'EOF'# Add CUDA Toolkit to PATH (system-wide)CUDA_HOME=/usr/local/cudacase ":$PATH:" in*":$CUDA_HOME/bin:"*) ;;*) export PATH="$CUDA_HOME/bin:$PATH" ;;esacEOF

CUDA Toolkit жұмысқа қабілеттілігін қайта тексеріңіз:
```
nvcc --version
```

(Опционалды) CUDA Runtime, CUDA Libraries және cuDNN орнатылғанын қайта тексеріңіз:


ldconfig -p | grep -E 'libcudart\.so|libcuda\.so|libcublas\.so|libcudnn\.so'

Мақала пайдалы болды ма?