Установка компонентов CUDA

Подключитесь к ВМ с GPU или создайте новую, если этого не было сделано ранее.
Установите драйвер GPU, если этого не было сделано ранее.
Проверьте, установлены ли CUDA Toolkit, CUDA Runtime, CUDA Libraries и cuDNN:
- CUDA Toolkit:
```
/usr/local/cuda/bin/nvcc --version 2>/dev/null || /usr/local/cuda-*/bin/nvcc --version
```
  Ошибка No such file or directory как правило означает, что CUDA Toolkit не установлен.
- CUDA Runtime, CUDA Libraries и cuDNN:
```
ldconfig -p | grep -E 'libcudart\.so|libcuda\.so|libcublas\.so|libcudnn\.so'
```
  - libcudart.so — CUDA Runtime.
  - libcublas.so — CUDA Libraries.
  - libcuda.so — драйверная библиотека. Она должна отображаться, если драйвер установлен корректно. Вы можете проверить наличие драйвера или переустановить его в разделе Установка Linux-драйвера GPU.
  - libcudnn.so — cuDNN.
  Если какая-то из библиотек не отображается, соответствующий компонент не установлен в системе.
Если все нужные компоненты установлены, но имеют версию ниже необходимой — перейдите в раздел Обновление компонентов CUDA.

Если какой-то из компонентов не установлен, выберите один из сценариев:
- Установите только недостающие компоненты, используя ту же версию, что и уже установленные. Используйте этот способ, если уже установленные версии подходят для ваших задач. При необходимости, позже их можно будет обновить.
- Полностью переустановите все компоненты. Для этого удалите полностью все компоненты, а затем вернитесь к установке. Используйте этот способ, если необходимо понизить версию или выполнить чистую установку с нуля.

Установите CUDA Toolkit, CUDA Runtime, CUDA Libraries и cuDNN из репозитория NVIDIA CUDA. Для этого:

Ubuntu/Debian

Red Hat Enterprise Linux

Определите версию дистрибутива:
```
cat /etc/os-release
```

Загрузите и установите пакет cuda-keyring_1.1-1_all.deb из репозитория NVIDIA CUDA для соответствующей версии вашего дистрибутива:


wget https://developer.download.nvidia.com/compute/cuda/repos/<ДИСТРИБУТИВ><ВЕРСИЯ>/x86_64/cuda-keyring_1.1-1_all.deb && \sudo dpkg -i cuda-keyring_1.1-1_all.deb

Здесь:

<ДИСТРИБУТИВ> — название дистрибутива латиницей.
<ВЕРСИЯ> — версия дистрибутива. Указываются только числа, без точек.

Примеры: debian13, ubuntu2404.

Обновите индексы пакетного менеджера:
```
sudo apt update
```

Убедитесь, что для установки доступны нужные версии компонентов CUDA:


apt-cache policy -<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cuda-libraries-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cuda-runtime-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cudnn9-cuda-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ>

Здесь <МАЖОРНАЯ_ВЕРСИЯ> и <МИНОРНАЯ_ВЕРСИЯ> — номера мажорной и минорной версии компонентов CUDA. Например, для CUDA Toolkit 12.4 название пакета будет cuda-toolkit-12-4.

При успешном выполнении команды в выводе будет поле Candidate, которое указывает версию для установки указанного пакета.

Установите компоненты CUDA:


sudo apt -y install \   cuda-toolkit-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cuda-libraries-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cuda-runtime-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cudnn9-cuda-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ>

Проверьте работоспособность CUDA Toolkit:
```
nvcc --version
```

Если при попытке выполнить команду nvcc --version появилась ошибка command not found, добавьте CUDA Toolkit в переменные окружения вручную:


sudo tee /etc/profile.d/cuda-path.sh >/dev/null <<'EOF'# Add CUDA Toolkit to PATH (system-wide)CUDA_HOME=/usr/local/cudacase ":$PATH:" in*":$CUDA_HOME/bin:"*) ;;*) export PATH="$CUDA_HOME/bin:$PATH" ;;esacEOF

Повторно проверьте работоспособность CUDA Toolkit:
```
nvcc --version
```

(Опционально) Повторно проверьте установку CUDA Runtime, CUDA Libraries и cuDNN:


ldconfig -p | grep -E 'libcudart\.so|libcuda\.so|libcublas\.so|libcudnn\.so'

Была ли статья полезна?

Была ли статья полезна?