Установка, обновление и удаление компонентов CUDA

Подключитесь к ВМ с GPU или создайте новую, если этого не было сделано ранее.

Установите драйвер GPU, если этого не было сделано ранее.

Проверьте, установлены ли CUDA Toolkit, CUDA Runtime, CUDA Libraries и cuDNN:

• CUDA Toolkit:

   
  /usr/local/cuda/bin/nvcc --version 2>/dev/null || /usr/local/cuda-*/bin/nvcc --version

  Ошибка No such file or directory как правило означает, что CUDA Toolkit не установлен.

• CUDA Runtime, CUDA Libraries и cuDNN:

   
  ldconfig -p | grep -E 'libcudart\.so|libcuda\.so|libcublas\.so|libcudnn\.so'

  • libcudart.so — CUDA Runtime.
  • libcublas.so — CUDA Libraries.
  • libcuda.so — драйверная библиотека. Она должна отображаться, если драйвер установлен корректно. Вы можете проверить наличие драйвера или переустановить его в разделе Установка, обновление и удаление Linux-драйвера GPU.
  • libcudnn.so — cuDNN.

  Если какая-то из библиотек не отображается, соответствующий компонент не установлен в системе.

Если все нужные компоненты установлены, но имеют версию ниже необходимой — перейдите в раздел Обновление компонентов CUDA.

Если какой-то из компонентов не установлен, выберите один из сценариев:

• Установите только недостающие компоненты, используя ту же версию, что и уже установленные. Используйте этот способ, если уже установленные версии подходят для ваших задач. При необходимости, позже их можно будет обновить.
• Полностью переустановите все компоненты. Для этого удалите полностью все компоненты, а затем вернитесь к установке. Используйте этот способ, если необходимо понизить версию или выполнить чистую установку с нуля.

Установите CUDA Toolkit, CUDA Runtime, CUDA Libraries и cuDNN из репозитория NVIDIA CUDA. Для этого:

Проверьте работоспособность CUDA Toolkit:

 
nvcc --version

Если при попытке выполнить команду nvcc --version появилась ошибка command not found, добавьте CUDA Toolkit в переменные окружения вручную:

 
sudo tee /etc/profile.d/cuda-path.sh >/dev/null <<'EOF'# Add CUDA Toolkit to PATH (system-wide)CUDA_HOME=/usr/local/cudacase ":$PATH:" in*":$CUDA_HOME/bin:"*) ;;*) export PATH="$CUDA_HOME/bin:$PATH" ;;esacEOF

Повторно проверьте работоспособность CUDA Toolkit:

 
nvcc --version

(Опционально) Повторно проверьте установку CUDA Runtime, CUDA Libraries и cuDNN:

 
ldconfig -p | grep -E 'libcudart\.so|libcuda\.so|libcublas\.so|libcudnn\.so'

Подключитесь к ВМ с GPU или создайте новую, если этого не было сделано ранее.

Обновите драйвер GPU, если это необходимо для его совместимости с CUDA после обновления.

Проверьте версию компонентов CUDA.

1. Определите версию CUDA Toolkit:

    
   /usr/local/cuda/bin/nvcc --version 2>/dev/null || /usr/local/cuda-*/bin/nvcc --version

   Ошибка No such file or directory как правило означает, что CUDA Toolkit не установлен.

2. Опредилите версию для компонентов CUDA Runtime, CUDA Libraries и cuDNN:

    
   ldconfig -p | grep -E 'libcudart\.so|libcuda\.so|libcublas\.so|libcudnn\.so'

   • libcudart.so — CUDA Runtime.
   • libcublas.so — CUDA Libraries.
   • libcuda.so — драйверная библиотека. Должна отображаться при условии, что драйвер установлен корректно. При необходимости, проверить наличие драйвера или выполнить его переустановку можно в разделе Установка, обновление и удаление Linux-драйвера GPU.
   • libcudnn.so — cuDNN.

   Отсутствие библиотеки как правило означает, что компонент не установлен в системе.

Если какой-то из компонентов отсутствует, веберите один из сценариев.

• Установите недостающие компоненты нужной версии, после чего вернитесь к обновлению. Используйте этот способ если нет необходимости в чистуой установке с нуля.
• Полностью переустановите все компоненты. Для этого удалите полностью все компоненты, а затем вернитесь к установке. Используйте этот способ если необходимо понизить версию или выполнить чистую установку с нуля.

Узнайте способ установки компонентов CUDA:

 
dpkg -l | grep -E 'cuda-|nvidia-cuda-toolkit'

 
rpm -qa | grep -E 'cuda-toolkit|cuda-runtime|cuda-libraries|cudnn9-cuda'

Компоненты CUDA, которые установлены, но которых нет в списке, указывает на отсутствие связи этого компонента с вашим пакетным менеджером. Как правило, это означает, что компонент CUDA был установлен без пакетного менеджера с помощью готового установочного пакета *.run с сайта производителя.

Для обновления версии таких компонентов необходимо выполнить их переустановку. Для этого выполните сначала удаление, затем установку компонентов CUDA.

Определите источник обновления и доступные для обновления версии:

 
apt-cache policy cuda-toolkit-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cuda-libraries-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cuda-runtime-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cudnn9-cuda-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ>

Обновите компоненты CUDA:

 
sudo apt install --only-upgrade -y \   cuda-toolkit-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cuda-runtime-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cuda-libraries-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cudnn9-cuda-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ>

 
sudo dnf upgrade -y \   cuda-toolkit-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cuda-runtime-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cuda-libraries-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ> \   cudnn9-cuda-<МАЖОРНАЯ_ВЕРСИЯ>-<МИНОРНАЯ_ВЕРСИЯ>

Подключитесь к ВМ с GPU или создайте новую, если этого не было сделано ранее.

Удалите компоненты CUDA, установленные из пакетного менеджера:

 
sudo apt remove --purge -y "*cuda*" "*cublas*" "*cufft*" "*cufile*" "*curand*" "*cusolver*" "*cusparse*" "*gds-tools*" "*npp*" "*nvjpeg*" "nsight*" "*nvvm*"sudo apt autoremove --purge -y

 
sudo dnf remove "cuda*" "*cublas*" "*cufft*" "*cufile*" "*curand*" "*cusolver*" "*cusparse*" "*gds-tools*" "*npp*" "*nvjpeg*" "nsight*" "*nvvm*"sudo dnf autoremove -y

Запустите cuda-uninstaller, чтобы удалить компоненты, установленные из файла с расширением *.run.

 
sudo /usr/local/cuda-*/bin/cuda-uninstaller 2>/dev/null || sudo cuda-uninstaller

Если ранее не выполнялось установки из файла с расширением *.run, то процесс удаления не запустится. Дальнейшие действия не требуются.