Установка NVIDIA Container Toolkit

Подключитесь к ВМ с GPU, или создайте новую, если этого не было сделано ранее.

Установите Docker:


curl -fsSL https://get.docker.com | shsudo usermod -aG docker $USER && newgrp docker

Установите NVIDIA Container Toolkit:

Ubuntu/Debian

Red Hat Enterprise Linux

Установите необходимые зависимости:


sudo apt update &&sudo apt-get update && sudo apt-get install -y --no-install-recommends \ca-certificates \curl \gnupg2

Добавьте репозиторий NVIDIA Container Toolkit:


curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \&& curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

Установите NVIDIA Container Toolkit:


sudo apt update &&sudo apt install -y nvidia-container-toolkit

Настройте Docker для использования с NVIDIA Container Toolkit:
```
sudo nvidia-ctk runtime configure --runtime=docker
```
В результате выполнения команды будет модифицирован файл /etc/docker/daemon.json для работы с NVIDIA Container Toolkit.

Перезапустите Docker:


sudo systemctl restart docker

(Опционально) Проверьте работоспособность GPU внутри контейнера:
```
docker run --rm --gpus all <ОБРАЗ_DOCKER> nvidia-smi
```
Здесь <ОБРАЗ_DOCKER> — точное название нужного образа из Docker Hub в формате nvidia/cuda/<ИМЯ_ОБРАЗА>. Например, nvidia/cuda/12.4.0-devel-ubuntu22.04.

При успешном выполнении проверки будет выведена информация о GPU и драйвере в системе.

Была ли статья полезна?

Была ли статья полезна?