NVIDIA Container Toolkit орнату

GPU бар ВМ-ге қосылыңыз немесе бұрын жасалмаған болса, жаңасын жасаңыз.

Docker орнатыңыз:


curl -fsSL https://get.docker.com | shsudo usermod -aG docker $USER && newgrp docker

NVIDIA Container Toolkit орнатыңыз:

Ubuntu/Debian

Red Hat Enterprise Linux

Қажетті тәуелділіктерді орнатыңыз:


sudo apt update &&sudo apt-get update && sudo apt-get install -y --no-install-recommends \ca-certificates \curl \gnupg2

NVIDIA Container Toolkit репозиторийін қосыңыз:


curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \&& curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

NVIDIA Container Toolkit орнатыңыз:


sudo apt update &&sudo apt install -y nvidia-container-toolkit

Docker-ды NVIDIA Container Toolkit-пен пайдалану үшін баптаңыз:
```
sudo nvidia-ctk runtime configure --runtime=docker
```
Команда орындалу нәтижесінде NVIDIA Container Toolkit-пен жұмыс істеу үшін /etc/docker/daemon.json файлы өзгертіледі.

Docker-ды қайта іске қосыңыз:


sudo systemctl restart docker

(Опционалды) Контейнер ішіндегі GPU-дың жұмысқа қабілеттілігін тексеріңіз:
```
docker run --rm --gpus all <DOCKER_БЕЙНЕСІ> nvidia-smi
```
Мұнда <DOCKER_БЕЙНЕСІ> — nvidia/cuda/<БЕЙНЕ_АТАУЫ> форматындағы Docker Hub бейнесінің нақты атауы. Мысалы, nvidia/cuda/12.4.0-devel-ubuntu22.04.

Тексеру сәтті орындалғанда жүйедегі GPU және драйвер туралы ақпарат шығады.

Мақала пайдалы болды ма?