使用 Apt 安装

1. 配置生产存储库：

   $ curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
     && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list \
       sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' 
       sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell0"></button>

   （可选）将存储库配置为使用实验包：

   $ sed -i -e '/experimental/ s/^#//g' etc/apt/sources.list.d/nvidia-container-toolkit.list
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell1"></button>

2. 从存储库更新软件包列表：

   $ sudo apt-get update
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell2"></button>

3. 安装 NVIDIA Container Toolkit 软件包：

   $ sudo apt-get install -y nvidia-container-toolkit
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell3"></button>

使用 Yum 或 Dnf 安装

1. 配置生产存储库：

   $ curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo 
     sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell4"></button>

   （可选）将存储库配置为使用实验包：

   $ sudo yum-config-manager --enable nvidia-container-toolkit-experimental
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell5"></button>

2. 安装 NVIDIA Container Toolkit 软件包：

   $ sudo yum install -y nvidia-container-toolkit
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell6"></button>

使用 Zypper 安装

1. 配置生产存储库：

   $ sudo zypper ar https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell7"></button>

   （可选）将存储库配置为使用实验包：

   $ sudo zypper modifyrepo --enable nvidia-container-toolkit-experimental
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell8"></button>

2. 安装 NVIDIA Container Toolkit 软件包：

   $ sudo zypper --gpg-auto-import-keys install -y nvidia-container-toolkit
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell9"></button>

先决条件

• 您安装了受支持的容器引擎（Docker、Containerd、CRI-O、Podman）。

• 您安装了 NVIDIA 容器工具包。

配置 Docker

1. 使用以下命令配置容器运行时：nvidia-ctk

   $ sudo nvidia-ctk runtime configure --runtime=docker
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell10"></button>

   该命令修改主机上的文件。 该文件已更新，以便 Docker 可以使用 NVIDIA 容器运行时。nvidia-ctk/etc/docker/daemon.json

2. 重新启动 Docker 守护程序：

   $ sudo systemctl restart docker
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell11"></button>

配置 containerd（适用于 Kubernetes）

1. 使用以下命令配置容器运行时：nvidia-ctk

   $ sudo nvidia-ctk runtime configure --runtime=containerd
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell15"></button>

   该命令修改主机上的文件。 该文件已更新，以便 containerd 可以使用 NVIDIA 容器运行时。nvidia-ctk/etc/containerd/config.toml

2. 重新启动 containerd：

   $ sudo systemctl restart containerd
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell16"></button>

配置 containerd（用于 nerdctl）

无需其他配置。 你可以只运行 有 root 或没有 root。 您无需为 Kubernetes 运行上述命令。nerdctl run --gpus=allnvidia-ctk

另请参阅 

配置 CRI-O

1. 使用以下命令配置容器运行时：nvidia-ctk

   $ sudo nvidia-ctk runtime configure --runtime=crio
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell17"></button>

   该命令修改主机上的文件。 该文件已更新，以便 CRI-O 可以使用 NVIDIA 容器运行时。nvidia-ctk/etc/crio/crio.conf

2. 重新启动 CRI-O 守护程序：

   $ sudo systemctl restart crio
   

   <button class="copybtn o-tooltip--left" data-tooltip="Copy" data-clipboard-target="#codecell18"></button>

配置 Podman

对于 Podman，NVIDIA 建议使用 cdi访问容器中的 NVIDIA 设备。