仮想化通信

日本仮想化技術株式会社の公式エンジニアブログ

Nvidia Docker

Multi-Instance GPUをDockerやMicroK8sで使ってみる

NVIDIAのGPUのH100、A100、A30にはマルチインスタンスGPU(以降MIG)という機能が実装されています。 かつては専用ソフトウェアを使って1つのGPUを複数のGPUがあるかのように見せて、対応するアプリケーションで使うことができましたが、 先に挙げたGPUであ…

K3SをNVIDIA Jetson Nanoで実行する

はじめに K3Sは、Rancher Labsによって開発されている軽量のKubernetesディストリビューションです。コンピューティングリソースが制限されるエッジコンピューティングのユースケースに最適です。x86_64、ARMv7、およびARM64アーキテクチャをサポートしてい…

MicroK8sでGPUコンテナーを使う環境を整える

先日ブラブラとサイトをみていたら、MicroK8s + GPUが割と楽しそうだったので試してみました。 ちなみに30分くらいで動かせました。 参考にした情報 https://microk8s.io/docs/ https://ubuntu.com/blog/using-gpgpus-with-kubernetes https://towardsdatasc…

RancherOS + RancherでNvidia Dockerホストを使ってみた(後編)

前回はNVIDIA Dockerを使えるようにするところまでを行いました。 tech.virtualtech.jp 前編でRancherとGPUコンテナーを実行可能なノードは用意しましたので、今日はまずRancherにホストを登録してみます。 Rancherにホストを追加する Rancherにブラウザーで…

RancherOS + RancherでNvidia Dockerホストを使ってみた(前編・構築編)

RancherOS + RancherでNvidia Dockerホストを使ってみました。 これまでの検証でコンテナーでGPUを使うことはできるようになったものの、もう少しわかりやすくコンテナーを管理できないかなと思いRancherOSとRancherを使ったら割と便利だったので、ブログに…