NVIDIAのGPUのH100、A100、A30にはマルチインスタンスGPU（以降MIG）という機能が実装されています。 かつては専用ソフトウェアを使って1つのGPUを複数のGPUがあるかのように見せて、対応するアプリケーションで使うことができましたが、 先に挙げたGPUであ…

はじめに K3Sは、Rancher Labsによって開発されている軽量のKubernetesディストリビューションです。コンピューティングリソースが制限されるエッジコンピューティングのユースケースに最適です。x86_64、ARMv7、およびARM64アーキテクチャをサポートしてい…

先日ブラブラとサイトをみていたら、MicroK8s + GPUが割と楽しそうだったので試してみました。 ちなみに30分くらいで動かせました。 参考にした情報 https://microk8s.io/docs/ https://ubuntu.com/blog/using-gpgpus-with-kubernetes https://towardsdatasc…

前回はNVIDIA Dockerを使えるようにするところまでを行いました。 tech.virtualtech.jp 前編でRancherとGPUコンテナーを実行可能なノードは用意しましたので、今日はまずRancherにホストを登録してみます。 Rancherにホストを追加する Rancherにブラウザーで…

RancherOS + RancherでNvidia Dockerホストを使ってみました。 これまでの検証でコンテナーでGPUを使うことはできるようになったものの、もう少しわかりやすくコンテナーを管理できないかなと思いRancherOSとRancherを使ったら割と便利だったので、ブログに…