ローカルLLMといえば、OllamaとかLM Studioがよくツールとして挙げられます。 どちらも普段使っているツールです。 最近、vLLMというのがあるのを知りました。 vllm.ai そこで早速使ってみようと、まずはCPU版で動かしてみることにしました。 CPU版のvLLMはC…

例のLinux kernel 7.0になると、PostgreSQLが遅くなる件を調査してみました。 記事によると、現状のLinux 7.0系では、特定条件下のPostgreSQL性能がほぼ半減するとのこと。 xenospectrum.com www.phoronix.com 先に手元の環境のVirtualBoxでUbuntu 24.04の環…

今回の記事はKubernetesとKueue、そしてKubeflowを連携したGPUの利用に関してです、 KueueやKubeflowは感嘆にまとめるのが難しかったため、前編、中編、そして今回の後編の3つ二分割しました。 Kueueの基礎については、前編に書いているつもりです。 tech.vi…

Kueueの概要については、前編にまとめています。 tech.virtualtech.jp Kubernetes GPU + Kueue セットアップ手順書（Kueue入門 + Workload Lifecycle） このドキュメントは GPUを搭載したKubernetesクラスタでGPUを利用し、Kueueを使ってジョブの順番実行（…

このブログでずいぶん前に「KubernetesでGPUをつかう」と言った内容の記事を書いたことがあります。 最近の「KubernetesでGPU」って言うとどんな感じなのかなと思って公式のドキュメントを見たものの、標準の機能としては特に大きく変更は無いようでした。 K…

Vim に細工されたファイルを開くだけで任意のOSコマンドが実行されるという脆弱性が報告されています（CVSS 8.2、高危険度）。 Vim のコア部分（tabpanelオプションのセキュリティフラグ欠落 + sandboxエスケープ）の欠陥です。 Vim 9.2.0272未満のバージョ…

導入 CodeReady Containersは以前ブログにも書いたように、ワンバイナリーで個人で使うOpenShiftの評価環境を構築できるツールです。名前がずいぶん前に変わって、OpenShift Localと言う名前で今も開発されています。 OpenShift Localを触って見ようといざ検…