Local LLM
ローカルLLMといえば、OllamaとかLM Studioがよくツールとして挙げられます。 どちらも普段使っているツールです。 最近、vLLMというのがあるのを知りました。 vllm.ai そこで早速使ってみようと、まずはCPU版で動かしてみることにしました。 CPU版のvLLMはC…
以前こんな記事を書きました。 tech.virtualtech.jp 内容としてはOllamaと色々なモデルを使って実際の仕事に使ってみるみたいな話でした。 これはこれで面白かったのですが､ただあるものを使っただけだともったいないので､「特定のことを聞くと答えてくれる…
はじめに AIエージェント、今流行っていますよね。 私もChatGPTにCopilot、Claude、Google Geminiなど日々仕事に、プライベートに便利に使っています。 これらは非常に便利ですし、ものすごいスピードで進化し続けています。 しかし、チャットなどでやりとり…
