ローカルで動作する vLLM 、いわゆるローカル LLM を Cloudflare Workers と Workers AI を使って公開する方法を紹介します。 Cloudflare Workers とローカルマシンの接続には Workers VPC(Cloudflare Mesh) を使用しています。
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。