关于我用 Hostdzire 印度机器生图这件事儿

手里有台 Hostdzire 的印度鸡，16 核 32G，一直没想好拿来干嘛。前阵子 Qwen-Image 2.1 出来，unsloth 很快放了 GGUF，我就琢磨：没显卡，纯 CPU 能不能跑？

先说结论：能跑，图也挺好看，就是慢。512×512 一张大概 24 分钟。

机器

EPYC 7K62，16 个 vCPU，Zen2 架构，只有 AVX2，没有 AVX-512。内存 32G，硬盘 235G，系统 Ubuntu 24.04。显卡是没有的，lspci 里只有一块 VMware 的虚拟显卡。

怎么跑的

用的是 stable-diffusion.cpp。选它主要是不用装 PyTorch 那一大坨，直接吃 GGUF，而且 Qwen-Image 2.1 它第一天就支持了。

编译：

apt-get install -y git cmake build-essential
git clone --depth 1 --recursive https://github.com/leejet/stable-diffusion.cpp
cd stable-diffusion.cpp
cmake -B build -DCMAKE_BUILD_TYPE=Release -DGGML_NATIVE=ON
cmake --build build -j16

模型要三个文件，我全用的 Q8_0 ：

H=https://huggingface.co
curl -fLO $H/unsloth/Qwen-Image-2.1-GGUF/resolve/main/qwen-image-2.1-Q8_0.gguf
curl -fLO $H/unsloth/Qwen3-VL-8B-Instruct-GGUF/resolve/main/Qwen3-VL-8B-Instruct-Q8_0.gguf
curl -fLO $H/unsloth/Qwen-Image-2.1-FP8/resolve/main/vae/qwen_image_2.1_vae_bf16.safetensors

加起来 17G 左右。印度这边拉 HF 挺快，实测 20 到 50MB/s，十来分钟就下完了。VAE 要注意用 2.1 自己的那个，老版 Qwen-Image 的 VAE 不通用。

跑：

./build/bin/sd-cli -t 16 \
  --diffusion-model qwen-image-2.1-Q8_0.gguf \
  --vae qwen_image_2.1_vae_bf16.safetensors \
  --llm Qwen3-VL-8B-Instruct-Q8_0.gguf \
  -p 'A cozy coffee shop storefront at dusk, a wooden sign that reads "HOSTDZIRE CAFE", warm lights, photorealistic' \
  --steps 20 --cfg-scale 6 --sampling-method euler -W 512 -H 512 --diffusion-fa \
  -o out.png

第一张图出来，招牌上 HOSTDZIRE CAFE 一个字母都没错。

到底有多慢

跑的时候 16 个核全满，top 里 1500% 多，steal 是 0，基本就是这颗 CPU 的极限了。

内存峰值 18.5G，32G 的机器跑起来挺宽裕。耗时差不多跟像素数成正比，1024×576 像素是 512² 的 2.25 倍，每步时间是 2.3 倍。

我一开始按算力估的是每步 15 到 40 秒，结果实际慢了一倍多。Zen2 只有 AVX2，矩阵乘吃亏，换成带 AVX-512 或者 AMX 的新 U 应该会好不少，有条件的朋友可以测一下。

另外 CFG 设成 1 能快一倍，因为少跑一遍无条件分支，不过反向提示词就不起作用了。

当然这个 https://huggingface.co/Noctaluna/Noct-Q-Uncensored-Qwen-Image-2.1 这个也是可以跑的