官方的StableDiffusion3.5模型部署不支持并发(Scheduler并发调度会卡死,默认使用的FlowMatchEulerDiscreteScheduler线程不安全),本项目实现了并发推理。
在执行代码前,你需要先下载StableDiffusion3.5模型,并放置在./models
目录下(提前创建好)。
使用pip安装依赖
pip install -r requirements.txt
sh image_builder.sh
docker-compose up -d
python app.py
你可以将positive_prompt和negative_prompt放置在config下,模型相关配置在models.yml中。