挨踢小茶
> @Narsil would something like this work now? > > ``` > model = StableDiffusionPipeline.from_pretrained("runwayml/stable-diffusion-v1-5", torch_dtype=torch.float16) > model.scheduler = DPMSolverMultistepScheduler.from_config(model.scheduler.config) > model.unet.load_attn_procs(model_path, use_safetensors=True) ###model_path = 'xxx.safetensors' > ``` I tried...
I used 8xA100 with same settings and this message would gone..
> 我也在dify使用中出现了该问题。 我用VLLM部署为OpenAI接口，在dify作为一个节点作为LLM，偶发该问题。奇怪的是我直接问LLM相同的东西没有问题。 这个有解决吗？我遇到同样问题。
我这里好像解决了，是在Dify的LLM设置里面把stop token手动协商和能解决。Dify在去调用vllm的时候会带上这个参数
same here, another day later
This feature is awesome, I have built a docker image and run this on my env, which works well. Hope it will be merged into the official branch.
动态数据库的输入的Array应该是怎样的格式呀？我串起来发现识别不了，好像没起作用，不知道为什么。
> 动态数据库的输入的Array应该是怎样的格式呀？我串起来发现识别不了，好像没起作用，不知道为什么。 我在前面一个node产生这个数组，然后动态RAG引用老是不成功。但如果手动把知识库加到固定知识库列表，同样的query是可以召回的。是我的数据格式弄错了吗？ { "result": [ "1c6de3c6-9baa-4572-ac4a-ff797d21fa77" ] }
> > 动态数据库的输入的Array应该是怎样的格式呀？我串起来发现识别不了，好像没起作用，不知道为什么。 > > 我在前面一个node产生这个数组，然后动态RAG引用老是不成功。但如果手动把知识库加到固定知识库列表，同样的query是可以召回的。是我的数据格式弄错了吗？ > > { "result": [ "1c6de3c6-9baa-4572-ac4a-ff797d21fa77" ] } 已经解决了