Nanuion

I met the same problems too! so what should I do to solve this problem?

Does anyone know how the pos and neg metrics mentioned in the article are implemented in code?

Does anyone know how the pos and neg metrics mentioned in the article are implemented in code?

请问lora微调后部署，服务器内部可以通过curl ..进行访问，但是如果利用另一个服务器调用该接口（ip更换为服务器的地址），则收不到对应的请求，这种是怎么回事呀

> > 请问lora微调后部署，服务器内部可以通过curl ..进行访问，但是如果利用另一个服务器调用该接口（ip更换为服务器的地址），则收不到对应的请求，这种是怎么回事呀 > > host使用0.0.0.0 0.0.0.0可以在部署的服务器A内部正常访问，但是在其他服务器B上不能通过0.0.0.0进行访问， 其他服务器B在调用该端口时，访问的IP地址已经更换为服务器A的ip，可是被部署的服务器A仍然收不到请求

> > > 请问lora微调后部署，服务器内部可以通过curl ..进行访问，但是如果利用另一个服务器调用该接口（ip更换为服务器的地址），则收不到对应的请求，这种是怎么回事呀 > > > > > > host使用0.0.0.0 > > 0.0.0.0可以在部署的服务器A内部正常访问，但是在其他服务器B上不能通过0.0.0.0进行访问， 其他服务器B在调用该端口时，访问的IP地址已经更换为服务器A的ip，可是被部署的服务器A仍然收不到请求 部署的指令为：CUDA_VISIBLE_DEVICES=1 swift deploy --ckpt_dir /home/swift/output/glm4v-9b-chat/v10-20240729-060457/checkpoint-60-merged --port 8005 --model_type glm4v-9b-chat 访问的指令为：Curl http://10.279.86.11:8005/v1/chat/completions -H "Content-Type: application/json"...