bisheng icon indicating copy to clipboard operation
bisheng copied to clipboard
verified publisher icon dataelement

能否提供一个如何使用VLLM框架已配好的模型后端服务配置CustomLLMChat的详细操作手册呢？

Open SmallRiceCake2022 opened this issue 1 year ago • 1 comments

开发者文档中的说明没写得很细，初学者看不懂

SmallRiceCake2022 avatar Jun 28 '24 08:06 SmallRiceCake2022

vllm部署的openai风格服务，用CustomLLMChat调用 也是400入参错误

tete3421 avatar Jul 31 '24 06:07 tete3421