InferLLM
InferLLM copied to clipboard
希望可以封装openai兼容API
现有系统仅有Cli方式,应用不便。封装成api就可以供各类应用调用了。 chatglm项目中就有api。 希望可以加入。感谢。