UltraRAG
UltraRAG copied to clipboard
如何在cpu中运行该项目?
我的笔记本缺少GPU,如何使用dockers在cpu中运行体验下该项目?
我们优化了代码逻辑。
如果只需要检索功能,您只需要将gpu_ids设置为null即可。请将docker中的faiss替换为cpu版本。
生成模型推荐使用api服务,否则cpu运行会非常慢。