heimy2000
heimy2000
> 已经支持了,xlsx 转换为csv 问题不大,但是我试了下效果不好 ,有人找出靠谱的 embedding 方式 可以分享下 我也是做研究的,我的计划是提取行和列去检索,这样效果会好一些(我的是python),但也会出现一些问题
> 用fastchat部署AgentLM-13B,推理的时候格式是乱的,尤其是streaming的模式,每行只有几个字符就切换到下一行了,一个单词被切成了好几个字母或字母组合。如果手动用transformer加载并用gradio展示的话就没有这个问题,用fastchat的debug模式看了一下,用的是LlamaForCausalLM加载的模型,应该没错 老师,请问您是怎么操作的呢
> 你好,在使用数据库问题回答时,数据召回似乎正常,但rerank时报错了。 在chat_data-chatollama-1 的日志日这样的: > > ``` > Knowledge base file created with ID: 2 > URL: /api/models/chat User: null > Chat with knowledge base with id: 1 > Knowledge...
> > > 你好,在使用数据库问题回答时,数据召回似乎正常,但rerank时报错了。 在chat_data-chatollama-1 的日志日这样的: > > > ``` > > > Knowledge base file created with ID: 2 > > > URL: /api/models/chat User: null > > >...
> 是的,我在这里也进行了修改,但依旧是报了原始的那个错误~很奇怪~~@heimy2000 docker没用镜像
> Jina Reranker v2出来了,大佬们要不要考虑升级一下? > > ``` > 多语言:在100多种语言中提供更相关的搜索结果,性能超过bge-reranker-v2-m3; > Agentic:为Agentic RAG提供最先进的函数调用和文本到SQL重排; > 代码检索:在代码检索任务上表现最佳; > 极速:文档吞吐量是bge-reranker-v2-m3的15倍,是jina-reranker-v1-base-en的6倍。 > ``` 自己部署,改一下env就可以