wim7
wim7
单张卡没问题
有遇到这个情况的没?使用vllm多卡是可以的,fschat多卡就是乱码
> >  看到SearchParam的withFloatVectors方法,入参是‘’Float‘’ ,用float的话,会导致精度丢失,这个有什么解决方案吗? > > 为什么用float会导致精度丢失?据我所知还没有用double向量的模型 float精度只有小数点后7位,milvus存储的向量和embedding转化的向量都不止这些。 存储的向量:  embedding转化的向量:  然后查询的时候只能用float的话,其实是会把精度丢失掉
> > > >  看到SearchParam的withFloatVectors方法,入参是‘’Float‘’ ,用float的话,会导致精度丢失,这个有什么解决方案吗? > > > > > > > > > 为什么用float会导致精度丢失?据我所知还没有用double向量的模型 > > > > > > float精度只有小数点后7位,milvus存储的向量和embedding转化的向量都不止这些。 存储的向量:  embedding转化的向量:  > >...
> > 大概率你这个数据存错了,用了double格式。这点精度对于搜索不会有任何区别 > > 经过提醒。我查看了代码。没有用double,因为定义集合时设置了向量类型是FloatVector,在存储数据时,不能用double格式的,那样会产生“Type mismatch for field 'feature': Float vector field's value type must be List”错误,所以用的List。然后存储的时候向量值是  ,但是在milvus的可视化平台中,存储的向量值和postman中发送的请求参数一致。  他们目前不支持double,至于attu客户端显示的向量小数位数,是因为js会自动补小数,并不能当真。
V1.0.1:  V0.15.3:
The significance of using this tool is that some files are not mandatory. If I directly use file extraction nodes without uploading files, there will be errors. After I encapsulate...
> > The significance of using this tool is that some files are not mandatory. If I directly use file extraction nodes without uploading files, there will be errors. After...
> > > The significance of using this tool is that some files are not mandatory. If I directly use file extraction nodes without uploading files, there will be errors....