John Chen
John Chen
那你估计得自己封装一层,来实现滑动窗口算法了
这是因为gemini1.5的模型,只在谷歌/v1beta预览版目录下,而这里接入的是gemini的正式版,也就是/v1的路径
找到原因了,原因在我这边。我的账户申请1.5的模型权限还没通过,无法调用 ---- 回复的原邮件 ---- | 发件人 | ***@***.***> | | 日期 | 2024年04月14日 18:38 | | 收件人 | ***@***.***> | | 抄送至 | John ***@***.***>***@***.***> | | 主题 | Re:...
> 大哥们 建议先把对接各个provider文档写好,再讨论商业化,不然新用户都转其他平台上面了,这个是作为一个新用户的建议。 还有啥类似的平台吗?
https://github.com/pgvector/pgvector/issues/719 这个issue被关闭了。另外我将插件的版本已经升级到了0.8.0了,问题依旧存在
没有,我仅仅是升级了插件版本,并在V4.8.22版本上测试
咱们的查询语句是不是应该增加SET hnsw.iterative_scan = on; 开启迭代器
我修改了源码中的如下语句,增加了打开迭代器的配置,但是问题依旧 ```sql const results: any = await PgClient.query( ` BEGIN; SET hnsw.iterative_scan = on; SET LOCAL hnsw.ef_search = ${global.systemEnv?.pgHNSWEfSearch || 100}; select id, collection_id, vector '[${vector}]' AS score from ${DatasetVectorTableName}...
测试方法: 分别配置和调整如下3个参数,在console中进行测试 SET hnsw.scan_mem_multiplier = 2; (调整范围1-8) SET hnsw.max_scan_tuples = 20000; (调整范围1000000-20000) SET hnsw.iterative_scan = relaxed_order;(调整范围strict_order/relaxed_order) 测试结论: 1. 增加SET hnsw.iterative_scan = relaxed_order;后,能够部分解决(我这边数据集场景下,limit100 能出来4条,耗时229ms) 2. 调整hnsw.scan_mem_multiplier和hnsw.max_scan_tuples 这两个值,能够提高limit 100情况下,返回的数据。但同时也增加了耗时,特别是scan_mem_multiplier值的增加会成倍增加耗时(当scan_mem_multiplier=2时,耗时提高到了3228ms)。 但是: 如果在代码中调整为如下内容,则所有的向量搜索都返回空结果。: ```...
后来用docker跑jellfin,可以正常硬解了 ---- 回复的原邮件 ---- | 发件人 | ***@***.***> | | 日期 | 2024年12月21日 19:29 | | 收件人 | ***@***.***> | | 抄送至 | John ***@***.***>***@***.***> | | 主题 | Re:...