曾彦博

Results 14 comments of 曾彦博

支持的,mixtral 8x7b还有gpt4-1106。不过也许还有其他变量影响这个问题,没法定位问题的具体位置。有空我再看看什么情况。

> ![image](https://private-user-images.githubusercontent.com/50446880/298814006-5a8b8a91-1d15-4dec-a440-6ef773423c47.png?jwt=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJnaXRodWIuY29tIiwiYXVkIjoicmF3LmdpdGh1YnVzZXJjb250ZW50LmNvbSIsImtleSI6ImtleTUiLCJleHAiOjE3MDU5OTAwNjcsIm5iZiI6MTcwNTk4OTc2NywicGF0aCI6Ii81MDQ0Njg4MC8yOTg4MTQwMDYtNWE4YjhhOTEtMWQxNS00ZGVjLWE0NDAtNmVmNzczNDIzYzQ3LnBuZz9YLUFtei1BbGdvcml0aG09QVdTNC1ITUFDLVNIQTI1NiZYLUFtei1DcmVkZW50aWFsPUFLSUFWQ09EWUxTQTUzUFFLNFpBJTJGMjAyNDAxMjMlMkZ1cy1lYXN0LTElMkZzMyUyRmF3czRfcmVxdWVzdCZYLUFtei1EYXRlPTIwMjQwMTIzVDA2MDI0N1omWC1BbXotRXhwaXJlcz0zMDAmWC1BbXotU2lnbmF0dXJlPTM4ZDQ2MmU2YmNiYWQ0Y2U5YWIzOTIwZDQyOGJkNjU4ZTQzYzYwM2I4NzVmNmUzNTI3NmU5NzI2MzE5OTNkZDEmWC1BbXotU2lnbmVkSGVhZGVycz1ob3N0JmFjdG9yX2lkPTAma2V5X2lkPTAmcmVwb19pZD0wIn0.p3xft_M4QWVen-qAyJDEYc_AsEmpz-LF8_Gqh5Jv2S4) 体现在什么地方?有例子么 体现在用包含LaTex的内容去产生QA时,数据集中的\nu \nabla等就会转义。我不知道怎么排查了。似乎光prompt用//没用,因为这只是个引导。

![image](https://github.com/labring/FastGPT/assets/34698908/e1f2ed10-7417-45a1-98a3-cd6d7fd1ff99) 红色处的换行就是\nu中的\n被换行了

实在有点摸不着头脑,一会好一会坏的。。。之前关于问题的表述应该是有问题的。我看看再继续反馈吧。

似乎与问答拆分有关: 原始文件: [test.txt](https://github.com/labring/FastGPT/files/14019383/test.txt) 直接拆分(没有问题): ![image](https://github.com/labring/FastGPT/assets/34698908/64f7531a-2bef-41ec-8b03-7097bd6d315c) 问答拆分(有问题,所有\n都变成了换行): ![image](https://github.com/labring/FastGPT/assets/34698908/0ad8e7a0-4fda-4440-8416-aa1a2f58d69e) ![image](https://github.com/labring/FastGPT/assets/34698908/ae42b4f4-c66c-4c0a-8bf4-d5608e4dbf0c)

猜测是因为这一行,准备测试一下。 https://github.com/zenyanbo/FastGPT/blob/253c143a5206b3196f53613f6314af4929f8835f/projects/app/src/service/events/generateQA.ts#L215

![image](https://github.com/labring/FastGPT/assets/34698908/6cc244b6-a63d-471e-8706-04002a0787a2) 注释了似乎就好了,不知道会不会有啥副作用。

我的办法是修改了正则表达式:/\\n\W/g 另外,对话页面的latex也有问题,我也是用.replace(/\\n\W/g, '\n ')解决的

我把内置提示词去掉了(因为azure模型的知识库日期有问题),所以应该只剩下自己的。另外chatgptweb回复也比fast长,所以我现在很好奇,是什么影响到了输出长度。我准备去你们代码那注释掉max_token,保证所有参数一致再看看

奇怪,难道我这哪有问题。我排查一下