Hexiao Zhang
Hexiao Zhang
**例行检查** [//]: # '方框内填 x 表示打钩' - [x] 我已确认目前没有类似 features - [x] 我已确认我已升级到最新版本 - [x] 我已完整查看过项目 README，已确定现有版本无法满足需求 - [x] 我理解并愿意跟进此 features，协助测试和提供反馈 - [x] 我理解并认可上述内容，并理解项目维护者精力有限，**不遵循规则的 features 可能会被无视或直接关闭** **功能描述** 现在 Rerank 模型的...
``` sampling params: SamplingParams(n=1, best_of=1, presence_penalty=0.0, frequency_penalty=0.0, repetition_penalty=1.0, temperature=0.7, top_p=1.0, top_k=-1, min_p=0.0, use_beam_search=False, length_penalty=1.0, early_stopping=False, stop=[], stop_token_ids=[7], include_stop_str_in_output=False, ignore_eos=False, max_tokens=3736, logprobs=None, prompt_logprobs=None, skip_special_tokens=True, spaces_between_special_tokens=True) ``` 在v100 32GB上运行，启动脚本为 ```sh CUDA_VISIBLE_DEVICES=2,3 python...
**例行检查** [//]: # '方框内填 x 表示打钩' - [x] 我已确认目前没有类似 features - [x] 我已确认我已升级到最新版本 - [x] 我已完整查看过项目 README，已确定现有版本无法满足需求 - [x] 我理解并愿意跟进此 features，协助测试和提供反馈 - [x] 我理解并认可上述内容，并理解项目维护者精力有限，**不遵循规则的 features 可能会被无视或直接关闭** **功能描述** FastGPT目前支持手动搜索测试，这是一个很有用的功能。然而，为了提高效率并更客观地评估搜索精度，我设想了如下这种自动化方法来评测知识库搜索的准确性。 - 问题生成：调用LLM（大型语言模型）从知识库文档中自动生成相关问题，...
转发 rerank 请求
**例行检查** [//]: # (方框内删除已有的空格，填 x 号) + [x] 我已确认目前没有类似 issue + [x] 我已确认我已升级到最新版本 + [x] 我已完整查看过项目 README，已确定现有版本无法满足需求 + [x] 我理解并愿意跟进此 issue，协助测试和提供反馈 + [x] 我理解并认可上述内容，并理解项目维护者精力有限，**不遵循规则的 issue 可能会被无视或直接关闭** **功能描述** Rerank 已经成为了 RAG...
**例行检查** [//]: # '方框内填 x 表示打钩' - [x] 我已确认目前没有类似 features - [x] 我已确认我已升级到最新版本 - [x] 我已完整查看过项目 README，已确定现有版本无法满足需求 - [x] 我理解并愿意跟进此 features，协助测试和提供反馈 - [x] 我理解并认可上述内容，并理解项目维护者精力有限，**不遵循规则的 features 可能会被无视或直接关闭** **功能描述** 当前的系统使用 Whisper 进行离线语音转录，这种方式存在中文效果一般，延迟大的问题。为了保证语音转录的实时性，提高用户体验，建议将现有的...
我开发了一个中间件，为兼容OpenAI API的Qwen模型服务实现了ReAct工具调用功能。 https://github.com/zhanghx0905/qwen-tools-openai-server 这个中间件能使开发人员能够轻松将 Qwen 的 tool calls 功能集成到上层应用中，克服 vLLM 和 sglang 等现有推理引擎API 的局限。 #247
我开发了一个中间件，为兼容OpenAI API的Qwen模型服务实现了ReAct工具调用功能。 https://github.com/zhanghx0905/qwen-tools-openai-server 这个中间件能使开发人员能够轻松将 Qwen 的 tool calls 功能集成到上层应用中，克服 vLLM 和 sglang 等现有推理引擎API 的局限。
**例行检查** [//]: # '方框内填 x 表示打钩' - [x] 我已确认目前没有类似 features - [x] 我已确认我已升级到最新版本 - [x] 我已完整查看过项目 README，已确定现有版本无法满足需求 - [x] 我理解并愿意跟进此 features，协助测试和提供反馈 - [x] 我理解并认可上述内容，并理解项目维护者精力有限，**不遵循规则的 features 可能会被无视或直接关闭** **功能描述** 希望能够在项目中引入类似 ChatGPT 的高级数据分析功能。具体来说，可以通过上传数据文件并生成交互式表格，允许用户以自然语言的方式进行数据分析和处理任务，例如数据合并、清理、创建图表以及洞察发现。...
**例行检查** [//]: # '方框内填 x 表示打钩' - [x] 我已确认目前没有类似 features - [x] 我已确认我已升级到最新版本 - [x] 我已完整查看过项目 README，已确定现有版本无法满足需求 - [x] 我理解并愿意跟进此 features，协助测试和提供反馈 - [x] 我理解并认可上述内容，并理解项目维护者精力有限，**不遵循规则的 features 可能会被无视或直接关闭** **功能描述** 支持在聊天框上传文件后，允许用户以语音对话。 **应用场景** **相关示例**
**例行检查** [//]: # '方框内填 x 表示打钩' - [x] 我已确认目前没有类似 features - [x] 我已确认我已升级到最新版本 - [x] 我已完整查看过项目 README，已确定现有版本无法满足需求 - [x] 我理解并愿意跟进此 features，协助测试和提供反馈 - [x] 我理解并认可上述内容，并理解项目维护者精力有限，**不遵循规则的 features 可能会被无视或直接关闭** **功能描述** 为了提升移动端用户的语音输入体验，建议优化语音输入功能，参考微信的语音输入逻辑。具体建议包括： - （主要）提供长按语音按钮进行录音、松开按钮自动发送的交互模式，以减少操作步骤，提高用户效率。...