RockChinQ
[Feature]: 是否能像现有的问答AI一样，提供流式回复用户，deepseek深度思考模型，体感用下来会很卡顿
1.这个功能不可能实现的 微信端限制 除非你不在微信上面用 自己开发程序，直接调流式输出的接口，流式接收就行了 2.还有think过程，过滤不掉除非不用deepseek_r1，或者自己中间加个代码处理一下，只不过这样回复时间就会变的很长了，体验更不好
1.这个功能不可能实现的 微信端限制 除非你不在微信上面用 自己开发程序，直接调流式输出的接口，流式接收就行了 2.还有think过程，过滤不掉除非不用deepseek_r1，或者自己中间加个代码处理一下，只不过这样回复时间就会变的很长了，体验更不好
有没有这种可能，不使用流式输出的接口，当大模型开始输出时，缓存到 队列（Queue） 或 缓冲区（Buffer）中，再一段段的转发到消息端，实现类似流式输出的效果。
类似这种方案应该可行，我查了下貌似这种方法 （缓存后再逐步转发，实现类流式输出） 是一种常见的 伪流式处理 技术，在 AI 生成内容、日志处理、网络传输等场景中都能用到。： import io import time
buffer = io.StringIO()
def model_output(): """大模型输出并存入缓冲区""" for word in ["Hello", "world!", "This", "is", "a", "test."]: time.sleep(1) # 模拟计算延迟 buffer.write(word + " ") # 缓存数据 buffer.flush() # 立即可读
def message_dispatcher(): """逐步读取缓冲区数据""" while True: content = buffer.getvalue() if content: print("\r" + content, end="", flush=True) # 模拟流式输出 time.sleep(0.5)
import threading threading.Thread(target=model_output).start() threading.Thread(target=message_dispatcher).start()
