Zhang Wenbin
Zhang Wenbin
### 🐛 Describe the bug I download prompts.csv and run： python train_prompts.py prompts.csv --strategy naive --lora_rank 16 Traceback (most recent call last): File "train_prompts.py", line 122, in main(args) File "train_prompts.py",...
聊天内容输入超过10000个字符系统出现错误，如下图所示： 建议控制输入框最大字符数量，对用户输入进行提示，您已超过了最大输入字符。 实际情况：用户 **环境信息 / Environment Information** - langchain-ChatGLM 版本/commit 号：(例如：v1.0.0 或 commit 123456) / langchain-ChatGLM version/commit number: (e.g., v1.0.0 or commit 123456) 最新版本 - 是否使用 Docker 部署（是/否）：是 / Is...
**Describe the feature you'd like** Support ChatLocalAI having parameters to enable streaming chat. **Additional context**
### 描述该错误 按照官方文档进行环境安装并使用Python3.10环境进行加载模型，模型加载失败如下图所示： 模型加载到内存中，内存快速增长到21GB之后，进程被killed了，导致模型加载失败 ### 环境信息 ### 其他信息 _No response_
I have found that when running the Qwen-7B-Chat model for inference, sometimes the following errors occur, which can cause the entire inference service to malfunction in the future. As shown...
建议支持 https://github.com/THUDM/CodeGeeX2 刚刚发布，根据公布1@pass数据达到了35.9
训练PostNet模型发生错误，训练命令如下： export PYTHONPATH=./ CUDA_VISIBLE_DEVICES=0 python tasks/run.py --config=egs/datasets/videos/May/lm3d_postnet_sync.yaml --exp_name=May/postnet 训练任务可以正确运行起来，但运行到25次迭代时，系统报错了！ 如下图所示： 请问是什么原因造成的？我看错误提示是由于读取lrs3_dataset.py 数据集造成的，是不是由于显存不足？看看哪位好心人可以解答一下！感谢！
**Before you submit an issue, please search for existing issues to avoid duplicates.** **Issue description:** AttributeError: 'LlamaSplitFuseInferStateInfo' object has no attribute 'logn_values' Please provide a clear and concise description of...
python -m sglang.launch_server --model-path /root/autodl-tmp/Yi-6B-Chat --port 8000 --mem-fraction-static 0.9 --tokenizer-mode auto --tokenizer-path /root/autodl-tmp/Yi-6B-Chat --trust-remote-code python3 bench_throughput.py --tokenizer /root/autodl-tmp/Yi-6B-Chat --dataset /root/autodl-tmp/ShareGPT_V3_unfiltered_cleaned_split.json --port 8000 --backend srt --trust-remote-code --num-prompts 2048