lhtpluto

[BUG] ERROR: OSError: 从文件 samples/XXX 加载文档时出错：cannot find loader for this WMF file

2

**问题描述 / Problem Description** 用简洁明了的语言描述这个问题 / Describe the problem in a clear and concise manner. 知识库文件上传的文件，添加至向量库时发生 V12.2.docx 大小约36MB [dosubot](https://github.com/apps/dosubot)的回答时文档中一个图片的问题，但实际上在知识库问答中，完全没有这个文档的任何内容。 **实际结果 / Actual Result** 描述实际发生的结果 / Describe the actual result. 2024-02-16...

LLM_Type='moss'： The model weights are not tied. Please use the `tie_weights` method before using the `infer_auto_device` function

4

启动参数如下： (D:\temp ai\wenda\env) D:\temp ai\wenda>python wenda.py -t moss Namespace(Config='config.yml', LLM_Type='moss', Logging=None, Port=None) 启动报错如下： The model weights are not tied. Please use the `tie_weights` method before using the `infer_auto_device` function.

[BUG] ERROR: TypeError: Caught exception: object of type 'NoneType' has no len()

3

**问题描述 / Problem Description** 用简洁明了的语言描述这个问题 / Describe the problem in a clear and concise manner. 使用Qwen1.5-72B-Chat时，chat回答一半报错ERROR: TypeError: Caught exception: object of type 'NoneType' has no len() 使用Qwen1.5-72B-Chat-GPTQ-Int8时，chat回答直接报错ERROR: TypeError: Caught exception:...

finetune_moss.py 中修改如下 accelerator = Accelerator(mixed_precision='fp8') 环境用的nvidia的容器 nvcr.io/nvidia/pytorch:23.06-py3 https://catalog.ngc.nvidia.com/orgs/nvidia/containers/pytorch 因计算卡显存不足，DeepSpeed offload cpu 修改 sft.yaml 如下 command_file: null commands: null compute_environment: LOCAL_MACHINE deepspeed_config: gradient_accumulation_steps: 1 gradient_clipping: 1.0 offload_optimizer_device: cpu offload_param_device: cpu zero3_init_flag:...

求 发布像Web MOSS插件版本 另，希望可以使用国内可用的WEB搜索API

CUDA_LAUNCH_BLOCKING=1、TORCH_USE_CUDA_DSA

4

bash run.sh finetune_moss.py 出现异常 RuntimeError: CUDA error: out of memory CUDA kernel errors might be asynchronously reported at some other API call, so the stacktrace below might be incorrect. For...

dpo 的lora权重 没有提取码

2

dpo 的lora权重 没有提取码

[BUG] not enough values to unpack (expected 2, got 0)

2

使用知识库对话时，反馈 not enough values to unpack (expected 2, got 0) 操作系统：Linux-6.8.0-40-generic-x86_64-with-glibc2.35. python版本：3.11.9 (main, Apr 19 2024, 16:48:06) [GCC 11.2.0] 项目版本：0.3.1.3 langchain版本：0.1.17 数据目录：/root 当前使用的分词器：ChineseRecursiveTextSplitter 默认选用的 Embedding 名称： bge-m3 模型是：qwen2-instruct 72B-AWQ 知识库：...