elesun2018

Results 15 issues of elesun2018

能否提供下数据集下载链接,谢谢

@ubuntu:~/fpn/FPN-caffe/caffe-FP_Net$ make -j8 /usr/bin/ld: cannot find -lhdf5_serial_hl /usr/bin/ld: cannot find -lhdf5_serial /usr/bin/ld: cannot find -lopencv_imgcodecs /usr/bin/ld: cannot find -lopencv_videoio collect2: error: ld returned 1 exit status make: *** [.build_release/lib/libcaffe.so.1.0.0-rc3] Error...

deepspeed hostfile多机多卡分布式训练时出现以下问题: Traceback (most recent call last): worker0: File "finetune_XrayGLM.py", line 173, in worker0: args = get_args(args_list) worker0: File "/home/sfz/soft/miniconda3/envs/test/lib/python3.8/site-packages/sat/arguments.py", line 360, in get_args worker0: raise ValueError( worker0: ValueError: LOCAL_RANK...

请问是如何保证训练的垂直行业大模型仍然具有较强的广泛知识问答能力(多轮对话)的 如下图所示的效果: ![image](https://github.com/WangRongsheng/XrayGLM/assets/37207093/879d0c87-9672-4e81-91b0-53c575ac1caa) 数据格式如下图: ![image](https://github.com/WangRongsheng/XrayGLM/assets/37207093/84cb85cf-45bc-4204-8e41-34d2cd5e596f) ![image](https://github.com/WangRongsheng/XrayGLM/assets/37207093/d67e2c72-8516-49e4-b0e4-01547f1e880a) prompt问题如何设计? label答案描述内容也要具备丰富性吗? 如何设计多轮对话? 谢谢

deepspeed hostfile多机多卡分布式训练时出现以下问题: Traceback (most recent call last): worker0: File "finetune_XrayGLM.py", line 173, in worker0: args = get_args(args_list) worker0: File "/home/sfz/soft/miniconda3/envs/test/lib/python3.8/site-packages/sat/arguments.py", line 360, in get_args worker0: raise ValueError( worker0: ValueError: LOCAL_RANK...

![image](https://github.com/THUDM/VisualGLM-6B/assets/37207093/f1bdb1f4-6071-4112-836a-f625c5e6e9e3) 的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走 的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路 走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的 路走的路走的路走的路走的路走的路走的路走的路走的路走的路')] api.py ```shell echo "{\"image\":\"$(base64 path/to/example.jpg)\",\"text\":\"描述这张图片\",\"history\":[]}" > temp.json curl -X POST -H "Content-Type: application/json" -d @temp.json http://127.0.0.1:8080 问题一样,服务响应 的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路')] error: index 2055 is out of bounds...

基于VisualGLM6B多模态大模型,进行finetune 按照readme已训练完成fewshot-data,观察到背景能力理解增强了。 但是在finetune自己数据集的时候,出现了严重的过拟合,请问如何进行调教大模型 训练参数需要特别注意什么,谢谢

多轮对话是采用这个吗 chat_old_history_to_prompt 如果数据标签为图文对:问1,答1,问2,答2 chat_old_history_to_prompt生成prompt=问1,答1,问2,预测结果与答2计算loss ? 这样的一条数据:问1,答1,问2,答2。要在网络里面训练几次? 第一次:训练 prompt=问1,第二次训练prompt=问1,答1,问2 ? 对于dataset.py有应该如何读取多轮对话数据标签: ![image](https://github.com/THUDM/CogVLM/assets/37207093/f679cded-0bfb-4544-8996-2984cd794b58) 使用sat格式微调,如何进行多轮对话训练。 主要修改哪部分代码可以实现多轮对话训练。 是要调用chat_old_history_to_prompt吗 ![image](https://github.com/THUDM/CogVLM/assets/37207093/dc6c26e6-a445-461b-a3a6-9ae78abcb84f) 应该基于哪个模型训练自有多轮对话数据集 多论对话和单轮对话数据集读取方面有差异吗 ![image](https://github.com/THUDM/CogVLM/assets/37207093/e3992d69-4425-40a8-ac6f-daff0108efa4)

请问CogVLM大模型断点继续训练如何设置配置 ![image](https://github.com/THUDM/CogVLM/assets/37207093/9dc9dea8-5e2a-4175-838b-c3b635bde52f) ![image](https://github.com/THUDM/CogVLM/assets/37207093/37c0702f-8e71-4263-a3bd-99ebfcf288ca) args.load ![image](https://github.com/THUDM/CogVLM/assets/37207093/732e9a4e-f943-4f92-87d3-462299ebec2f) 谢谢

运行web demo时出现error message list index out of range ![5947a0741b9b837778161f0b826e46f](https://github.com/THUDM/CogVLM/assets/37207093/20ada1a5-a480-4ed8-bb19-59b08c2c3018) ![5df8a0902afc857bdc05b8668174278](https://github.com/THUDM/CogVLM/assets/37207093/74b088c6-041e-49a7-b041-e0a0f8d08ee4) 是使用模型哪里不对吗? 还有个问题:finetune训练时 finetune-cogvlm-01-17-10-02 merged_lora_cogvlm490 有什么区别,推理时应该用哪个? merge layer 61 lora attention back to linear为什么要做这个操作 还有个问题:web demo加载finetune模型时出现killed,对资源内存要求会更高吗? ![f1a447fa6ab30f6e488489e3701dfa4](https://github.com/THUDM/CogVLM/assets/37207093/51c72e3e-f2ad-4e2d-b616-b09dcf3dda21)