Chunyang

[Question]:bert static目录下pretrain代码bug

2

### 请提出你的问题 您好， 使用https://github.com/PaddlePaddle/PaddleNLP/blob/release/2.4/model_zoo/bert/static/run_pretrain.py做训练时程序会卡在：  经debug发现代码有个bug:  按照此写法两个值都是1，程序不会执行，修改f_start_id+1->f_start_id程序可以跑起来。  想跟官方确认此处bug以及修改是否合理。

[Question]: bert fintune时数据下载失败

2

### 请提出你的问题 您好， 我运行bert的fintune代码时，屏幕显示下载数据这个过程很慢，而且总是失败！请问找个有什么其他办法吗？  RuntimeError: Download from https://bj.bcebos.com/dataset/glue/SST.zip failed. Retry limit reached x谢谢！

bert base fintune报错：AttributeError: 'paddle.fluid.core_avx.Tensor' object has no attribute 'astype'

3

### 请提出你的问题 使用bert static目录下代码使用官方例子进行fintune。报错：AttributeError: 'paddle.fluid.core_avx.Tensor' object has no attribute 'astype'  我的运行环境： python==3.8 paadlepaddle-gpu==2.3.2 paddlenlp==2.4.2

bert staric 运行预测脚本无结果输出

1

### 请提出你的问题 按照官方脚本对fintune后的模型进行测试，运行预测脚本：  无输出结果。屏幕截图如下： 

您好，使用THUDM/Fastertransformer 8卡推理报错，脚本为FasterTransformer/examples/pytorch/glm/benchmark-generation.sh 报错信息如下： RuntimeError: [FT][ERROR] Assertion fail: /home/young.ruan/FasterTransformer/src/fastertransformer/th_op/glm/GlmOp.h:539 

GLM 团队您好！ GLM 130B int8 8卡推理遇到一个问题：RuntimeError: probability tensor contains either `inf`, `nan` or element < 0answers, answers_with_style, blanks = fill_blanks(raw_text, model, tokenizer, strategy) 1.模型部署成功：  2.input 输入后推理报错：RuntimeError: probability tensor contains...

TypeError: '>' not supported between instances of 'str' and 'int'

1

hi~ i meet the error, TypeError: '>' not supported between instances of 'str' and 'int'. The error img is:  **This is my script:** import numpy import onnx_tool #from onnx_tool...

dynamic bs input model error

1

I use tool to analyse onnx model meet the error: Traceback (most recent call last): File "onnx_dynamic_analyse.py", line 92, in onnx_tool.model_profile(model, input, savenode=save_path, hidden_ops=[]) File "/usr/local/lib/python3.8/site-packages/onnx_tool/__init__.py", line 84, in model_profile...

FileNotFoundError: [Errno 2] No such file or directory: '/home/young.ruan/onnxsim_large_model/simple_onnx/349fb200-3fc2-11ee-81a6-bc224705bc66'

1

Hi ~ I use the tool to simple GPT-3 large。i get the error ~ please help,thx! FileNotFoundError: [Errno 2] No such file or directory: '/home/young.ruan/onnxsim_large_model/simple_onnx/349fb200-3fc2-11ee-81a6-bc224705bc66'