LKAMING

> > > 只会输出10个推理结果 这个原因是需要设置一下 val_dataset_sample 参数 设置为-1 > > > > > > val_dataset_sample参数好像并没有找到可以修改的地方 > > 我使用的命令是 `CUDA_VISIBLE_DEVICES=1 swift infer --ckpt_dir checkpoint-XXX --val_dataset_sample -1 --custom_val_dataset_path XXX` 可以单独输入测试集进行推理。 > >...

您好，我还有一个问题想请教一下，脚本里面这个，  在代码里面找不到对应的，只能找到  两者是否一致呢

你好大佬，作为一名刚接触模型量化的学生很喜欢您的工作，我是有以下一些疑问的，想知道通过这样量化感知训练（伪量化？）后的模型大小为什么会没变的，是需要进一步的后处理才能成为量化模型？还是这样训练后的模型的就已经是默认量化好的，可以进行部署了

> 目前量化模型存储时还是用float32存储的，所以模型大小没变。如果要减小模型大小，需要将模型转成低比特进行存储 但是里面的权重激活已经是低比特了是吗

您好，感谢大佬的回答，如果我想进一步得到可部署的模型，经过SAQ训练后保存下来的模型还需要什么步骤呢 ------------------ 原始邮件 ------------------ 发件人: liujingcs ***@***.***> 发送时间: 2023年8月12日 14:08 收件人: ziplab/SAQ ***@***.***> 抄送: LKAMING ***@***.***>, Author ***@***.***> 主题: Re: [ziplab/SAQ] 代码问题请求帮助 (Issue #1) 权重是的，激活值需要量化后才是低比特。比如说权重的范围是[0,1]，那么量化到2-bit之后，量化之后的值就只有{0, 1/3, 2/3, 1} — Reply...

I would like to ask how the lead-wise grad cam is calculated. Using it, the output of GradCAM in Captum is directly 1 in the channel dimension. How do you...

> 当时这个是自己想的，你说的是哪篇论文？ 因为我也是刚学习ABSA，我是从一份[论文](https://arxiv.org/abs/2101.00816)和[美团实际应用报告](https://tech.meituan.com/2021/12/09/meituan-aspect-based-sentiment-analysis-daodian.html)学习的，其中美团实际报告的pipline方法与你代码实现相似，然后看到报告提及是基于dual-mrc改进的，然后我就找到对应论文来看

[INFO:swift] generation_config: SamplingParams(n=1, best_of=1, presence_penalty=0.0, frequency_penalty=0.0, repetition_penalty=1.0, temperature=0.3, top_p=0.7, top_k=20, min_p=0.0, seed=None, use_beam_search=False, length_penalty=1.0, early_stopping=False, stop=[], stop_token_ids=[], include_stop_str_in_output=False, ignore_eos=False, max_tokens=2048, min_tokens=0, logprobs=None, prompt_logprobs=None, skip_special_tokens=False, spaces_between_special_tokens=True) [INFO:swift] system: None [INFO:swift] Input...

是否支持服务化部署呢？

Hello,I have a question here. If I want to apply the model to the classification of one-dimensional signals, whether the convolution is changed to 1d, and the effect of partial...