sunshinesDL issues

Results 8 issues of


                                            sunshinesDL

[BUG/Help] <推理时，如何使用数据并行呢？>

### Is there an existing issue for this? - [X] I have searched the existing issues ### Current Behavior 求问各路大佬，在做推理时，如何使用数据并行在多张卡上同时进行推理呢（每张卡显存为32G）？我尝试了传统模型（BERT）做数据并行的方式，相关代码如下：然后发现并不能在多卡上放置多个模型备份，且运行时会报错，猜想项目中应该有实现好的关于 “推理数据并行”的函数，不过菜鸡的我还没有找到，希望各路大神指点！！ @cifangyiquan @yfyang86 ```python os.environ['CUDA_VISIBLE_DEVICES'] = args.gpu device...

[BUG/Help] <推理时，如何使用数据并行呢？>

如何运行光标提示

请问各位大佬以及宝藏博主，Win11系统的搜狗输入法，如何才能开启光标提示功能呢？

求教如何设置解码方式=贪婪解码（greedy decoding）？

问题如上，经查看 /blob/main/modeling_baichuan.py 文件，发现可以为 chat() 方法设置 generation_config 参数来更改解码方式，故有如下实现： `generation_config = { "pad_token_id": 0, "bos_token_id": 1, "eos_token_id": 2, "user_token_id": 195, "assistant_token_id": 196, "max_new_tokens": 2048, "temperature": 0.3, "top_k": 5, "top_p": 0.85, "repetition_penalty": 1.1,...

可以详细介绍下中资料中的面经和工具踩坑的经验吗

嘉宁博主您好，我看过您在各大公众号上分享的很多 nlp 领域的知识干货，当前主要对面试经验较感兴趣，想问下您这次整理的面试经验丰富吗，可否更加详细地介绍下呢？期待您的回复，祝好！

对于一条推文文本，可以只进行命名实体识别任务吗？

各位大佬好，想问一下 hugnlp 框架对于 NER 任务的使用，在 readme 中看到了结合了 NER 的关系抽取示例，但没有找到仅执行 NER的示例，请问有同学试过吗，或者作者大大可以给一个相关的案例吗？

反馈预设的 “发送/换行” 中的「默认」模式 bug

笑来老师及 insidebar-ai 的开发者好，我在 Windows11下的 chrome 浏览器中使用 insidebar-ai（1.6.0），发现「键盘 ➡️ 预设（选择常见的按键组合模式）」中的「默认（回车 = 发送，shift+回车 = 换行）」模式好像有个 bug。表现为在 ChatGPT 和 Google-AI Mode 的输入框中，在输入法的中文输入模式下输入英文单词，如 issue，然后敲击键盘的回车键，此时我的本意是在输入框中输入该单词，但却会直接把该单词发送给 AI，在不启用 insidebar 时没有该问题。不知我是否表达得清楚，供您参考，祝好！

可否添加一个在标签页和 insidebar 间切换的快捷键 😂

如题，目前发现在浏览器标签页和 inside-bar 间切换有两种方式： * 鼠标点击（会打断键盘工作流） * 使用 `ctrl+shift+E` 关闭 insidebar，光标自动跳转到标签页，然后再打开 insidebar，但在 ChatGPT 中发现关闭再打开 insidebar 后，会自动跳转到 “新聊天” 页面，想要打开之前的聊天还要用鼠标点击，不太方便供笑来老师和开发者参考 😁