Jack Zhou comments

Results 5 comments of


                                            Jack Zhou

最近在学习nlp客户机器人，在ai studio上有不少案例，但发觉通用性不强，有没有简单点的对话机器人案例

@mjx18 你好，这里有个基于UnifiedTransformer的人机对话示例，你看看是否可以解决你的问题？如果数据量小、对话简单的话，可以尝试使用参数量较少的`plato-mini`预训练模型 https://github.com/PaddlePaddle/PaddleNLP/tree/develop/examples/dialogue/unified_transformer

使用 FasterTokenizer 加速

> 模型抽向量速度太慢了，用neural_search这个应用，抽向量10s，可以参考ernie3裁剪、量化吗？添加use_faster=True，需要先安装faster_tokenizer。试试使用`pip install faster_tokenizer`

GPU编译报错 subprocess.CalledProcessError: Command '['D:\\Anaconda3\\Library\\bin\\cmake.exe', '--build', '.', '--config', 'Release', '--', '/maxcpucount:20']' returned non-zero exit status 1.

@monkeycc 你好，目前已经更新了ENABLE_TEXT=ON的依赖库了，辛苦先清空.setuptools-cmake-build的缓存，拉一下最新代码，再重新编译试试

想问下关于openvino的核显推理加速大概什么时候添加支持?

@kc-w 您好，我下面的PR修复了指定路径仍然自动下载OpenVINO的bug，您拉一下最新代码，把之前编译缓存的文件清空重新编译一下试试。 https://github.com/PaddlePaddle/FastDeploy/pull/348

[Model] Add text classification task for ernie-3.0

先开发ernie-3.0 文本分类任务 TODO：开发序列标注任务。