models icon indicating copy to clipboard operation
models copied to clipboard
verified publisher icon PaddlePaddle

BERT/ERNIE下跑squad模型，CPU内存一直增长

Open 0YuanZhang0 opened this issue 6 years ago • 5 comments

squad模型在加载完examples数据后，以生成器的方式产生和yield数据，理论上，CPU内存会在一个范围内，不会呈线性增长，目前大规模数据训练或者预测会因为内存问题挂掉；

0YuanZhang0 avatar Sep 11 '19 09:09 0YuanZhang0

排查reader问题：使用py_reader或者datafeed的方式，内存都会增长； 怀疑存在内存泄漏问题

0YuanZhang0 avatar Sep 11 '19 09:09 0YuanZhang0

请问下你的运行环境是什么，paddle版本，数据量多大呢

zhengya01 avatar Sep 16 '19 03:09 zhengya01

paddle 版本1.5.0 python版本2.7.11 数据量：直接使用官方的squad1.1和squad2.0都会出现内存增长问题

0YuanZhang0 avatar Sep 16 '19 03:09 0YuanZhang0

请问下你跑了多久

zhengya01 avatar Sep 24 '19 09:09 zhengya01

@0YuanZhang0 请问后来怎么解决的啊，遇到同样的问题

Wanjun0511 avatar Sep 07 '21 08:09 Wanjun0511