你好，当bert 采用 UNILM 方案做文本生成的时候，请问lightseq可以提供 beamsearch的加速功能嘛？

Open zcuuu opened this issue 4 years ago • 4 comments

Nov 26 '21 02:11 zcuuu

Currently not supported. The search module and decoder are coupled together now and we are developing a separate search module. Expected to take one month

Nov 26 '21 03:11 neopro12

thank u

Nov 26 '21 03:11 zcuuu

Hi, 请问你使用light seq对unilm加速了吗？效果怎么样啊？

Feb 28 '22 09:02 zhanghaoie

halo，我只是了解到这个方案，并没有去实践，非常抱歉

Mar 01 '22 05:03 zcuuu

你好，当bert 采用 UNILM 方案做文本生成的时候 ，请问lightseq可以提供 beamsearch的加速功能嘛？

你好，当bert 采用 UNILM 方案做文本生成的时候，请问lightseq可以提供 beamsearch的加速功能嘛？