euler
euler copied to clipboard
GPU 上跑显存爆掉,有没有办法embedding在cpu上,计算在GPU上呀
我GPU的显存不够,有没有办法,整个embedding在cpu上,每个batch对应的embedding送到GPU上计算?
我也遇到了这个问题,不知道单机情况下如何实现这个?