百香果nlp(nlp.100xg.cn):欢迎提交人工智能术语、及人工智能公司、NLP公司、大数据公司词条。相比百科类收录更容易通过,并将在这里展现;

加入百香果社群(www.100xg.cn):自然语言处理(NLP ) 、 人工智能(AI)。还可以 申请 自己公司、项目、产品领域社群。

Transormer-XL是Transformer的升级版,在速度方面比Transformer快1800多倍。

这里的XL,指的是extra long,意思是超长,表示Transformer-XL在语言建模中长距离依赖问题上有非常好的表现。同时,也暗示着它就是为长距离依赖问题而生。

长距离依赖问题,是当前文本处理模型面临的难题,也是RNN失败的地方。

相比之下,Transformer-XL学习的依赖要比RNN长80%。比Vanilla Transformers快450%。

在短序列和长序列上,都有很好的性能表现。


       刷脸支付自律公约
       营销场景机器人
       人事行政机器人
       智能营销机器人
       智能交互
       今日热搜
       今日热榜
       体育营销
       体育扶贫
       出海