博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
利用卷积进行序列到序列学习
阅读量:5171 次
发布时间:2019-06-13

本文共 458 字,大约阅读时间需要 1 分钟。

论文:

译文:利用卷积进行序列到序列学习

摘要

序列到序列学习的流行方法是,利用循环神经网络把一个输入序列映射到一个可变长度的输出序列。我们提出一种完全基于卷积神经网络的架构。相比RNN,训练可以完全并行,因此可以更好地利用GPU的算力,另外,优化也更容易,因为输入长度的非线性个数是固定而且独立的(注:这是什么意思?)。我们使用门线性单元来简化梯度传播,而且为每个解码器层各自添加一个注意力模块(注:这要好好理解)。我们的模型,在WMT’14 English-German和WMT’14 English-French翻译任务上,比deep LSTM的准确率高,而且速度也快一个数量级,无论是GPU还是CPU。 

介绍

序列到序列学习在很多任务上都取得了成功,例如机器翻译、语音识别和文本总结等等。目前的方法是,利用一系列双向RNN来编码输入序列,然后利用另外一组解码器RNN来生成一个可变长的输出。 

结论

转载于:https://www.cnblogs.com/yangwenhuan/p/11426263.html

你可能感兴趣的文章
23andme、gsa、wegene各染色体位点统计
查看>>
【前台技术】-播放音频
查看>>
ElasticSearch High Level REST API【3】Scroll 滚屏
查看>>
关于STM32定时器使用的一个注意事项(以此为前车之鉴,重要!)
查看>>
Mybatis实现高级映射一对一、一对多查询
查看>>
JavaScript面向对象
查看>>
Codeforces Round #453 (Div. 1)
查看>>
[51单片机] 四相五线减速比为1/64步进电机驱动设计
查看>>
leetcode136只出现一次的数字
查看>>
docker tar 镜像 容器相互转换
查看>>
合成(Composite)模式
查看>>
.net EventHandler 事件处理
查看>>
[导入]2008李幼斌电视剧力作《我是太阳》全42集
查看>>
vs2013编译obs源码
查看>>
PHP 实现简单购物车功能(2)
查看>>
(9.19更新:八戒退款) 砸进七万块,没想到你是这样的猪八戒网
查看>>
bnu 29064, 期望 水题
查看>>
C语言使用SQLite3数据库
查看>>
Linux安装virgo
查看>>
cygwin安装
查看>>