统计机器翻译(机器翻译软件有哪些)原创量子位2019-06-08 10:24:13
本文转载自PaddlePaddle
量子位 编辑 | 公众号 QbitAI
机器翻译(machine translation, MT)是用计算机来实现不同语言之间翻译的技术。需要翻译的语言通常称为源语言(source language),翻译成的结果语言称为目标语言(target language)。机器翻译即实现从源语言到目标语言转换的过程,是自然语言处理的重要研究领域之一。
本文将带领大家了解经典的端到端神经网络机器翻译Seq2Seq模型,以及如何用PaddlePaddle来训练。如果想要实践效果更佳的翻译模型,请参考GitHub模型库中Transformer实现。
Seq2Seq项目地址:
https://github.com/PaddlePaddle/book/blob/develop/08.machine_translation/README.cn.md
Transformer项目地址:
https://github.com/PaddlePaddle/models/tree/develop/PaddleNLP/neural_machine_translation/transformer
背景介绍
早期机器翻译系统多为基于规则的翻译系统,需要由语言学家编写两种语言之间的转换规则,再将这些规则录入计算机。该方法对语言学家的要求非常高,而且我们几乎无法总结一门语言会用到的所有规则,更何况两种甚至更多的语言。因此统计机器翻译(Statistical Machine Translation, SMT)技术应运而生。
在统计机器翻译技术中,转化规则是由机器自动从大规模的语料中学习得到的,而非我们人主动提供规则。因此,它克服了基于规则的翻译系统所面临的知识获取瓶颈的问题,但仍然存在许多挑战:
人为设计许多特征(feature),但永远无法覆盖所有的语言现象;
难以利用全局的特征;
依赖于许多预处理环节,如词语对齐、分词或符号化(tokenization)、规则抽取、句法分析等,而每个环节的错误会逐步累积,对翻译的影响也越来越大。
近年来,深度学习技术的发展为解决上述挑战提供了新的思路。将深度学习应用于机器翻译任务的方法大致分为两类:
仍以统计机器翻译系统为框架,只是利用神经网络来改进其中的关键模块,如语言模型、调序模型等(见图1的左半部分);
不再以统计机器翻译系统为框架,而是直接用神经网络将源语言映射到目标语言,即端到端的神经网络机器翻译(End-to-End Neural Machine Translation, End-to-End NMT)(见图1的右半部分),简称为NMT模型。作为经典模型的实现,可以帮助大家更好的理解机器翻译。
△图1:基于神经网络的机器翻译系统
效果展示
以中英翻译(中文翻译到英文)的模型为例,当模型训练完毕时,如果输入如下已分词的中文句子:
如果设定显示翻译结果的条数为3,生成的英语句子如下:
左起第一列是生成句子的序号;左起第二列是该条句子的得分(从大到小),分值越高越好;左起第三列是生成的英语句子。
另外有两个特殊标志:表示句子的结尾,表示未登录词(unknown word),即未在训练字典中出现的词。
模型概览
本节依次介绍双向循环神经网络(Bi-directional Recurrent Neural Network),NMT模型中典型的编码器-解码器(Encoder-Decoder)框架以及柱搜索(beam search)算法。
双向循环神经网络
我们这里介绍Bengio团队在论文[2,4]中提出的另一种结构。该结构的目的是输入一个序列,得到其在每个时刻的特征表示,即输出的每个时刻都用定长向量表示到该时刻的上下文语义信息。
具体来说,该双向循环神经网络分别在时间维以顺序和逆序——即前向(forward)和后向(backward)——依次处理输入序列,并将每个时间步RNN的输出拼接成为最终的输出层。这样每个时间步的输出节点,都包含了输入序列中当前时刻完整的过去和未来的上下文信息。下图展示的是一个按时间步展开的双向循环神经网络。该网络包含一个前向和一个后向RNN,其中有六个权重矩阵:输入到前向隐层和后向隐层的权重矩阵(W1,W3),隐层到隐层自己的权重矩阵(W2,W5),前向隐层和后向隐层到输出层的权重矩阵(W4,W6)。注意,该网络的前向隐层和后向隐层之间没有连接。
△图2:按时间步展开的双向循环神经网络
编码器-解码器框架
编码器-解码器(Encoder-Decoder)[2]框架用于解决由一个任意长度的源序列到另一个任意长度的目标序列的变换问题。即编码阶段将整个源序列编码成一个向量,解码阶段通过最大化预测序列概率,从中解码出整个目标序列。编码和解码的过程通常都使用RNN实现。
△图3:编码器-解码器框架
编码器
编码阶段分为三步:
one-hot vector表示:将源语言句子x={x1, x2,…, xt}的每个词xi表示成一个列向量
,i=1,2,…,T。这个向量Wi的维度与词汇表大小|V| 相同,并且只有一个维度上有值1(该位置对应该词在词汇表中的位置),其余全是0。
映射到低维语义空间的词向量:one-hot vector表示存在两个问题,1)生成的向量维度往往很大,容易造成维数灾难;2)难以刻画词与词之间的关系(如语义相似性,也就是无法很好地表达语义)。因此,需再one-hot vector映射到低维的语义空间,由一个固定维度的稠密向量(称为词向量)表示。记映射矩阵为
,用
表示第i个词的词向量,K为向量维度。
用RNN编码源语言词序列:这一过程的计算公式为
,其中h0是一个全零的向量,∅θ是一个非线性激活函数,最后得到的h={h1,…, hT}就是RNN依次读入源语言T个词的状态编码序列。整句话的向量表示可以采用h在最后一个时间步T的状态编码,或使用时间维上的池化(pooling)结果。
第3步也可以使用双向循环神经网络实现更复杂的句编码表示,具体可以用双向GRU实现。前向GRU按照词序列(x1,…, xT)的顺序依次编码源语言端词,并得到一系列隐层状态
。类似的,后向GRU按照(xT,…, x1)的顺序依次编码源语言端词,得到
。最后对于词xi,通过拼接两个GRU的结果得到它的隐层状态,即hi=
。
△图4:使用双向GRU的编码器
解码器
机器翻译任务的训练过程中,解码阶段的目标是最大化下一个正确的目标语言词的概率。思路是:
每一个时刻,根据源语言句子的编码信息(又叫上下文向量,context vector)c、真实目标语言序列的第i个词ui和i时刻RNN的隐层状态zi,计算出下一个隐层状态zi+1。计算公式如下:
其中∅θ’是一个非线性激活函数;c是源语言句子的上下文向量,在不使用注意力机制时,如果编码器的输出是源语言句子编码后的最后一个元素,则可以定义c=ht;ui是目标语言序列的第i个单词,u0是目标语言序列的开始标记<s>,表示解码开始;zi是i时刻解码RNN的隐层状态,z0是一个全零的向量。
将zi+1通过softmax归一化,得到目标语言序列的第i+1个单词的概率分布pi+1。概率分布公式如下:
其中WsZi+1+bz是对每个可能的输出单词进行打分,再softmax归一化就可以得到第i+1个词的概率pi+1。
根据pi+1和ui+1计算代价。
重复步骤1~2,直到目标语言序列中的所有词处理完毕。
机器翻译任务的生成过程,通俗来讲就是根据预先训练的模型来翻译源语言句子。生成过程中的解码阶段和上述训练过程的有所差异,具体介绍请见柱搜索算法。
柱搜索算法
柱搜索(beam search)是一种启发式图搜索算法,用于在图或树中搜索有限集合中的最优扩展节点,通常用在解空间非常大的系统(如机器翻译、语音识别)中,原因是内存无法装下图或树中所有展开的解。如在机器翻译任务中希望翻译“<s>你好<e>”,就算目标语言字典中只有3个词(<s>,<e> , hello),也可能生成无限句话(hello循环出现的次数不定),为了找到其中较好的翻译结果,我们可采用柱搜索算法。
柱搜索算法使用广度优先策略建立搜索树,在树的每一层,按照启发代价(heuristic cost)(本教程中,为生成词的log概率之和)对节点进行排序,然后仅留下预先确定的个数(文献中通常称为beam width、beam size、柱宽度等)的节点。只有这些节点会在下一层继续扩展,其他节点就被剪掉了,也就是说保留了质量较高的节点,剪枝了质量较差的节点。因此,搜索所占用的空间和时间大幅减少,但缺点是无法保证一定获得最优解。
使用柱搜索算法的解码阶段,目标是最大化生成序列的概率。思路是:
每一个时刻,根据源语言句子的编码信息cc、生成的第ii个目标语言序列单词ui和i时刻RNN的隐层状态zi,计算出下一个隐层状态zi+1。
将zi+1通过softmax归一化,得到目标语言序列的第i+1个单词的概率分布pi+1。
根据pi+1采样出单词ui+1。
重复步骤1~3,直到获得句子结束标记<e>或超过句子的最大生成长度为止。
注意:zi+1和pi+1的计算公式同解码器中的一样。且由于生成时的每一步都是通过贪心法实现的,因此并不能保证得到全局最优解。
数据介绍
本教程使用WMT-14数据集中的bitexts(after selection)作为训练集,dev+test data作为测试集和生成集。
数据预处理
我们的预处理流程包括两步:
将每个源语言到目标语言的平行语料库文件合并为一个文件:
合并每个XXX.src和XXX.trg文件为XXX。
XXX中的第i行内容为XXX.src中的第i行和XXX.trg中的第i行连接,用’t’分隔。
创建训练数据的“源字典”和“目标字典”。每个字典都有DICTSIZE个单词,包括:语料中词频最高的(DICTSIZE - 3)个单词,和3个特殊符号<s>(序列的开始)、<e>(序列的结束)和<unk>(未登录词)。
示例数据
因为完整的数据集数据量较大,为了验证训练流程,PaddlePaddle接口paddle.dataset.wmt14中默认提供了一个经过预处理的较小规模的数据集。
该数据集有193319条训练数据,6003条测试数据,词典长度为30000。因为数据规模限制,使用该数据集训练出来的模型效果无法保证。
模型配置说明
下面我们开始根据输入数据的形式配置模型。首先引入所需的库函数以及定义全局变量。
然后如下实现编码器框架:
再实现训练模式下的解码器:
实现推测模式下的解码器:
进而,我们定义一个train_program来使用inference_program计算出的结果,在标记数据的帮助下来计算误差。我们还定义了一个optimizer_func来定义优化器。
训练模型
定义训练环境
定义您的训练环境,可以指定训练是发生在CPU还是GPU上。
定义数据提供器
下一步是为训练和测试定义数据提供器。提供器读入一个大小为 BATCH_SIZE的数据。paddle.dataset.wmt.train 每次会在乱序化后提供一个大小为BATCH_SIZE的数据,乱序化的大小为缓存大小buf_size。
构造训练器(trainer)
训练器需要一个训练程序和一个训练优化函数。
提供数据
feed_order用来定义每条产生的数据和paddle.layer.data之间的映射关系。比如,wmt14.train产生的第一列的数据对应的是src_word_id这个特征。
事件处理器
回调函数event_handler在一个之前定义好的事件发生后会被调用。例如,我们可以在每步训练结束后查看误差。
开始训练
最后,我们传入训练循环数(num_epoch)和一些别的参数,调用 trainer.train 来开始训练。
应用模型
定义解码部分
使用上面定义的 encoder 和 decoder 函数来推测翻译后的对应id和分数。
定义数据
我们先初始化id和分数来生成tensors来作为输入数据。在这个预测例子中,我们用wmt14.test数据中的第一个记录来做推测,最后我们用”源字典”和”目标字典”来列印对应的句子结果。
测试
现在我们可以进行预测了。我们要在feed_order提供对应参数,放在executor上运行以取得id和分数结果。
总结
端到端的神经网络机器翻译是近几年兴起的一种全新的机器翻译方法。在本文中,我们介绍了NMT中典型的“编码器-解码器”框架。由于NMT是一个典型的Seq2Seq(Sequence to Sequence,序列到序列)学习问题,因此,Seq2Seq中的query改写(query rewriting)、摘要、单轮对话等问题都可以用本教程的模型来解决。
参考文献
Koehn P. Statistical machine translation[M]. Cambridge University Press, 2009.
Cho K, Van Merriënboer B, Gulcehre C, et al. Learning phrase representations using RNN encoder-decoder for statistical machine translation[C]//Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), 2014: 1724-1734.
Chung J, Gulcehre C, Cho K H, et al. Empirical evaluation of gated recurrent neural networks on sequence modeling[J]. arXiv preprint arXiv:1412.3555, 2014.
Bahdanau D, Cho K, Bengio Y. Neural machine translation by jointly learning to align and translate[C]//Proceedings of ICLR 2015, 2015.
Papineni K, Roukos S, Ward T, et al. BLEU: a method for automatic evaluation of machine translation[C]//Proceedings of the 40th annual meeting on association for computational linguistics. Association for Computational Linguistics, 2002: 311-318.
— 完 —
诚挚招聘
量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
拓展阅读:
从事智能翻译设备行业三年多以来,经常有客户问,现在翻译APP这么发达,为什么还要使用翻译硬件呢?今天就给大家讲讲,翻译机和手机软件之间的那些事。
首先来看一下翻译机的工作原理。收声是翻译机的第一步工作,翻译机内置麦克风,可以将使用者所说的话做到准确识别后,将语音转换为文字,再通过翻译引擎翻译,最后再做语音合成,并且播报出来。简而言之,翻译机就是从语音识别到机器翻译再到语音合成的过程。
就当下翻译软件而言,工作原理和翻译机一样,只不过翻译软件的载体是手机或者其他硬件产品。如果大家是对于跨语言需求是低频次的,那翻译软件完全可以满足需求。如果是出国旅行或者跨语言商务,此时翻译软件的劣势就体现出来了。
全语通翻译机
虽然翻译机和翻译软件工作原理一样,但是在整个过程中,翻译软件如果有一个环节出现错误,那对于整个翻译效果以及用户体验来说是致命的。
在语音识别上翻译机有很大的优势
当下的翻译机中,双猴科技研发的全语通系列翻译机均采用双麦阵列,能更好的收声,以及做到准确的识别。由于翻译软件载体本身的缺陷,在收声时难免会出现问题。如此一来,第一步都没有做好,后期就更不用说了。
全语通翻译机
笔者使用过多款翻译软件和翻译机,如果在室内比较安静的环境内,两者区别不大。如果在比较嘈杂的情况下,翻译软件惨不忍睹。毕竟手机不会采用多麦阵列降噪技术。如果手动输入文字,则又达不到便捷性。因此在真实环境下,软硬件一体化产品是更优解决方案。
电量很重要
如果在国外旅行,手机电量很重要。由于手机还要承担更多的任务,不只是在使用翻译软件时派上用场。而翻译机是独立的载体,电池容量也比较大,续航时间比较长。可以满足大家在外使用时的需求。
载体属性
手机是私人物品,人与人交流过程中,如果将手机对准对方的嘴巴,很容易造成一定的误解,并不符合人与人当面交流的沟通工具的属性。而翻译机则不同,本身就是为这个而生的,一定程度上会减少使用双方的抗拒感。
全语通翻译机
在众多翻译机品牌中,全语通翻译机是佼佼者。由于进入智能语音市场较早,双猴科技在这一方面有大量的技术储备。全语通翻译机经过多次迭代更新后,功能齐全。支持72种语言翻译,环球对讲,拍照翻译,自带106国流量是全语通翻译机的杀手锏。
智能翻译设备市场很广阔,目前还处于发展阶段,同时也会加速淘汰一些山寨翻译机。翻译软件与翻译机也会形成优势互补的态势。