开发者学堂课程【达摩院智能语音交互 - 语音识别技术:语音识别技术】学习笔记,与课程紧密联系,让用户快速学习知识。
课程地址:https://developer.aliyun.com/learning/course/45/detail/976
语音识别技术
内容介绍:
一、语音识别技术
二、传统语音识别系统框图
三、传统框架:基于 GMM-HMM 的声学模型
四、语音识别声学模型研究进展
一、语音识别技术
语音识别实际上是实现智能语音交互的核心技术之一,它的目的是要将人的语音转化成机器可以理解的文字称之为 ASR。
从数学公式上面说,过程中实际上需要将接收到的语音文件以波形文件转换得到最终需要的文字系列,是一个最大后验判断和最大后验优化问题,相对应的通过条件概率可以转化成两项,分别称之为声学模型以及语言模型,构建整个语音识别系统平台,就是在优化声学模型与语言模型。
二、传统语音识别系统框图
传统的语音识别系统,就要包括三个模块或每次前端处理模型训练以及后端处理简单处理。
前端处理主要是对接收到语音信号进行一些锻炼检测以及进行一些降噪处理,然后提醒语音顺序特征,训练过程中主要是利用语料库里面的语音提及到了声学特征,利用一些训练准则去训练声学模型以及语言模型,后处理过程中主要是利用训练完成的模型以及也模型对新进来的语音信号,可以联合声学模型和语音模型进行结合得到识别结果。当然可以通过识别结果进行一定的模型去适应,进一步提升整个识别识别结果。
三、传统框架:基于 GMM-HMM 的声学模型
在传统的语音识别声学建模里面很主流的框架就是 GMM,在过程中,GMM 是对语音信号的统计特性进行建模,HMM 主要对语音的持续性进行建模。
语音声学建模一个比较大的突破是深度学习的引入,从传统的技艺 GMM-HMM 开始转换到了基于 DNN-HMM 项目的声学建模,过程中一个显著的改变就是利用 DNN 这种生产模型替代了传统的 GMM 来对语音的特性进行建模,可以获得显著的性能提升。
四、语音识别声学模型研究进展
模型结构
DNN,CNN,RNN,LSTM,TDNN,FSMN ....
优化方法
Cross Entropy
Sequence Discriminative Training: MMI,MPE, SMBR,LF-MMI.
CTC
更深的模型结构
VDCNN, Highway/Residual-LSTM,DFSMN,TDNN-F
端到端语音识别
Raw waveform ASR.
Attention based ASR
关于语音识别声学模型的研究,从12年开始到目前可能过程中,有很多技术也出现语音识别声学模型获得很大的进展,相对应的有代表性的是可以分成上面的四个方面,后面也是模型结构,从最早前 DNN 然后到一些更加富有建模能力的模型,例如CNN、RNN、LSTM、TDNN、FSMN。另外还有优化的三个改变,从最早的 Cross Entropy,然后到一些近期的 Sequence Discriminative Training: MMI,MPE, SMBR,LF-MMI. 等等,然后比如说像 CTC 准则的应用,另外一个改变就是去进行一些更深的模型结构,被应用到建模里面,像 VDCNN, Highway/Residual-LSTM,DFSMN,TDNN-F,积极的一个研究点实际上是端到端语言能识别的语音声学建模,比如 Attention based ASR 语音识别系统等等。