CN102074242B - 语音音频混合分级编码中核心层残差提取系统及方法 - Google Patents

语音音频混合分级编码中核心层残差提取系统及方法 Download PDF

Info

Publication number
CN102074242B
CN102074242B CN2010106060099A CN201010606009A CN102074242B CN 102074242 B CN102074242 B CN 102074242B CN 2010106060099 A CN2010106060099 A CN 2010106060099A CN 201010606009 A CN201010606009 A CN 201010606009A CN 102074242 B CN102074242 B CN 102074242B
Authority
CN
China
Prior art keywords
coding
audio
module
signal
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN2010106060099A
Other languages
English (en)
Other versions
CN102074242A (zh
Inventor
胡瑞敏
杨玉红
高丽
杨裕才
曾琦
陈先念
王国英
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan University WHU
Original Assignee
Wuhan University WHU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan University WHU filed Critical Wuhan University WHU
Priority to CN2010106060099A priority Critical patent/CN102074242B/zh
Publication of CN102074242A publication Critical patent/CN102074242A/zh
Application granted granted Critical
Publication of CN102074242B publication Critical patent/CN102074242B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明涉及音频编码技术领域,尤其涉及一种语音音频混合分级编码中核心层残差提取系统及方法。本发明提供的系统包括预处理模块(1)、语音编码模块(2)、音频编码模块(3)、模式选取模块(4)、语音解码合成模块(5)、音频解码合成模块(6)、残差生成模块(7);本发明提供的用于获得语音音频混合编码模式下分级核心层与原始信号的准确残差的方法是本发明的主要内容,编码端的语音/音频编码器生成的合成信号用于进行最优编码模式的选择,利用语音/音频编码器输出的编码参数得到与解码端一致的合成信号,从而得到准确的残差用于分级增强层。本发明克服了现有语音音频混合编码模式下可分级核心层残差信号无法准确提取的问题。

Description

语音音频混合分级编码中核心层残差提取系统及方法
技术领域
本发明涉及音频编码技术领域,尤其涉及一种语音音频混合分级编码中核心层残差提取系统及方法。
背景技术
可分级增强层编码方法中,编码端通过计算原始信号与核心层合成信号的残差,同时接收核心层的输出参数,对残差域信号做分级编码。解码端解码出残差域信号,与核心层信号相加,得到恢复的合成信号。各个增强层的残差域信号逐级加到核心层信号上,从而渐次改善重建质量。残差域信号的准确提取与增强层编码所能提供的音质增益有直接关系,解码端解码得到的残差信号越接近编码端计算的残差信号,则合成信号越接近原始信号,解码音质越高。
由于语音编码和音频编码的技术和方法存在差异,现有的语音音频的混合编码器,采用不同的模式分别对语音/音频进行编码。系统会根据当前声音信号的类型选择采用何种模式,或者分别采用两种模式进行编码,然后根据编码生成的合成信号选出编码效果好的作为最终的编码模式。由于该合成信号的生成只是用于模式选择,并不等同于解码端生成合成信号的所有操作,再加上两种编码模式的交叠,往往会导致编、解码端得到的合成信号不一致,因而编码端得到的原始信号与合成信号的残差信号并非准确的残差信号。对于语音音频混合编码模式下核心层编码残差的准确提取,成为提高语音音频混合编码器分级编码质量的关键。
发明内容
针对上述存在的技术问题,本发明的目的是提供一种语音音频混合分级编码中核心层残差提取系统及方法,以解决语音音频混合分级编码的需求。
为达到上述目的,本发明采用如下的技术方案:
一种语音音频混合分级编码框架中核心层残差提取系统,包括:
预处理模块:来自音频输入设备的单声道或多声道的输入信号进行预处理,得到当前帧的音频信号,并将所获得的当前帧的音频信号做三路输出:一路输出给语音编码模块,一路输出给音频编码模块,一路输出给残差生成模块;
语音编码模块:采用通用的语音编码算法对输入的当前帧的音频信号进行编码,编码后作两路输出,其中一路输出为语音解码合成码流,用于模式判决,另一路输出为编码提取的各类编码参数,传递给语音解码合成模块;
音频编码模块:采用通用的音频编码算法对输入的当前帧的音频信号进行编码,编码后作两路输出,其中一路输出为音频解码合成码流,用于模式判决,另一路输出为编码提取的各类编码参数,传递给音频解码合成模块;
模式选取模块:选取最优的编码模式,得到模式位标识分两路输出,一路进入语音解码合成模块,一路进入音频解码合成模块;
语音解码合成模块:如果模式选取模块的输出是语音编码模式,则进入语音解码合成模块,利用语音编码模块输出的各类编码参数作为输入,输出最终的核心层语音解码合成信号;
音频解码合成模块:如果模式选取模块的输出是音频编码模式,则进入音频解码合成模块,利用音频编码模块输出的各类编码参数作为输入,输出最终的核心层音频解码合成信号;
残差生成模块:预处理模块输出的预处理后的当前帧的音频信号和语音/音频解码合成模块输出的解码后合成信号为本模块的两路输入,根据模式位不同,选择语音解码合成信号或音频解码合成信号,计算得到残差信号,本模块的输出为残差信号。
一种语音音频混合分级编码中核心层残差提取方法,包括:
①输入语音/音频信号首先经过预处理,输入信号可以是单声道或多声道信号,预处理可以包括高通滤波、分帧、预加重等处理,得到预处理后的信号s(n);
②由①所得的预处理后的音频信号,进行语音编码后一路输出为语音编码合成码流x1(n),另一路输出为语音编码参数;
③由①所得的预处理后的音频信号,进行音频编码后一路输出为音频编码合成码流x2(n),另一路输出为音频编码参数;
④由②和③得到的合成码流x1(n)和x2(n),进行模式选取,选择最优的编码方式,输出模式位标识;
⑤由④所得的模式位,如果选择的是语音编码模式,则转入步骤⑥,执行语音解码合成;如果选择的是音频编码模式,则转入步骤⑦,执行音频解码合成;
⑥由步骤②输出的编码参数,进行语音解码合成得到语音解码合成信号
Figure GDA0000108810770000021
⑦由步骤③输出的编码参数,进行音频解码合成得到音频解码合成信号
Figure GDA0000108810770000022
⑧由①得到预处理后的信号s(n)和由⑥或⑦得到的解码后的合成信号
Figure GDA0000108810770000023
Figure GDA0000108810770000024
得到残差信号r(n)。
所述步骤⑥进一步包括以下子步骤:
解码LP滤波器参数,通过接收到的ISP量化索引合成已量化的ISP矢量,插值后的ISP矢量被转换到LP滤波器系数域,用于合成滤波器重建语音;
解码自适应码本矢量和固定码本矢量及两者的增益,合成语音;
进行白噪声特性增强和基音增强的后处理;
得到最终的合成音频信号并更新公共缓存。
所述步骤⑦进一步包括以下子步骤:
读取量化频率样值,进行基于分裂表的反矢量量化;
增益平衡,去除不同缩放因子的影响;
峰值逆整形;
逆时频变换,信号由频域变换到时域,得到的时域信号与全局增益相乘;
加窗和TVC内的重叠相加;
通过逆感知加权滤波器得到合成音频信号;
如果前一帧采用的是ACELP模式编码,那么将当前帧起始的交迭部分和上一帧ACELP合成信号的最后一个子帧做加窗交迭,得到最终的合成音频信号并更新公共缓存。
本发明具有以下优点和积极效果:
本发明克服了现有语音音频混合编码模式下可分级核心层残差信号无法准确提取的问题。
附图说明
图1是本发明提供的语音音频混合分级编码中核心层残差提取系统的框架示意图。
图2是本发明提供的语音音频混合分级编码中核心层残差提取方法的流程图。
1-预处理模块,2-语音编码模块,3-音频编码模块,4-模式选取模块,5-语音解码合成模块,6-音频解码合成模块,7-残差生成模块,8-音频原始信号,9-预处理后信号,10-语音编码合成信号,11-音频编码合成信号,12-编码模式标识位,13-语音解码合成信号,14-音频解码合成信号,15-语音编码参数,16-音频编码参数,17-残差信号。
具体实施方式
下面以具体实施例结合附图对本发明作进一步说明:
本发明提供的语音音频混合分级编码中核心层残差提取系统分为两部分,一部分为核心编码层,另一部分为残差增强层,其中核心层采用通用的语音/音频混合编码技术,残差增强层可以分为多个增强层,如图1所示,包括:
预处理模块1、语音编码模块2、音频编码模块3、模式选取模块4、语音解码合成模块5、音频解码合成模块6、残差生成模块7;
预处理模块1:对输入信号进行预处理,其输入为音频原始信号,输出为预处理后的信号,预处理后的信号做三路输出:一路输出给语音编码模块,一路输出给音频编码模块,一路输出给残差生成模块;
语音编码模块2:该模块是可分级编码框架中的核心层编码模块,采用通用的语音编码算法对预处理模块的输入信号进行编码,编码后作两路输出,其中一路输出为语音编码合成码流,用于模式判决,另一路输出为编码提取的各类编码参数,传递给语音解码合成模块,用于计算准确的合成信号;
音频编码模块3:该模块是可分级编码框架中的核心层编码模块,采用通用的音频编码算法对预处理模块的输入信号进行编码,编码后作两路输出,其中一路输出为音频编码合成码流,用于模式判决,另一路输出为编码提取的各类编码参数,传递给音频解码合成模块,用于计算准确的合成信号;
模式选取模块4:对于语音编码模块和音频编码模块的两路输出,选取最优的模式作为编码器,输出为模式位标识。如果选择了语音编码模式,则进入语音解码合成模块,如果选择了音频编码模式,则进入音频解码合成模块;
语音解码合成模块5:如果模式选取模块的输出是语音编码模式,则进入语音解码合成模块,利用语音编码模块输出的各类编码参数作为输入,输出最终的核心层语音编码合成信号;
音频解码合成模块6:如果模式选取模块的输出是音频编码模式,则进入音频解码合成模块,利用音频编码模块输出的各类编码参数作为输入,输出最终的核心层音频编码合成信号;
残差生成模块7:预处理模块输出的预处理后的信号和语音/音频解码合成模块输出的解码后合成信号为本模块的两路输入,得到残差信号,本模块的输出为残差信号。
本发明提供的语音音频混合分级编码中核心层残差提取方法包括以下步骤:
步骤1:对采样率为16kHz输入信号进行预处理,预处理具体包括高通滤波和感知加权两个过程,输出信号为s(n);
将输入信号送入高通滤波器,滤除50Hz以下的低频信号;
将高通滤波后的信号送入感知加权滤波器WLB(z),同时γ′1,γ′2以及γ′3(0<γ′1,γ′2,γ′3<1)三个系数也相应调整以缓和量化噪声谱:
W LB ( z ) = A ^ ( z / γ 1 ′ ) A ^ ( z / γ 2 ′ ) ( 1 + Σ i = 1 2 a i γ 3 ′ i z - i )
其中γ′1,γ′2,γ′3为调整参量,ai为线性预测分析系数,i为线性预测的阶数,
Figure GDA0000108810770000042
步骤2:对经过预处理过后的信号进行12kbps模式的ACELP编码器编码,进行编码后一路输出为语音编码合成码流x1(n),另一路输出为语音编码参数,包括ISF索引值、VQ增益索引值、码本索引值、滤波索引值、基因延迟索引值;
步骤3:对经过预处理过后的信号进行12kbps模式的TVC编码器(变换域音频编码器)编码,进行编码后一路输出为音频编码合成码流x2(n),另一路输出为音频编码参数,包括量化频率样值、缩放因子、全局增益;
步骤4:由步骤2和步骤3得到的合成码流x1(n)和x2(n),分别计算与步骤1的输出信号s(n)的感知加权分段信噪比SNR1和SNR2,如果SNR1>SNR2,则模式位标识mod置0,选择ACELP编码器编码,否则mod置1,选择TVC编码器编码;
步骤5:如果mod为0,则转入步骤6,执行语音解码合成模块;如果mod为1,则转入步骤7,执行音频解码合成模块;
步骤6:由步骤2输出的编码参数,通过ACELP解码器合成得到解码合成信号本步骤具体实施方式包括以下子步骤:
①.解码LP滤波器参数,通过接收到的ISP量化索引合成已量化的ISP矢量,插值后的ISP矢量被转换到LP滤波器系数域,用于合成滤波器重建语音;
②.解码自适应码本矢量和固定码本矢量及两者的增益,合成语音;
③.后处理(白噪声特性增强和基音增强);
④.得到最终的合成音频信号并更新公共缓存。
步骤7:由步骤3输出的编码参数,通过TVC解码器合成得到音频解码合成信号
Figure GDA0000108810770000052
本步骤具体实施方式包括以下子步骤:
①.读取量化频率样值,进行基于分裂表的反矢量量化;
②.增益平衡,去除不同缩放因子的影响;
③.峰值逆整形;
④.逆时频变换,信号由频域变换到时域,得到的时域信号与全局增益相乘;
⑤.加窗和TVC内的重叠相加;
⑥.通过逆感知加权滤波器得到合成音频信号;
⑦.如果前一帧采用的是ACELP模式编码,那么将当前帧起始的交迭部分和上一帧ACELP合成信号的最后一个子帧做加窗交迭,得到最终的合成音频信号并更新公共缓存。
步骤8:由步骤1得到预处理后的信号s(n)减去解码后的合成信号,如果采用语音编码模式,则与
Figure GDA0000108810770000053
相减,如采用音频编码模式则与
Figure GDA0000108810770000054
相减,得到残差信号r(n)。
本发明的分级核心层语音音频编码方法是通用的编码算法,获得语音音频混合编码模式下分级核心层与原始信号的准确残差的方法是本发明的主要内容,编码端的语音/音频编码器生成的合成信号用于进行最优编码模式的选择,利用语音/音频编码器输出的编码参数得到与解码端一致的合成信号,从而得到准确的残差用于分级增强层。
以上实施例仅供说明本发明之用,而非对本发明的限制,有关技术领域的技术人员,在不脱离本发明的精神和范围的情况下,还可以作出各种变换或变型,因此所有等同的技术方案,都落入本发明的保护范围。

Claims (4)

1.一种语音音频混合分级编码框架中核心层残差提取系统,其特征在于,包括:
预处理模块(1):来自音频输入设备的单声道或多声道的输入信号(8)进行预处理,得到当前帧的音频信号(9),并将所获得的当前帧的音频信号(9)做三路输出:一路输出给语音编码模块(2),一路输出给音频编码模块(3),一路输出给残差生成模块(7);
语音编码模块(2):采用通用的语音编码算法对输入的当前帧的音频信号(9)进行编码,编码后作两路输出,其中一路输出为语音编码合成码流(10),传递给模式选取模块(4),用于模式判决,另一路输出为编码提取的各类编码参数(15),传递给语音解码合成模块(5);
音频编码模块(3):采用通用的音频编码算法对输入的当前帧的音频信号(9)进行编码,编码后作两路输出,其中一路输出为音频编码合成码流(11),传递给模式选取模块(4),用于模式判决,另一路输出为编码提取的各类编码参数(16),传递给音频解码合成模块(6);
模式选取模块(4):根据语音编码模块(2)和音频编码模块(3)输出的编码合成码流(10)和(11),选取最优的编码模式,得到模式位标识(12)分两路输出,一路进入语音解码合成模块(5),一路进入音频解码合成模块(6);
语音解码合成模块(5):如果模式选取模块的输出(12)是语音编码模式,则将语音编码模块输出的各类编码参数(15)输入给语音解码合成模块(5),输出最终的核心层语音解码合成信号(13);
音频解码合成模块(6):如果模式选取模块的输出(12)是音频编码模式,则将音频编码模块输出的各类编码参数(16)输入给音频解码合成模块(6),输出最终的核心层音频解码合成信号(14);
残差生成模块(7):预处理模块输出的预处理后的当前帧的音频信号(9)、语音解码合成模块(5)或音频解码合成模块(6)输出的解码合成信号为本模块的两路输入,根据模式位标识不同,选择语音解码合成信号(13)或音频解码合成信号(14),计算得到残差信号(17),本模块的输出为残差信号(17)。
2.一种语音音频混合分级编码中核心层残差提取方法,其特征在于,包括以下步骤:
①来自音频输入设备的输入信号首先经过预处理,输入信号可以是单声道或多声道信号,预处理可以包括高通滤波、分帧、预加重,得到预处理后的信号s(n);
②由①所得的预处理后的信号,进行语音编码后一路输出为语音编码合成码流x1(n),另一路输出为语音编码参数;
③由①所得的预处理后的信号,进行音频编码后一路输出为音频编码合成码流x2(n),另一路输出为音频编码参数;
④由②和③得到的合成码流x1(n)和x2(n),进行模式选取,选择最优的编码方式,输出模式位标识;
⑤由④所得的模式位标识,如果选择的是语音编码模式,则转入步骤⑥,执行语音解码合成;如果选择的是音频编码模式,则转入步骤⑦,执行音频解码合成;
⑥由步骤②输出的编码参数,进行语音解码合成得到语音解码合成信号x1’(n);
⑦由步骤③输出的编码参数,进行音频解码合成得到音频解码合成信号x2’(n);
⑧由①得到预处理后的信号s(n)和由⑥或⑦得到的解码后的合成信号x1’(n)或x2’(n)得到残差信号r(n)。
3.根据权利要求2所述的语音音频混合分级编码中核心层残差提取方法,其特征在于:
所述步骤⑥进一步包括以下子步骤:
解码LP滤波器参数,通过接收到的ISP量化索引合成已量化的ISP矢量,插值后的ISP矢量被转换到LP滤波器系数域,用于合成滤波器重建语音;
解码自适应码本矢量和固定码本矢量及两者的增益,合成语音;
进行白噪声特性增强和基音增强的后处理;
得到最终的合成语音信号并更新公共缓存。
4.根据权利要求2或3所述的语音音频混合分级编码中核心层残差提取方法,其特征在于:
所述步骤⑦进一步包括以下子步骤:
读取量化频率样值,进行基于分裂表的反矢量量化;
增益平衡,去除不同缩放因子的影响;
峰值逆整形;
逆时频变换,信号由频域变换到时域,得到的时域信号与全局增益相乘;
加窗和TVC内的重叠相加;
通过逆感知加权滤波器得到合成音频信号;
如果输入信号的前一帧采用的是ACELP模式编码,那么将合成音频信号的当前帧起始的交迭部分和上一帧ACELP合成信号的最后一个子帧做加窗交迭,得到最终的合成音频信号并更新公共缓存。
CN2010106060099A 2010-12-27 2010-12-27 语音音频混合分级编码中核心层残差提取系统及方法 Expired - Fee Related CN102074242B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN2010106060099A CN102074242B (zh) 2010-12-27 2010-12-27 语音音频混合分级编码中核心层残差提取系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2010106060099A CN102074242B (zh) 2010-12-27 2010-12-27 语音音频混合分级编码中核心层残差提取系统及方法

Publications (2)

Publication Number Publication Date
CN102074242A CN102074242A (zh) 2011-05-25
CN102074242B true CN102074242B (zh) 2012-03-28

Family

ID=44032760

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2010106060099A Expired - Fee Related CN102074242B (zh) 2010-12-27 2010-12-27 语音音频混合分级编码中核心层残差提取系统及方法

Country Status (1)

Country Link
CN (1) CN102074242B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2830053A1 (en) 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Multi-channel audio decoder, multi-channel audio encoder, methods and computer program using a residual-signal-based adjustment of a contribution of a decorrelated signal
CN106448688B (zh) 2014-07-28 2019-11-05 华为技术有限公司 音频编码方法及相关装置
CN112951252B (zh) * 2021-05-13 2021-08-03 北京百瑞互联技术有限公司 一种lc3音频码流的混音方法、装置、介质及设备
CN114550732B (zh) * 2022-04-15 2022-07-08 腾讯科技(深圳)有限公司 一种高频音频信号的编解码方法和相关装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6658383B2 (en) * 2001-06-26 2003-12-02 Microsoft Corporation Method for coding speech and music signals
AU2003208517A1 (en) * 2003-03-11 2004-09-30 Nokia Corporation Switching between coding schemes
CN101202042A (zh) * 2006-12-14 2008-06-18 中兴通讯股份有限公司 可扩展的数字音频编码框架及其扩展方法
CN101025918B (zh) * 2007-01-19 2011-06-29 清华大学 一种语音/音乐双模编解码无缝切换方法
EP2139000B1 (en) * 2008-06-25 2011-05-25 Thomson Licensing Method and apparatus for encoding or decoding a speech and/or non-speech audio input signal

Also Published As

Publication number Publication date
CN102074242A (zh) 2011-05-25

Similar Documents

Publication Publication Date Title
US11915712B2 (en) Audio encoder and decoder using a frequency domain processor, a time domain processor, and a cross processing for continuous initialization
US12080310B2 (en) Audio encoder and decoder using a frequency domain processor with full-band gap filling and a time domain processor
JP6173288B2 (ja) マルチモードオーディオコーデックおよびそれに適応されるcelp符号化
CN102177426B (zh) 多分辨率切换音频编码/解码方案
US10163449B2 (en) Stereo audio encoder and decoder
CN105280190A (zh) 带宽扩展编码和解码方法以及装置
MX2013003782A (es) Aparato y metodo para procesar una señal de audio y para otorgar una mayor granularidad temporal para un codificador-decodificador combinado y unificado de voz y audio (usac).
CN102074242B (zh) 语音音频混合分级编码中核心层残差提取系统及方法
CN101281748A (zh) 用编码索引实现的空缺子带填充方法及编码索引生成方法
KR101387808B1 (ko) 가변 비트율을 갖는 잔차 신호 부호화를 이용한 고품질 다객체 오디오 부호화 및 복호화 장치
CN105280189B (zh) 带宽扩展编码和解码中高频生成的方法和装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20120328

Termination date: 20211227