CN104822058B - 一种立体图像显著图提取方法 - Google Patents

一种立体图像显著图提取方法 Download PDF

Info

Publication number
CN104822058B
CN104822058B CN201510173098.5A CN201510173098A CN104822058B CN 104822058 B CN104822058 B CN 104822058B CN 201510173098 A CN201510173098 A CN 201510173098A CN 104822058 B CN104822058 B CN 104822058B
Authority
CN
China
Prior art keywords
pixel points
area
component
color
color space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510173098.5A
Other languages
English (en)
Other versions
CN104822058A (zh
Inventor
邵枫
姜求平
李福翠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhonghe International Intellectual Property Co Ltd
Original Assignee
Ningbo University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ningbo University filed Critical Ningbo University
Priority to CN201510173098.5A priority Critical patent/CN104822058B/zh
Publication of CN104822058A publication Critical patent/CN104822058A/zh
Application granted granted Critical
Publication of CN104822058B publication Critical patent/CN104822058B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Abstract

本发明公开了一种立体图像显著图提取方法,其在训练阶段,提取多幅训练立体图像的右视点图像中的每个区域的对比度特征矢量、通用特征矢量和背景先验特征矢量,并融合得到每幅立体图像的右视点图像中的每个区域的用于反映视觉显著性的特征矢量,建立特征矢量与平均眼动值之间的随机森林回归训练模型;在测试阶段,计算测试立体图像的右视点图像中的每个区域的用于反映视觉显著性的特征矢量,并根据已训练得到的随机森林回归训练模型,预测得到测试立体图像的三维显著图;优点是所提取的特征能够较好地反映各种因素的显著变化情况,从而有效地提高了视觉显著值的预测准确性。

Description

一种立体图像显著图提取方法
技术领域
本发明涉及一种图像信号的处理方法,尤其是涉及一种立体图像显著图提取方法。
背景技术
在人类视觉接收与信息处理中,由于大脑资源有限以及外界环境信息重要性区别,因此在处理过程中人脑对外界环境信息并不是一视同仁的,而是表现出选择特征。人们在观看图像或者视频片段时注意力并非均匀分布到图像的每个区域,而是对某些显著区域关注度更高。如何将视频中视觉注意度高的显著区域检测并提取出来是计算机视觉以及基于内容的视频检索领域的一个重要的研究内容。
然而,人眼感知立体图像产生立体视觉的过程并不是简单的左视点图像和右视点图像叠加的过程,因此,立体视觉特征(例如:三维视觉注意力)并不是平面视觉特性的简单拓展,如何从立体图像中有效地提取出立体视觉特征、如何使得提取出的立体视觉特征符合人眼三维观看行为,都是在对立体图像进行视觉显著图提取过程中需要研究解决的问题。
发明内容
本发明所要解决的技术问题是提供一种立体图像显著图提取方法,其符合显著语义特征,且具有较强的提取稳定性和较高的提取准确性。
本发明解决上述技术问题所采用的技术方案为:一种立体图像显著图提取方法,其特征在于包括训练阶段和测试阶段两个过程,所述的训练阶段的具体步骤如下:
①-1、将选取的N副各不相同的立体图像以及每幅立体图像的右视差图像构成一个集合,记为{Li,Ri,di|1≤i≤N},其中,N≥1,Li表示{Li,Ri,di|1≤i≤N}中的第i幅立体图像的左视点图像,Ri表示{Li,Ri,di|1≤i≤N}中的第i幅立体图像的右视点图像,di表示{Li,Ri,di|1≤i≤N}中的第i幅立体图像的右视差图像;
①-2、采用超像素分割技术将{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像分割成M个互不重叠的区域,将Ri中的第h个区域记为SPi,h,其中,M≥1,1≤h≤M;
①-3、计算{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的对比度特征矢量,将Ri中的第h个区域SPi,h的对比度特征矢量记为 X i , h c = [ d i , h , d i , h 1 , d i , h 2 , d i , h 3 , d i , h 4 , d i , h 5 , d i , h 6 ] , 其中,的维数为36,此处符号“[]”为矢量表示符号,di,h表示SPi,h的第一特征矢量ui,h与相邻区域的第一特征矢量的距离,fi,h的维数为20,fi,h表示SPi,h中的所有像素点的频率响应特征矢量的均值,ci,h的维数为9,ci,h表示SPi,h中的所有像素点的颜色特征矢量的均值,di,h表示SPi,h的视差幅值的均值,表示SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图与SPi,h的相邻区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,表示SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图与SPi,h的相邻区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图与SPi,h的相邻区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS颜色空间的S分量的颜色直方图与SPi,h的相邻区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,表示SPi,h中的所有像素点的LBP特征统计直方图与SPi,h的相邻区域中的所有像素点的LBP特征统计直方图的距离,表示SPi,h中的所有像素点的视差统计直方图与SPi,h的相邻区域中的所有像素点的视差统计直方图的距离,此处的相邻区域是指Ri中与SPi,h相邻的区域;
①-4、计算{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的通用特征矢量,将Ri中的第h个区域SPi,h的通用特征矢量记为 其中,的维数为33,此处符号“[]”为矢量表示符号,的维数为20,表示SPi,h中的所有像素点的频率响应特征矢量的方差,的维数为9,表示SPi,h中的所有像素点的颜色特征矢量的方差,表示SPi,h的视差幅值的方差,xi,h的维数为2,xi,h表示SPi,h的中心像素点的坐标位置,si,h表示SPi,h的面积;
①-5、计算{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的背景先验特征矢量,将Ri中的第h个区域SPi,h的背景先验特征矢量记为 X i , h b = [ e i , h , e i , h 1 , e i , h 2 , e i , h 3 , e i , h 4 , e i , h 5 , e i , h 6 ] , 其中,的维数为36,此处符号“[]”为矢量表示符号,ei,h表示SPi,h的第一特征矢量ui,h与背景区域的第一特征矢量的距离,fi,h的维数为20,fi,h表示SPi,h中的所有像素点的频率响应特征矢量的均值,ci,h的维数为9,ci,h表示SPi,h中的所有像素点的颜色特征矢量的均值,表示SPi,h的视差幅值的均值,表示SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图与Ri中的背景区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,表示SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图与Ri中的背景区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图与Ri中的背景区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS颜色空间的S分量的颜色直方图与Ri中的背景区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,表示SPi,h中的所有像素点的LBP特征统计直方图与Ri中的背景区域中的所有像素点的LBP特征统计直方图的距离,表示SPi,h中的所有像素点的视差统计直方图与Ri中的背景区域中的所有像素点的视差统计直方图的距离,此处的背景区域是指Ri中位于最左边、最右边、最上边、最下边的区域;
①-6、将{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的对比度特征矢量、通用特征矢量和背景先验特征矢量按顺序进行排列,构成{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的用于反映视觉显著性的特征矢量,将Ri中的第h个区域SPi,h的用于反映视觉显著性的特征矢量记为Xi,h其中,Xi,h的维数为105,此处符号“[]”为矢量表示符号;
①-7、采用随机森林回归,对{Li,Ri,di|1≤i≤N}中的所有立体图像的右视点图像中的所有区域的用于反映视觉显著性的特征矢量进行训练,并使得经过训练得到的回归函数值与平均眼动值之间的误差最小,得到最优的随机森林回归训练模型,记为f(Dinp),其中,f()为函数表示形式,Dinp表示随机森林回归训练模型的输入矢量;
所述的测试阶段的具体步骤如下:
②-1、对于任意一副测试立体图像Stest,将Stest的左视点图像、右视点图像、右视差图像对应记为Ltest、Rtest、dtest;然后采用超像素分割技术将Rtest分割成M个互不重叠的区域,将Rtest中的第h个区域记为SPh';其中,M≥1,1≤h≤M;
②-2、按照步骤①-3至步骤①-6的过程,以相同的操作方式获取Rtest中的每个区域的用于反映视觉显著性的特征矢量,将Rtest中的第h个区域SPh'的用于反映视觉显著性的特征矢量记为Ftest,h;然后根据训练阶段得到的最优的随机森林回归训练模型f(Dinp),将Ftest,h作为最优的随机森林回归训练模型的输入矢量,获取Rtest中的每个区域的三维视觉显著值,将Rtest中的第h个区域SPh'的三维视觉显著值记为S3D,h,S3D,h=f(Ftest,h);再将Rtest中的每个区域的三维视觉显著值作为对应区域中的所有像素点的显著值,从而得到Rtest的三维显著图,记为{S3D(x,y)},其中,此处(x,y)表示Stest中的像素点的坐标位置,1≤x≤W,1≤y≤H,W和H对应表示Stest的宽度和高度,S3D(x,y)表示{S3D(x,y)}中坐标位置为(x,y)的像素点的像素值。
所述的步骤①-3中Ri中的第h个区域SPi,h的对比度特征矢量的获取过程为:
a1、计算Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量的均值,记为fi,h,fi,h中的第个元素的值等于Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量中的第个元素的频率响应振幅的均值,其中,fi,h的维数为20,
a2、计算Ri中的第h个区域SPi,h中的所有像素点的颜色特征矢量的均值,记为ci,h c i , h = [ R ‾ i , h , G ‾ i , h , B ‾ i , h , L ‾ i , h , a ‾ i . h , b ‾ i , h , H ‾ i , h , V ‾ i , h , S ‾ i , h ] , 其中,ci,h的维数为9,此处符号“[]”为矢量表示符号,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的G分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的B分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的a分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的b分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的V分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色值的均值;
a3、计算Ri中的第h个区域SPi,h的视差幅值的均值,记为等于di中与SPi,h对应的区域中的所有像素点的像素值的均值;
a4、将fi,h、ci,h按顺序进行排列,构成Ri中的第h个区域SPi,h的第一特征矢量,记为ui,h其中,ui,h的维数为30,此处符号“[]”为矢量表示符号;
a5、计算Ri中的第h个区域SPi,h的第一特征矢量ui,h与相邻区域的第一特征矢量的距离,记为di,h其中,di,h的维数为30,1≤p≤M,表示Ri中的第h个区域SPi,h的相邻区域的序号的集合,ui,p表示Ri中的第p个区域SPi,p的第一特征矢量,符号“||”为取绝对值符号,P表示Ri中的第h个区域SPi,h的相邻区域的总个数,此处的相邻区域是指Ri中与SPi,h相邻的区域;
a6、计算Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的LBP特征统计直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的视差统计直方图,记为其中,的维数为163的维数为163的维数为16,的维数为16,的维数为256,的维数为16;
a7、计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点的LBP特征统计直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点的视差统计直方图的距离,记为
其中,1≤p≤M,表示Ri中的第h个区域SPi,h的相邻区域的序号的集合,P表示Ri中的第h个区域SPi,h的相邻区域的总个数,χ()为求卡方距离函数,表示Ri中的第p个区域SPi,p中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点在HVS颜色空间的H分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点在HVS颜色空间的S分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点的LBP特征统计直方图,表示Ri中的第p个区域SPi,p中的所有像素点的视差统计直方图;
a8、将di,h按顺序进行排列,构成Ri中的第h个区域SPi,h的对比度特征矢量,记为 X i , h b = [ e i , h , e i , h 1 , e i , h 2 , e i , h 3 , e i , h 4 , e i , h 5 , e i , h 6 ] , 其中,的维数为36,此处符号“[]”为矢量表示符号。
所述的步骤①-4中Ri中的第h个区域SPi,h的通用特征矢量的获取过程为:
b1、计算Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量的方差,记为中的第个元素的值等于Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量中的第个元素的频率响应振幅的方差,其中,的维数为20,
b2、计算Ri中的第h个区域SPi,h中的所有像素点的颜色特征矢量的方差,记为 c ^ i , h = [ R ^ i , h , G ^ i , h , B ^ i , h , L ^ i , h , a ^ i , h , b ^ i , h , H ^ i , h , V ^ i , h , S ^ i , h ] , 其中,的维数为9,此处符号“[]”为矢量表示符号,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的G分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的B分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的a分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的b分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的V分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色值的方差;
b3、计算Ri中的第h个区域SPi,h的视差幅值的方差,记为等于di中与SPi,h对应的区域中的所有像素点的像素值的方差;
b4、获取Ri中的第h个区域SPi,h的中心像素点的坐标位置,记为xi,h,其中,xi,h的维数为2;
b5、计算Ri中的第h个区域SPi,h的面积,记为si,h
b6、将xi,h和si,h按顺序进行排列,构成Ri中的第h个区域SPi,h的通用特征矢量,记为 X i , h a = [ f ^ i , h , c ^ i , h , d ^ i , h , x i , h , s i , h ] , 其中,的维数为33,此处符号“[]”为矢量表示符号。
所述的步骤①-5中Ri中的第h个区域SPi,h的背景先验特征矢量的获取过程为:
c1、计算Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量的均值,记为fi,h,fi,h中的第个元素的值等于Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量中的第个元素的频率响应振幅的均值,其中,fi,h的维数为20,
c2、计算Ri中的第h个区域SPi,h中的所有像素点的颜色特征矢量的均值,记为ci,h c i , h = [ R ‾ i , h , G ‾ i , h , B ‾ i , h , L ‾ i , h , a ‾ i , h , b ‾ i , h , H ‾ i , h , V ‾ i , h , S ‾ i , h ] , 其中,ci,h的维数为9,此处符号“[]”为矢量表示符号,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的G分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的B分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的a分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的b分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的V分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色值的均值;
c3、计算Ri中的第h个区域SPi,h的视差幅值的均值,记为等于di中与SPi,h对应的区域中的所有像素点的像素值的均值;
c4、将fi,h、ci,h按顺序进行排列,构成Ri中的第h个区域SPi,h的第一特征矢量,记为ui,h其中,ui,h的维数为30,此处符号“[]”为矢量表示符号;
c5、计算Ri中的第h个区域SPi,h的第一特征矢量ui,h与背景区域的第一特征矢量的距离,记为ei,h其中,ei,h的维数为30,1≤q≤M,表示Ri中的所有背景区域的序号的集合,ui,q表示Ri中的第q个区域SPi,q的第一特征矢量,符号“||”为取绝对值符号,Q表示Ri中的背景区域的总个数,此处的背景区域是指Ri中位于最左边、最右边、最上边、最下边的区域;
c6、计算Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的LBP特征统计直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的视差统计直方图,记为其中,的维数为163的维数为163的维数为16,的维数为16,的维数为256,的维数为16;
c7、计算与Ri中的背景区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点的LBP特征统计直方图的距离,记为
计算与Ri中的背景区域中的所有像素点的视差统计直方图的距离,记为
其中,1≤q≤M,表示Ri中的所有背景区域的序号的集合,Q表示Ri中的背景区域的总个数,χ()为求卡方距离函数,表示Ri中的第q个区域SPi,q中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点在HVS颜色空间的H分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点在HVS颜色空间的S分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点的LBP特征统计直方图,表示Ri中的第q个区域SPi,q中的所有像素点的视差统计直方图;
c8、将ei,h 按顺序进行排列,构成Ri中的第h个区域SPi,h的背景先验特征矢量,记为 X i , h b = [ e i , h , e i , h 1 , e i , h 2 , e i , h 3 , e i , h 4 , e i , h 5 , e i , h 6 ] , 其中,的维数为36,此处符号“[]”为矢量表示符号。
所述的Ri中的每个像素点的频率响应特征矢量的获取过程为:
1)-1、采用Gabor滤波器对Ri进行滤波处理,得到Ri中的每个像素点在不同中心频率和不同方向因子下的频率响应振幅,将Ri中坐标位置为(x,y)的像素点在中心频率为ω和方向因子为θ下的频率响应振幅记为G(x,y;ω,θ),其中,此处(x,y)表示{Li,Ri,di|1≤i≤N}中的立体图像中的像素点的坐标位置,1≤x≤W,1≤y≤H,W和H对应表示{Li,Ri,di|1≤i≤N}中的立体图像的宽度和高度,ω表示Gabor滤波器的中心频率,ω∈Φω,θ表示Gabor滤波器的方向因子,θ∈Φθ,Φω表示Gabor滤波器的所有中心频率的集合,Φθ表示Gabor滤波器的所有方向因子的集合;
1)-2、将Ri中的每个像素点在不同中心频率和不同方向因子下的频率响应振幅按顺序进行排列,构成Ri中的每个像素点的频率响应特征矢量,将Ri中坐标位置为(x,y)的像素点的频率响应特征矢量记为fi(x,y),其中,fi(x,y)的维数为20。
所述的Ri中的每个像素点的颜色特征矢量的获取过程为:
2)-1、计算Ri中的每个像素点在不同颜色空间的颜色值,将Ri中坐标位置为(x,y)的像素点在RGB颜色空间的R分量、G分量和B分量的颜色值分别记为R(x,y)、G(x,y)和B(x,y),将Ri中坐标位置为(x,y)的像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色值分别记为L(x,y)、a(x,y)和b(x,y),将Ri中坐标位置为(x,y)的像素点在HVS颜色空间的H分量、V分量和S分量的颜色值分别记为H(x,y)、V(x,y)和S(x,y),其中,此处(x,y)表示{Li,Ri,di|1≤i≤N}中的立体图像中的像素点的坐标位置,1≤x≤W,1≤y≤H,W和H对应表示{Li,Ri,di|1≤i≤N}中的立体图像的宽度和高度;
2)-2、将Ri中的每个像素点在不同颜色空间的颜色值按顺序进行排列,构成Ri中的每个像素点的颜色特征矢量,将Ri中坐标位置为(x,y)的像素点的颜色特征矢量记为ci(x,y),ci(x,y)=[R(x,y),G(x,y),B(x,y),L(x,y),a(x,y),b(x,y),H(x,y),V(x,y),S(x,y)],其中,ci(x,y)的维数为9,此处符号“[]”为矢量表示符号。
与现有技术相比,本发明的优点在于:
1)本发明方法同时考虑了立体图像的右视点图像中的每个区域的对比度特征矢量、通用特征矢量和背景先验特征矢量,并融合得到立体图像的右视点图像中的每个区域的用于反映视觉显著性的特征矢量,因此本发明方法具有较高的提取准确性和较强的稳定性,并能够较好地反映各种因素的显著变化情况,符合显著语义特征。
2)本发明方法通过训练构建用于反映视觉显著性的特征矢量与平均眼动值之间的随机森林回归训练模型,然后利用该随机森林回归训练模型来预测测试立体图像的右视点图像中的每个区域的三维视觉显著值,从而得到测试立体图像的三维显著图,有效地提高了视觉显著值的预测准确性。
附图说明
图1为本发明方法的总体实现框图;
图2a为“Image1”的右视点图像;
图2b为“Image1”的右视点图像的真实眼动图;
图2c为“Image1”的三维显著图;
图3a为“Image2”的右视点图像;
图3b为“Image2”的右视点图像的真实眼动图;
图3c为“Image2”的三维显著图;
图4a为“Image3”的右视点图像;
图4b为“Image3”的右视点图像的真实眼动图;
图4c为“Image3”的三维显著图;
图5a为“Image4”的右视点图像;
图5b为“Image4”的右视点图像的真实眼动图;
图5c为“Image4”的三维显著图;
图6a为“Image5”的右视点图像;
图6b为“Image5”的右视点图像的真实眼动图;
图6c为“Image5”的三维显著图;
图7a为“Image6”的右视点图像;
图7b为“Image6”的右视点图像的真实眼动图;
图7c为“Image6”的三维显著图;
图8a为“Image7”的右视点图像;
图8b为“Image7”的右视点图像的真实眼动图;
图8c为“Image7”的三维显著图。
具体实施方式
以下结合附图实施例对本发明作进一步详细描述。
本发明提出的一种立体图像显著图提取方法,其总体实现框图如图1所示,其包括训练阶段和测试阶段两个过程,训练阶段的具体步骤如下:
①-1、将选取的N副各不相同的立体图像以及每幅立体图像的右视差图像构成一个集合,记为{Li,Ri,di|1≤i≤N},其中,N≥1,在本实施例中取N=600,Li表示{Li,Ri,di|1≤i≤N}中的第i幅立体图像的左视点图像,Ri表示{Li,Ri,di|1≤i≤N}中的第i幅立体图像的右视点图像,di表示{Li,Ri,di|1≤i≤N}中的第i幅立体图像的右视差图像。
在本实施例中,采用新加坡国立大学提供的三维人眼跟踪数据库(NUS 3D-Saliency database)构造训练立体图像集,该立体图像数据库包含600副立体图像以及对应的右视差图像,并给出了每副立体图像的真实眼动图。
①-2、采用现有的超像素分割技术将{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像分割成M个互不重叠的区域,将Ri中的第h个区域记为SPi,h,可将{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像重新表示为M个区域的集合,将Ri重新表示的M个区域的集合记为{SPi,h};其中,M≥1,在本实施例中取M=400,1≤h≤M。
①-3、计算{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的对比度特征矢量,将Ri中的第h个区域SPi,h的对比度特征矢量记为 X i , h c = [ d i , h , d i , h 1 , d i , h 2 , d i , h 3 , d i , h 4 , d i , h 5 , d i , h 6 ] , 其中,的维数为36,此处符号“[]”为矢量表示符号,di,h表示SPi,h的第一特征矢量ui,h与相邻区域的第一特征矢量的距离,fi,h的维数为20,fi,h表示SPi,h中的所有像素点的频率响应特征矢量的均值,ci,h的维数为9,ci,h表示SPi,h中的所有像素点的颜色特征矢量的均值,表示SPi,h的视差幅值的均值,表示SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图与SPi,h的相邻区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,表示SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图与SPi,h的相邻区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图与SPi,h的相邻区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS颜色空间的S分量的颜色直方图与SPi,h的相邻区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,表示SPi,h中的所有像素点的LBP特征统计直方图与SPi,h的相邻区域中的所有像素点的LBP特征统计直方图的距离,表示SPi,h中的所有像素点的视差统计直方图与SPi,h的相邻区域中的所有像素点的视差统计直方图的距离,此处的相邻区域是指Ri中与SPi,h相邻的区域。
在此具体实施例中,步骤①-3中Ri中的第h个区域SPi,h的对比度特征矢量的获取过程为:
a1、计算Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量的均值,记为fi,h,fi,h中的第个元素的值等于Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量中的第个元素的频率响应振幅的均值,其中,fi,h的维数为20,
a2、计算Ri中的第h个区域SPi,h中的所有像素点的颜色特征矢量的均值,记为ci,h c i , h = [ R ‾ i , h , G ‾ i , h , B ‾ i , h , L ‾ i , h , a ‾ i , h , b ‾ i , h , H ‾ i , h , V ‾ i , h , S ‾ i , h ] , 其中,ci,h的维数为9,此处符号“[]”为矢量表示符号,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的G分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的B分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的a分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的b分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的V分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色值的均值。
a3、计算Ri中的第h个区域SPi,h的视差幅值的均值,记为等于di中与SPi,h对应的区域中的所有像素点的像素值的均值。
a4、将fi,h、ci,h按顺序进行排列,构成Ri中的第h个区域SPi,h的第一特征矢量,记为ui,h其中,ui,h的维数为30,此处符号“[]”为矢量表示符号。
a5、计算Ri中的第h个区域SPi,h的第一特征矢量ui,h与相邻区域的第一特征矢量的距离,记为di,h其中,di,h的维数为30,1≤p≤M,表示Ri中的第h个区域SPi,h的相邻区域的序号的集合,ui,p表示Ri中的第p个区域SPi,p(SPi,p为SPi,h的相邻区域)的第一特征矢量,符号“||”为取绝对值符号,P表示Ri中的第h个区域SPi,h的相邻区域的总个数,在本实施例中取P=20,此处的相邻区域是指Ri中与SPi,h相邻的区域。
a6、计算Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的LBP特征统计直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的视差统计直方图,记为其中,的维数为163的维数为163的维数为16,的维数为16,的维数为256,的维数为16。
a7、计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点的LBP特征统计直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点的视差统计直方图的距离,记为
其中,1≤p≤M,表示Ri中的第h个区域SPi,h的相邻区域的序号的集合,P表示Ri中的第h个区域SPi,h的相邻区域的总个数,在本实施例中取P=20,χ()为求卡方距离(Chi-distance measure)函数,表示Ri中的第p个区域SPi,p中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点在HVS颜色空间的H分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点在HVS颜色空间的S分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点的LBP特征统计直方图,表示Ri中的第p个区域SPi,p中的所有像素点的视差统计直方图。
a8、将di,h按顺序进行排列,构成Ri中的第h个区域SPi,h的对比度特征矢量,记为 X i , h b = [ e i , h , e i , h 1 , e i , h 2 , e i , h 3 , e i , h 4 , e i , h 5 , e i , h 6 ] , 其中,的维数为36,此处符号“[]”为矢量表示符号。
①-4、计算{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的通用特征矢量,将Ri中的第h个区域SPi,h的通用特征矢量记为 其中,的维数为33,此处符号“[]”为矢量表示符号,的维数为20,表示SPi,h中的所有像素点的频率响应特征矢量的方差,的维数为9,表示SPi,h中的所有像素点的颜色特征矢量的方差,表示SPi,h的视差幅值的方差,xi,h的维数为2,xi,h表示SPi,h的中心像素点的坐标位置,si,h表示SPi,h的面积。
在此具体实施例中,步骤①-4中Ri中的第h个区域SPi,h的通用特征矢量的获取过程为:
b1、计算Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量的方差,记为中的第个元素的值等于Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量中的第个元素的频率响应振幅的方差,其中,的维数为20,
b2、计算Ri中的第h个区域SPi,h中的所有像素点的颜色特征矢量的方差,记为 c ^ i , h = [ R ^ i , h , G ^ i , h , B ^ i , h , L ^ i , h , a ^ i , h , b ^ i , h , H ^ i , h , V ^ i , h , S ^ i , h ] , 其中,的维数为9,此处符号“[]”为矢量表示符号,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的G分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的B分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的a分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的b分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的V分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色值的方差。
b3、计算Ri中的第h个区域SPi,h的视差幅值的方差,记为等于di中与SPi,h对应的区域中的所有像素点的像素值的方差。
b4、获取Ri中的第h个区域SPi,h的中心像素点的坐标位置,记为xi,h,其中,xi,h的维数为2。
b5、计算Ri中的第h个区域SPi,h的面积,记为si,h
b6、将xi,h和si,h按顺序进行排列,构成Ri中的第h个区域SPi,h的通用特征矢量,记为 X i , h a = [ f ^ i , h , c ^ i , h , d ^ i , h , x i , h , s i , h ] , 其中,的维数为33,此处符号“[]”为矢量表示符号。
①-5、计算{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的背景先验特征矢量,将Ri中的第h个区域SPi,h的背景先验特征矢量记为 X i , h b = [ e i , h , e i , h 1 , e i , h 2 , e i , h 3 , e i , h 4 , e i , h 5 , e i , h 6 ] , 其中,的维数为36,此处符号“[]”为矢量表示符号,ei,h表示SPi,h的第一特征矢量ui,h与背景区域的第一特征矢量的距离,fi,h的维数为20,fi,h表示SPi,h中的所有像素点的频率响应特征矢量的均值,ci,h的维数为9,ci,h表示SPi,h中的所有像素点的颜色特征矢量的均值,表示SPi,h的视差幅值的均值,表示SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图与Ri中的背景区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,表示SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图与Ri中的背景区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图与Ri中的背景区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS颜色空间的S分量的颜色直方图与Ri中的背景区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,表示SPi,h中的所有像素点的LBP特征统计直方图与Ri中的背景区域中的所有像素点的LBP特征统计直方图的距离,表示SPi,h中的所有像素点的视差统计直方图与Ri中的背景区域中的所有像素点的视差统计直方图的距离,此处的背景区域是指Ri中位于最左边、最右边、最上边、最下边的区域。
在此具体实施例中,步骤①-5中Ri中的第h个区域SPi,h的背景先验特征矢量的获取过程为:
c1、计算Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量的均值,记为fi,h,fi,h中的第个元素的值等于Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量中的第个元素的频率响应振幅的均值,其中,fi,h的维数为20,
c2、计算Ri中的第h个区域SPi,h中的所有像素点的颜色特征矢量的均值,记为ci,h c i , h = [ R ‾ i , h , G ‾ i , h , B ‾ i , h , L ‾ i , h , a ‾ i , h , b ‾ i , h , H ‾ i , h , V ‾ i , h , S ‾ i , h ] , 其中,ci,h的维数为9,此处符号“[]”为矢量表示符号,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的G分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的B分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的a分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的b分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的V分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色值的均值。
c3、计算Ri中的第h个区域SPi,h的视差幅值的均值,记为等于di中与SPi,h对应的区域中的所有像素点的像素值的均值。
c4、将fi,h、ci,h按顺序进行排列,构成Ri中的第h个区域SPi,h的第一特征矢量,记为ui,h其中,ui,h的维数为30,此处符号“[]”为矢量表示符号;
c5、计算Ri中的第h个区域SPi,h的第一特征矢量ui,h与背景区域的第一特征矢量的距离,记为ei,h其中,ei,h的维数为30,1≤q≤M,表示Ri中的所有背景区域的序号的集合,ui,q表示Ri中的第q个区域SPi,q(SPi,q为Ri中的背景区域)的第一特征矢量,符号“||”为取绝对值符号,Q表示Ri中的背景区域的总个数,此处的背景区域是指Ri中位于最左边、最右边、最上边、最下边的区域,即将落在Ri中的最左边、最右边、最上边和最下边的区域作为背景区域。
c6、计算Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的LBP特征统计直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的视差统计直方图,记为其中,的维数为163的维数为163的维数为16,的维数为16,的维数为256,的维数为16。
c7、计算与Ri中的背景区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点的LBP特征统计直方图的距离,记为
计算与Ri中的背景区域中的所有像素点的视差统计直方图的距离,记为
其中,1≤q≤M,表示Ri中的所有背景区域的序号的集合,Q表示Ri中的背景区域的总个数,χ()为求卡方距离(Chi-distance measure)函数,表示Ri中的第q个区域SPi,q中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点在HVS颜色空间的H分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点在HVS颜色空间的S分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点的LBP特征统计直方图,表示Ri中的第q个区域SPi,q中的所有像素点的视差统计直方图。
c8、将ei,h按顺序进行排列,构成Ri中的第h个区域SPi,h的背景先验特征矢量,记为 X i , h b = [ e i , h , e i , h 1 , e i , h 2 , e i , h 3 , e i , h 4 , e i , h 5 , e i , h 6 ] , 其中,的维数为36,此处符号“[]”为矢量表示符号。
①-6、将{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的对比度特征矢量、通用特征矢量和背景先验特征矢量按顺序进行排列,构成{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的用于反映视觉显著性的特征矢量,将Ri中的第h个区域SPi,h的用于反映视觉显著性的特征矢量记为Xi,h其中,Xi,h的维数为105,此处符号“[]”为矢量表示符号。
①-7、采用现有的随机森林回归,对{Li,Ri,di|1≤i≤N}中的所有立体图像的右视点图像中的所有区域的用于反映视觉显著性的特征矢量进行训练,并使得经过训练得到的回归函数值与平均眼动值之间的误差最小,得到最优的随机森林回归训练模型,记为f(Dinp),其中,f()为函数表示形式,Dinp表示随机森林回归训练模型的输入矢量。
测试阶段的具体步骤如下:
②-1、对于任意一副测试立体图像Stest,将Stest的左视点图像、右视点图像、右视差图像对应记为Ltest、Rtest、dtest;然后采用现有的超像素分割技术将Rtest分割成M个互不重叠的区域,将Rtest中的第h个区域记为SPh',可将Rtest重新表示为M个区域的集合,记为{SPh'};其中,M≥1,在本实施例中取M=400,1≤h≤M。
②-2、按照步骤①-3至步骤①-6的过程,以相同的操作方式获取Rtest中的每个区域的用于反映视觉显著性的特征矢量,将Rtest中的第h个区域SPh'的用于反映视觉显著性的特征矢量记为Ftest,h,Ftest,h的获取过程为:计算Rtest中的第h个区域SPh'的对比度特征矢量记为 X h c ′ = [ d h ′ , d h 1 ′ , d h 2 ′ , d h 3 ′ , d h 4 ′ , d h 5 ′ , d h 6 ′ ] , 其中,的维数为36,dh'表示SPh'的第一特征矢量uh'与相邻区域的第一特征矢量的距离,fh'的维数为20,fh'表示SPh'的频率响应特征矢量的均值,ch'的维数为9,ch'表示SPh'的颜色特征矢量的均值,表示SPh'的视差幅值的均值,表示SPh'中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图与SPh'的相邻区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,表示SPh'中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图与SPh'的相邻区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,表示SPh'中的所有像素点在HVS颜色空间的H分量的颜色直方图与SPh'的相邻区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,表示SPh'中的所有像素点在HVS颜色空间的S分量的颜色直方图与SPh'的相邻区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,表示SPh'中的所有像素点的LBP特征统计直方图与SPh'的相邻区域中的所有像素点的LBP特征统计直方图的距离,表示SPh'中的所有像素点的视差统计直方图与SPh'的相邻区域中的所有像素点的视差统计直方图的距离,此处的相邻区域是指与SPh'相邻的区域;计算Rtest中的第h个区域SPh'的通用特征矢量记为 X h a ′ = [ f ^ h ′ , c ^ h ′ , d ^ h ′ , x h ′ , s h ′ ] , 其中,的维数为33,的维数为20,表示SPh'的频率响应特征矢量的方差,的维数为9,表示SPh'的颜色特征矢量的方差,表示SPh'的视差幅值的方差,xh'的维数为2,xh'表示SPh'的中心像素点的坐标位置,sh'表示SPh'的面积;计算Rtest中的第h个区域SPh'的的背景先验特征矢量记为 X h b ′ = [ e h ′ , e h 1 ′ , e h 2 ′ , e h 3 ′ , e h 4 ′ , e h 5 ′ , e h 6 ′ ] , 其中,的维数为36,eh'表示SPh'的第一特征矢量uh'与背景区域的第一特征矢量的距离,表示SPh'中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图与背景区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,表示SPh'中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图与背景区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,表示SPh'中的所有像素点在HVS颜色空间的H分量的颜色直方图与背景区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,表示SPh'中的所有像素点在HVS颜色空间的S分量的颜色直方图与背景区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,表示SPh'中的所有像素点的LBP特征统计直方图与背景区域中的所有像素点的LBP特征统计直方图的距离,表示SPh'中的所有像素点的视差统计直方图与背景区域中的所有像素点的视差统计直方图的距离,此处的背景区域是指位于最左边、最右边、最上边、最下边的区域;将Rtest中的第h个区域SPh'的对比度特征矢量、通用特征矢量和背景先验特征矢量按顺序进行排列,构成Rtest中的第h个区域SPh'的用于反映视觉显著性的特征矢量,记为Ftest,h其中,Ftest,h的维数为105;然后根据训练阶段得到的最优的随机森林回归训练模型f(Dinp),将Ftest,h作为最优的随机森林回归训练模型的输入矢量,获取Rtest中的每个区域的三维视觉显著值,将Rtest中的第h个区域SPh'的三维视觉显著值记为S3D,h,S3D,h=f(Ftest,h);再将Rtest中的每个区域的三维视觉显著值作为对应区域中的所有像素点的显著值,如对于Rtest中的第h个区域SPh',将S3D,h作为SPh'中的所有像素点的显著值,从而得到Rtest的三维显著图,记为{S3D(x,y)},其中,此处(x,y)表示Stest中的像素点的坐标位置,1≤x≤W,1≤y≤H,W和H对应表示Stest的宽度和高度,Stest的宽度与训练阶段选取的立体图像的宽度一致,Stest的高度与训练阶段选取的立体图像的高度一致,S3D(x,y)表示{S3D(x,y)}中坐标位置为(x,y)的像素点的像素值。
在此具体实施例中,Ri中的每个像素点的频率响应特征矢量的获取过程为:
1)-1、采用Gabor滤波器对Ri进行滤波处理,得到Ri中的每个像素点在不同中心频率和不同方向因子下的频率响应振幅,将Ri中坐标位置为(x,y)的像素点在中心频率为ω和方向因子为θ下的频率响应振幅记为G(x,y;ω,θ),其中,此处(x,y)表示{Li,Ri,di|1≤i≤N}中的立体图像中的像素点的坐标位置,1≤x≤W,1≤y≤H,W和H对应表示{Li,Ri,di|1≤i≤N}中的立体图像的宽度和高度,ω表示Gabor滤波器的中心频率,ω∈Φω,θ表示Gabor滤波器的方向因子,θ∈Φθ,Φω表示Gabor滤波器的所有中心频率的集合,在本实施例中Φω={1.74,2.47,3.49,4.93,6.98},Φθ表示Gabor滤波器的所有方向因子的集合,在本实施例中Φθ={0°,90°,180°,270°}。
1)-2、将Ri中的每个像素点在不同中心频率和不同方向因子下的频率响应振幅按顺序进行排列,构成Ri中的每个像素点的频率响应特征矢量,将Ri中坐标位置为(x,y)的像素点的频率响应特征矢量记为fi(x,y),fi(x,y)为由G(x,y;1.74,0°)、G(x,y;2.47,0°)、G(x,y;3.49,0°)、G(x,y;4.93,0°)、G(x,y;6.98,0°)、G(x,y;1.74,90°)、G(x,y;2.47,90°)、G(x,y;3.49,90°)、G(x,y;4.93,90°)、G(x,y;6.98,90°)、G(x,y;1.74,180°)、G(x,y;2.47,180°)、G(x,y;3.49,180°)、G(x,y;4.93,180°)、G(x,y;6.98,180°)、G(x,y;1.74,270°)、G(x,y;2.47,270°)、G(x,y;3.49,270°)、G(x,y;4.93,270°)、G(x,y;6.98,270°)按顺序排列构成的矢量,其中,fi(x,y)的维数为20。
在此具体实施例中,Ri中的每个像素点的颜色特征矢量的获取过程为:
2)-1、计算Ri中的每个像素点在不同颜色空间的颜色值,将Ri中坐标位置为(x,y)的像素点在RGB颜色空间的R分量、G分量和B分量的颜色值分别记为R(x,y)、G(x,y)和B(x,y),将Ri中坐标位置为(x,y)的像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色值分别记为L(x,y)、a(x,y)和b(x,y),将Ri中坐标位置为(x,y)的像素点在HVS颜色空间的H分量、V分量和S分量的颜色值分别记为H(x,y)、V(x,y)和S(x,y),其中,此处(x,y)表示{Li,Ri,di|1≤i≤N}中的立体图像中的像素点的坐标位置,1≤x≤W,1≤y≤H,W和H对应表示{Li,Ri,di|1≤i≤N}中的立体图像的宽度和高度。
2)-2、将Ri中的每个像素点在不同颜色空间的颜色值按顺序进行排列,构成Ri中的每个像素点的颜色特征矢量,将Ri中坐标位置为(x,y)的像素点的颜色特征矢量记为ci(x,y),ci(x,y)=[R(x,y),G(x,y),B(x,y),L(x,y),a(x,y),b(x,y),H(x,y),V(x,y),S(x,y)],其中,ci(x,y)的维数为9,此处符号“[]”为矢量表示符号。
以下就利用本发明方法对法国南特大学提供的三维人眼跟踪数据库(3Deye-tracking database)中的Image1、Image2、Image3、Image4和Image5五幅立体图像的三维显著图进行提取。图2a给出了“Image1”的右视点图像、图2b给出了“Image1”的右视点图像的真实眼动图、图2c给出了“Image1”的三维显著图;图3a给出了“Image2”的右视点图像、图3b给出了“Image2”的右视点图像的真实眼动图、图3c给出了“Image2”的三维显著图;图4a给出了“Image3”的右视点图像、图4b给出了“Image3”的右视点图像的真实眼动图、图4c给出了“Image3”的三维显著图;图5a给出了“Image4”的右视点图像、图5b给出了“Image4”的右视点图像的真实眼动图、图5c给出了“Image4”的三维显著图;图6a给出了“Image5”的右视点图像、图6b给出了“Image5”的右视点图像的真实眼动图、图6c给出了“Image5”的三维显著图;图7a给出了“Image6”的右视点图像、图7b给出了“Image6”的右视点图像的真实眼动图、图7c给出了“Image6”的三维显著图;图8a给出了“Image7”的右视点图像、图8b给出了“Image7”的右视点图像的真实眼动图、图8c给出了“Image7”的三维显著图。从图2a至图8c中可以看出,采用本发明方法得到的三维显著图由于考虑了对比度特征、通用特征和背景先验特征,因此能够很好地符合显著语义的特征。

Claims (6)

1.一种立体图像显著图提取方法,其特征在于包括训练阶段和测试阶段两个过程,所述的训练阶段的具体步骤如下:
①-1、将选取的N副各不相同的立体图像以及每幅立体图像的右视差图像构成一个集合,记为{Li,Ri,di|1≤i≤N},其中,N≥1,Li表示{Li,Ri,di|1≤i≤N}中的第i幅立体图像的左视点图像,Ri表示{Li,Ri,di|1≤i≤N}中的第i幅立体图像的右视点图像,di表示{Li,Ri,di|1≤i≤N}中的第i幅立体图像的右视差图像;
①-2、采用超像素分割技术将{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像分割成M个互不重叠的区域,将Ri中的第h个区域记为SPi,h,其中,M≥1,1≤h≤M;
①-3、计算{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的对比度特征矢量,将Ri中的第h个区域SPi,h的对比度特征矢量记为 其中,的维数为36,此处符号“[]”为矢量表示符号,di,h表示SPi,h的第一特征矢量ui,h与相邻区域的第一特征矢量的距离,fi,h的维数为20,fi,h表示SPi,h中的所有像素点的频率响应特征矢量的均值,ci,h的维数为9,ci,h表示SPi,h中的所有像素点的颜色特征矢量的均值,表示SPi,h的视差幅值的均值,表示SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图与SPi,h的相邻区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,表示SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图与SPi,h的相邻区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图与SPi,h的相邻区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS 颜色空间的S分量的颜色直方图与SPi,h的相邻区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,表示SPi,h中的所有像素点的LBP特征统计直方图与SPi,h的相邻区域中的所有像素点的LBP特征统计直方图的距离,表示SPi,h中的所有像素点的视差统计直方图与SPi,h的相邻区域中的所有像素点的视差统计直方图的距离,此处的相邻区域是指Ri中与SPi,h相邻的区域;
①-4、计算{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的通用特征矢量,将Ri中的第h个区域SPi,h的通用特征矢量记为 其中,的维数为33,此处符号“[]”为矢量表示符号,的维数为20,表示SPi,h中的所有像素点的频率响应特征矢量的方差,的维数为9,表示SPi,h中的所有像素点的颜色特征矢量的方差,表示SPi,h的视差幅值的方差,xi,h的维数为2,xi,h表示SPi,h的中心像素点的坐标位置,si,h表示SPi,h的面积;
①-5、计算{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的背景先验特征矢量,将Ri中的第h个区域SPi,h的背景先验特征矢量记为 其中,的维数为36,此处符号“[]”为矢量表示符号,ei,h表示SPi,h的第一特征矢量ui,h与背景区域的第一特征矢量的距离,fi,h的维数为20,fi,h表示SPi,h中的所有像素点的频率响应特征矢量的均值,ci,h的维数为9,ci,h表示SPi,h中的所有像素点的颜色特征矢量的均值,表示SPi,h的视差幅值的均值,表示SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图与Ri中的背景区域中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图的距离,表示SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图与Ri中的背景区域中的所有像素点在CIELAB 颜色空间的L分量、a分量和b分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图与Ri中的背景区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,表示SPi,h中的所有像素点在HVS颜色空间的S分量的颜色直方图与Ri中的背景区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,表示SPi,h中的所有像素点的LBP特征统计直方图与Ri中的背景区域中的所有像素点的LBP特征统计直方图的距离,表示SPi,h中的所有像素点的视差统计直方图与Ri中的背景区域中的所有像素点的视差统计直方图的距离,此处的背景区域是指Ri中位于最左边、最右边、最上边、最下边的区域;
①-6、将{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的对比度特征矢量、通用特征矢量和背景先验特征矢量按顺序进行排列,构成{Li,Ri,di|1≤i≤N}中的每幅立体图像的右视点图像中的每个区域的用于反映视觉显著性的特征矢量,将Ri中的第h个区域SPi,h的用于反映视觉显著性的特征矢量记为Xi,h其中,Xi,h的维数为105,此处符号“[]”为矢量表示符号;
①-7、采用随机森林回归,对{Li,Ri,di|1≤i≤N}中的所有立体图像的右视点图像中的所有区域的用于反映视觉显著性的特征矢量进行训练,并使得经过训练得到的回归函数值与平均眼动值之间的误差最小,得到最优的随机森林回归训练模型,记为f(Dinp),其中,f()为函数表示形式,Dinp表示随机森林回归训练模型的输入矢量;
所述的测试阶段的具体步骤如下:
②-1、对于任意一副测试立体图像Stest,将Stest的左视点图像、右视点图像、右视差图像对应记为Ltest、Rtest、dtest;然后采用超像素分割技术将Rtest分割成M个互不重叠的区域,将Rtest中的第h个区域记为SPh';其中,M≥1,1≤h≤M;
②-2、按照步骤①-3至步骤①-6的过程,以相同的操作方式获取Rtest中的每个区域 的用于反映视觉显著性的特征矢量,将Rtest中的第h个区域SPh'的用于反映视觉显著性的特征矢量记为Ftest,h;然后根据训练阶段得到的最优的随机森林回归训练模型f(Dinp),将Ftest,h作为最优的随机森林回归训练模型的输入矢量,获取Rtest中的每个区域的三维视觉显著值,将Rtest中的第h个区域SPh'的三维视觉显著值记为S3D,h,S3D,h=f(Ftest,h);再将Rtest中的每个区域的三维视觉显著值作为对应区域中的所有像素点的显著值,从而得到Rtest的三维显著图,记为{S3D(x,y)},其中,此处(x,y)表示Stest中的像素点的坐标位置,1≤x≤W,1≤y≤H,W和H对应表示Stest的宽度和高度,S3D(x,y)表示{S3D(x,y)}中坐标位置为(x,y)的像素点的像素值。
2.根据权利要求1所述的一种立体图像显著图提取方法,其特征在于所述的步骤①-3中Ri中的第h个区域SPi,h的对比度特征矢量的获取过程为:
a1、计算Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量的均值,记为fi,h,fi,h中的第个元素的值等于Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量中的第个元素的频率响应振幅的均值,其中,fi,h的维数为20,
a2、计算Ri中的第h个区域SPi,h中的所有像素点的颜色特征矢量的均值,记为ci,h其中,ci,h的维数为9,此处符号“[]”为矢量表示符号,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的G分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的B分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的a分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的b分量的颜色值的均值,表示Ri中的第h个区 域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的V分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色值的均值;
a3、计算Ri中的第h个区域SPi,h的视差幅值的均值,记为 等于di中与SPi,h对应的区域中的所有像素点的像素值的均值;
a4、将fi,h、ci,h按顺序进行排列,构成Ri中的第h个区域SPi,h的第一特征矢量,记为其中,ui,h的维数为30,此处符号“[]”为矢量表示符号;
a5、计算Ri中的第h个区域SPi,h的第一特征矢量ui,h与相邻区域的第一特征矢量的距离,记为di,h其中,di,h的维数为30,1≤p≤M,表示Ri中的第h个区域SPi,h的相邻区域的序号的集合,ui,p表示Ri中的第p个区域SPi,p的第一特征矢量,符号“| |”为取绝对值符号,P表示Ri中的第h个区域SPi,h的相邻区域的总个数,此处的相邻区域是指Ri中与SPi,h相邻的区域;
a6、计算Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的LBP特征统计直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的视差统计直方图,记为其中,的维数为163的维数为163的维数为16,的维数为16,的维数为256,的维数为16;
a7、计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在RGB颜色空间 的R分量、G分量和B分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点的LBP特征统计直方图的距离,记为
计算与Ri中的第h个区域SPi,h的相邻区域中的所有像素点的视差统计直方图的距离,记为
其中,1≤p≤M,表示Ri中的第h个区域SPi,h的相邻区域的序号的集合,P表示Ri中的第h个区域SPi,h的相邻区域的总个数,χ()为求卡方距离函数,表示Ri中的第p个区域SPi,p中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点在HVS颜色空间的H分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点在HVS颜色空间的S分量的颜色直方图,表示Ri中的第p个区域SPi,p中的所有像素点 的LBP特征统计直方图,表示Ri中的第p个区域SPi,p中的所有像素点的视差统计直方图;
a8、将di,h按顺序进行排列,构成Ri中的第h个区域SPi,h的对比度特征矢量,记为 其中,的维数为36,此处符号“[]”为矢量表示符号。
3.根据权利要求2所述的一种立体图像显著图提取方法,其特征在于所述的步骤①-4中Ri中的第h个区域SPi,h的通用特征矢量的获取过程为:
b1、计算Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量的方差,记为 中的第个元素的值等于Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量中的第个元素的频率响应振幅的方差,其中,的维数为20,
b2、计算Ri中的第h个区域SPi,h中的所有像素点的颜色特征矢量的方差,记为 其中,的维数为9,此处符号“[]”为矢量表示符号,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的G分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的B分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的a分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的b分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的V分量的颜色值的方差,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色值的方差;
b3、计算Ri中的第h个区域SPi,h的视差幅值的方差,记为 等于di中与SPi,h对应的区域中的所有像素点的像素值的方差;
b4、获取Ri中的第h个区域SPi,h的中心像素点的坐标位置,记为xi,h,其中,xi,h的维数为2;
b5、计算Ri中的第h个区域SPi,h的面积,记为si,h
b6、将xi,h和si,h按顺序进行排列,构成Ri中的第h个区域SPi,h的通用特征矢量,记为 其中,的维数为33,此处符号“[]”为矢量表示符号。
4.根据权利要求3所述的一种立体图像显著图提取方法,其特征在于所述的步骤①-5中Ri中的第h个区域SPi,h的背景先验特征矢量的获取过程为:
c1、计算Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量的均值,记为fi,h,fi,h中的第个元素的值等于Ri中的第h个区域SPi,h中的所有像素点的频率响应特征矢量中的第个元素的频率响应振幅的均值,其中,fi,h的维数为20,
c2、计算Ri中的第h个区域SPi,h中的所有像素点的颜色特征矢量的均值,记为ci,h其中,ci,h的维数为9,此处符号“[]”为矢量表示符号,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的G分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的B分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的a分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的b分量的颜色值的均值,表示Ri中的第h个区 域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的V分量的颜色值的均值,表示Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色值的均值;
c3、计算Ri中的第h个区域SPi,h的视差幅值的均值,记为 等于di中与SPi,h对应的区域中的所有像素点的像素值的均值;
c4、将fi,h、ci,h按顺序进行排列,构成Ri中的第h个区域SPi,h的第一特征矢量,记为ui,h其中,ui,h的维数为30,此处符号“[]”为矢量表示符号;
c5、计算Ri中的第h个区域SPi,h的第一特征矢量ui,h与背景区域的第一特征矢量的距离,记为ei,h其中,ei,h的维数为30,1≤q≤M,表示Ri中的所有背景区域的序号的集合,ui,q表示Ri中的第q个区域SPi,q的第一特征矢量,符号“| |”为取绝对值符号,Q表示Ri中的背景区域的总个数,此处的背景区域是指Ri中位于最左边、最右边、最上边、最下边的区域;
c6、计算Ri中的第h个区域SPi,h中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的H分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点在HVS颜色空间的S分量的颜色直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的LBP特征统计直方图,记为计算Ri中的第h个区域SPi,h中的所有像素点的视差统计直方图,记为其中,的维数为163的维数为163的维数为16,的维数为16,的维数为256,的维数为16;
c7、计算与Ri中的背景区域中的所有像素点在RGB颜色空间的R分量、G分 量和B分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点在HVS颜色空间的H分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点在HVS颜色空间的S分量的颜色直方图的距离,记为
计算与Ri中的背景区域中的所有像素点的LBP特征统计直方图的距离,记为
计算与Ri中的背景区域中的所有像素点的视差统计直方图的距离,记为
其中,1≤q≤M,表示Ri中的所有背景区域的序号的集合,Q表示Ri中的背景区域的总个数,χ()为求卡方距离函数,表示Ri中的第q个区域SPi,q中的所有像素点在RGB颜色空间的R分量、G分量和B分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点在HVS颜色空间的H分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点在HVS颜色空间的S分量的颜色直方图,表示Ri中的第q个区域SPi,q中的所有像素点的LBP特征统计直方图,表示Ri中的第q个区域SPi,q中的所有像素点的视差统计直方图;
c8、将ei,h按顺序进行排列,构成Ri中的第h个区域SPi,h的背景先验特征矢量,记为 其中,的维数为36,此处符号“[]”为矢量表示符号。
5.根据权利要求2至4中任一项所述的一种立体图像显著图提取方法,其特征在于所述的Ri中的每个像素点的频率响应特征矢量的获取过程为:
1)-1、采用Gabor滤波器对Ri进行滤波处理,得到Ri中的每个像素点在不同中心频率和不同方向因子下的频率响应振幅,将Ri中坐标位置为(x,y)的像素点在中心频率为ω和方向因子为θ下的频率响应振幅记为G(x,y;ω,θ),其中,此处(x,y)表示{Li,Ri,di|1≤i≤N}中的立体图像中的像素点的坐标位置,1≤x≤W,1≤y≤H,W和H对应表示{Li,Ri,di|1≤i≤N}中的立体图像的宽度和高度,ω表示Gabor滤波器的中心频率,ω∈Φω,θ表示Gabor滤波器的方向因子,θ∈Φθ,Φω表示Gabor滤波器的所有中心频率的集合,Φθ表示Gabor滤波器的所有方向因子的集合;
1)-2、将Ri中的每个像素点在不同中心频率和不同方向因子下的频率响应振幅按顺序进行排列,构成Ri中的每个像素点的频率响应特征矢量,将Ri中坐标位置为(x,y)的像素点的频率响应特征矢量记为fi(x,y),其中,fi(x,y)的维数为20。
6.根据权利要求5所述的一种立体图像显著图提取方法,其特征在于所述的Ri中的每个像素点的颜色特征矢量的获取过程为:
2)-1、计算Ri中的每个像素点在不同颜色空间的颜色值,将Ri中坐标位置为(x,y) 的像素点在RGB颜色空间的R分量、G分量和B分量的颜色值分别记为R(x,y)、G(x,y)和B(x,y),将Ri中坐标位置为(x,y)的像素点在CIELAB颜色空间的L分量、a分量和b分量的颜色值分别记为L(x,y)、a(x,y)和b(x,y),将Ri中坐标位置为(x,y)的像素点在HVS颜色空间的H分量、V分量和S分量的颜色值分别记为H(x,y)、V(x,y)和S(x,y),其中,此处(x,y)表示{Li,Ri,di|1≤i≤N}中的立体图像中的像素点的坐标位置,1≤x≤W,1≤y≤H,W和H对应表示{Li,Ri,di|1≤i≤N}中的立体图像的宽度和高度;
2)-2、将Ri中的每个像素点在不同颜色空间的颜色值按顺序进行排列,构成Ri中的每个像素点的颜色特征矢量,将Ri中坐标位置为(x,y)的像素点的颜色特征矢量记为ci(x,y),ci(x,y)=[R(x,y),G(x,y),B(x,y),L(x,y),a(x,y),b(x,y),H(x,y),V(x,y),S(x,y)],其中,ci(x,y)的维数为9,此处符号“[]”为矢量表示符号。
CN201510173098.5A 2015-04-14 2015-04-14 一种立体图像显著图提取方法 Active CN104822058B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510173098.5A CN104822058B (zh) 2015-04-14 2015-04-14 一种立体图像显著图提取方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510173098.5A CN104822058B (zh) 2015-04-14 2015-04-14 一种立体图像显著图提取方法

Publications (2)

Publication Number Publication Date
CN104822058A CN104822058A (zh) 2015-08-05
CN104822058B true CN104822058B (zh) 2016-08-17

Family

ID=53732209

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510173098.5A Active CN104822058B (zh) 2015-04-14 2015-04-14 一种立体图像显著图提取方法

Country Status (1)

Country Link
CN (1) CN104822058B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105338335B (zh) * 2015-10-15 2017-03-29 宁波大学 一种立体图像显著图提取方法
CN109076200B (zh) 2016-01-12 2021-04-23 上海科技大学 全景立体视频系统的校准方法和装置
CN109167988B (zh) * 2018-08-29 2020-06-26 长春理工大学 一种基于d+w模型和对比度的立体图像视觉舒适度评价方法
CN109523534A (zh) * 2018-11-14 2019-03-26 北京奇艺世纪科技有限公司 一种基于视觉角度的显著性区域检测方法及装置

Also Published As

Publication number Publication date
CN104822058A (zh) 2015-08-05

Similar Documents

Publication Publication Date Title
US11830230B2 (en) Living body detection method based on facial recognition, and electronic device and storage medium
US9177381B2 (en) Depth estimate determination, systems and methods
US9665606B2 (en) Edge-based recognition, systems and methods
CN105389554B (zh) 基于人脸识别的活体判别方法和设备
CN105989594B (zh) 一种图像区域检测方法及装置
US9865063B2 (en) Method and system for image feature extraction
CN103493093A (zh) 图像处理装置、摄像装置及图像处理方法
CN104822058B (zh) 一种立体图像显著图提取方法
CN103456013B (zh) 一种表示超像素以及度量超像素之间相似性的方法
CN109255358B (zh) 一种基于视觉显著性和深度图的3d图像质量评价方法
Prakash et al. Human recognition using 3D ear images
CN103824272A (zh) 基于k近邻重识别的人脸超分辨率重建方法
Ling et al. Image quality assessment for free viewpoint video based on mid-level contours feature
CN114627173A (zh) 通过差分神经渲染进行对象检测的数据增强
CN104392233A (zh) 一种基于区域的图像显著图提取方法
CN103632372B (zh) 一种视频显著图提取方法
CN111325107A (zh) 检测模型训练方法、装置、电子设备和可读存储介质
CN104243956B (zh) 一种立体图像视觉显著图提取方法
CN105338335B (zh) 一种立体图像显著图提取方法
CN102708589A (zh) 一种基于特征聚类的三维目标多视点视图建模方法
CN104036494A (zh) 一种用于水果图像的快速匹配计算方法
CN111626212A (zh) 图片中对象的识别方法和装置、存储介质及电子装置
Dong et al. Shoot high-quality color images using dual-lens system with monochrome and color cameras
CN113627367B (zh) 一种基于多维信息聚合的立体视频显著性检测方法
CN113450319B (zh) 一种基于klt技术的超分辨率重建图像质量评价方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
EXSB Decision made by sipo to initiate substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20191219

Address after: 313000 Huzhou Youyan Intellectual Property Service Co., Ltd

Patentee after: Huzhou You Yan Intellectual Property Service Co., Ltd.

Address before: 315211 Zhejiang Province, Ningbo Jiangbei District Fenghua Road No. 818

Patentee before: Ningbo University

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20200117

Address after: 215000 room 16, floor 4, building 21, Tengfei Innovation Park, No. 388, Xinping street, Suzhou Industrial Park, Jiangsu Province

Patentee after: ZHONGHE INTERNATIONAL INTELLECTUAL PROPERTY CO., LTD.

Address before: 313000 Huzhou Youyan Intellectual Property Service Co., Ltd

Patentee before: Huzhou You Yan Intellectual Property Service Co., Ltd.

TR01 Transfer of patent right