JP4945694B2 - Video playback apparatus and video playback method - Google Patents
Video playback apparatus and video playback method Download PDFInfo
- Publication number
- JP4945694B2 JP4945694B2 JP2011141456A JP2011141456A JP4945694B2 JP 4945694 B2 JP4945694 B2 JP 4945694B2 JP 2011141456 A JP2011141456 A JP 2011141456A JP 2011141456 A JP2011141456 A JP 2011141456A JP 4945694 B2 JP4945694 B2 JP 4945694B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- distance
- instruction
- coordinates
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Position Input By Displaying (AREA)
- User Interface Of Digital Computer (AREA)
Description
本発明は、映像再生装置及び映像再生方法に関する。 The present invention relates to a video playback device and a video playback method.
従来の技術として、表示画面に表示されたGUI(Graphic User Interface)に実際に触れているかのように操作することができる映像再生装置がある(例えば、特許文献1参照)。 As a conventional technique, there is a video reproducing apparatus that can be operated as if it is actually touching a GUI (Graphical User Interface) displayed on a display screen (see, for example, Patent Document 1).
この映像再生装置は、GUIを含む画像を作成する表示情報作成部と、タッチパッドに対する利用者の特定の入力操作を検出する操作内容決定部と、GUIに対する操作位置としてタッチパッドに対する利用者の接触領域を示す画像を作成する身体位置表示部と、身体位置表示部によって作成された画像と表示情報作成部によって作成された表示情報とを合成する画像合成部とを有し、身体位置表示部により作成される接触領域を示す画像が、利用者の操作位置、つまりタッチパッドに利用者の手が触れた位置から推定して作成され、影とともに立体的に表示されるため、利用者は表示画面に表示されたGUIに実際に触れているかのように操作することができる。 The video reproduction apparatus includes a display information creation unit that creates an image including a GUI, an operation content determination unit that detects a user's specific input operation on the touch pad, and a user's contact with the touch pad as an operation position on the GUI. A body position display unit that creates an image showing a region, and an image composition unit that synthesizes the image created by the body position display unit and the display information created by the display information creation unit, and the body position display unit The image showing the created contact area is created by estimating from the user's operation position, that is, the position where the user's hand touched the touchpad, and is displayed in three dimensions with shadows. It is possible to operate as if the user actually touched the GUI displayed on the screen.
しかし、従来の映像再生装置によると利用者はタッチパッドに触れて操作を入力するため、平面的な表示上の操作位置とタッチパッドにおける利用者の操作位置との関係を認識させることができるが、タッチパッド上に操作範囲が限定されるという問題がある。 However, according to the conventional video playback device, the user touches the touch pad to input an operation, and thus it is possible to recognize the relationship between the operation position on the flat display and the operation position of the user on the touch pad. There is a problem that the operation range is limited on the touchpad.
従って、本発明の目的は、従来に比べて利用者の操作を限定することなく、表示上の操作位置に対する利用者の操作位置を認識させることができる映像再生装置及び映像再生方法を提供することにある。 Therefore, an object of the present invention is to provide a video playback apparatus and a video playback method capable of recognizing a user's operation position with respect to an operation position on a display without limiting the user's operation as compared with the prior art. It is in.
(1)本発明の一態様は、上記目的を達成するため、距離センサと利用者との距離の情報を前記距離センサから取得する距離情報取得部と、前記距離情報取得部が取得した前記距離の情報のうち、前記距離センサに近い距離の情報の座標を指示座標として算出する指示座標算出部と、前記指示座標に基づいて指示画像及び補助画像を生成する指示画像生成部と、前記指示画像の操作対象である操作用画像を生成する操作用画像生成部と、前記指示座標に基づいて前記操作用画像に対して前記指示画像を配置し、前記距離センサと前記利用者との間に仮想的に設けられる仮想操作面と前記指示座標との距離が大きいほど前記補助画像を前記指示画像から離れた位置に配置し、前記仮想操作面と前記指示座標との距離が小さいほど前記補助画像を前記指示画像に近づいた位置に配置して合成する表示制御部とを有することを特徴とする映像再生装置を提供する。 (1) According to one aspect of the present invention, in order to achieve the above object, a distance information acquisition unit that acquires information about a distance between a distance sensor and a user from the distance sensor, and the distance acquired by the distance information acquisition unit Among the above information, an instruction coordinate calculation unit that calculates the coordinates of information of a distance close to the distance sensor as an instruction coordinate, an instruction image generation unit that generates an instruction image and an auxiliary image based on the instruction coordinates, and the instruction image An operation image generation unit that generates an operation image that is an operation target, and the instruction image is arranged with respect to the operation image based on the instruction coordinates, and a virtual image is provided between the distance sensor and the user. The auxiliary image is arranged at a position farther from the instruction image as the distance between the virtual operation surface provided and the designated coordinates is larger, and the auxiliary image is arranged as the distance between the virtual operation surface and the designated coordinates is smaller. To provide a video reproducing apparatus characterized by comprising a display control unit which synthesizes be placed close to the serial instruction image position.
上記した構成によれば、操作用画像に対する指示画像の操作位置と、操作用画像に対応した利用者の操作位置との関係を認識させることができる。 According to the configuration described above, the relationship between the operation position of the instruction image with respect to the operation image and the operation position of the user corresponding to the operation image can be recognized.
本発明によれば、従来に比べて利用者の操作を限定することなく、表示上の操作位置に対する利用者の操作位置を認識させることができる。 According to the present invention, it is possible to recognize the user's operation position with respect to the operation position on the display without limiting the user's operation as compared with the related art.
以下に、本発明の映像再生装置及び映像再生方法の実施の形態を、図面を参照して詳細に説明する。 Embodiments of a video playback apparatus and video playback method according to the present invention will be described below in detail with reference to the drawings.
[実施の形態]
(映像再生装置の構成)
図1は、本発明の実施の形態に係る映像再生装置の構成を示す概略図である。
[Embodiment]
(Configuration of video playback device)
FIG. 1 is a schematic diagram showing a configuration of a video playback apparatus according to an embodiment of the present invention.
この映像再生装置1は、本体2の内部に備えられたチューナによって受信した映像コンテンツ等を再生可能であり、再生した映像を表示するLCD(Liquid Crystal Display)等の表示画面を備える表示部23に表示する。
The
また、映像再生装置1は、映像再生装置1に対面する利用者4を含む物体の距離情報を取得する距離センサ3を有し、距離センサ3が取得した距離情報に基づいて動作する。距離センサ3は、例えば、赤外線レーザーと複数の受光素子からなる赤外線カメラを備え、赤外線レーザーが放射した赤外線の反射を赤外線カメラで撮影することで距離情報を画像形式で取得する。なお、後述するように、映像再生装置1は、距離情報によって認識される利用者4のジェスチャ等によって動作する。
In addition, the
また、映像再生装置1は、複数の操作スイッチからなるリモコン2Aと、本体2にリモコン2Aから操作スイッチの操作に基づいて送信される操作信号を受信する図示しないリモコン受信部とを有し、操作信号に基づいて動作する。
The
図2は、映像再生装置1の本体2の構成を示すブロック図である。
FIG. 2 is a block diagram showing a configuration of the
映像再生装置1の本体2は、距離画像取得部20と、距離画像処理部21と、表示制御部22と、表示部23と、入力制御部24と、リモコン情報取得部25とを有する。
The
距離画像取得部20は、距離センサ3が取得した複数画素の距離情報を距離画像として取得する。
The distance
距離画像処理部21は、距離画像取得部20が取得した距離画像を、画像分割部21a、重心算出部21c、基準面算出部21d及び両手座標算出部21bによって処理する。
The distance
画像分割部21aは、距離画像を各画素の距離情報に応じて複数の領域に分割する。両手座標算出部21bは、距離画像から操作用の指示位置として利用者の両手を検出する。重心算出部21cは、距離画像の奥行きの重心、及び画像面の重心を算出する。基準面算出部21dは、利用者にとっての仮想的な操作基準面を設定する。 The image dividing unit 21a divides the distance image into a plurality of regions according to the distance information of each pixel. The two-hand coordinate calculation unit 21b detects the user's hands as the operation instruction position from the distance image. The centroid calculating unit 21c calculates the centroid of the depth of the distance image and the centroid of the image plane. The reference plane calculation unit 21d sets a virtual operation reference plane for the user.
表示制御部22は、GUI生成部22a及び指示画像生成部22bを有し、表示用画像を生成する。
The
GUI生成部22aは、操作対象としてのスイッチ等のGUI画像を生成する。指示画像生成部22bは、画像分割部21aが出力する画像を基準面算出部21dが算出する基準面情報に基づいて加工し、利用者の手を模した指示画像を生成する。また、指示画像生成部22bは、両手座標算出部21bが検出する両手の座標と基準面情報との関係に応じて指示画像と対になる影の画像を生成する。
The
表示部23は、チューナによって受信した映像や、表示制御部22によって合成された指示画像及びGUI画像を表示する。
The display unit 23 displays the video received by the tuner, the instruction image and the GUI image synthesized by the
入力制御部24は、表示制御部22が出力する制御信号に基づいて、映像再生装置1の各部を制御する。また、後述するリモコン情報取得部25が出力する制御信号に基づいて映像再生装置1の各部を制御する。
The
リモコン情報取得部25は、リモコン受信部を介してリモコン2Aから操作信号を受信する。
The remote control
(動作)
以下に、本発明の実施の形態における映像再生装置の動作を図1〜図8を参照しつつ、(1)距離情報の取得動作、(2)距離画像の分割動作、(3)両手座標の算出動作、(4)重心の算出動作、(5)操作基準面及び仮想操作面の決定動作、(6)指示画像の生成動作及び画像合成動作及び(7)その他の動作に分けて説明する。
(Operation)
Hereinafter, the operation of the video reproduction apparatus according to the embodiment of the present invention will be described with reference to FIGS. 1 to 8. (1) Distance information acquisition operation, (2) Distance image segmentation operation, (3) Two-hand coordinate The calculation operation, (4) gravity center calculation operation, (5) operation reference surface and virtual operation surface determination operation, (6) instruction image generation operation and image composition operation, and (7) other operations will be described separately.
利用者4が、距離センサ3の検知面30に対向すると、距離センサ3は利用者4を被検知物として検知し、その距離情報を取得する。以下に、距離センサ3の距離情報の取得動作を説明する。
When the user 4 faces the
(1)距離情報の取得動作
図3(a)〜(f)は、距離画像取得部20の距離情報の取得動作を示す概略図であり、図3(a)は、斜視図、図3(b)は、y軸の正方向からの平面図、図3(c)は、x軸の負方向からの側面図である。
(1) Distance Information Acquisition Operation FIGS. 3A to 3F are schematic diagrams illustrating the distance information acquisition operation of the distance
図3(a)〜(c)に示すように、距離センサ3は、x−y平面(z=0)に検知面30を有する。被検知物3A及び3Bが検知面30に対向する位置に配置されている場合、距離センサ3は、図3(d)に示すように、各画素毎にそれぞれ距離情報を取得する。
As shown in FIGS. 3A to 3C, the
図3(d)に示す距離情報は、距離センサ3の検知面30を、例えば、25分割して、分割された各検知面に対向する被検知物との距離を記述したものである。なお、単位はcmである。また、被検知物がない場合、又は、被検知物が、例えば、検知面30〜40cmの位置の基準面3Cより遠方にある場合、距離を0cmと表す。なお、検知面の分割数は、説明の簡略化のため25個にしたが、例えば、640×480ドットからなるVGA(Video Graphics Array)の解像度等で検知面を分割する。また分割数(画素数)の上限は、距離センサ3の受光素子の数である。
The distance information shown in FIG. 3D describes the distance to the detected object facing each of the divided detection surfaces by dividing the
(2)距離画像の分割動作
次に、距離画像処理部21の画像分割部21aは、距離画像取得部20から図3(d)に示す距離情報を取得すると、分割された各検知面の距離をそれぞれ近い値でグループ化して、図3(e)に示すように分割領域30A及び30Bに分割する。
(2) Distance Image Dividing Operation Next, when the image dividing unit 21a of the distance
次に、距離画像取得部20は、図3(f)に示すように、取得した距離の値を奥行き基準面3C(40cm)からの距離に変換する。つまり、図3(e)の各画素の値をdnとすると40−dnによって図3(f)に示す距離情報が得られる。なお、奥行き基準面30Cの値、40cmは一例であり、映像表示装置の画面サイズ等に比例して工場出荷時に決定するものであり、例えば、50インチのテレビに付属する距離センサを用いる場合は5m、といったように決定する。
Next, as shown in FIG. 3F, the distance
(3)両手座標の算出動作
図4(a)〜(c)は、両手座標の算出動作及び重心の算出動作における距離画像の例を示す概略図である。
(3) Two-Hand Coordinate Calculation Operation FIGS. 4A to 4C are schematic diagrams illustrating examples of distance images in the two-hand coordinate calculation operation and the centroid calculation operation.
距離画像取得部20は、距離センサ3から図4(a)に示すような距離画像を取得する。次に、画像分割部21aは、図3に説明した方法を用い、距離情報同士が近いものでグループ化して分割領域32a〜32cとして分割し、図4(b)に示す距離画像31Bを得る。各分割領域32a〜32cと距離センサ3との距離は、例えば、分割領域32aが2m、分割領域32bが2.3m、分割領域32cが2mであるとする。
The distance
次に、両手座標算出部21bは、図4(c)の距離画像31Cに示すように、例えば、分割領域32a〜32cのうち、距離が最も近いものを右手310及び左手311として検知し、分割領域32bの中心から右手の指示座標を、分割領域32aの中心から左手の指示座標を取得する。
Next, as shown in the
また、右手310及び左手311の区別は、右手の指示座標及び左手の指示座標が、重心312より右側に位置するか左側に位置するかで区別されるが、重心312は以下に説明する方法で算出される。 Further, the right hand 310 and the left hand 311 are distinguished depending on whether the right hand pointing coordinate and the left hand pointing coordinate are located on the right side or the left side of the center of gravity 312. The center of gravity 312 is determined by the method described below. Calculated.
(4)重心の算出動作
距離画像31Bの分割された各検知面を(x,y)で表し、奥行き基準面からの距離に変換された奥行をD(x,y)としたとき、重心312の座標(xCenter,yCenter,zCenter)は、以下の数1〜数3で示される。
(5)操作基準面及び仮想操作面の決定動作
図5(a)〜(d)は、重心と操作基準面との関係及び距離画像と操作基準面との関係の一例を示す概略図である。
(5) Operation Reference Surface and Virtual Operation Surface Determination Operation FIGS. 5A to 5D are schematic diagrams illustrating an example of the relationship between the center of gravity and the operation reference surface and the relationship between the distance image and the operation reference surface. .
表示制御部22の基準面算出部21dは、図5(a)に示すように、重心算出部21cが算出した距離方向の重心Gzから予め定めた間隔dzだけ検知面30側に操作基準面Szを設定する。また、基準面算出部21dは、操作基準面Szから予め定めた間隔dmだけ検知面30側に仮想操作面Svを設定する。
As shown in FIG. 5A, the reference surface calculation unit 21d of the
図5(b)に示す距離画像31Cは、図4(c)に示すものと同一である。表示制御部22の指示画像生成部22bは、距離画像31Cの分割領域である右手310及び左手311を操作基準面Szに該当する距離の位置で分割し、それぞれ図5(c)に示す手前右手310a及び奥右手310b並びに手前左手311a及び奥左手311bとする。
A
次に、指示画像生成部22bは、操作基準面Szより検知面30側の利用者4の左手4L及び右手4Rに該当する手前右手310a及び手前左手311aを距離画像31Dから抽出し、図5(d)に示す距離画像31Eを得る。
Next, the instruction image generation unit 22b extracts the near-
(6)指示画像の生成動作及び画像合成動作
図6(a)〜(c)は、距離画像から指示画像を作成する動作及び指示画像とGUI画像との合成動作の一例を示す概略図である。
(6) Instruction Image Generation Operation and Image Composition Operation FIGS. 6A to 6C are schematic diagrams illustrating an example of an operation for creating an instruction image from a distance image and a composition operation of the instruction image and a GUI image. .
指示画像生成部22bは、図6(a)に示す距離画像31Fを左右反転して図5(c)に示す距離画像31Eを得る。次に、指示画像生成部22bは、距離画像31Fの手前右手310a及び手前左手311aをそれぞれ左右反転して立体処理を施すことで、指示画像として図6(b)に示す左手画像240a及び右手画像241aを生成する。立体処理は、手前右手310a及び手前左手311aをそれぞれ左右反転したものの輪郭に対し、奥行きを感じるよう立体処理を施すものである。立体処理は、例えば、手前右手310a及び手前左手311aの各座標の距離に応じて予め濃淡値を設定し、その濃淡値と予め定めた標準の肌色とに基づいて生成される色で着色することで実現できる。
The instruction image generation unit 22b horizontally inverts the
次に、指示画像生成部22bは、図5(a)に示す利用者4の左手4L及び右手4Rと仮想操作面Svとの距離関係に基づいて、左手画像240a及び右手画像241aから図6(b)に示す影画像240b及び241bを補助画像として生成する。
Next, based on the distance relationship between the
また、上記の指示画像生成部22bの左手画像240a及び右手画像241aと、影画像240b及び241bの生成動作と同時に、表示制御部22のGUI生成部22aは、操作用画像242a〜242cを含むGUI画像242を生成する。
Further, simultaneously with the generation operation of the
次に、表示制御部22は、左手画像240a及び右手画像241aと、影画像240b及び241bと、GUI画像242とを合成し、表示画像24Aを生成し、映像情報を表示部23に出力する。表示部23は、表示制御部22から入力した映像情報を表示する。なお、左手画像240a及び右手画像241a並びに影画像240b及び241bは、GUI画像242の視認性を考慮して半透明にしてもよい。
Next, the
また、左手画像240a及び右手画像241aは、利用者4の左手4L及び右手4Rと仮想操作面Svとの距離が大きいほど大きく描画し、利用者4の左手4L及び右手4Rと仮想操作面Svとの距離が小さいほど小さく描画する。つまり、例えば、図6(c)に示すように、左手4Lと仮想操作面Svとの距離が右手4Rに比べて小さい場合、左手画像240aは、右手画像241aに比べて小さく描画されて生成される。
The
また、影画像240b及び241bは、利用者4の左手4L及び右手4Rと仮想操作面Svとの距離が大きいほど大きく描画し、左手画像240a及び右手画像241aから離れた位置に配置する。つまり、例えば、図6(c)に示す左手画像240aと影画像240bのように生成される。
Further, the
また、利用者4の左手4L及び右手4Rと仮想操作面Svとの距離が小さいほど左手画像240a及び右手画像241aに近い大きさで描画し、左手画像240a及び右手画像241aに近づいた位置に配置する。つまり、例えば、利用者4の右手4Rが仮想操作面Svの位置と一致している場合、図6(c)に示す右手画像241aと影画像241bのように生成される。
In addition, the smaller the distance between the
また、表示制御部22は、利用者4の左手4L及び右手4Rが仮想操作面Svと一致している場合、入力制御部に24に対して操作信号を出力する。操作信号は、左手画像24a及び右手画像241aが指示する位置に依存し、例えば、図6(c)に示すように、操作対象241bを右手画像241aが指示している場合は、操作用画像242bに対応したものとなる。同様に、操作用画像242a及び操作用画像242cに対してもそれぞれ異なる操作信号が対応付けられており、左手画像24a及び右手画像241aが指示することで、表示制御部22は、対応した制御信号を入力制御部24に対して出力する。
In addition, when the
入力制御部24は、表示制御部22から入力した制御信号に基づいて本体2の各部を制御する。また、同様にリモコン情報取得部25から入力した制御信号に基づいて本体2の各部を制御する。
The
(7)その他の動作
図7(a)〜(f)は、指示画像とGUI画像との合成動作の他の例を示す概略図である。
(7) Other Operations FIGS. 7A to 7F are schematic diagrams illustrating another example of the synthesis operation of the instruction image and the GUI image.
指示画像生成部22bは、例えば、利用者4の左手4Lが差し出されると、左手画像240a及び影画像240bを生成するが、図7(a)及び(d)に示すように、表示画像24Bが複数のGUI画像243〜245を画面奥行き方向に含んでいる場合であって、左手画像240aがGUI画像243より画面手前側にある場合は、表示制御部22は、GUI画像243に対して影画像240bを合成する。
For example, when the
また同様に、図7(b)及び(e)に示すように、左手画像240aがGUI画像243より画面奥、かつGUI画像244より画面手前側にある場合は、表示制御部22は、GUI画像244に対して影画像240bを合成する。
Similarly, as shown in FIGS. 7B and 7E, when the left-
また、図7(c)及び(f)に示すように、左手画像240aがGUI画像244より画面奥、かつGUI画像245より画面手前側にある場合は、表示制御部22は、GUI画像245に対して影画像240bを合成する。
Also, as shown in FIGS. 7C and 7F, when the
図8(a)〜(f)は、指示画像とGUI画像との合成動作の他の例を示す概略図である。 FIGS. 8A to 8F are schematic diagrams illustrating other examples of the combining operation of the instruction image and the GUI image.
指示画像生成部22bは、例えば、利用者4の左手4Lが差し出されると、左手画像240a及び影画像240bを生成するが、図8(d)に示すように、仮想照明Lvが利用者の左後方に位置する場合、表示制御部22は、図8(a)に示すように、左手画像240aより画面左側に位置するように影画像240bをGUI画像246に合成して表示画像24Cを生成する。
For example, when the
また同様に、図8(e)に示すように、仮想照明Lvが利用者の後方に位置する場合、表示制御部22は、図8(b)に示すように、左手画像240aと画面横方向で同位置に影画像240bをGUI画像246に合成する。
Similarly, as shown in FIG. 8 (e), when the virtual illumination Lv is located behind the user, the
また、図8(f)に示すように、仮想照明Lvが利用者の右後方に位置する場合、表示制御部22は、図8(c)に示すように、左手画像240aより画面左側に位置するように影画像240bをGUI画像246に合成する。
Also, as shown in FIG. 8 (f), when the virtual illumination Lv is located on the right rear side of the user, the
(実施の形態の効果)
上記した実施の形態によると、映像再生装置1は、利用者4の近くに操作基準面Sz及び仮想操作面Svを設定し、利用者4の左手4L及び右手4Rと仮想操作面Svとの距離関係に応じて、GUI画像242と左手画像240a及び右手画像241aとの表示関係を変化させるため、立体的な表示上の操作位置と、立体的な表示上の操作位置に対する利用者の操作位置との関係を認識させることができる。
(Effect of embodiment)
According to the above-described embodiment, the
また、映像再生装置1は、上記したGUI画像242と左手画像240a及び右手画像241aとの表示関係として、影画像240b及び241bを生成するとともに配置するため、利用者4により直感的に立体的な表示上の操作位置と、立体的な表示上の操作位置に対する利用者の操作位置との関係を認識させることができる。
Further, the
なお、左手画像240a及び右手画像241a並びに影画像240b及び241bの描画サイズ等は、利用者4の左手4L及び右手4Rと仮想操作面Svとの関係に基づいて変化するものであれば、実施例に示した以外の方法を用いてもよい。また、左手画像240a及び右手画像241a並びに影画像240b及び241bは、ポインタやアイコン等の他の画像で置き換えてもよい。
The drawing size of the
以下に、本願原出願の特許査定時の特許請求の範囲に記載された発明を付記する。 The invention described in the scope of claims at the time of the patent assessment of the original application of the present application will be appended below.
[1]距離センサの検知面と対向した利用者との距離情報を前記距離センサの画素毎に関連付けた距離画像を前記距離センサから取得する距離画像取得部と、
前記距離画像に関連付けられた前記距離情報に基づいて前記利用者の距離の重心を算出する重心算出部と、
前記重心との関係に基づいて前記距離画像に関連付けられた前記距離情報から利用者が操作を指示する位置を示す指示座標を算出する指示座標算出部と、
前記距離画像に関連付けられた前記距離情報と前記重心とに基づいて基準面を設定し、当該基準面と前記距離センサとの距離を算出する基準面算出部と、
前記距離画像から前記基準面より距離センサ側に位置する画像を取得し、取得した当該画像から指示画像を生成する指示画像生成部と、
前記指示画像の操作対象である操作用画像を生成する操作用画像生成部と、
前記基準面から予め定めた位置に設定される仮想的な操作面と前記指示座標との位置関係に基づいて前記操作用画像に対して前記指示画像を配置して合成する表示制御部とを有することを特徴とする映像再生装置。
[1] A distance image acquisition unit that acquires, from the distance sensor, a distance image that associates distance information with a user facing the detection surface of the distance sensor for each pixel of the distance sensor;
A centroid calculating unit that calculates a centroid of the user's distance based on the distance information associated with the distance image;
An instruction coordinate calculation unit that calculates an instruction coordinate indicating a position where a user instructs an operation from the distance information associated with the distance image based on the relationship with the center of gravity;
A reference plane calculation unit that sets a reference plane based on the distance information and the center of gravity associated with the distance image, and calculates a distance between the reference plane and the distance sensor;
An instruction image generation unit that acquires an image located on the distance sensor side from the reference plane from the distance image, and generates an instruction image from the acquired image;
An operation image generation unit that generates an operation image that is an operation target of the instruction image;
A display control unit configured to arrange and synthesize the instruction image with respect to the operation image based on a positional relationship between a virtual operation surface set at a predetermined position from the reference surface and the instruction coordinates. A video reproducing apparatus characterized by that.
[2]前記指示画像生成部は、前記操作用画像に対する前記指示画像の配置に応じて補助画像を生成し、
前記表示制御部は、当該補助画像を前記操作用画像に対して前記指示画像とともに配置して合成することを特徴とする前記[1]に記載の映像再生装置。
[2] The instruction image generation unit generates an auxiliary image according to the arrangement of the instruction image with respect to the operation image,
The video reproduction apparatus according to [1], wherein the display control unit arranges the auxiliary image with the instruction image and synthesizes the auxiliary image with the operation image.
[3]前記表示制御部は、前記指示座標が前記操作用画像の位置と一致した場合、当該操作用画像に対応した制御信号を出力することを特徴とする前記[1]に記載の映像再生装置。 [3] The video reproduction according to [1], wherein the display control unit outputs a control signal corresponding to the operation image when the designated coordinates coincide with the position of the operation image. apparatus.
[4]距離センサの検知面と対向した利用者との距離情報を前記距離センサの画素毎に関連付けた距離画像を前記距離センサから取得する距離画像取得ステップと、
前記距離画像に関連付けられた前記距離情報に基づいて前記利用者の距離の重心を算出する重心算出ステップと、
前記重心との関係に基づいて前記距離画像に関連付けられた前記距離情報から利用者が操作を指示する位置を示す指示座標を算出する指示座標算出ステップと、
前記距離画像に関連付けられた前記距離情報と前記重心とに基づいて基準面を設定し、当該基準面と前記距離センサとの距離を算出する基準面算出ステップと、
前記距離画像から前記基準面より距離センサ側に位置する画像を取得し、取得した当該画像から指示画像を生成する指示画像生成ステップと、
前記指示画像の操作対象である操作用画像を生成する操作用画像生成ステップと、
前記基準面から予め定めた位置に設定される仮想的な操作面と前記指示座標との位置関係に基づいて前記操作用画像に対して前記指示画像を配置して合成する表示制御ステップとを有することを特徴とする映像再生方法。
[4] A distance image acquisition step of acquiring, from the distance sensor, a distance image that associates distance information with a user facing the detection surface of the distance sensor for each pixel of the distance sensor;
A centroid calculating step of calculating a centroid of the user's distance based on the distance information associated with the distance image;
An instruction coordinate calculation step for calculating an instruction coordinate indicating a position where a user instructs an operation from the distance information associated with the distance image based on the relationship with the center of gravity;
A reference plane calculating step for setting a reference plane based on the distance information and the center of gravity associated with the distance image, and calculating a distance between the reference plane and the distance sensor;
An instruction image generation step of acquiring an image positioned on the distance sensor side from the reference plane from the distance image, and generating an instruction image from the acquired image;
An operation image generation step of generating an operation image that is an operation target of the instruction image;
A display control step for arranging and synthesizing the instruction image with respect to the operation image based on a positional relationship between a virtual operation surface set at a predetermined position from the reference surface and the instruction coordinates. A video reproduction method characterized by the above.
1…映像再生装置、2…本体、2A…リモコン、3…距離センサ、3A、3B…被検知物、3C…基準面、4…利用者、4L…左手、4R…右手、20…距離画像取得部、21…距離画像処理部、21a…画像分割部、21b…両手座標算出部、21c…重心算出部、21d…基準面算出部、22…表示制御部、22a…GUI生成部、22b…指示画像生成部、23…表示部、24…入力制御部、24A-24C…表示画像、25…リモコン情報取得部、30…検知面、30A、30B…分割領域、30C…奥行き基準面、31A-31F…距離画像、32a-32c…分割領域、240a…左手画像、240b…影画像、241a…右手画像、241a…操作対象、241a…右手画像、241b…影画像、242a-242c…操作対象、242-246…GUI画像、310…右手、310a…手前右手、310b…奥右手、311…左手、311a…手前左手、311b…奥左手、312…重心、Gz…重心、Lv…仮想照明、Sv…仮想操作面、Sz…操作基準面、dm…間隔、dz…間隔
DESCRIPTION OF
Claims (3)
前記距離情報取得部が取得した前記距離の情報のうち、前記距離センサに近い距離の情報の座標を指示座標として算出する指示座標算出部と、
前記指示座標に基づいて指示画像及び補助画像を生成する指示画像生成部と、
前記指示画像の操作対象である操作用画像を生成する操作用画像生成部と、
前記指示座標に基づいて前記操作用画像に対して前記指示画像を配置し、前記距離センサと前記利用者との間に仮想的に設けられる仮想操作面と前記指示座標との距離が大きいほど前記補助画像を前記指示画像から離れた位置に配置し、前記仮想操作面と前記指示座標との距離が小さいほど前記補助画像を前記指示画像に近づいた位置に配置して合成する表示制御部とを有することを特徴とする映像再生装置。 A distance information acquisition unit that acquires information on the distance between the distance sensor and the user from the distance sensor;
Among the information on the distance acquired by the distance information acquisition unit, an instruction coordinate calculation unit that calculates coordinates of distance information close to the distance sensor as an instruction coordinate;
An instruction image generation unit that generates an instruction image and an auxiliary image based on the instruction coordinates;
An operation image generation unit that generates an operation image that is an operation target of the instruction image;
The instruction image is arranged with respect to the operation image based on the instruction coordinates, and the distance between the virtual operation surface virtually provided between the distance sensor and the user and the instruction coordinates is larger. A display control unit that arranges the auxiliary image at a position away from the instruction image, and arranges and combines the auxiliary image at a position closer to the instruction image as the distance between the virtual operation surface and the instruction coordinates decreases. A video playback device comprising:
前記距離情報取得ステップにおいて取得した前記距離の情報のうち、前記距離センサに近い距離の情報の座標を指示座標として算出する指示座標算出ステップと、
前記指示座標に基づいて指示画像及び補助画像を生成する指示画像生成ステップと、
前記指示画像の操作対象である操作用画像を生成する操作用画像生成ステップと、
前記指示座標に基づいて前記操作用画像に対して前記指示画像を配置し、前記距離センサと前記利用者との間に仮想的に設けられる仮想操作面と前記指示座標との距離が大きいほど前記補助画像を前記指示画像から離れた位置に配置し、前記仮想操作面と前記指示座標との距離が小さいほど前記補助画像を前記指示画像に近づいた位置に配置して合成する表示制御ステップとを有することを特徴とする映像再生方法。 A distance information acquisition step of acquiring distance information between the distance sensor and the user from the distance sensor;
An instruction coordinate calculation step for calculating, as instruction coordinates, coordinates of distance information close to the distance sensor among the distance information acquired in the distance information acquisition step;
An instruction image generation step of generating an instruction image and an auxiliary image based on the instruction coordinates;
An operation image generation step of generating an operation image that is an operation target of the instruction image;
The instruction image is arranged with respect to the operation image based on the instruction coordinates, and the distance between the virtual operation surface virtually provided between the distance sensor and the user and the instruction coordinates is larger. A display control step of arranging an auxiliary image at a position away from the instruction image, and arranging and combining the auxiliary image at a position closer to the instruction image as the distance between the virtual operation surface and the instruction coordinates is smaller. A video playback method comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011141456A JP4945694B2 (en) | 2011-06-27 | 2011-06-27 | Video playback apparatus and video playback method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011141456A JP4945694B2 (en) | 2011-06-27 | 2011-06-27 | Video playback apparatus and video playback method |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009290457A Division JP4783456B2 (en) | 2009-12-22 | 2009-12-22 | Video playback apparatus and video playback method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011187086A JP2011187086A (en) | 2011-09-22 |
JP4945694B2 true JP4945694B2 (en) | 2012-06-06 |
Family
ID=44793199
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011141456A Expired - Fee Related JP4945694B2 (en) | 2011-06-27 | 2011-06-27 | Video playback apparatus and video playback method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4945694B2 (en) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010205223A (en) * | 2009-03-06 | 2010-09-16 | Seiko Epson Corp | System and device for control following gesture for virtual object |
JP5456817B2 (en) * | 2012-03-23 | 2014-04-02 | ヤフー株式会社 | Display control apparatus, display control method, information display system, and program |
US9310895B2 (en) * | 2012-10-12 | 2016-04-12 | Microsoft Technology Licensing, Llc | Touchless input |
WO2016006759A1 (en) * | 2014-07-09 | 2016-01-14 | Lg Electronics Inc. | Display device having scope of accreditation in cooperation with depth of virtual object and controlling method thereof |
KR102210633B1 (en) | 2014-07-09 | 2021-02-02 | 엘지전자 주식회사 | Display device having scope of accredition in cooperatin with the depth of virtual object and controlling method thereof |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004013314A (en) * | 2002-06-04 | 2004-01-15 | Fuji Xerox Co Ltd | Position measuring input support device |
JP4351599B2 (en) * | 2004-09-03 | 2009-10-28 | パナソニック株式会社 | Input device |
JP4318056B1 (en) * | 2008-06-03 | 2009-08-19 | 島根県 | Image recognition apparatus and operation determination method |
-
2011
- 2011-06-27 JP JP2011141456A patent/JP4945694B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2011187086A (en) | 2011-09-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4783456B2 (en) | Video playback apparatus and video playback method | |
US11670267B2 (en) | Computer vision and mapping for audio applications | |
US8085243B2 (en) | Input device and its method | |
US11221730B2 (en) | Input device for VR/AR applications | |
JP4533087B2 (en) | Image processing method and image processing apparatus | |
US9256288B2 (en) | Apparatus and method for selecting item using movement of object | |
JP5110438B2 (en) | Input device | |
EP1530119A2 (en) | Stereoscopic two-dimensional image display device and method | |
US9978182B2 (en) | Technique for more efficiently displaying text in virtual image generation system | |
US10261327B2 (en) | Head mounted display and control method for head mounted display | |
JP4945694B2 (en) | Video playback apparatus and video playback method | |
KR20230022239A (en) | Augmented reality experience enhancements | |
CN109992175B (en) | Object display method, device and storage medium for simulating blind feeling | |
WO2006013783A1 (en) | Input device | |
WO2014003099A1 (en) | Video production device | |
US11049306B2 (en) | Display apparatus and method for generating and rendering composite images | |
CN117916777A (en) | Hand-made augmented reality endeavor evidence | |
US12032754B2 (en) | Information processing apparatus, information processing method, and non-transitory computer readable medium | |
WO2019059944A1 (en) | Sensing movement of a hand-held controller | |
JP4757132B2 (en) | Data input device | |
WO2018207490A1 (en) | Contactless three-dimensional touch panel, contactless three-dimensional touch panel system, contactless three-dimensional touch panel control method, program and recording medium | |
WO2022269753A1 (en) | Information processing system, information processing device, and image display device | |
US20230062366A1 (en) | Handcrafted augmented reality experiences | |
US20230066686A1 (en) | Augmented reality prop interactions | |
JP5028676B2 (en) | Graphical user interface operation / control device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110627 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20110627 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20110713 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110913 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111111 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120207 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120305 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150309 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |