JP2004513575A - ビデオ・スキャン・レート変換用動き補償アップコンバージョン - Google Patents
ビデオ・スキャン・レート変換用動き補償アップコンバージョン Download PDFInfo
- Publication number
- JP2004513575A JP2004513575A JP2002540453A JP2002540453A JP2004513575A JP 2004513575 A JP2004513575 A JP 2004513575A JP 2002540453 A JP2002540453 A JP 2002540453A JP 2002540453 A JP2002540453 A JP 2002540453A JP 2004513575 A JP2004513575 A JP 2004513575A
- Authority
- JP
- Japan
- Prior art keywords
- value
- pixel
- field
- threshold
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000033001 locomotion Effects 0.000 title claims abstract description 91
- 238000006243 chemical reaction Methods 0.000 title claims abstract description 18
- 238000000034 method Methods 0.000 claims abstract description 63
- 239000013598 vector Substances 0.000 claims abstract description 38
- 230000000750 progressive effect Effects 0.000 claims description 23
- 230000001364 causal effect Effects 0.000 claims description 10
- 238000012937 correction Methods 0.000 abstract description 9
- 238000003780 insertion Methods 0.000 abstract description 7
- 230000037431 insertion Effects 0.000 abstract description 7
- 238000012935 Averaging Methods 0.000 description 8
- 102100021247 BCL-6 corepressor Human genes 0.000 description 8
- 101100165236 Homo sapiens BCOR gene Proteins 0.000 description 8
- 238000011045 prefiltration Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000012805 post-processing Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000007620 mathematical function Methods 0.000 description 2
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001172 regenerating effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0117—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
- H04N7/012—Conversion between an interlaced and a progressive signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0125—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level one of the standards being a high definition standard
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0127—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
- H04N7/0132—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter the field or frame frequency of the incoming video signal being multiplied by a positive integer, e.g. for flicker reduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
- H04N7/0137—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes dependent on presence/absence of motion, e.g. of motion zones
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Graphics (AREA)
- Television Systems (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Picture Signal Circuits (AREA)
Abstract
Description
(発明の属する技術分野)
本発明は、動きベクトルを用いて挿入ビデオ・フィールドを生成するために動き補償を用いる種類のビデオ画像アップコンバージョン・ユニットにおける動き補償アップコンバージョン方法に関する。
【0002】
(発明の背景)
動いているビデオ画像は、フレーム又はピクチャのシーケンスとして、ビデオ送信器によって送信される。各フレーム又はピクチャは、個別にコード化され得るが、ビデオ・レートで連続的に表示される。各ビデオ・フレームは、2つのビデオ・フィールド:奇数ビデオ・フィールド及び偶数ビデオ・フィールド、から成る。具体的には、文字「A」で示される一フレームは、文字「Ao」で示される奇数フィールドと、文字「Ae」で示される偶数フィールドとから成る。
【0003】
ビデオ・シーケンスを取り込むとき又は記録するとき、フレーム又はフィールドごとに取り込まれ得る。一ビデオ・フレームの奇数フィールド及び偶数フィールド双方が同時に取り込まれると、そのピクチャは「プログレッシブ」ピクチャと呼ばれる。奇数フィールド及び偶数フィールドは、一般的に、プロフレッシブ・ピクチャを記述するのに用いられない。代わりに、個別のビデオ・フレーム(例えば、フレームA、フレームB)がプログレッシブ・ピクチャを記述するのに用いられる。ほとんどの映画フィルム素材は、プログレッシブ・ピクチャによって構成される。
【0004】
一ビデオ・フレームの奇数フィールド及び偶数フィールドが異なったタイミングで取り込まれると、そのピクチャは「インターレース」ピクチャと呼ばれる。2つのフィールドは、同時に表示されるように合成されない。各フィールドは、別々に処理され、表示される。ほとんどのテレビ素材は、インターレース・ピクチャによって構成される。
【0005】
送信工程中に最大の効率を実現するために、すべてのフィールド又はフレームが送信されるわけではない。すなわち、個々のフィールド又はフレームのうちの一部は落とされ、送信されない。落とされたフィールド又はフレームは、送信されたフィールド又はフレームから取った情報に基づいて、ビデオ受信器によって再生成される。
【0006】
例えば、落とされたフィールド又はフレームは、単に前のフィールド又はフレームを繰り返すことによって再生成され得る。別の方法として、表示が遅れている場合、落とされたフィールド又はフレームに続く次のフィールド又はフレームを落とされたフィールド又はフレームの代わりに用いることも可能である。落とされたフィールド又はフレームの両側の隣接フィールド又はフレームを平均化することによって、落とされたフィールド又はフレームを置き換えることも可能である。
【0007】
上記のシンプルなアプローチには問題がある。落とされたフィールド又はフレームの代わりに前のフィールド又はフレームを繰り返す(或いは、次に続くフィールド又はフレームを用いる)ことは、そのビデオ画像にわずかな動きしか描写されていない場合であっても、知覚される画像をぎこちないものにする。フィールド又はフレームを平均化することは、そのビデオ画像に中程度の動きしか描写されていない場合であっても、知覚される画像をぼけたものにする。
【0008】
良く知られた、落とされたフィールド又はフレームを再生成する方法は、動き補償挿入である。動き補償挿入(「双方向予測」とも呼ばれる)において、一時的な低解像度(通常はフレーム・レートの1/2〜1/3)を有する副信号がコード化され、全解像度信号は、この低解像度信号の挿入と補正項の追加とによって得られる。挿入によって再構築される信号は、補正項を過去の参照と将来の参照との合成に対して加えることによって得られる。
【0009】
ビデオ・シーケンスは、様々なフォーマットで出る。例えば、高精細度(HD)テレビ・ビデオ・シーケンスは、18の異なるフォーマットのうちのいずれか1つで表示され得る。ビデオ・シーケンスを一フォーマットから別のフォーマットへ変換する工程は、「スキャン・レート変換」と呼ばれる。
【0010】
スキャン・レート変換は、テレビ画像における画像のちらつきを減らすのに用いられ得る。例えば、欧州テレビ・ビデオ規格は、50ヘルツ(50Hz)の周波数を指定する。すなわち、ビデオ・フィールドは、1秒あたり50フィールドの速度で表示される。このテレビ・ビデオ・レートは、テレビ画像における顕著なちらつきを防ぐのには十分でない。画像のちらつきを減らすために、テレビ・ビデオ・レートを、ビデオ画像においてオリジナル・フィールド間に追加フィールドを挿入することによって、100ヘルツ(100Hz)へ増やしてもよい。
【0011】
スキャン・レート変換技術は、24ヘルツ(24Hz)フィルムを60ヘルツ(60Hz)ビデオ画像へ変換するのに用いられ得る。スキャン・レート変換技術は、更に、30ヘルツ(30Hz)高精細度(HD)カメラ画像を60ヘルツ(60Hz)ビデオ画像へ変換するのにも用いられ得る。
【0012】
スキャン・レート変換に必要とされる追加フィールドは、単にオリジナル・フィールドを繰り返すことによって得てもよい。しかし、好ましい方法は、インターレース変換よりも、動き補償挿入を用いたプログレッシブ変換を用いることである。
【0013】
(発明の開示)
本分野には、シャープなビデオ画像を提供する挿入フィールドを生成するための改善された動き補償方法に対する必要性が存在する。特に、前のフレームと次のフィールドとの間に挿入される生成されたフィールドに含まれる動き補償されたピクセルについての2つの考えられる選択肢の中から1つを選ぶ方法の改善が必要とされている。さらに、本分野では、前のフレームからのピクセルを含めること又は次のフィールドからのピクセルを含めることのいずれがよりシャープなビデオ画像を生成されたフィールドに提供するかを判定する方法を改善することへの必要性も存在する。
【0014】
本発明の主たる目的は、動きベクトルを用いて挿入ビデオ・フィールドを生成するために動き補償を用いる種類のビデオ画像アップコンバージョン・ユニットにおける改善された動き補償アップコンバージョン方法を提供することである。
【0015】
本発明の一実施形態の目的は、前のフレームと次のフィールドとの間に挿入される生成されたフィールドに含まれる動き補償されたピクセルの2つの考え得る選択肢から1つを選択する方法を提供することである。
【0016】
本発明の一実施形態の別の目的は、計算されたピクセルの相関値を閾値と比較することによってシャープなビデオ画像を提供する動き補償ピクセルを選択する改善された方法を提供することである。
【0017】
前のフレームと次のフィールドとの間に挿入される生成されたフィールドにシャープなビデオ画像を提供する動き補償されたピクセルを選択するのに用いられるピクセルの相関値を計算する改善された方法を提供することも本発明の一実施形態の目的である。
【0018】
本発明の一実施形態の追加的な目的は、前のフレームと次のフィールドとの間に挿入される生成されたフィールドにシャープなビデオ画像を提供する動き補償されたピクセルを選択するのに用いられる閾値を決定する改善された方法を提供することである。
【0019】
本発明は、前のフレームと次のフィールドとの間に挿入される生成されたフィールドに含ませる動き補償されたピクセルの2つの考え得る選択肢から1つを選択する改善された動き補償方法を有する。
【0020】
本発明は、独立クレームによって定義され、従属クレームは有益的な実施形態を定義する。
【0021】
好ましい実施形態によれば、本発明に係る改善された方法は、計算されたピクセルの相関値を閾値を比較することによって、シャープなビデオ画像を提供する動き補償されたピクセルを選択する。
【0022】
本発明に係る改善された方法は、(1)生成されたフィールドの原因隣接ピクセルの値と前のフレームの対応する隣接ピクセルの値とから第一の相関値を計算する工程と、(2)第一の相関値を第一の閾値と比較する工程と、(3)第一の相関値が第一の閾値より小さい場合に、生成されたフィールド内に作成されるピクセルの値を前のフレームの対応するピクセルの値に等しく設定する工程と、を有する。
【0023】
本発明に係る改善された方法は、更に、(1)生成されたフィールドの原因隣接ピクセルの値と次のフィールドの対応する隣接ピクセルの値とから第二の相関値を計算する工程と、(2)第二の相関値を第二の閾値と比較する工程と、(3)第二の相関値が第二の閾値より小さい場合に、生成されたフィールド内に作成されるピクセルの値を前のフレームの対応するピクセルの値に等しく設定する工程と、を有する。
【0024】
以上、本発明の特徴及び技術的利点を幅広く概説した。これにより、当業者は以下の発明の詳細な説明をより良く理解できるであろう。本発明の請求項の主題を形成する本発明の追加的な特徴及び利点を以下に説明する。当業者が、原理として開示された概念及び特定の実施形態を用いて、本発明と同じ目的を実行するために構成を変更したり他の構成を設計したりすることが容易に可能であることは当業者には明らかである。このような等価的な構成は本発明の最も広い形の範囲から逸脱しないことも当業者には明らかである。
【0025】
発明の詳細な説明を始める前に、本明細書を通じて用いられる特定の単語やフレーズの定義を説明しておくことは有益的であろう。「含む(include)」、「有する(comprise)」、及びこれらの派生語は、制限無く含むことを意味する。「又は(or)」は包含的であり、「及び/又は」を意味する。「関連する」、「それに関連する」、及びこれらの派生フレーズは、含む、含まれる、相互接続される、含有する、含有される、接続される、接続している、結合される、結合されている、通信可能である、協働する、交互配置する、並列配置する、近接する、接着される、接着している、持つ、特性を有する、などの意味を有し得る。「コントローラ」、「プロセッサ」、又は「装置(apparatus)」という語は、少なくとも1つのオペレーションを制御するあらゆる装置(device)、システム、又はそれらの部品を意味する。上記装置(device)は、ハードウェア、ファームウェア、ソフトウェア、又はこれらのうちの少なくとも2つの組み合わせとして実現され得る。「画像」という語は、フレーム又はフィールドを意味する。あらゆる特定のコントローラに関連する機能性は、ローカルに集中してもよく、遠隔的に分散されてもよい。特定の単語及びフレームについての定義は、この特許文書を通じて提供される。多くの或いはほとんどの例において、上記定義は、定義された単語及びフレームの従来の及び将来の使用に対して適用されることは当業者には明らかである。
【0026】
(発明の詳細な説明)
本発明及びその利点のより完全な理解のために、ここで添付図面と共に以下の説明を参照する。ここで、同様の数字は同様の目的物を示す。
【0027】
以下に説明する図1〜7、及び本発明の原理を記述するために本特許ドキュメントにおいて開示される様々な実施形態は、例示にすぎず、本発明の範囲を制限するものとして解釈されるべきではない。以下の有益的な実施形態の説明において、本発明に係る改善された方法は、高精細度(HD)プログレッシブ/インターレース変換器と共に用いられる。
【0028】
本発明は、計算された隣接ピクセルの補正値の所定の閾値との比較に基づいて適切な動き補償ピクセルを選択する改善された動き補償方法を有する。本発明に係る方法は、HDプログレッシブ/インターレース変換器において用いられることに制限されないことに気が付くことが重要である。当業者は、本発明の原理が動き補償技術をビデオ信号に適用するあらゆるタイプの電子機器において成功裏に適用され得ることを容易に理解するであろう。以下の説明において、HDプログレッシブ/インターレース変換器は、本発明に係る改善された方法が採用され得る機器品目のうちの一例として説明される。
【0029】
図1は、高精細度(HD)プログレッシブ/インターレース変換器100を示す。HDプログレッシブ/インターレース変換器100は、標準精細度(SD)ビデオ信号をSD入力110から受信し、HDビデオ信号をHD入力120から受信する。後に詳述するように、HDプログレッシブ/インターレース変換器100は、動き補償技術を用いて、プログレッシブHD素材をインターレース・フォーマットへ変換する。
【0030】
HDプログレッシブ/インターレース変換器100は、フィールド及びライン・レート変換器130を有する。フィールド及びライン・レート変換器130は、SAA4992集積回路(時々、FALCONIC(field and line rate converter integrated circuit)とも呼ばれる)を有する。SAA49942集積回路は、Philips Semiconductorによって市場に販売されている。フィールド及びライン・レート変換器130は、SDサイズ・ビデオ画像に対するスキャン・レート変換を実行することができる。
【0031】
図1に示すように、フィールド及びライン・レート変換器130は、マルチプレクサ140を通じてSD入力110からSDビデオ信号を受信する。HDプログレッシブ/インターレース変換器100への入力がSD入力である場合、SDビデオ画像は、単に、マルチプレクサ140を通り抜け、直接フィールド及びライン・レート変換器130へ到達する。SDビデオ画像は、次いで、SD出力160へ出力される。
【0032】
HDプログレッシブ/インターレース変換器100は、HD入力120からHDビデオ信号を受信する。HDプログレッシブ/インターレース変換器100への入力がHD入力である場合、HDビデオ画像はプレフィルタリングされ、SDサイズへダウンサンプリングされなければならない。これは、プレフィルタ及びダウンサンプラ・ユニット150において実現される。プレフィルタ及びダウンサンプリング・ユニット150からのSDビデオ画像は、次いで、マルチプレクサ140へ送られ、フィールド及びライン・レート変換器130へ回される。
【0033】
プレフィルタ及びダウンサンプラ・ユニット150におけるフィルタ(図示せず)は、ナイキスト基準を満たすのに用いられる従来とおりの低域通過フィルタである。このフィルタは、フィルタ・タップ:(1)0.015625(2)0(3)−0.0703125(4)0(5)0.3046875(6)0.5(7)0.3046875(8)0(9)−0.0703125(10)0及び(11)0.015625を用いる11タップ・フィルタを有してもよい。
【0034】
HDビデオ画像がフィルタリングされた後、それらは以下の条件に基づいて1、2、又は3倍にダウンサンプリングされる。ダウンサンプリング係数は、(1)ラインあたりのピクセル数が1440より多く、2160以下の場合、又は(2)フレームあたりのライン数が1152より多く、1728以下の場合、に3に等しく設定される。ダウンサンプリング係数は、(1)ラインあたりのピクセル数が720より多い場合、又は(2)フレームあたりのライン数が576より多い場合、に2に等しく設定される。上記両条件を満たさない場合、ビデオ画像はSDビデオ画像であり、ダウンサンプリングは必要とされない。この場合、ダウンサンプリング係数は1に等しく設定される。2160×1728ピクセルより大きいビデオ画像はダウンサンプリング係数4を必要とするであろうことが予想される。現時点で、使用されていることが知られている最大のビデオ画像サイズは1920×1080ピクセルである。
【0035】
ダウンサイジング工程が完了すると、SDサイズのビデオ画像が生成され、動き推定のためにフィールド及びライン・レート変換器130へ送られる。フィールド及びライン・レート変換器130は、ダウンサンプリングされたSDサイズのビデオ画像に対する動きベクトルを生成する。フィールド及びライン・レート変換器130のSAA4992集積回路は、動きベクトル・オーバーレイ・モードをサポートする。すなわち、フィールド及びライン・レート変換器130によって生成された動きベクトルは、カラー・データとしてビデオ画像上に重ねられる。この特徴により、動きベクトルをフィールド及びライン・レート変換器130から直接読み出すことが可能となる。すなわち、動きベクトルを得るために追加的なハードウェア又はソフトウェア機能性が必要とされない。
【0036】
SD動きベクトルが得られると、それらは動きベクトル後処理ユニット170へ送られる。SD動きベクトルは、動きベクトル後処理ユニット170において、HD速度(すなわち、マグニチュード)にスケーリングされる。後で詳述するように、スケーリングされたHD動きベクトルは、次いで、HDアップコンバージョン・ユニット180によってHDプログレッシブ・フレームから動き補償インターレースHDフィールドを生成するのに用いられ、その後HD出力190へ出力される。
【0037】
フィールド及びライン・レート変換器130のSAA4992集積回路は、高品質動き推定器として機能する。フィールド及びライン・レート変換器130のSAA4992集積回路は、動き推定を実行するために一フレーム及び一フィールドを使用するため、一フレーム及び一フィールドを用いる同じ技術が動き補償にも用いられなければならない。
【0038】
図2に示すように、入力は、プログレッシブ・フレームA、B、C、D、E、及びFから成る。前述のように、各フレームは、奇数フィールドと偶数フィールドとから成る。例えば、フレーム「A」は、奇数フィールド「Ao」と偶数フィールド「Ae」とから成る。同様に、フレーム「B」は、奇数フィールド「Bo」及び偶数フィールド「Be」とから成る。同様の奇数フィールド及び偶数フィールドが他の入力フレームについても存在する。入力フレーム(A、B、C、D、E、及びF)に対して適用される「プログレッシブ」という語は、各フレームの奇数フィールド及び偶数フィールドが同時に取られ、合成され、個々のフレームを形成することを意味する。
【0039】
図3に示すように、出力ビデオ信号は、インターレースされた形式である。出力奇数フィールド「Ao」は、入力フレーム「A」から取られる。出力偶数フィールド「ABe」は、入力シーケンスのフレーム「A」及び奇数フィールド「Bo」について動き補償を実行することによって得られる。同様に、出力偶数フィールド「Bo」は、入力フレーム「B」から取られる。出力偶数フィールド「BCe」は、入力シーケンスのフレーム「B」及び奇数フィールド「Co」について動き補償を実行することによって得られる。図3に示された残りのインターレースされた出力ビデオ信号も同様に得られる。このように、一時的に失われたフィールドは、(1)前のフレーム、(2)次のフレーム、及び(3)動きベクトルを用いることによって生成される。
【0040】
フィールド及びライン・レート変換器130からの動きベクトルは、プレフィルタ及びダウンサンプラ・ユニット150においてHD入力に対して適用されたダウンサンプリング係数(DSF)に基づいてスケーリングされる。例えば、mvx(i,j)及びmvy(i,j)が、フィールド及びライン・レート変換器130から得られたそれぞれx及びy方向の動きベクトルであるものとする。すると、動きベクトル後処理ユニット170において生成されるHD動きベクトルは、
【0041】
【数1】
【0042】
【数2】
となる。
【0043】
動きベクトルの速度(すなわち、マグニチュード)のみならず、動きベクトルの位置までもがスケーリングされることが分かる。これは、動きベクトルが、SDビデオ画像において、2×2ブロックに適用可能であれば、HDにおいて、(DSF×2)×(DSF×2)ブロックに適用可能であることを意味する。換言すれば、(2DSF)×(2DSF)ブロックに適用可能である。よって、ダウンサンプリング係数が2の場合(DSF=2)、SDにおける2×2ブロックに対する動きベクトルは、HDにおける4×4ブロックに適用可能である。このスケーリングは、動きベクトルの精度に損失を生じさせる。
【0044】
フィールド及びライン・レート変換器130から得られた動きベクトルは、1/4ピクセルの精度である。動きベクトルが2倍にスケーリングされた場合、その動きベクトルは1/2ピクセルの精度しか有しないことが予想される。これは、1/4の2倍が1/2に等しいからである。残念なことに、この予想は当たっていない。なぜなら、動きベクトルは1/2ピクセルの精度を有しないことが判明するからである。これは、プレフィルタ及びダウンサンプラ・ユニット150において実行されるHD入力のフィルタリング及びダウンサンプリングがピクチャのスムージング及び目標物の動きのスムージングを生じさせるという事実によるものである。1/2ピクセルの精度は、フィルタリング及びダウンサンプリング工程中に導入されたスムージングによって信頼性高く達成され得ない。
【0045】
これは、問題となっているピクセルを囲む隣接ピクセルについて単なる計算を実行することによって1/4ピクセルの精度を実現することはできないことを意味する。これは、更に、スケーリングされた動きベクトルは、特にビデオ画像の端において、非常に信頼できるものではないことを意味する。
【0046】
フレーム、フィールド、及び関連する動きベクトルが与えられると、本タスクは、ビデオ信号における歪み及び間違いを最小限にしながら、その情報をHD信号へアップコンバートする。従来の1つのアプローチは、フレーム及びフィールドからの動き補償されたピクセルを平均化することである。この方法は、動きベクトルが正確であれば、まあまあ良く機能する。しかし、動きベクトルが不正確な場合、フレーム及びフィールドからのピクセルの平均化は、ビデオ画像のゆっくり動くエリアにおいて非常に目立ち得るピクチャのピンぼけを生じさせる。
【0047】
本発明に係る改善された方法は、異なるアプローチを用いる。動きベクトル後処理ユニット170からのHD動きベクトルは、HDアップコンバージョン・ユニット180へ送られる。図1に示すように、HDアップコンバージョン・ユニット180もHD入力120に接続されており、HD入力120から入力HDビデオ信号を受信する。その結果、HDアップコンバージョン・ユニット180は、(1)適切にスケーリングされたSDビデオ画像からの動きベクトル、(2)HDフレーム、(3)HDフィールド、及び(4)動き補償されたフィールドの原因領域、というデータを有する。原因領域とは、その動き補償値が既に計算されたピクセルから成る動き補償されたフィールドの領域である。
【0048】
既に示したように、動きベクトルの値は、全体的に見れば良好であるが、1/2ピクセルの精度ではない。動きベクトルは、1〜2ピクセル程度の精度しか持たない。これは、従来の平均化方法が用いられると、エッジがぼけることを意味する。本発明に係る改善された方法は、フィールド動き補償ピクセルを有するフレーム動き補償ピクセルを平均化しないことによって、ビデオ画像がぼけることを防止する。代わりに、本発明に係る改善された方法は、フレーム動き補償ピクセル又はフィールド動き補償ピクセルのいずれかを選択し用いる。本発明に係るいずれのピクセルを選択し用いるかを決定する方法をここで説明する。
【0049】
この方法の一例を、図4〜6を用いて説明する。図4は、時刻Tに表示される5つのピクセル(A1、A2、A3、A4、及びA5)を示すビデオ信号の前のフレームAを示す。図5は、時刻T+1に表示される対応する5つのピクセル群(B1、B2、B3、B4、及びB5)を示すビデオ信号の次のフィールドBを示す。「T+1」という表現における「1」という単位は、前のフレームAと次のフィールドBとの間の一単位時間を示す。図6は、前のフレームAと次のフィールドBとの間の中間時刻T+1/2に表示される動き補償によって生成された対応する5つのピクセル群(C1、C2、C3、C4、及びC5)を示すビデオ信号の生成されたフィールドCを示す。「T+1/2」という表現における「1/2」という単位は、前のフレームAと生成されたフィールドCとの間の一単位時間の1/2を示す。
【0050】
生成されたフィールドCのピクセルC4について考える。本タスクは、このピクセルに対する適切な値を見つけ、生成する。前のフレームAのピクセルA4は、前のフレームAにおいてピクセルC4に対応した動き補償されたピクセルである。次のフレームBのピクセルB4は、次のフィールドBにおいてピクセルC4に対応した動き補償されたピクセルである。
【0051】
従来の平均化方法は、ピクセルA4の値をピクセルB4の値へ加え、その合計値を2で除算し、ピクセルC4の値を得る。
【0052】
対照的に、本発明に係る改善された方法は、フレーム動き補償ピクセル(ピクセルA4)の値、或いはフィールド動き補償ピクセル(ピクセルB4)の値のいずれかを生成フィールド・ピクセル(ピクセルC4)の値として選択する。ピクセルA4又はピクセルB4の選択は、ピクセルC4の原因隣接ピクセルの値を考慮して為される。原因隣接ピクセルとは、その値が既に計算された隣接ピクセルである。本例において、ピクセルC4の原因隣接ピクセルは、ピクセルC1、C2、C3、及びC5である。
【0053】
ピクセルC4の原因隣接ピクセルがピクセルA4の対応する隣接ピクセルと所定の閾値内で一致すれば、ピクセルA4の値がピクセルC4の値として選択される。ピクセルC4の原因隣接ピクセルがピクセルA4の対応する隣接ピクセルと所定の閾値内で一致しなければ、ピクセルB4の対応する隣接ピクセルが検討される。ピクセルC4の原因隣接ピクセルがピクセルB4の対応する隣接ピクセルと所定の閾値内で一致すれば、ピクセルB4の値がピクセルC4の値として選択される。
【0054】
適切な閾値は、隣接ピクセル間の10以下のピクセル値の差は目立つ差ではないという事実を用いて選択され得る。閾値は、一度に考慮される原因隣接ピクセル数の10倍の値として選択され得る。本例において、4つの原因隣接ピクセル(C1、C2、C3、及びC5)が一度に考慮されている。よって、閾値は、40として選択され得る。
【0055】
ピクセルC4の原因隣接ピクセルをピクセルA4の対応する隣接ピクセルと一致させることは、生成されたフィールドCの原因隣接ピクセルの値と前のフレームAの対応する隣接ピクセルの値との間の差の絶対値を加えることによって実行される。「ACOR」(生成されたフィールドCの原因隣接ピクセルと前のフレームAの対応する隣接ピクセルとの相関を表す)と呼ばれる値が以下のように計算される。
【0056】
【数3】
ここで、ABSは絶対値を取るという数学的関数を表す。
【0057】
同様に、「BCOR」(生成されたフィールドCの原因隣接ピクセルと次のフィールドBの対応する隣接ピクセルとの相関を表す)と呼ばれる値が以下のように計算される。
【0058】
【数4】
ここで、ABSは絶対値を取るという数学的関数を表す。
【0059】
ACORの値が閾値より小さい場合、ピクセルC4の値はピクセルA4の値とされる。ACORの値が閾値以上である場合、BCORを検討する。BCORの値が閾値より小さい場合、ピクセルC4の値はピクセルB4の値とされる。
【0060】
BCORの値が閾値以上である場合、ピクセルC4の値を得るために別の動き補償方法が用いられ得る。例えば、ブロック・ベースの動きベクトルを用いる動き補償技術が用いられ得る。最後の手段として、ピクセルA4又はピクセルB4がピクセルC4にとって適切なピクセル値であるか否かを決定することができる他の方法を見つけることができない場合、ピクセルC4に対するピクセル値を得るために従来の平均化方法が用いられ得る。
【0061】
既に動き補償された生成されたフィールドCからの原因隣接ピクセル(すなわち、ピクセルC1、C2、C3、及びC5)を用いることは、使用されているピクセルが正しいフレーム又はフィールドから来ていることを確認するのに役立つ。本発明に係る改善された方法によって提供されるピクセル値は、従来の平均化方法によって得られるビデオ画像のぼかしの多くを除去する。本発明に係る改善された方法によって提供されるピクセル値は、よりシャープに定義された動き補償されたビデオ画像を与える。選択されるべきピクセルがビデオ画像が動いている間にカバーされている(又はカバーされていない)ビデオ画像のエリアに位置する場合、本発明に係る改善された方法によって提供されるピクセル値は、2つのピクセル選択肢からより良いピクセルを選択するのに役立つ。これにより、ビデオ画像のカバーされた(及びカバーされていない)領域のビデオ画質が向上する。
【0062】
HDアップコンバージョン・ユニット180は、本発明に係る改善された方法を実行し、生成されたフィールドCを作るのに適したピクセルを選択する。次いで、生成されたフィールドCは、前のフレームA(時刻T)と次のフィールドB(時刻T+1)との間に挿入される(時刻T+1/2)。この挿入工程は、繰り返し適用され、図3に示す適切な出力インターレース・フィールドABe、BCe、CDe、DEe、及びEFeが作られる。HDアップコンバージョン・ユニット180の出力は、HD出力190へ送られる。
【0063】
本発明に係る改善された方法についてまとめると以下のようになる。第一段階において、ACOR値(生成されたフィールドCの原因隣接ピクセルと前のフレームAの対応する隣接ピクセルとの相関を表す)が、生成されたフィールドCの原因隣接ピクセルの値と前のフレームAの対応する隣接ピクセルの値との差の絶対値を加算することによって、計算される。次いで、ACOR値が閾値より小さいか否かが判定される。ACOR値が閾値より小さい場合、ピクセルC4の値がピクセルA4の値に等しく設定される。ピクセルC4の値が設定されると、本方法はそのオペレーションを終了する。
【0064】
ACOR値が閾値より小さくない場合、BCOR値生成されたフィールドCの原因隣接ピクセルと次のフィールドBの対応する隣接ピクセルとの相関を表す)が、生成されたフィールドCの原因隣接ピクセルの値と次のフィールドBの対応する隣接ピクセルの値との差の絶対値を加算することによって、計算される。次いで、BCOR値が閾値より小さいか否かが判定される。BCOR値が閾値より小さい場合、ピクセルC4の値がピクセルB4の値に等しく設定される。ピクセルC4の値が設定されると、本方法はそのオペレーションを終了する(終了工程)。
【0065】
BCOR値が閾値より小さくない場合、ピクセルC4の値を決定するために別の方法が用いられ得る。ピクセルC4の値が設定されると、本方法はそのオペレーションを終了する。
【0066】
本発明を高精細度(HD)プログレッシブ/インターレース変換器を例に詳細に説明したが、当業者には明らかなように、当業者は、独立クレームによって定義される本発明を逸脱することなく、様々な修正、代替、及び変更が可能である。
【0067】
請求項において、括弧内に置かれたあらゆる参照符号は、請求項を制限するものではない。要素の前に付く「1つの(a/an)」という語はその要素が複数個存在することを排除するものではない。本発明は、区別し得る複数の要素を有するハードウェアによって実現されてもよく、適切にプログラムされたコンピュータによって実現されてもよい。複数の手段を列挙する装置クレームにおいて、これら複数の手段は1つの同じハードウェア・アイテムとして実現されてもよい。特定の方法が相互に異なる従属クレームに記載されているという単なる事実は、それらの方法を組み合わせて用いても有益的となり得ないということを示しているわけではない。
【図面の簡単な説明】
【図1】
本発明に係る改善された方法を利用する模範的な高精細度(HD)プログレッシブ/インターレース変換器のブロック図である。
【図2】
ビデオ信号の入力プログレッシブ・フレーム列を示す図である。
【図3】
ビデオ信号の出力インターレース・フィールド列を示す図である。
【図4】
時刻Tに表示すべき5つのピクセルを示しているビデオ信号の前のフレームAを示す図である。
【図5】
対応する時刻T+1に表示すべき5つのピクセル群を示しているビデオ信号の次のフィールドBを示す図である。
【図6】
対応する中間時刻T+1/2に表示すべき動き補償によって生成された5つのピクセル群を示しているビデオ信号の生成されたフィールドCを示す図である。
Claims (9)
- 動き補償方法であって、
生成された画像の原因隣接ピクセルの値と前の画像及び/又は次の画像の対応する隣接ピクセルの値とから相関値を計算する工程と、
前記相関値を閾値と比較する工程と、
前記相関値が前記閾値より小さい場合、前記生成された画像内に作成されるピクセル値を前記前の画像又は次の画像の対応するピクセルの値に等しく設定する工程と、を有することを特徴とする方法。 - 請求項1記載の方法であって、
前述の生成された画像の原因隣接ピクセルの値と前の画像及び/又は次の画像の対応する隣接ピクセルの値とから相関値を計算する工程は、
前記生成された画像の各原因隣接ピクセルの値と前記前の画像の各対応する隣接ピクセルの値との差の絶対値を加算する工程を有することを特徴とする方法。 - 請求項1記載の方法であって、
前記閾値は、前記相関値を計算するのに用いられる原因隣接ピクセルの数の10倍に等しい値を有することを特徴とする方法。 - 請求項1記載の方法であって、
生成された画像の原因隣接ピクセルの値と前の画像の対応する隣接ピクセルの値とから第一の相関値を計算する工程と、
前記生成された画像の原因隣接ピクセルの値と次の画像の対応する隣接ピクセルの値とから第二の相関値を計算する工程と、
前記第一の相関値を第一の閾値と比較する工程と、
前記第一の相関値が前記第一の閾値より小さい場合に、前記生成された画像内に作成されるピクセルの値を前記前の画像の対応するピクセルの値に等しく設定する工程と、
前記第二の相関値を第二の閾値と比較する工程と、
前記第二の相関値が前記第二の閾値より小さい場合に、前記生成された画像内に作成されるピクセルの値を前記前の画像の対応するピクセルの値に等しく設定する工程と、を更に有することを特徴とする方法。 - 請求項4記載の方法であって、
前記第一の閾値は、前記第一の相関値を計算するのに用いられた原因隣接ピクセルの数の10倍に等しい値を有することを特徴とする方法。 - 請求項4記載の方法であって、
前記第二の閾値は、前記第二の相関値を計算するのに用いられた原因隣接ピクセルの数の10倍に等しい値を有することを特徴とする方法。 - 動き補償装置であって、
生成された画像の原因隣接ピクセルの値と前の画像及び/又は次の画像の対応する隣接ピクセルの値とから相関値を計算する手段と、
前記相関値を閾値と比較する手段と、
前記相関値が前記閾値より小さい場合、前記生成された画像内に作成されるピクセル値を前記前の画像又は次の画像の対応するピクセルの値に等しく設定する手段と、を有することを特徴とする装置。 - 動きベクトルを用いて挿入される画像を生成するビデオ・アップコンバージョン・ユニットであって、
請求項7記載の動き補償装置を備えたことを特徴とするビデオ・アップコンバージョン・ユニット。 - 請求項8記載のビデオ・アップコンバージョン・ユニットを備えたことを特徴とするプログレッシブ/インターレース変換器。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US09/706,671 US6760376B1 (en) | 2000-11-06 | 2000-11-06 | Motion compensated upconversion for video scan rate conversion |
PCT/EP2001/012717 WO2002037846A1 (en) | 2000-11-06 | 2001-10-30 | Motion compensated upconversion for video scan rate conversion |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004513575A true JP2004513575A (ja) | 2004-04-30 |
JP4279549B2 JP4279549B2 (ja) | 2009-06-17 |
Family
ID=24838596
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002540453A Expired - Fee Related JP4279549B2 (ja) | 2000-11-06 | 2001-10-30 | ビデオ・スキャン・レート変換用動き補償アップコンバージョン |
Country Status (8)
Country | Link |
---|---|
US (1) | US6760376B1 (ja) |
EP (1) | EP1334613B1 (ja) |
JP (1) | JP4279549B2 (ja) |
KR (1) | KR100827214B1 (ja) |
CN (1) | CN1199448C (ja) |
AT (1) | ATE354252T1 (ja) |
DE (1) | DE60126642T2 (ja) |
WO (1) | WO2002037846A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012513721A (ja) * | 2008-12-23 | 2012-06-14 | サムスン エレクトロニクス カンパニー リミテッド | 映像処理システムにおける映像を変換する装置及び方法 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2392793A (en) * | 2002-07-31 | 2004-03-10 | Blip X Ltd | Video compression by removing complementary sets of pixels |
JP4220284B2 (ja) * | 2003-03-28 | 2009-02-04 | 株式会社東芝 | フレーム補間方法、装置及びこれを用いた画像表示システム |
DE602007009702D1 (de) * | 2006-08-21 | 2010-11-18 | Nxp Bv | Verarbeitung von bildsignalen mit bewegungskompensation |
US8325271B2 (en) * | 2007-06-12 | 2012-12-04 | Himax Technologies Limited | Method of frame interpolation for frame rate up-conversion |
GB2476298A (en) | 2009-12-18 | 2011-06-22 | Snell Ltd | Changing the temporal sample rate of a motion image sequence |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02177683A (ja) * | 1988-09-29 | 1990-07-10 | Toshiba Corp | 画素信号の相関判定および補間データ作成装置 |
JPH02166889A (ja) * | 1988-12-20 | 1990-06-27 | Sony Corp | 変換回路 |
GB2231751B (en) * | 1989-04-27 | 1993-09-22 | Sony Corp | Motion dependent video signal processing |
GB9013642D0 (en) | 1990-06-19 | 1990-08-08 | British Broadcasting Corp | Video signal processing |
JP2658625B2 (ja) * | 1991-05-20 | 1997-09-30 | 日本ビクター株式会社 | 補間信号生成回路 |
ES2118173T3 (es) * | 1992-11-19 | 1998-09-16 | Thomson Multimedia Sa | Metodo y aparato para conversion ascendente de frecuencia de campo. |
GB2279531B (en) | 1993-06-24 | 1997-07-16 | Sony Uk Ltd | Motion compensated image interpolation |
US5886745A (en) * | 1994-12-09 | 1999-03-23 | Matsushita Electric Industrial Co., Ltd. | Progressive scanning conversion apparatus |
MX9800245A (es) * | 1995-06-29 | 1998-07-31 | Thomson Multimedia Sa | Sistema para codificar y descodificar datos de video comprimidos en capas. |
KR0176568B1 (ko) | 1996-01-27 | 1999-05-01 | 김광호 | 모션과 공간적인 상관도를 이용한 비월순차 변환장치 및 그 방법 |
EP0830018A3 (en) * | 1996-09-13 | 1999-12-29 | Texas Instruments Incorporated | Method and system for motion detection in a video image |
WO1999016251A1 (en) * | 1997-09-23 | 1999-04-01 | Koninklijke Philips Electronics N.V. | Motion estimation and motion-compensated interpolation |
DE69811631T2 (de) | 1997-10-29 | 2003-10-30 | Koninklijke Philips Electronics N.V., Eindhoven | Bewegungsvektorschätzung und detektion von bedeckten/unbedeckten bildteilen |
-
2000
- 2000-11-06 US US09/706,671 patent/US6760376B1/en not_active Expired - Lifetime
-
2001
- 2001-10-30 WO PCT/EP2001/012717 patent/WO2002037846A1/en active IP Right Grant
- 2001-10-30 EP EP01982457A patent/EP1334613B1/en not_active Expired - Lifetime
- 2001-10-30 KR KR1020027008780A patent/KR100827214B1/ko not_active IP Right Cessation
- 2001-10-30 DE DE60126642T patent/DE60126642T2/de not_active Expired - Lifetime
- 2001-10-30 JP JP2002540453A patent/JP4279549B2/ja not_active Expired - Fee Related
- 2001-10-30 AT AT01982457T patent/ATE354252T1/de not_active IP Right Cessation
- 2001-10-30 CN CNB01805983XA patent/CN1199448C/zh not_active Expired - Lifetime
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012513721A (ja) * | 2008-12-23 | 2012-06-14 | サムスン エレクトロニクス カンパニー リミテッド | 映像処理システムにおける映像を変換する装置及び方法 |
US8638393B2 (en) | 2008-12-23 | 2014-01-28 | Samsung Electronics Co., Ltd. | Apparatus and method for converting image in an image processing system |
KR101557163B1 (ko) | 2008-12-23 | 2015-10-05 | 삼성전자주식회사 | 영상처리시스템에서의 영상 변환 장치 및 방법 |
Also Published As
Publication number | Publication date |
---|---|
DE60126642D1 (de) | 2007-03-29 |
ATE354252T1 (de) | 2007-03-15 |
CN1408177A (zh) | 2003-04-02 |
EP1334613B1 (en) | 2007-02-14 |
DE60126642T2 (de) | 2007-11-22 |
JP4279549B2 (ja) | 2009-06-17 |
EP1334613A1 (en) | 2003-08-13 |
US6760376B1 (en) | 2004-07-06 |
CN1199448C (zh) | 2005-04-27 |
KR100827214B1 (ko) | 2008-05-07 |
WO2002037846A1 (en) | 2002-05-10 |
KR20020068065A (ko) | 2002-08-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6810081B2 (en) | Method for improving accuracy of block based motion compensation | |
US5784114A (en) | Motion compensated video processing | |
US7720150B2 (en) | Pixel data selection device for motion compensated interpolation and method thereof | |
US20040207753A1 (en) | Deinterlacing apparatus and method thereof | |
KR100903890B1 (ko) | 고선명 텔레비젼을 위한 고품질의 비용-효율적인필름-대-비디오 변환기 | |
US8817878B2 (en) | Method and system for motion estimation around a fixed reference vector using a pivot-pixel approach | |
NL1027270C2 (nl) | Deïnterlinieringsinrichting met een ruisverminderings/verwijderingsinrichting. | |
JPH1070708A (ja) | 非インターレース化装置 | |
JP2004528741A (ja) | ビデオ信号を変換する方法および装置 | |
US8355442B2 (en) | Method and system for automatically turning off motion compensation when motion vectors are inaccurate | |
US7197075B2 (en) | Method and system for video sequence real-time motion compensated temporal upsampling | |
JP5133038B2 (ja) | 画像復元方法および画像復元装置 | |
KR100655040B1 (ko) | 디지털 영상신호 스케일링 방법 | |
JP4279549B2 (ja) | ビデオ・スキャン・レート変換用動き補償アップコンバージョン | |
EP0817478A1 (en) | Process for interpolating frames for film mode compatibility | |
JP4250807B2 (ja) | フィールド周波数変換装置および変換方法 | |
JP2007504742A (ja) | ビデオ信号の頑強なデインタレース | |
Hong et al. | Multistage block-matching motion estimation for superresolution video reconstruction |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041028 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070605 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070816 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20080227 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080305 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080305 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080722 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20080804 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20081010 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20081020 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090113 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090210 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090312 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120319 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120319 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120319 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |