JP3979020B2 - Image processing apparatus for sampling compressed image - Google Patents
Image processing apparatus for sampling compressed image Download PDFInfo
- Publication number
- JP3979020B2 JP3979020B2 JP2001070488A JP2001070488A JP3979020B2 JP 3979020 B2 JP3979020 B2 JP 3979020B2 JP 2001070488 A JP2001070488 A JP 2001070488A JP 2001070488 A JP2001070488 A JP 2001070488A JP 3979020 B2 JP3979020 B2 JP 3979020B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixels
- pixel
- jpeg
- statistical information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Color Television Systems (AREA)
- Facsimile Image Signal Circuits (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、圧縮画像から元の画像が持つ所定種類の画像情報を取得するためのサンプリングを実行する画像処理装置の改良に関する。
【0002】
【従来の技術】
様々な画像処理の中には、本処理を行う前に、処理対象の画像が持つ特定の情報(例えば、画像全体にわたる明度や彩度等の統計値、以下、「画像統計値」と言う)を取得するためのサンプリング(以下、これを「プリスキャン」と言う)を行う必要があるものがある。その1つに、フォトレタッチ処理の一種である自動画像補正がある。自動画像補正では、プリスキャンで取得した画像統計値、例えば、明度、彩度、及び輝度のヒストグラムやコントラスト等を基に、その本処理にて、画像の明度、彩度、色バランス等を最適化する。
【0003】
自動画像補正では、プリスキャンして画像統計値を得るために、処理対象の画像を読み込む必要があるが、読み込んだ画像が、ビットマップ画像を圧縮した圧縮画像である場合は、圧縮画像を元のビットマップ画像に完全に復元した後に、その元のビットマップ画像に対してプリスキャンが行われる。すなわち、圧縮画像を自動画像補正して表示するときは、圧縮画像を元のビットマップ画像に完全に復元してから、プリスキャンして画像統計値を取得し、その後、本処理にして、再び圧縮画像の復元を開始し、その復元の途中で、プリスキャンで取得した画像統計値を基に、復元された画素に対して値の補正をした上で、補正されたビットマップ画像を出力するという処理流れが実行される。つまり、圧縮画像を自動画像補正するときには、圧縮画像を完全に復元するための処理が、プリスキャン時と本処理時と合わせて2回行われる。
【0004】
【発明が解決しようとする課題】
圧縮画像を復元するための処理は、一般に、計算量が多く、装置にとって負担となるものである。
【0005】
例えば、圧縮画像が、JPEGベースライン方式(ISO/IEC10918-1)によって圧縮された画像(以下、JPEG画像)である場合、周知のように、画像圧縮のときにDCT(離散コサイン変換)演算が行われ、JPEG画像を復元するときには、逆DCT演算が行われる。DCT演算における計算量は膨大であり、それと表裏一体の関係にある逆DCT演算における計算量も膨大である。このため、JPEG画像を復元するための処理は、装置にとって負担が大きく時間がかかるものである。まして、JPEG画像を自動画像補正して表示するとなると、上述したことからわかるように、JPEG画像の復元を2回行う必要があるので、処理負担及び処理時間長は倍である。この問題点は、例えば、デジタルカメラで撮影した大サイズのJPEG画像を、プリンタに取り込み、プリンタ内のCPUで処理する場合のように、比較的に低速のCPUで圧縮画像の復元を行うときに、特に大きいものとなる。
【0006】
従って、本発明の目的は、圧縮画像をサンプリングして表示するための処理負担を軽減して、それの処理時間長を短縮できるようにすることにある。
【0007】
【課題を解決するための手段】
本発明の第1の側面に従う画像処理装置は、圧縮画像から元の画像が持つ所定種類の画像情報を得るためのサンプリングを実行する画像処理装置であって、元の画像が持つ全画素数より少ない複数の画素であって、元の画像の処理対象領域の全体に分散して配置されている複数の画素についてのみ、圧縮画像のデータから画素値を計算する画素値計算手段と、画素値計算手段からの複数の画素の画素値から上記画像情報を取得する画像情報取得手段とを備える。
【0008】
本発明の第1の側面に従う画像処理装置によれば、所定種類の画像情報(例えば、画像全体にわたる明度や彩度等の統計値)を取得するとき、元の画像が持つ全画素数より少ない複数の画素についてのみ、圧縮画像のデータから画素値を計算する。これにより、元画像が持つ全ての画素について画素値を計算する従来の装置に比べて、画像情報を取得するための計算量が少なくて済む。このため、圧縮画像をサンプリングして表示するための処理負担は軽減され、それの処理時間長は短縮されるようになる。
【0009】
本発明に従う第2の画像処理装置は、圧縮画像から元の画像が持つ所定種類の画像情報を得るためのサンプリングを実行する画像処理装置であって、元の画像をk×k画素ブロックに分割したときの、各々のk×k画素ブロックから代表的な画素を抽出し、抽出した画素についてのみ、圧縮画像のデータから画素値を計算する画素値計算手段と、画素値計算手段からの代表的な画素の画素値から上記画像情報を取得する画像情報取得手段とを備える。
【0010】
本発明の第2の側面に従う画像処理装置によれば、所定種類の画像情報を取得するとき、元の画像をk×k画素ブロックに分割したときの、各々のk×k画素ブロックから抽出した代表的な画素についてのみ、圧縮画像のデータから画素値を計算する。これにより、元画像が持つ全ての画素について画素値を計算する従来の装置に比べて、画像情報を取得するための計算量が少なくて済む。このため、圧縮画像をサンプリングして表示するための処理負担は軽減され、それの処理時間長は短縮されるようになる。
【0011】
本発明の第2の側面に従う好適な実施形態では、圧縮画像が、JPEGベースライン方式によって圧縮されたJPEG画像である場合、画素値計算手段が、k×k画素ブロックに対応する周波数成分ブロックのうち、直流成分のみを用いて、k×k画素ブロックの代表的な画素の画素値を計算する。
【0012】
本発明の第1及び第2の側面に従う画像処理装置が持つ上記各手段の機能はコンピュータにより実施することができるが、そのためのコンピュータプログラムは、ディスク型ストレージ、半導体メモリ及び通信ネットワークなどの各種媒体を通じてコンピュータにインストール又はロードすることができる。
【0013】
【発明の実施の形態】
以下、圧縮画像がJPEGベースライン方式で圧縮されたJPEG画像である場合を例に、本発明の一実施形態に係るサンプリング方法を説明する。本実施形態のサンプリング方法は、例えばJPEG画像に対する自動画像補正処理におけるプリスキャンとして使用されるものである。
【0014】
本実施形態では、JPEG画像を後述する方法でプリスキャンするが、そのプリスキャンによって生じる作用効果を分かりやすくするため、まず、当業者にとっては周知であるが、JPEGベースライン方式による圧縮(符号化)の手順と復元(復号化)の手順を概略的に説明する。
【0015】
図1(a)は、JPEG方式による画像圧縮の概略手順を示し、図1(b)は、JPEG画像の復元の概略手順を示す。
【0016】
図1(a)に示すように、JPEG方式による画像圧縮の概略手順は、まず、圧縮対象のビットマップ画像の色空間(通常はRGB)をYUV(YCbCr)に色変換し(ステップS1)、YUVで表した画像(YUVビットマップ画像)を、所定サイズの画素ブロック(例えば、N×N画素の正方形画素ブロック、以下、画素ブロックは、最も標準的な8×8の画素値からなるものとする)に分割する(S2)。次に、各画素ブロックにDCT演算を施し(S3)、DCT演算によって生じた周波数成分ブロック(係数ブロック)を変換係数毎に異なる量子化ステップを用いて量子化する(量子化ステップは、量子化テーブルとして予め用意されている)(S4)。そして、各係数ブロックの量子化された変換係数を、DC係数とAC係数に分け、AC係数に対してはジグザグスキャンを施した後にランレングスハフマン符号化を行い(S5)、DC係数に対しては差分符号化を施した後にハフマン符号化を行うことで(S6)、JPEG画像が生成される(つまりJPEG方式の画像圧縮が完了する)。
【0017】
JPEG画像の復元の概略手順は、この画像圧縮の概略手順の逆である。
【0018】
すなわち、JPEG画像の復元の概略手順は、図1(b)に示すように、まず、JPEG画像のDC(直流)成分に対してハフマン復号化を行い(S7)、AC(交流)成分に対してランレングスハフマン復号化を行う(S8)。これにより、量子化された8×8の周波数成分ブロックが各々得られる。次に、各周波数成分ブロックに対して、逆量子化(S9)と逆DCT演算(S10)とを行って各周波数成分ブロックをYUVで表した画素ブロックにし、YUVで表された各画素ブロックを合成して(S11)、YUVビットマップ画像を形成する。そして、その画像の色空間YUVを元の色空間(例えばRGB)に色変換することで(S12)、JPEG画像の復元が完了する。
【0019】
以上が、JPEG画像の復元の概略手順である。この手順では、逆DCT演算が最も処理負担が大きく、処理に時間を要するものとなっている。下記の(1)式は逆DCT演算の式を示す。
【0020】
【数1】
この(1)式において、mは、図2に示した8×8成分の周波数成分ブロック21における水平方向の周波数成分(m=0〜7)を表し、nは、垂直方向の周波数成分(n=0〜7)を表し、i、jは、その8×8周波数成分ブロック21の逆DCT演算で得られる8×8画素の画素ブロック内の個々の画素の水平方向位置(i=0〜7)と垂直方向位置(j=0〜7)を表す。また、Cmは、水平方向周波数成分がmのときの変換係数を表し、Cnは、垂直方向周波数成分がnのときの変換係数を表し、Smnは、8×8周波数成分ブロック21における周波数成分(m,n)での周波数成分値を表す。また、Bは、元のビットマップ画像が持つ各色データのビット数に応じた定数を表し、Pijは、8×8周波数成分ブロック21の逆DCT演算で得られる8×8画素の画素ブロックにおける位置(i,j)での画素値を表す。
【0021】
JPEG画像をプリスキャンするとき、従来は、既に述べたように、JPEG画像を完全に元のビットマップ画像に復元してからプリスキャンを行う。すなわち、従来は、JPEG画像をプリスキャンするとき、1つの8×8画素ブロックについて言えば、全64画素の画素値を得るべく(1)式の計算を64×64=4096回行い、その計算を1画像を構成する多数のブロックについて繰り返すので、全体の計算量は膨大である。
【0022】
しかし、JPEG画像を完全に復元して1画像全ての画素値を得なくても、画像統計値は取得できるものと考えられる。別の言い方をすれば、画像統計値を取得するために、JPEG画像を完全に復元して膨大な数の全ての画素値を得る必要は必ずしもなく、統計計算に必要な或る程度の数の画素値が得られれば、自動画像補正等の目的に必要十分な画像統計値は取得できるものと考えられる。具体的な例として、自動画像補正のプリスキャンの場合、元の画像のサイズに関係無しに、最低600×600画素程度の画素の値が取得できれば良いと考えられる。例えば、1200×1200画素又は1800×1200画素のサイズを持つ画像から画像統計値を取得するためには、縦横それぞれ1つ置きに画素を取得して合計600×600画素又は900×600画素のように、上述の最低の画素数以上の数の画素の値が取得できれば良いと考えられる。
【0023】
そこで、本実施形態では、次のようにしてJPEG画像のプリスキャンを行う。
【0024】
図3は、本実施形態に係るJPEG画像のサンプリング方法の流れを示す。本実施形態に係るサンプリング方法は、ソフトウェアを実行するコンピュータ、ASICのような純粋なハードウェア回路、又はそれらの組み合わせなど、ソフトとハードをどのように使った構成でも実施することができる。
【0025】
本実施形態に係るサンプリング方法では、まず、サンプリング対象のJPEG画像に対し、ハフマン復号化(S16)、ランレングスハフマン復号化(S17)、及び逆量子化(S18)を行って、図2に示したような8×8成分の周波数成分ブロック21を、元の画像の8×8画素ブロックの各々について得る。次に、8×8画素ブロックの各々について、全64画素のうちどの位置(i,j)の画素値を得るかを決定する、つまり、画素値取得対象の画素位置(i,j)を選択する(S19)。そして、選択した画素位置(i,j)の画素のみについて、逆DCT演算(S20)を行い、逆DCT演算によって得られた表色系YUVの画素値Pijを所定の表色系(例えば、RGB又はCMY)に色変換して(S21)、色変換して得られる画素値から画像統計値を取得する(S22)。
【0026】
この実施形態に係るサンプリング方法は、元画像の8×8画素ブロックの各々について、画素値取得対象の画素を8×8画素ブロックの全64画素の中から選択し、選択した画素のみについて、逆DCT演算及び色変換を施して画素値を得る。このため、JEPG画像を元画像に完全に復元してサンプリングを行う従来の方法に比べて、逆DCT演算及び色変換の計算回数を減らすことができ、それにより、JPEG画像のサンプリングにかかる装置の処理負担及び処理時間長を減らすことができる。特に、逆DCT演算の計算回数を減らすことができるのは、本効果の大きな要因である。
【0027】
画素値取得対象の画素を選択する方法としては、種々の方法が考えられるが、以下、画素値8×8画素ブロックの各々について、8×8画素のうち所定の比率で画素を残すように間引き(以下、その比率を「間引き率」と言う)、その間引きによって残された画素を選択するという方法(以下、間引き選択方法)を例に、本実施形態のサンプリング方法及びそれの具体的な効果を説明する。なお、ここで言う「間引き率」とは、8×8画素ブロックの画素を縦横どれだけの比率(割合)で残すように画素を間引くかを表すものであり、間引き率は、画像統計値を取得するための統計計算に必要な画素数に応じて決定される。
【0028】
例えば、画像統計値を取得するための統計計算に600×600画素が必要であるとき、元の画像サイズが1200×1200画素であれば、間引き率は、「縦横1/2(2分の1)」と決定され、また、元の画像サイズが1800×1800画素であれば、間引き率は、「縦横1/3(3分の1)」と決定される。
【0029】
本実施形態のサンプリング方法は、間引き率が縦横1/2のときは、8×8画素ブロック31の8×8画素のうち、縦横それぞれ1/2を乗じた4×4画素、計16画素が例えば分散的に残るように、8×8画素ブロック31の画素を間引く。具体的な例としては、図4に示すように、本実施形態のサンプリング方法は、縦方向(垂直方向)について、水平方向位置i=1、3、5、7に属する画素を残すように(つまり等間隔に画素を残すように)、他の水平方向位置i=0、2、4、6に属する画素を全て間引く。同様に、横方向(水平方向)について、垂直方向位置j=1、3、5、7に属する画素を残すように(つまり等間隔に画素を残すように)、他の垂直方向位置i=0、2、4、6に属する画素を全て間引く。
【0030】
以上のようにして、間引き率が縦横1/2のときは、8×8画素ブロック31の全64画素のうち16画素が分散的に残る。本実施形態に係るサンプリング方法は、それら16画素のみについて画素値を算出するので、このときの逆DCT演算及び色変換の計算回数は、従来に比べて、16画素/64画素(64画素分の16画素)、つまり、1/4(4分の1)回に減る。この記載からわかるように、間引き率を縦横1/2という比較的大きな値にしても、本実施形態の効果が十分に得られる。
【0031】
なお、上述のことを別の観点からすれば、元のビットマップ画像を2×2画素ブロックに分割し、個々の2×2画素ブロックの中から代表的な1画素を抽出したと言える。より一般的な言い方をすれば、間引き率が「縦横1/k(k分の1)」のときは、元のビットマップ画像をk×k画素ブロックに分割し、k×k画素ブロックの中から代表的な1画素を抽出すると言える。
【0032】
次に、間引き率が「縦横1/8(8分の1)」とされた場合を例に説明する。
【0033】
間引き率が「縦横1/8(8分の1)」とされた場合は、図5に示すように、本実施形態のサンプリング方法は、8×8画素ブロック31の8×8画素のうち、縦横それぞれ1/8を乗じた1×1画素、つまり1つの画素だけ残るように、8×8画素ブロック31の画素を間引く。具体的な例としては、図5に示すように、本実施形態のサンプリング方法は、縦方向(垂直方向)について、8列のうち或る1列に属する画素(例えば水平方向位置がi=0の画素)のみを残すように他の7列に属する画素(つまり水平方向位置がi=1〜7の画素)を全て間引く。同様に、横方向(水平方向)について、8列のうち或る1列に属する画素(例えば垂直方向位置がj=0の画素)のみを残すように他の7列に属する画素(つまり垂直方向位置がj=1〜7の画素)を全て間引く。なお、このようにi=j=0の画素を残すのは単なる一例であり、他の任意の位置の画素、例えば、8×8画素ブロック31の中央のi=j=3の画素を残すようにしても良い。
【0034】
以上のように、間引き率が縦横1/8の場合は、8×8画素ブロック31から画素が1つだけ残される。本実施形態では、その1つの画素のみについて画素値が算出され、1画像を構成する多数の8×8画素ブロック31における各々の1つの画素値から、画像統計値を取得するための統計計算が行われる。これについて、別の言い方をすれば、間引きによって残された1画素から得られる画素値を、8×8画素ブロック31全体の代表的な画素値として、統計計算が行われる。この観点からすれば、8×8画素ブロック31の代表的な画素値として、特定の位置の画素値ではなく、8×8周波数成分ブロックのDC成分のみを用いて、8×8画素ブロック31の平均的な画素値を取得することができる。そうすると、逆DCT演算を全く行う必要なく、DC成分の演算のみで、8×8画素ブロック31の代表的な画素値を取得することができる。
【0035】
このDC成分の演算方法について、図6を参照して具体的に説明すると、先頭の周波数成分ブロック21AのDC成分の値DC[A]は、差分符号化された値ΔDC[A]に所定値0を加算することで復号し、周波数成分ブロック21BのDC成分の値DC[B]は、差分符号化されたΔDC[B]に、上記復号した直前の周波数成分ブロック21AのDC[A]を加算して復号し、周波数成分ブロック21CのDC成分の値DC[C]は、差分符号化された値ΔDC[C]に、上記復号した直前の周波数成分ブロック21BのDC[B]を加算して復号する。
【0036】
このようにして復号したDC成分は、逆量子化前の(つまりYUV表色系で表された)、8×8画素ブロック全体の平均的な画素値を示す。従って、DC成分を復号した後は、復号したDC成分に表される値に対して、逆量子化を施し、逆DCT演算を一切行う必要なく色変換処理を行って、所定の表色系(RGB又はCMY)で表された画素値を得れば良い。
【0037】
以上のことから、本実施形態のサンプリング方法において間引き率を縦横1/8とした場合は、従来と比べて、逆量子化及び色変換を行うための計算回数は、1画素/64画素(64画素分の1画素)=1/64(64分の1)回と大幅に減らすことができ、更に、最も大きな処理負担である逆DCT演算は、一度も行う必要がない。ゆえに、本実施形態のサンプリング方法において、間引き率を縦横1/8とすれば、プリスキャンを実行する装置の負担を大幅に軽くすることができ、以って、プリスキャンに要する時間長を大幅に短縮することができるようになる。間引き率が縦横1/8となるのは、上述した説明から言えば、例えば画像統計値を取得するための統計計算に600×600画素が必要であるとき、元の画像サイズが縦横8倍の4800×4800画素であるときであるが、元の画像サイズがそれ以上であって間引き率が縦横1/8より小さくて済む場合であっても、上記効果から、8×8画素ブロックあたりの間引き率は縦横1/8として処理することができる。
【0038】
以上、本発明の好適な実施形態を説明したが、これは本発明の説明のための例示であって、本発明の範囲をこの実施形態にのみ限定する趣旨ではない。本発明は、他の種々の形態でも実施することが可能である。
【0039】
例えば、上述した実施形態は、JPEG画像に対する自動画像補正処理におけるプリスキャンとして使用されるが、自動画像補正は、元画像の全ての領域は勿論、ユーザが選択した一部の領域のみに対しても行うことができる。
【0040】
また、上述した実施形態のサンプリング方法は、JPEG画像に対する自動画像補正処理におけるプリスキャンとして使用されるものであるが、本発明は、それのみに限らず、プリスキャンを必要とする種々の画像処理におけるプリスキャンとして使用できる。また、本発明のサンプリング方法は、或る画像処理の本処理前のプリスキャンとしてではなく、元画像の特定の情報(例えば画像統計値)を得ることそれ自体を目的とした単独の処理として使用することもできる。
【0041】
また、上記実施形態では、画素を間引くときは、8×8画素ブロックに画素が分散的に残るように間引くが、必ずしも、分散的に残るように間引かなくても良い(例えば、8×8画素ブロックの或る一領域に属する画素が偏重的に残るように間引いても良い(一例として、8×8画素ブロックの右半分の領域に属する全32画素が残るように左半分の領域に属する残り全32画素を間引いても良い))。また、元画像を構成する個々の8×8画素ブロック或るいは元画像全体から、ランダムに、画素値取得対象の画素を選択し、選択した画素について画素値を求めるようにしても良い。
【図面の簡単な説明】
【図1】(a)は、JPEG方式による画像圧縮の概略手順を示す図。(b)は、JPEG画像の復元の概略手順を示す図。
【図2】8×8の周波数成分ブロックを示す図。
【図3】本発明の一実施形態に係るプリスキャン方法の流れを示す図。
【図4】本発明の一実施形態において間引き率を「縦横1/2」としたときの間引きの様子を示す図。
【図5】本発明の一実施形態において間引き率を「縦横1/8」としたときの間引きの様子を示す図。
【図6】JPEG方式による画像圧縮において、DC成分の符号化の流れを示す図。
【符号の説明】
21 8×8周波数成分ブロック
31 8×8画素ブロック[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an improvement in an image processing apparatus that performs sampling for acquiring a predetermined type of image information of an original image from a compressed image.
[0002]
[Prior art]
In various types of image processing, before performing this processing, specific information of the image to be processed (for example, statistical values such as brightness and saturation over the entire image, hereinafter referred to as “image statistical values”) There is a thing which needs to perform sampling (hereinafter referred to as “pre-scan”) to obtain the signal. One of them is automatic image correction which is a kind of photo retouch processing. Automatic image correction optimizes image brightness, saturation, color balance, etc. in this process based on image statistics acquired by pre-scanning, such as brightness, saturation, and brightness histograms and contrast. Turn into.
[0003]
In automatic image correction, in order to obtain image statistics by pre-scanning, it is necessary to read the image to be processed. However, if the read image is a compressed image obtained by compressing a bitmap image, the original image is compressed. After completely restoring the original bitmap image, pre-scanning is performed on the original bitmap image. That is, when displaying a compressed image with automatic image correction, the compressed image is completely restored to the original bitmap image, pre-scanned to obtain image statistics, and then this processing is performed again. Start decompression of the compressed image, and during the restoration, correct the value of the restored pixel based on the image statistics obtained by prescan, and then output the corrected bitmap image The process flow is executed. That is, when the compressed image is automatically corrected, the process for completely restoring the compressed image is performed twice in combination with the pre-scan and the main process.
[0004]
[Problems to be solved by the invention]
The process for decompressing a compressed image generally requires a large amount of calculation and is a burden on the apparatus.
[0005]
For example, when the compressed image is an image compressed by the JPEG baseline method (ISO / IEC10918-1) (hereinafter referred to as a JPEG image), as is well known, DCT (discrete cosine transform) calculation is performed during image compression. When the JPEG image is restored, an inverse DCT operation is performed. The amount of calculation in the DCT operation is enormous, and the amount of calculation in the inverse DCT operation that is in an integrated relationship with it is also enormous. For this reason, the process for restoring the JPEG image is heavy on the apparatus and takes time. In addition, when a JPEG image is displayed after automatic image correction, as described above, it is necessary to restore the JPEG image twice, so that the processing load and the processing time length are doubled. This problem occurs when, for example, a large JPEG image taken with a digital camera is taken into a printer and processed by a CPU in the printer, and the compressed image is restored by a relatively low-speed CPU. , Especially large.
[0006]
Therefore, an object of the present invention is to reduce the processing load for sampling and displaying a compressed image and to shorten the processing time length thereof.
[0007]
[Means for Solving the Problems]
An image processing apparatus according to a first aspect of the present invention is an image processing apparatus that performs sampling for obtaining a predetermined type of image information of an original image from a compressed image, and is based on the total number of pixels of the original image. Pixel value calculation means for calculating pixel values from compressed image data only for a plurality of pixels that are a small number of pixels and are distributed over the entire processing target area of the original image, and pixel value calculation Image information acquisition means for acquiring the image information from pixel values of a plurality of pixels from the means.
[0008]
According to the image processing device according to the first aspect of the present invention, when acquiring predetermined types of image information (for example, statistical values such as brightness and saturation over the entire image), the number is less than the total number of pixels of the original image. For only a plurality of pixels, pixel values are calculated from the compressed image data. Thereby, compared with the conventional apparatus which calculates a pixel value about all the pixels which an original image has, the calculation amount for acquiring image information can be reduced. For this reason, the processing load for sampling and displaying the compressed image is reduced, and the processing time length thereof is shortened.
[0009]
A second image processing apparatus according to the present invention is an image processing apparatus that performs sampling for obtaining a predetermined type of image information of an original image from a compressed image, and divides the original image into k × k pixel blocks. A representative pixel is extracted from each k × k pixel block, and a pixel value calculation unit that calculates a pixel value from compressed image data only for the extracted pixel, and a representative value from the pixel value calculation unit Image information acquisition means for acquiring the image information from the pixel value of each pixel.
[0010]
According to the image processing device according to the second aspect of the present invention, when acquiring predetermined types of image information, the original image is extracted from each k × k pixel block when divided into k × k pixel blocks. For only representative pixels, pixel values are calculated from the compressed image data. Thereby, compared with the conventional apparatus which calculates a pixel value about all the pixels which an original image has, the calculation amount for acquiring image information can be reduced. For this reason, the processing load for sampling and displaying the compressed image is reduced, and the processing time length thereof is shortened.
[0011]
In a preferred embodiment according to the second aspect of the present invention, when the compressed image is a JPEG image compressed by the JPEG baseline method, the pixel value calculation means includes a frequency component block corresponding to the k × k pixel block. Among them, the pixel value of the representative pixel of the k × k pixel block is calculated using only the DC component.
[0012]
The functions of the above-described units included in the image processing apparatus according to the first and second aspects of the present invention can be implemented by a computer. A computer program therefor includes various media such as disk-type storage, semiconductor memory, and communication network. Can be installed or loaded into the computer.
[0013]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, the sampling method according to an embodiment of the present invention will be described by taking as an example the case where the compressed image is a JPEG image compressed by the JPEG baseline method. The sampling method of this embodiment is used as a prescan in automatic image correction processing for a JPEG image, for example.
[0014]
In this embodiment, a JPEG image is pre-scanned by a method to be described later. First, in order to make the effects produced by the pre-scan easier to understand, first, as is well known to those skilled in the art, compression (encoding) by the JPEG baseline method is performed. ) And the procedure of restoration (decoding) will be schematically described.
[0015]
FIG. 1A shows a schematic procedure for image compression by the JPEG method, and FIG. 1B shows a schematic procedure for restoration of a JPEG image.
[0016]
As shown in FIG. 1A, the general procedure for image compression by the JPEG method is to first convert the color space (usually RGB) of the bitmap image to be compressed into YUV (YC b C r ) (step S1) An image represented by YUV (YUV bitmap image) is converted into a pixel block of a predetermined size (for example, a square pixel block of N × N pixels, hereinafter, the pixel block is determined from the most standard 8 × 8 pixel value). (S2). Next, each pixel block is subjected to a DCT operation (S3), and a frequency component block (coefficient block) generated by the DCT operation is quantized using a different quantization step for each transform coefficient (the quantization step is a quantization step). Prepared in advance as a table) (S4). Then, the quantized transform coefficient of each coefficient block is divided into a DC coefficient and an AC coefficient, the AC coefficient is subjected to zigzag scanning, and then run-length Huffman coding is performed (S5). The HPEG encoding is performed after the differential encoding is performed (S6), and a JPEG image is generated (that is, JPEG image compression is completed).
[0017]
The general procedure for JPEG image restoration is the reverse of this general procedure for image compression.
[0018]
That is, as shown in FIG. 1B, the general procedure for restoring a JPEG image is to first perform Huffman decoding on the DC (direct current) component of the JPEG image (S7), and on the AC (alternating current) component. Run-length Huffman decoding is then performed (S8). As a result, quantized 8 × 8 frequency component blocks are obtained. Next, inverse quantization (S9) and inverse DCT calculation (S10) are performed on each frequency component block to make each frequency component block a pixel block represented by YUV, and each pixel block represented by YUV By combining (S11), a YUV bitmap image is formed. Then, the color space YUV of the image is converted into the original color space (for example, RGB) (S12), and the restoration of the JPEG image is completed.
[0019]
The above is the outline procedure for restoring a JPEG image. In this procedure, the inverse DCT calculation has the largest processing load, and the processing takes time. The following formula (1) shows the formula of inverse DCT calculation.
[0020]
[Expression 1]
In the equation (1), m represents a horizontal frequency component (m = 0 to 7) in the 8 × 8 component
[0021]
When a JPEG image is pre-scanned, conventionally, as already described, the JPEG image is completely restored to the original bitmap image and then pre-scanning is performed. In other words, conventionally, when pre-scanning a JPEG image, for one 8 × 8 pixel block, the calculation of equation (1) is performed 64 × 64 = 4096 times to obtain a pixel value of all 64 pixels, and the calculation is performed. Is repeated for a large number of blocks constituting one image, so that the total calculation amount is enormous.
[0022]
However, it is considered that the image statistical value can be acquired without completely restoring the JPEG image and obtaining the pixel values of all the images. In other words, in order to obtain image statistics, it is not always necessary to fully restore a JPEG image to obtain a huge number of all pixel values, but to some extent necessary for statistical calculations. If pixel values are obtained, it is considered that image statistics necessary and sufficient for purposes such as automatic image correction can be acquired. As a specific example, in the case of pre-scanning for automatic image correction, it is considered that a pixel value of at least about 600 × 600 pixels may be acquired regardless of the original image size. For example, in order to acquire image statistics from an image having a size of 1200 × 1200 pixels or 1800 × 1200 pixels, every other pixel in the vertical and horizontal directions is acquired, and a total of 600 × 600 pixels or 900 × 600 pixels is obtained. In addition, it is considered that it is only necessary to obtain the value of the number of pixels equal to or more than the above-mentioned minimum number of pixels.
[0023]
Therefore, in the present embodiment, JPEG image pre-scanning is performed as follows.
[0024]
FIG. 3 shows a flow of a sampling method for JPEG images according to this embodiment. The sampling method according to the present embodiment can be implemented by any configuration using software and hardware, such as a computer executing software, a pure hardware circuit such as ASIC, or a combination thereof.
[0025]
In the sampling method according to the present embodiment, first, Huffman decoding (S16), run-length Huffman decoding (S17), and inverse quantization (S18) are performed on the JPEG image to be sampled, as shown in FIG. An 8 × 8 component
[0026]
In the sampling method according to this embodiment, for each 8 × 8 pixel block of the original image, a pixel value acquisition target pixel is selected from all 64 pixels of the 8 × 8 pixel block, and only the selected pixel is inverted. A pixel value is obtained by performing DCT calculation and color conversion. For this reason, the number of times of inverse DCT calculation and color conversion can be reduced compared with the conventional method in which a JEPG image is completely restored to an original image and sampling is performed. The processing burden and the processing time length can be reduced. In particular, the fact that the number of inverse DCT calculations can be reduced is a major factor of this effect.
[0027]
Various methods are conceivable as a method for selecting a pixel from which a pixel value is to be acquired. Hereinafter, for each pixel value 8 × 8 pixel block, thinning is performed so that pixels are left at a predetermined ratio of 8 × 8 pixels. (Hereinafter, the ratio is referred to as a “decimation rate”), and a method of selecting pixels left by the decimation (hereinafter, “decimation selection method”) as an example, the sampling method of this embodiment and its specific effects Will be explained. The “decimation rate” referred to here indicates how much the pixels of an 8 × 8 pixel block are to be thinned out so that the pixels are thinned out at a ratio (ratio). It is determined according to the number of pixels required for statistical calculation for acquisition.
[0028]
For example, when 600 × 600 pixels are required for statistical calculation for obtaining image statistics, if the original image size is 1200 × 1200 pixels, the thinning rate is “vertical 1/2 (1/2) If the original image size is 1800 × 1800 pixels, the thinning rate is determined as “1/3 (vertical and horizontal) (1/3)”.
[0029]
In the sampling method of this embodiment, when the decimation rate is 1/2 in the vertical and horizontal directions, among the 8 × 8 pixels in the 8 × 8
[0030]
As described above, when the thinning rate is ½ in the vertical and horizontal directions, 16 pixels out of all 64 pixels in the 8 × 8 pixel block 31 remain in a distributed manner. Since the sampling method according to the present embodiment calculates pixel values for only those 16 pixels, the number of times of inverse DCT calculation and color conversion at this time is 16 pixels / 64 pixels (64 pixels worth) compared to the conventional case. 16 pixels), that is, 1/4 (1/4) times. As can be seen from this description, the effect of this embodiment can be obtained sufficiently even if the thinning rate is set to a relatively large value of 1/2 in the vertical and horizontal directions.
[0031]
From another point of view, it can be said that the original bitmap image is divided into 2 × 2 pixel blocks, and one representative pixel is extracted from each 2 × 2 pixel block. In more general terms, when the decimation rate is “vertical / horizontal 1 / k (1 / k)”, the original bitmap image is divided into k × k pixel blocks, It can be said that one representative pixel is extracted from
[0032]
Next, a case where the thinning rate is “vertical and horizontal 1/8 (1/8)” will be described as an example.
[0033]
When the thinning rate is “vertical 1/8 (1/8)”, as shown in FIG. 5, the sampling method of the present embodiment uses the 8 × 8 pixels in the 8 × 8 pixel block 31. The pixels of the 8 × 8 pixel block 31 are thinned out so that only 1 × 1 pixel multiplied by 1/8 in the vertical and horizontal directions, that is, only one pixel remains. As a specific example, as shown in FIG. 5, the sampling method of the present embodiment is a pixel belonging to a certain one of eight columns (for example, the horizontal position is i = 0) in the vertical direction (vertical direction). All the pixels belonging to the other seven columns (that is, the pixels whose horizontal position is i = 1 to 7) are thinned out so as to leave only the pixels. Similarly, in the horizontal direction (horizontal direction), the pixels belonging to one of the eight columns (for example, the pixel whose vertical direction position is j = 0) are left, and the pixels belonging to the other seven columns (that is, the vertical direction). All pixels whose positions are j = 1 to 7 are thinned out. It should be noted that leaving the pixel with i = j = 0 in this way is merely an example, and the pixel at any other position, for example, the pixel with i = j = 3 in the center of the 8 × 8 pixel block 31 is left. Anyway.
[0034]
As described above, when the thinning rate is 1/8 in the vertical and horizontal directions, only one pixel is left from the 8 × 8 pixel block 31. In the present embodiment, the pixel value is calculated for only that one pixel, and statistical calculation for obtaining the image statistical value from each one pixel value in the many 8 × 8 pixel blocks 31 constituting one image is performed. Done. In other words, statistical calculation is performed using the pixel value obtained from one pixel left by thinning as a representative pixel value of the entire 8 × 8 pixel block 31. From this point of view, the representative pixel value of the 8 × 8 pixel block 31 is not the pixel value at a specific position, but only the DC component of the 8 × 8 frequency component block. An average pixel value can be acquired. Then, it is not necessary to perform the inverse DCT calculation at all, and the representative pixel value of the 8 × 8 pixel block 31 can be acquired only by the calculation of the DC component.
[0035]
This DC component calculation method will be described in detail with reference to FIG. 6. The DC component value DC [A] of the first
[0036]
The DC component decoded in this manner indicates an average pixel value of the entire 8 × 8 pixel block before dequantization (that is, expressed in the YUV color system). Therefore, after the DC component is decoded, the value represented by the decoded DC component is subjected to inverse quantization, color conversion processing is performed without performing any inverse DCT operation, and a predetermined color system ( What is necessary is just to obtain the pixel value represented by RGB or CMY).
[0037]
From the above, in the sampling method of the present embodiment, when the thinning rate is set to 1/8 vertical and horizontal, the number of calculations for performing inverse quantization and color conversion is 1 pixel / 64 pixels (64 1 pixel) = 1/64 (1/64) times, and the inverse DCT calculation, which is the largest processing burden, need not be performed once. Therefore, in the sampling method of the present embodiment, if the thinning rate is 1/8 in the vertical and horizontal directions, the burden on the apparatus that performs the prescan can be greatly reduced, and the time length required for the prescan is greatly increased. Can be shortened. The decimation rate is 1/8 in the vertical and horizontal directions. From the above description, for example, when 600 × 600 pixels are required for statistical calculation for obtaining image statistical values, the original image size is 8 times vertical and horizontal. Even when the image size is 4800 × 4800 pixels, and the original image size is larger than that and the thinning-out rate can be smaller than 1/8 in the vertical and horizontal directions, the thinning out per 8 × 8 pixel block can be obtained from the above effect. The rate can be processed as 1/8 vertical and horizontal.
[0038]
The preferred embodiment of the present invention has been described above, but this is an example for explaining the present invention, and the scope of the present invention is not limited to this embodiment. The present invention can be implemented in various other forms.
[0039]
For example, the above-described embodiment is used as a pre-scan in the automatic image correction process for a JPEG image. However, the automatic image correction is performed not only on all areas of the original image but also on only a part of the areas selected by the user. Can also be done.
[0040]
In addition, the sampling method of the above-described embodiment is used as a pre-scan in automatic image correction processing for a JPEG image. However, the present invention is not limited thereto, and various image processing that requires pre-scan. Can be used as a pre-scan. Further, the sampling method of the present invention is not used as a pre-scan before a main process of a certain image process, but as a single process for the purpose of obtaining specific information (for example, image statistical values) of the original image itself. You can also
[0041]
Further, in the above embodiment, when thinning out pixels, thinning is performed so that the pixels remain in the 8 × 8 pixel block in a distributed manner, but it is not always necessary to thin out the pixels in a distributed manner (for example, 8 × 8). It may be thinned out so that pixels belonging to a certain area of the pixel block remain in an unbalanced manner (for example, it belongs to the left half area so that all 32 pixels belonging to the right half area of the 8 × 8 pixel block remain) All the remaining 32 pixels may be thinned out)). Alternatively, a pixel value acquisition target pixel may be randomly selected from individual 8 × 8 pixel blocks constituting the original image or the entire original image, and the pixel value may be obtained for the selected pixel.
[Brief description of the drawings]
FIG. 1A is a diagram showing a schematic procedure of image compression by the JPEG method. FIG. 5B is a diagram illustrating a schematic procedure for restoring a JPEG image.
FIG. 2 is a diagram showing an 8 × 8 frequency component block.
FIG. 3 is a flowchart showing a pre-scan method according to an embodiment of the present invention.
FIG. 4 is a diagram showing a thinning state when the thinning rate is “vertical and horizontal 1/2” in the embodiment of the present invention.
FIG. 5 is a diagram showing a state of thinning when the thinning rate is “vertical and horizontal 1/8” in one embodiment of the present invention.
FIG. 6 is a diagram illustrating a flow of encoding a DC component in image compression by the JPEG method.
[Explanation of symbols]
21 8 × 8 frequency component block 31 8 × 8 pixel block
Claims (3)
前記プリスキャンのために、
前記元の画像の画素数と、前記画像統計情報を取得するために必要な画素数とに基づいて間引き率を決定する間引き率決定手段と、
各々の前記k×k画素ブロックから、前記間引き率決定手段によって決定された間引き率に従って画素を間引きして残された画素を抽出し、前記抽出した画素についてのみ逆DCT演算を行い、前記JPEG画像のデータを復元して画素値を計算する画素値計算手段と、
前記画素値計算手段が計算した画素の画素値から前記画像統計情報を取得する画像統計情報取得手段と、
を備える画像処理装置。A prescan for acquiring image statistical information from a JPEG image compressed by a JPEG baseline method that divides an original image into k × k pixel blocks and performs DCT operation for each k × k pixel block, and the JPEG An image processing apparatus that performs an image restoration and a main process of correcting an original image obtained by the restoration based on image statistical information acquired by the prescan,
For the pre-scan,
A thinning rate determining means for determining a thinning rate based on the number of pixels of the original image and the number of pixels necessary for obtaining the image statistical information;
From each of the k × k pixel blocks, the remaining pixels are extracted by thinning out the pixels according to the thinning rate determined by the thinning rate determining unit, and the inverse DCT operation is performed only on the extracted pixels, and the JPEG image A pixel value calculating means for calculating the pixel value by restoring the data of
Image statistical information acquisition means for acquiring the image statistical information from the pixel value of the pixel calculated by the pixel value calculation means;
An image processing apparatus comprising:
前記プリスキャンのために、
前記元の画像の画素数と、前記画像統計情報を取得するために必要な画素数とに基づいて間引き率を決定するステップと、
各々の前記k×k画素ブロックから、前記間引き率を決定するステップによって決定された間引き率に従って画素を間引きして残された画素を抽出し、前記抽出した画素についてのみ逆DCT演算を行い、前記JPEG画像のデータを復元して画素値を計算するステップと、
前記画素値を計算するステップにおいて計算された画素の画素値から前記画像統計情報を取得するステップと、
を実行するためのコンピュータプログラム。A prescan for acquiring image statistical information from a JPEG image compressed by a JPEG baseline method that divides an original image into k × k pixel blocks and performs DCT operation for each k × k pixel block, and the JPEG A computer program for image processing that restores an image and performs main processing for correcting the original image obtained by the restoration based on image statistical information acquired by the prescan,
For the pre-scan,
Determining a thinning rate based on the number of pixels of the original image and the number of pixels necessary to obtain the image statistical information;
From each of the k × k pixel blocks, pixels left by thinning out pixels according to the thinning rate determined by the step of determining the thinning rate are extracted, and an inverse DCT operation is performed only on the extracted pixels, Restoring JPEG image data and calculating pixel values;
Obtaining the image statistical information from the pixel value of the pixel calculated in the step of calculating the pixel value;
Computer program to run.
前記プリスキャンのために、
前記元の画像の画素数と、前記画像統計情報を取得するために必要な画素数とに基づいて間引き率を決定するステップと、
各々の前記k×k画素ブロックから、前記間引き率を決定するステップによって決定された間引き率に従って画素を間引きして残された画素を抽出し、前記抽出した画素についてのみ逆DCT演算を行い、前記JPEG画像のデータを復元して画素値を計算するステップと、
前記画素値を計算するステップにおいて計算された画素の画素値から前記画像統計情報を取得するステップと、
を行う画像処理方法。A prescan for acquiring image statistical information from a JPEG image compressed by a JPEG baseline method that divides an original image into k × k pixel blocks and performs DCT operation for each k × k pixel block, and the JPEG An image processing method for restoring an image and performing a main process of correcting an original image obtained by the restoration based on image statistical information acquired by the prescan,
For the pre-scan,
Determining a thinning rate based on the number of pixels of the original image and the number of pixels necessary to obtain the image statistical information;
From each of the k × k pixel blocks, pixels left by thinning out pixels according to the thinning rate determined by the step of determining the thinning rate are extracted, and an inverse DCT operation is performed only on the extracted pixels, Restoring JPEG image data and calculating pixel values;
Obtaining the image statistical information from the pixel value of the pixel calculated in the step of calculating the pixel value;
An image processing method.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001070488A JP3979020B2 (en) | 2001-03-13 | 2001-03-13 | Image processing apparatus for sampling compressed image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001070488A JP3979020B2 (en) | 2001-03-13 | 2001-03-13 | Image processing apparatus for sampling compressed image |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007127495A Division JP2007259480A (en) | 2007-05-14 | 2007-05-14 | Image processing apparatus for executing sampling of compressed image |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002271794A JP2002271794A (en) | 2002-09-20 |
JP3979020B2 true JP3979020B2 (en) | 2007-09-19 |
Family
ID=18928359
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001070488A Expired - Fee Related JP3979020B2 (en) | 2001-03-13 | 2001-03-13 | Image processing apparatus for sampling compressed image |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3979020B2 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009124576A (en) | 2007-11-16 | 2009-06-04 | Seiko Epson Corp | Image processing apparatus and control method thereof |
JP5891721B2 (en) * | 2011-11-10 | 2016-03-23 | セイコーエプソン株式会社 | Image processing apparatus and image processing method |
JP6003042B2 (en) | 2011-11-11 | 2016-10-05 | セイコーエプソン株式会社 | Image processing apparatus and image processing method |
-
2001
- 2001-03-13 JP JP2001070488A patent/JP3979020B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002271794A (en) | 2002-09-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4870743B2 (en) | Selective chrominance decimation for digital images | |
JP4559622B2 (en) | Color image compression based on two-dimensional discrete wavelet transform yielding perceptually lossless images | |
US6825876B1 (en) | Digital camera device with methodology for efficient color conversion | |
US7847833B2 (en) | Digital camera device providing improved methodology for rapidly taking successive pictures | |
US8098959B2 (en) | Method and system for frame rotation within a JPEG compressed pipeline | |
JP4088370B2 (en) | Image compression method | |
Narayanaperumal et al. | VLSI Implementations of Compressive Image Acquisition using Block Based Compression Algorithm. | |
US20010012397A1 (en) | Image processing apparatus and method | |
JPH1155527A (en) | Image compression restoration process | |
US6597811B1 (en) | Method and device for image digitized data compression and decompression | |
US8712170B2 (en) | Image-processing method and program, and image-processing apparatus | |
JP3469438B2 (en) | Image signal processing method and apparatus, recording medium | |
JP3979020B2 (en) | Image processing apparatus for sampling compressed image | |
JP3924420B2 (en) | Image compression apparatus and method | |
CN111491163B (en) | Image block encoding based on pixel domain preprocessing operation on image blocks | |
JP3732900B2 (en) | Image compression apparatus and image expansion apparatus | |
EP1345449A1 (en) | Digital image compression and decompression using block coding | |
JP2007259480A (en) | Image processing apparatus for executing sampling of compressed image | |
JP3722169B2 (en) | Image processing apparatus and image processing method | |
JP3709106B2 (en) | Image compression and decompression device | |
JP4328727B2 (en) | Image compression / decompression method, image compression apparatus, and image expansion apparatus | |
CN117014557B (en) | Compression method and device for document image, electronic equipment and storage medium | |
US20210352303A1 (en) | Method for processing transform coefficients | |
JP3795960B2 (en) | Image display device | |
Miremadi | Lossy Image Compression |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060323 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060519 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20060519 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070314 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070514 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070605 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070514 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070618 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100706 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110706 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110706 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120706 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120706 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130706 Year of fee payment: 6 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |