JP4380498B2 - Block distortion reduction device - Google Patents

Block distortion reduction device Download PDF

Info

Publication number
JP4380498B2
JP4380498B2 JP2004310340A JP2004310340A JP4380498B2 JP 4380498 B2 JP4380498 B2 JP 4380498B2 JP 2004310340 A JP2004310340 A JP 2004310340A JP 2004310340 A JP2004310340 A JP 2004310340A JP 4380498 B2 JP4380498 B2 JP 4380498B2
Authority
JP
Japan
Prior art keywords
block
block distortion
filter
image data
filters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2004310340A
Other languages
Japanese (ja)
Other versions
JP2006128744A (en
Inventor
渉 片瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2004310340A priority Critical patent/JP4380498B2/en
Publication of JP2006128744A publication Critical patent/JP2006128744A/en
Application granted granted Critical
Publication of JP4380498B2 publication Critical patent/JP4380498B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明はブロック歪み低減装置に係り、特に画像をブロック単位符号化方式により圧縮符号化を行って得られた符号化画像データを復号化し、その復号化画像データのブロック境界に生じるブロック歪み(ブロックノイズ)を低減するブロック歪み低減装置に関する。   The present invention relates to a block distortion reduction apparatus, and more particularly to decoding of encoded image data obtained by compressing and encoding an image by a block unit encoding method, and generating block distortion (block) generated at a block boundary of the decoded image data. The present invention relates to a block distortion reducing device that reduces noise.

MPEG(Moving Picture Experts Group)規格などの画像圧縮符号化では、水平及び垂直方向に隣接する、予め定めた複数の画素からなる一定サイズのブロック単位に画像データを分割し、その分割したブロック内での隣接画素の相関の高さを利用して、ブロック単位で離散コサイン変換(DCT:Discrete Cosine Transform)等の処理を施して圧縮符号化を行う方式(ブロック単位符号化方式)が広く使用されている。   In image compression coding such as the MPEG (Moving Picture Experts Group) standard, image data is divided into block units of a predetermined size composed of a plurality of predetermined pixels adjacent in the horizontal and vertical directions, and within the divided blocks. A method (block unit coding method) in which compression coding is performed by performing processing such as discrete cosine transform (DCT) in units of blocks using the high correlation between adjacent pixels of Yes.

このブロック単位符号化方式で符号化された画像データの場合、情報量を小さく抑えるために圧縮率を高めた場合に、復号化した画像データに、量子化誤差によって隣接するブロックとブロックとの境界(ブロック境界)が歪み(階調差)となって見えるブロック歪み(ブロックノイズ)が発生し易い。そこで、このブロック歪みを低減するために、ブロック歪みが発生するブロック境界にノイズ低減フィルタを施すブロック歪み低減装置が従来提案されている(例えば、特許文献1参照)。   In the case of image data encoded by this block unit encoding method, when the compression rate is increased in order to reduce the amount of information, the boundary between adjacent blocks due to quantization errors is added to the decoded image data. Block distortion (block noise), in which (block boundary) appears as distortion (tone difference), is likely to occur. Therefore, in order to reduce the block distortion, a block distortion reduction apparatus that applies a noise reduction filter to a block boundary where block distortion occurs has been proposed (see, for example, Patent Document 1).

図8は上記の特許文献1記載の従来のブロック歪み低減装置の一例のブロック図を示す。同図において、入力映像信号は孤立微分点抽出回路1に供給され、ここで微分処理されて微分信号とされた後、隣接画素の微分値を比較されて隣接画素に対し突出した微分値のみを孤立微分点として抽出される。孤立微分点抽出回路1から出力された孤立微分データは、ブロックノイズ検出回路2に供給され、ここで孤立微分点が水平及び垂直方向に高い相関を持つことを利用して、ブロックノイズ(ブロック歪み)が検出される一方、スイッチ4の切換端子に供給される。   FIG. 8 shows a block diagram of an example of a conventional block distortion reducing apparatus described in Patent Document 1. In the same figure, the input video signal is supplied to the isolated differential point extraction circuit 1 where it is differentiated into a differential signal, and then the differential value of the adjacent pixel is compared and only the differential value protruding from the adjacent pixel is obtained. Extracted as an isolated differential point. The isolated differential data output from the isolated differential point extraction circuit 1 is supplied to the block noise detection circuit 2, where block noise (block distortion) is utilized by utilizing the fact that the isolated differential points have high correlation in the horizontal and vertical directions. ) Is detected and supplied to the switching terminal of the switch 4.

スイッチ4はブロックノイズ検出回路2からブロックノイズが多いことを示すブロックノイズ検出信号が供給されるときには、孤立微分点抽出回路1から出力された孤立微分データをフィルタ5へ選択出力し、フレーム単位でブロックノイズが少なくブロックノイズ検出信号が入力されないときには、0レベルの信号をフィルタ5へ選択出力する。フィルタ5はブロックノイズが発生している矩形ブロックと隣接ブロックとの境界における信号レベル差を補正する補正信号を出力する。   When the block noise detection signal indicating that there is a lot of block noise is supplied from the block noise detection circuit 2, the switch 4 selectively outputs the isolated differential data output from the isolated differential point extraction circuit 1 to the filter 5, and in units of frames. When there is little block noise and no block noise detection signal is input, a 0 level signal is selectively output to the filter 5. The filter 5 outputs a correction signal for correcting the signal level difference at the boundary between the rectangular block in which block noise is generated and the adjacent block.

一方、入力映像信号はフィルタ5の出力補正信号のタイミング合わせのための所定時間遅延回路3で遅延された後、加算器6に供給され、ここでフィルタ5の出力補正信号と加算される。これにより、加算器6からはブロックノイズが発生している場合は、隣接ブロック間でのブロック境界の階調差が滑らかにされ、ブロックノイズが目につき難い映像信号とされて出力端子7へ出力される。これにより、ブロックノイズ以外の位置にフィルタリングを行うことを避け、悪影響を抑えている
ここで、ブロックノイズが多いフレームに対しては、スイッチ4から孤立微分データが選択出力され、ブロックノイズが少ないフレームに対しては、スイッチ4から0レベルの信号が出力されるため、ブロックノイズの多いフレームに対してはブロックノイズ低減処理が施され、ブロックノイズの少ないフレームに対してはブロックノイズ低減処理をオフして、ブロックノイズ低減処理に伴う画質劣化を抑えるようにしている。
On the other hand, the input video signal is delayed by a predetermined time delay circuit 3 for adjusting the timing of the output correction signal of the filter 5 and then supplied to the adder 6 where it is added to the output correction signal of the filter 5. As a result, when block noise is generated from the adder 6, the gradation difference at the block boundary between adjacent blocks is smoothed and the block noise is hardly noticeable and is output to the output terminal 7. Is done. This avoids filtering at positions other than block noise and suppresses adverse effects. For frames with a lot of block noise, isolated differential data is selectively output from the switch 4 and a frame with little block noise. Because a 0-level signal is output from the switch 4, block noise reduction processing is performed for frames with a lot of block noise, and block noise reduction processing is turned off for frames with a low block noise. Thus, image quality deterioration associated with block noise reduction processing is suppressed.

特開2001−119695号公報(図5)JP 2001-119695 A (FIG. 5)

しかるに、上記の特許文献1記載の従来のブロック歪み低減装置は、ブロックノイズ(ブロック歪み)の少ない画像での画像輪郭部などで、ブロックノイズと誤判断してしまい、不必要なフィルタリングを行ってしまう、という問題点を解決しようとしているが、ブロックノイズ低減処理のオン/オフのみを制御しているため、その切り替え時に視覚的な不自然さを与えてしまうという課題がある。   However, the conventional block distortion reduction device described in Patent Document 1 described above is erroneously determined as block noise in an image contour portion or the like in an image with little block noise (block distortion), and performs unnecessary filtering. However, since only the on / off of the block noise reduction processing is controlled, there is a problem that visual unnaturalness is given at the time of switching.

本発明は以上の点に鑑みなされたもので、ブロック歪みが少ない画像での、誤判断を抑え、視覚的な不自然さを低減し得るブロック歪み低減装置を提供することを目的とする。   The present invention has been made in view of the above points, and an object of the present invention is to provide a block distortion reduction device that can suppress erroneous determination and reduce visual unnaturalness in an image with little block distortion.

上記の目的を達成するため、本発明は、水平及び垂直方向に隣接する、予め定めた複数の画素からなるブロック単位で画像データを圧縮符号化して得られたブロック単位符号化画像データを復号化し、その復号化された画像データに対して、隣接するブロックの境界で発生するブロック歪みを低減するブロック歪み低減装置において、復号化された画像データのブロック歪みの周辺の画素の値の平滑化を行うと共に、互いにそれぞれ異なる平滑化の強度特性を有するp・q個(p、qはそれぞれ2以上の自然数)のフィルタと、復号化された画像データの一画像内全体の隣接するブロックの境界で発生するブロック歪みの量を検出することを一画像単位で行う第1のブロック歪み量検出手段と、復号化された画像データ隣接するブロックの境界の隣接する画素間で発生するブロックの歪み量を検出することを画素単位で行う第2のブロック歪み量検出手段と、第1のブロック歪み量検出手段により検出された一画像単位のブロック歪み量の、連続する複数画像分における平均値又は中間値を算出する算出手段と、算出手段で算出した連続する複数画像の次に入力される一画像の復号化された画像データを入力として受け、その入力画像データを画素単位でp・q個のフィルタの中から選択した1個のフィルタに供給するスイッチングを行うために、p・q個のフィルタを、平滑化の強度特性が最大のフィルタから最小のフィルタまで強度特性の強さに応じてp個ずつq組のフィルタとしたとき、算出手段により算出された平均値又は中間値が大なるほど強度特性の大なるフィルタからなる組を選択し、その選択した組のp個のフィルタのうちの1個のフィルタを、第2のブロック歪み量検出手段により検出された画素単位のブロック歪みの量に応じて選択するスイッチングを行うスイッチ手段とを有し、選択したフィルタからブロック歪みの低減された画像データを出力することを特徴とする。 In order to achieve the above object, the present invention decodes block-unit encoded image data obtained by compressing and encoding image data in units of blocks composed of a plurality of predetermined pixels adjacent in the horizontal and vertical directions. In the block distortion reduction device for reducing block distortion generated at the boundary between adjacent blocks with respect to the decoded image data, the pixel values around the block distortion of the decoded image data are smoothed. performs, p · q pieces (p, q are each 2 or greater natural number) filter, decoded adjacent block boundaries of the entire in one image of the image data having the strength properties of the different smoothing mutually in a first block distortion amount detecting means for performing detecting the amount of the block distortion generated in one image unit, the decoded image data of the adjacent block A second block distortion amount detecting means for performing and detecting the distortion of the block generated between pixels adjacent the field in pixel units of a block of first image units detected by the first block distortion amount detecting means A calculation unit that calculates an average value or an intermediate value of distortion amounts for a plurality of consecutive images, and a decoded image data of one image that is input next to the plurality of consecutive images calculated by the calculation unit. In order to perform switching for supplying the input image data to one filter selected from the p · q filters in units of pixels, the p · q filters are the filters having the maximum smoothing intensity characteristics. is p pieces each q sets of filter according to the strength of the strength properties until the minimum filter from the average value or the intermediate value calculated by the calculating means large becomes large indeed strength properties filter Select Ranaru group, selected according to the amount of block distortion of the detected image-containing units by a single filter, the second block distortion amount detecting means of the selected set of p pieces of filter And switching means for performing switching, and outputting image data with reduced block distortion from a selected filter.

この発明では、p・q個のフィルタを、平滑化の強度特性が最大のフィルタから最小のフィルタまで強度特性の強さに応じてp個ずつq組のフィルタとしたとき、一画像単位のブロック歪み量の平均値又は中間値が大なるほど強度特性の大なるフィルタからなる組を選択し、その選択した組のp個のフィルタのうちの1個のフィルタを、第2のブロック歪み量検出手段により検出された一画素単位のブロック歪みの量に応じて選択するようにしたため、ブロック歪みが多い画像での、歪み低減効果には影響を与えることなく、非圧縮画像のような、ブロック歪みが全く出ていない画像で、部分的にブロック歪みと誤検出するような絵柄(輪郭など)があった場合にも、これを不必要にフィルタリングしないようにできる。 According to the present invention, when p · q filters are used as q sets of filters in accordance with the strength of the intensity characteristic from the filter having the maximum smoothing intensity characteristic to the filter having the smallest smoothing intensity characteristic, A group consisting of filters having greater intensity characteristics as the average value or intermediate value of the distortion amount increases, and one of the p filters in the selected group is selected as the second block distortion amount detection means. Since the selection is made according to the amount of block distortion of one pixel unit detected by , block distortion such as an uncompressed image does not affect the distortion reduction effect in an image with much block distortion. Even in the case of an image that does not appear at all, and there is a pattern (such as an outline) that may be erroneously detected as block distortion, this can be prevented from being unnecessarily filtered.

本発明によれば、ブロック歪みが多い画像での、歪み低減効果には影響を与えることなく、ブロック歪みが少ない画像において、誤判断を抑えて、かつ、一画像毎にブロック歪み量が大きく変化した場合にも、頻繁なフィルタ切替による視覚的な不自然さを低減することができる。 According to the present invention, in an image with a large amount of block distortion, the effect of reducing the distortion is not affected, and in an image with a small block distortion, erroneous determination is suppressed and the amount of block distortion greatly changes for each image. Even in this case, visual unnaturalness due to frequent filter switching can be reduced.

次に、本発明の各実施の形態について図面と共に説明する。   Next, each embodiment of the present invention will be described with reference to the drawings.

(第1の実施の形態)
図1は本発明になるブロック歪み低減装置の第1の実施の形態のブロック図を示す。同図において、デコーダ11は入力端子10を介して入力されたブロック単位符号化された画像データを復号化する。フレーム単位でのブロック歪み量検出部13及び画素単位のブロック歪み検出部12は、復号化画像データに対して、従来と同様のブロック歪みの検出方法により、フレーム単位のブロック歪み量と、画素単位のブロック歪み量をそれぞれ検出する。

(First embodiment)
FIG. 1 shows a block diagram of a first embodiment of a block distortion reducing apparatus according to the present invention. In the figure, a decoder 11 decodes block-unit encoded image data input via an input terminal 10. The block distortion amount detection unit 13 in units of frames and the block distortion detection unit 12 in units of pixels use the same block distortion detection method as the conventional method for the decoded image data, Each block distortion amount is detected .

フィルタスイッチ14は、フレーム単位でのブロック歪み量検出部13により、フレーム単位で検出されたブロック歪み量検出信号と、画素単位のブロック歪み検出部12により、画素単位で検出されたブロック歪み検出信号とを選択制御信号として受け、後述するフレーム単位で検出されたブロック歪み量検出信号を優先した選択動作を行い、共通端子に入力された復号化後の画像データを、n個あるフィルタ15〜15のうち選択指定された一のフィルタへ選択出力する。 The filter switch 14 includes a block distortion amount detection signal detected in units of frames by the block distortion amount detection unit 13 in units of frames, and a block distortion detection signal detected in units of pixels by the block distortion detection unit 12 in units of pixels. Is selected as a selection control signal, a selection operation is performed with priority given to a block distortion amount detection signal detected in frame units, which will be described later, and the decoded image data input to the common terminal is converted into n filters 15 1 to 15 1 . 15 Select and output to one filter selected and designated among n .

フィルタ15〜15は、それぞれブロック歪み周辺の画素の値の平滑化を行うためのエッジ保存型平滑化フィルタであるが、互いにその平滑化の強度特性が異なる。例えば、フィルタ15は平滑化の強度特性が最も強く、ブロック歪み位置の周辺の画素のうち、値が変更される画素数が最も多く、以下、フィルタ15、15、・・・の順で平滑化の強度特性が弱くなっていき、フィルタ15が平滑化の強度特性が最も弱く、ブロック歪み位置の周辺の左右1画素のみ値が変更される特性とされている。従って、平滑化の強度特性が強いフィルタほど、ブロック歪み周辺の画素に対して、より滑らかになるように、広範囲の位置の画素の値を変更することとなる。 The filters 15 1 to 15 n are edge-preserving smoothing filters for smoothing the pixel values around the block distortion, but the smoothing strength characteristics are different from each other. For example, the filter 15 1 is strongest strength properties of smoothing of the pixels around the block distortion location, number of pixels is most often the value is changed, the following, the filter 15 2, 15 3, ... order of strength of in smoothing gradually weakened, the strength characteristics of the filter 15 n is smoothed weakest, there is a characteristic value only left and right pixels around the block distortion position is changed. Therefore, the values of pixels in a wide range of positions are changed so that the filter having stronger smoothing intensity characteristics becomes smoother with respect to the pixels around the block distortion.

ここで、上記のフィルタ15〜15として一般的な低域フィルタ(LPF)を用いると、エッジを丸めた際に解像感を低下させてしまう問題が発生する。そこで、前述したように上記のフィルタ15〜15として本実施の形態ではエッジ保存型平滑化フィルタを用いる。このエッジ保存型平滑化フィルタには、εフィルタ、リップルフィルタ等があることが、文献(吹抜敬彦,「DCT量子化歪みのリップル修正フィルタによる抑圧」,2002年,映像情報メディア学会冬季大会)により知られている。 Here, when a general low-pass filter (LPF) is used as the above-described filters 15 1 to 15 n , there arises a problem that the resolution is lowered when the edges are rounded. Therefore, as described above, edge-preserving smoothing filters are used as the filters 15 1 to 15 n in the present embodiment. This edge-preserving smoothing filter includes an ε filter, a ripple filter, etc. According to the literature (Takahiko Fukiuki, “Suppression of DCT Quantization Distortion by Ripple Correction Filter”, 2002, Winter Conference of the Institute of Image Information and Television Engineers) Are known.

次に、本実施の形態の動作について説明する。入力端子10を介して入力されたブロック単位符号化された画像データは、デコーダ11に供給されて復号化される。デコーダ11により復号化して得られた復号化後の画像データは、フレーム単位でのブロック歪み量検出部13及び画素単位のブロック歪み検出部12にそれぞれ供給される一方、フィルタスイッチ14の共通端子に供給される。   Next, the operation of the present embodiment will be described. The block-unit encoded image data input via the input terminal 10 is supplied to the decoder 11 and decoded. The decoded image data obtained by decoding by the decoder 11 is supplied to the block distortion amount detection unit 13 in units of frames and the block distortion detection unit 12 in units of pixels, respectively, while being connected to a common terminal of the filter switch 14. Supplied.

フレーム単位でのブロック歪み量検出部13は、入力された復号化後の画像データのブロック歪み量をフレーム単位で検出し、そのブロック歪み量検出信号をフィルタスイッチ14に選択制御信号として供給する。一方、画素単位のブロック歪み検出部12は、入力された復号化後の画像データのブロック歪みを画素単位で検出し、そのブロック歪み検出信号をフィルタスイッチ14に選択制御信号として供給する。   The block distortion amount detection unit 13 in units of frames detects the block distortion amount of the input decoded image data in units of frames, and supplies the block distortion amount detection signal to the filter switch 14 as a selection control signal. On the other hand, the block distortion detection unit 12 in units of pixels detects block distortion of the input decoded image data in units of pixels and supplies the block distortion detection signal to the filter switch 14 as a selection control signal.

フィルタスイッチ14は、フレーム単位でのブロック歪み量検出信号が示すフレーム単位でのブロック歪み量により、フィルタ15〜15のうちどのフィルタを選択するかの大まかなフィルタ選択範囲を決める。例えば、このフィルタ選択範囲としては、n=9の場合、フィルタ15〜15の組、フィルタ15〜15の組、フィルタ15〜15の組をそれぞれ大まかなフィルタ選択範囲として、フレーム単位でのブロック歪み量に応じて、この中から一つの組(フィルタ選択範囲)を決定(選択)する。 The filter switch 14 determines a rough filter selection range for selecting which filter from the filters 15 1 to 15 n according to the block distortion amount in the frame unit indicated by the block distortion amount detection signal in the frame unit. For example, as this filter selection range, when n = 9, the set of filters 15 1 to 15 3 , the set of filters 15 4 to 15 6 , and the set of filters 15 7 to 15 9 are respectively set as rough filter selection ranges, One set (filter selection range) is determined (selected) from the block distortion amount in units of frames.

このとき、フレーム単位でのブロック歪み量が大きい場合は、平滑化の強度特性が強いフィルタの組を選択し、ブロック歪み量が小さい場合は、平滑化の強度特性が弱いフィルタの組を選択し、ブロック歪み量が中程度の場合は、平滑化の強度特性が中程度のフィルタの組を選択する。   At this time, if the amount of block distortion per frame is large, select a set of filters with strong smoothing intensity characteristics. If the amount of block distortion is small, select a set of filters with low smoothing intensity characteristics. When the amount of block distortion is medium, a filter group having a medium smoothing intensity characteristic is selected.

続いて、フィルタスイッチ14は、画素単位のブロック歪み検出信号が示す画素単位でのブロック歪み量に応じて、先に決定された一つの組(フィルタ選択範囲)の複数のフィルタの中で、1個のフィルタを選択する。従って、フィルタスイッチ14は、フレーム単位のブロック歪み量が小さい場合は、画素単位のブロック歪みがどんなに大きく検出されても、使用するフィルタの平滑化の強度特性が弱い組のフィルタの中から選択することになる。   Subsequently, the filter switch 14 selects one of a plurality of filters of one set (filter selection range) previously determined according to the block distortion amount in pixel units indicated by the block distortion detection signal in pixel units. Select filters. Accordingly, when the amount of block distortion in units of frames is small, the filter switch 14 selects from a set of filters having a weak smoothing intensity characteristic of the filter to be used no matter how large the block distortion in units of pixels is detected. It will be.

このようにして、フィルタスイッチ14は、フィルタ15〜15のうち、選択した1個のフィルタに対して、デコーダ11からの復号化された画像データを供給する。フィルタ15〜15のうち、フィルタスイッチ14から復号化された画像データが供給される1個のフィルタは、エッジ保存型平滑化処理を行って、ブロック歪みの低減された画像データを出力端子16へ出力する。 In this way, the filter switch 14 supplies the decoded image data from the decoder 11 to one selected filter among the filters 15 1 to 15 n . One of the filters 15 1 to 15 n to which the decoded image data is supplied from the filter switch 14 performs an edge preserving smoothing process and outputs image data with reduced block distortion as an output terminal 16 is output.

ここで、上記の15〜15として、例えば非線形フィルタである前記εフィルタを使用した場合のエッジ保存型平滑化処理について図4のフローチャート等と共に説明する。まず、処理対象の画素をA、その画素Aの隣接画素をa(x)としてそれらの値を取り込み(ステップS1)、それらの差分値diff(=a(x)−A)を算出する(ステップS2)。続いて、その差分値diffが予め定めた第1の閾値THRより大であるか否か比較し(ステップS3)、diff>THRであるときには、差分値diffを上限値である第1の閾値THRに設定する(ステップS4)。 Here, as the above 15 1 to 15 n , for example, the edge preserving smoothing process when the ε filter which is a nonlinear filter is used will be described with reference to the flowchart of FIG. First, the pixel to be processed is A, the adjacent pixel of the pixel A is a (x), and these values are taken in (step S1), and the difference value diff (= a (x) −A) is calculated (step S1). S2). Subsequently, it is compared whether or not the difference value diff is larger than a predetermined first threshold value THR (step S3). When diff> THR, the difference value diff is set to the first threshold value THR which is an upper limit value. (Step S4).

他方、ステップS3でdiff≦THRの比較結果が得られたときには、差分値diffが第2の閾値−THRより小であるか否か比較し(ステップS5)、diff<−THRであるときには、差分値diffを下限値である第2の閾値−THRに設定する(ステップS6)。また、ステップS5でdiff≧−THRの比較結果が得られたとき、すなわち、差分値diffがTHRとーTHRとの間にある場合、あるいはステップS4で上限値に設定した場合、あるいはステップS6で下限値に設定した場合は、その時の差分値diffを変数sum_diffに代入し(ステップS7)、以下、対象隣接画素の全てについて、上記のステップS1〜S7の処理を繰り返す(ステップS8)。   On the other hand, when a comparison result of diff ≦ THR is obtained in step S3, it is compared whether or not the difference value diff is smaller than the second threshold value −THR (step S5), and if diff <−THR, the difference is calculated. The value diff is set to the second threshold value -THR which is the lower limit value (step S6). Further, when the comparison result of diff ≧ −THR is obtained in step S5, that is, when the difference value diff is between THR and −THR, or when the upper limit value is set in step S4, or in step S6. When the lower limit value is set, the difference value diff at that time is substituted into the variable sum_diff (step S7), and the processing of steps S1 to S7 is repeated for all the target adjacent pixels (step S8).

このようにして、対象隣接画素の全てについて得られた変数sum_diffを隣接画素数nで除算して得た平均値に、対象画素の値Aを加算した値after_filterを算出し(ステップS9)、これをフィルタ出力として出力する。   In this way, a value after_filter is calculated by adding the value A of the target pixel to the average value obtained by dividing the variable sum_diff obtained for all of the target adjacent pixels by the number of adjacent pixels n (step S9). Is output as a filter output.

これにより、例えば、図5に示す水平方向に並ぶ画素a1〜a5のうち、中心の画素a3を処理対象とした5タップのεフィルタは、以下の式により求められる。   Thereby, for example, among the pixels a1 to a5 arranged in the horizontal direction shown in FIG. 5, a 5-tap ε filter whose processing target is the central pixel a3 is obtained by the following equation.

Figure 0004380498
上記のεフィルタは図6のように、入力inに対し、出力outが非線形となり、上式における画素差分絶対値ABS(ai−a3)が閾値THRより小さい場合に、平滑化の対象となる。すなわち、閾値THRによりフィルタ強度を制御できる。よって、ブロック歪み量検出部13からの歪み量情報により、歪み量が大きい場合にはエッジ保存型平滑化フィルタ強度を強く、適用範囲を広くするようにフィルタの切り替えを行うことで、切り替え時の不自然さの少ないブロック歪みの軽減を行うことができる。
Figure 0004380498
As shown in FIG. 6, the ε filter is a target to be smoothed when the output out becomes nonlinear with respect to the input in and the pixel difference absolute value ABS (ai−a3) in the above equation is smaller than the threshold value THR. That is, the filter strength can be controlled by the threshold value THR. Therefore, according to the distortion amount information from the block distortion amount detection unit 13, when the distortion amount is large, the edge preserving smoothing filter strength is increased, and the filter is switched so as to widen the application range. Block distortion with less unnaturalness can be reduced.

これにより、本実施の形態によれば、特許文献1記載の従来のブロック歪み低減装置にあるような1つのフィルタのオンオフだけではなく、強度が数段階のフィルタ15〜15を切り替えることにより、視覚的な影響が抑えられたスムーズなフィルタリングが可能となる。 Thus, according to the present embodiment, not only on / off of one filter as in the conventional block distortion reducing device described in Patent Document 1, but also by switching the filters 15 1 to 15 n having several levels of strength. Smooth filtering with reduced visual effects is possible.

また、本実施の形態によれば、フレーム単位でのブロック歪み量を検出して、そのブロック歪み量をフィルタ選択の主たる判断情報として用いるようにしているため、ブロック境界周辺における複数の画素間の画素変化値を用いて、各ブロック境界におけるブロック歪みの存在及び強度に基づいてフィルタを選択する場合に比べて、非圧縮画像のような、ブロック歪みが全く出ていない画像で、部分的にブロック歪みと誤検出するような絵柄(輪郭など)があった場合にも、これを不必要にフィルタリングしないようにできる。   In addition, according to the present embodiment, the block distortion amount in units of frames is detected, and the block distortion amount is used as main determination information for filter selection. Compared to using a pixel change value to select a filter based on the presence and intensity of block distortion at each block boundary, partially unblocked images such as uncompressed images. Even if there is a pattern (such as an outline) that is erroneously detected as distortion, it is possible to prevent unnecessary filtering.

(第2の実施の形態)
次に、本発明の第2の実施の形態について説明する。図2は本発明になるブロック歪み低減装置の第2の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。図2に示す第2の実施の形態は、第1の実施の形態の構成に、ブロック境界近辺の画素変化値を用いてブロック歪み強度を検出するブロック境界の歪み強度検出部21を追加することで、そこからの情報も判断材料に加えてフィルタ切り替えを行う点に特徴がある。
(Second Embodiment)
Next, a second embodiment of the present invention will be described. FIG. 2 shows a block diagram of a second embodiment of a block distortion reducing apparatus according to the present invention. In the figure, the same components as those in FIG. In the second embodiment shown in FIG. 2, a block boundary distortion strength detection unit 21 that detects a block distortion strength using a pixel change value in the vicinity of the block boundary is added to the configuration of the first embodiment. Thus, the information is also characterized in that the filter is switched in addition to the judgment material.

例えば、フィルタ15〜15が前記εフィルタの場合、歪み強度の大きいブロック境界にはフィルタ強度を強くかける。これにより、ブロック境界単位でのフィルタ切り替えが実現できるため、フレーム単位でのブロック歪み量検出部13からのフレーム単位情報はフィルタ15〜15のフレーム切り替えに用いる、などの各種情報の使い分けによって、より最適な選択適用を行うことができる。 For example, when the filters 15 1 to 15 n are the ε filters, the filter strength is strongly applied to block boundaries having a large distortion strength. As a result, filter switching in units of block boundaries can be realized, so that frame-unit information from the block distortion amount detection unit 13 in units of frames is used for various types of information such as being used for frame switching of the filters 15 1 to 15 n . More optimal selection application can be performed.

ブロック境界の歪み強度検出部21は、入力された復号化画像データに対し、各ブロック境界についてブロック境界及び近隣の画素差分値を用いてブロック歪み強度検出を行い、その結果をフィルタスイッチ22へ出力する。   The block boundary distortion strength detection unit 21 performs block distortion strength detection on the input decoded image data using the block boundary and neighboring pixel difference values for each block boundary, and outputs the result to the filter switch 22. To do.

図7はブロック符号化における単位ブロック境界周辺について示した図である。ブロック境界の歪み強度検出部21において、ブロック境界81についてブロック歪み強度検出を行う場合、ブロック境界81の隣接画素となるa1,a2,a3,i1,i2,i3を使用して検出を行う。   FIG. 7 is a diagram showing the vicinity of a unit block boundary in block coding. When the block boundary distortion strength detection unit 21 performs block distortion strength detection for the block boundary 81, detection is performed using a 1, a 2, a 3, i 1, i 2, i 3 that are adjacent pixels of the block boundary 81.

ブロック境界81を挟む画素間(a1−i1)間の画素差分絶対値をbound0、ブロック境界近隣画素の隣接画素間画素差分絶対値を、diff2〜diff5にて表す。これら差分絶対値が大きい場合、その画素間で画素値の変化が激しく起こっていることを示す。そこで、フィルタスイッチ22は、境界画素差分絶対値であるbound0と、その近辺の画素差分絶対値の平均である、
AveDiff_a=(diff2+diff3+1)/2
AveDiff_i=(diff4+diff5+1)/2
を比較する。AveDiff_a、AveDiff_iに対し、bound0が大きい場合は、ブロック境界81がその近辺と比較して大きな変化を起こしていることを示す。ブロック歪みは、ブロック境界81が隣接箇所と比較して大きく変化していることから目立つ歪みであるので、ブロック境界画素間の孤立的な画素値変化を検出することでブロック歪みを検出することができる。
The pixel difference absolute value between pixels (a1-i1) sandwiching the block boundary 81 is represented by bound0, and the pixel difference absolute value between adjacent pixels of the block boundary neighboring pixels is represented by diff2 to diff5. When these difference absolute values are large, it indicates that the pixel value changes drastically between the pixels. Therefore, the filter switch 22 is the average of the boundary pixel difference absolute value bound0 and the neighboring pixel difference absolute value.
AveDiff_a = (diff2 + diff3 + 1) / 2
AveDiff_i = (diff4 + diff5 + 1) / 2
Compare When bound0 is large with respect to AveDiff_a and AveDiff_i, it indicates that the block boundary 81 has undergone a large change compared to its vicinity. Since the block distortion is a noticeable distortion because the block boundary 81 is greatly changed compared to the adjacent portion, the block distortion can be detected by detecting an isolated pixel value change between the block boundary pixels. it can.

フィルタスイッチ22は、bound0の大きさおよび、AveDiff_a、AveDiff_iとの差により、歪み強度を決定し、決定した歪み強度に応じたフィルタを選択する。ただし、フィルタスイッチ22は、フレーム単位でのブロック歪み量検出部13で検出されたフレーム単位でのブロック歪み量を最も優先して選択するフィルタの組を決定し、ブロック境界の歪み強度検出部21で検出されたブロック境界の歪み強度の検出結果は最も低い優先順で選択するフィルタを決定する。   The filter switch 22 determines the distortion strength based on the magnitude of bound0 and the difference from AveDiff_a and AveDiff_i, and selects a filter corresponding to the determined distortion strength. However, the filter switch 22 determines a set of filters that most preferentially selects the block distortion amount in the frame unit detected by the block distortion amount detection unit 13 in the frame unit, and the distortion intensity detection unit 21 at the block boundary. The detection result of the block boundary distortion intensity detected in (1) determines the filter to be selected in the lowest priority order.

これにより、本実施の形態も、第1の実施の形態と同様に、特許文献1記載の従来のブロック歪み低減装置にあるような1つのフィルタのオンオフだけではなく、強度が数段階のフィルタ15〜15を切り替えることにより、視覚的な影響が抑えられたスムーズなフィルタリングが可能となる。 As a result, in the present embodiment as well as in the first embodiment, not only the on / off of one filter as in the conventional block distortion reducing device described in Patent Document 1, but also the filter 15 having several levels of strength. By switching from 1 to 15 n , smooth filtering with suppressed visual influence becomes possible.

(第3の実施の形態)
次に、本発明になるブロック歪み低減装置の第3の実施の形態について説明する。図3は本発明になるブロック歪み低減装置の第3の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。
(Third embodiment)
Next, a third embodiment of the block distortion reducing apparatus according to the present invention will be described. FIG. 3 shows a block diagram of a third embodiment of a block distortion reducing apparatus according to the present invention. In the figure, the same components as those in FIG.

図3に示す第3の実施の形態は、フレーム単位でのブロック歪み量検出部13によって得られた、歪み量の情報を、毎フレームの切り替わり目毎に発生するフレームパルス33のタイミングで、順次にm個の保持部32〜32に供給して、これらによってmフレーム分(mは任意の自然数)のブロック歪み量をそれぞれ保持させ、保持部32〜32からmフレーム分のフレーム単位でのブロック歪み量を平均値算出部34に並列に供給して平均値を算出させ、その平均値化された歪み量をフィルタスイッチ31に供給するようにした点に特徴を有する。 In the third embodiment shown in FIG. 3, information on the amount of distortion obtained by the block distortion amount detection unit 13 in units of frames is sequentially transmitted at the timing of the frame pulse 33 generated at every frame switching. Are supplied to m holding units 32 1 to 32 m to thereby hold a block distortion amount for m frames (m is an arbitrary natural number), respectively, and frames for m frames from the holding units 32 1 to 32 m. The block distortion amount in units is supplied to the average value calculation unit 34 in parallel to calculate the average value, and the average distortion amount is supplied to the filter switch 31.

フィルタスイッチ31は、平均値算出部34で1フレーム目からmフレーム目までのフレーム単位で検出されたブロック歪み量の平均値に基づいて、(m+1)フレーム目の画像データを、フィルタ15〜15のうちの平均値に応じたフィルタの組の中のうち、画素単位のブロック歪みの検出量に応じて1個のフィルタを選択して供給する。これにより、本実施の形態によれば、フレーム毎にブロック歪み量が大きく変化した場合にも、頻繁なフィルタ切り替えが避けられ、視覚的な不自然さが抑えられる。 The filter switch 31 converts the image data of the (m + 1) th frame into the filters 15 1 to 15 based on the average value of the block distortion amount detected by the average value calculation unit 34 in the frame unit from the first frame to the mth frame. Among the set of filters corresponding to the average value among 15 n , one filter is selected and supplied according to the detected amount of block distortion in pixel units. Thus, according to the present embodiment, frequent filter switching can be avoided and visual unnaturalness can be suppressed even when the block distortion amount changes greatly for each frame.

なお、本発明は以上の実施の形態に限定されるものではなく、例えば、以上の実施の形態におけるフレーム単位でのブロック歪み量検出は、フィールド単位で行ってもよく、要は1画像単位で行えばよい。また、平均値算出部34は、中間値を選択する中間値選択部に置き換えてもよい。また、フレーム単位又はフィールド単位でのブロック歪み量検出結果に応じてフィルタを選択することも可能である。更に、本発明はコンピュータプログラムにより実現することも可能である。この場合、プログラムは、記録媒体あるいは通信回線などを介してコンピュータに取り込むことが可能である。   The present invention is not limited to the above embodiment. For example, the block distortion amount detection in the frame unit in the above embodiment may be performed in the field unit, and in short, in one image unit. Just do it. The average value calculation unit 34 may be replaced with an intermediate value selection unit that selects an intermediate value. It is also possible to select a filter in accordance with the block distortion amount detection result in frame units or field units. Furthermore, the present invention can also be realized by a computer program. In this case, the program can be taken into a computer via a recording medium or a communication line.

本発明の第1の実施の形態のブロック図である。It is a block diagram of a 1st embodiment of the present invention. 本発明の第2の実施の形態のブロック図である。It is a block diagram of the 2nd Embodiment of this invention. 本発明の第3の実施の形態のブロック図である。It is a block diagram of the 3rd Embodiment of this invention. 本発明に用いられるεフィルタを説明するための一例のフローチャートである。It is a flowchart of an example for demonstrating the epsilon filter used for this invention. εフィルタの適用画素とその周辺画素の図である。It is a figure of the application pixel of an epsilon filter, and its peripheral pixel. εフィルタの入出力特性を示す図である。It is a figure which shows the input-output characteristic of an epsilon filter. ブロック境界周辺の画素配置を示す図である。It is a figure which shows pixel arrangement | positioning around a block boundary. 従来装置の一例のブロック図である。It is a block diagram of an example of a conventional device.

符号の説明Explanation of symbols

10 ブロック単位符号化により符号化された画像データの入力端子
11 デコーダ
12 画素単位のブロック歪み検出部
13 フレーム単位でのブロック歪み検出部
14、22、31 フィルタスイッチ
15〜15 フィルタ
16 ブロック歪みが低減された画像データの出力端子
21 ブロック境界の歪み強度検出部
32〜32 値の保持部
33 フレームパルス
34 平均値算出部

10 Input terminal of image data encoded by block unit encoding 11 Decoder 12 Block distortion detection unit in pixel unit 13 Block distortion detection unit in frame unit 14, 22, 31 Filter switch 15 1 to 15 n filter 16 Block distortion Output terminal for image data with reduced image 21 Distortion intensity detection section at block boundary 32 1 to 32 m value holding section 33 Frame pulse 34 Average value calculation section

Claims (1)

水平及び垂直方向に隣接する、予め定めた複数の画素からなるブロック単位で画像データを圧縮符号化して得られたブロック単位符号化画像データを復号化し、その復号化された画像データに対して、隣接する前記ブロックの境界で発生するブロック歪みを低減するブロック歪み低減装置において、
前記復号化された画像データの前記ブロック歪みの周辺の画素の値の平滑化を行うと共に、互いにそれぞれ異なる平滑化の強度特性を有するp・q個(p、qはそれぞれ2以上の自然数)のフィルタと、
前記復号化された画像データの一画像内全体の隣接する前記ブロックの境界で発生する前記ブロック歪みの量を検出することを一画像単位で行う第1のブロック歪み量検出手段と、
前記復号化された画像データ隣接する前記ブロックの境界の隣接する画素間で発生する前記ブロックの歪み量を検出することを画素単位で行う第2のブロック歪み量検出手段と、
前記第1のブロック歪み量検出手段により検出された前記一画像単位のブロック歪み量の、連続する複数画像分における平均値又は中間値を算出する算出手段と、
前記算出手段で算出した前記連続する複数画像の次に入力される一画像の復号化された画像データを入力として受け、その入力画像データを画素単位で前記p・q個のフィルタの中から選択した1個のフィルタに供給するスイッチングを行うために、前記p・q個のフィルタを、前記平滑化の強度特性が最大のフィルタから最小のフィルタまで強度特性の強さに応じてp個ずつq組のフィルタとしたとき、前記算出手段により算出された前記平均値又は中間値が大なるほど前記強度特性の大なるフィルタからなる組を選択し、その選択した組の前記p個のフィルタのうちの1個のフィルタを、前記第2のブロック歪み量検出手段により検出された前記画素単位のブロック歪みの量に応じて選択するスイッチングを行うスイッチ手段と
を有し、前記選択したフィルタから前記ブロック歪みの低減された画像データを出力することを特徴とするブロック歪み低減装置。
Decoding block unit encoded image data obtained by compressing and encoding image data in units of blocks composed of a plurality of predetermined pixels adjacent in the horizontal and vertical directions, and for the decoded image data, In a block distortion reduction apparatus that reduces block distortion generated at the boundary between adjacent blocks,
The pixel values around the block distortion of the decoded image data are smoothed, and p · q (p and q are natural numbers of 2 or more) having different smoothing intensity characteristics. Filters,
A first block distortion amount detecting means which performs one image unit detecting the amount of the block distortion generated at the boundary of the adjacent blocks of the whole in one image of the image data which is the decoded,
A second block distortion amount detecting means for performing the pixel units of detecting the distortion amount of the block that occur between the boundaries of adjacent pixels of the adjacent said block of image data said decoding,
Calculating means for calculating an average value or an intermediate value for a plurality of consecutive images of the block distortion amount of one image unit detected by the first block distortion amount detecting means;
The decoded image data of one image input next to the plurality of consecutive images calculated by the calculating means is received as input, and the input image data is selected from the p · q filters in units of pixels. In order to perform switching to be supplied to one filter, the p · q filters are divided into q q pieces according to the strength of the intensity characteristic from the filter having the largest smoothing intensity characteristic to the filter having the smallest smoothing intensity characteristic. When a set of filters is selected, a set consisting of filters having a larger intensity characteristic is selected as the average value or intermediate value calculated by the calculation means is larger, and among the p filters of the selected set, one filter, and a switching means for switching to select depending on the amount of block distortion of the second block distortion amount before being detected by the detecting means Kiga containing units, The block distortion reducing apparatus, wherein the image data with the reduced block distortion is output from the selected filter.
JP2004310340A 2004-10-26 2004-10-26 Block distortion reduction device Expired - Lifetime JP4380498B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004310340A JP4380498B2 (en) 2004-10-26 2004-10-26 Block distortion reduction device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004310340A JP4380498B2 (en) 2004-10-26 2004-10-26 Block distortion reduction device

Publications (2)

Publication Number Publication Date
JP2006128744A JP2006128744A (en) 2006-05-18
JP4380498B2 true JP4380498B2 (en) 2009-12-09

Family

ID=36723001

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004310340A Expired - Lifetime JP4380498B2 (en) 2004-10-26 2004-10-26 Block distortion reduction device

Country Status (1)

Country Link
JP (1) JP4380498B2 (en)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007336075A (en) * 2006-06-13 2007-12-27 Victor Co Of Japan Ltd Block distortion reducing device
KR100857463B1 (en) * 2006-11-17 2008-09-08 주식회사신도리코 Face Region Detection Device and Correction Method for Photo Printing
JP2008258836A (en) * 2007-04-03 2008-10-23 Sony Corp Imaging apparatus, signal processing circuit, signal processing apparatus, signal processing method, and computer program
JP4599457B1 (en) 2009-09-18 2010-12-15 株式会社東芝 Image processing apparatus, display apparatus, and image processing method
JP4585602B1 (en) 2009-09-18 2010-11-24 株式会社東芝 Image processing apparatus, display apparatus, and image processing method
US8600188B2 (en) 2010-09-15 2013-12-03 Sharp Laboratories Of America, Inc. Methods and systems for noise reduction and image enhancement
US8588535B2 (en) 2010-09-15 2013-11-19 Sharp Laboratories Of America, Inc. Methods and systems for estimation of compression noise
US8538193B2 (en) 2010-09-28 2013-09-17 Sharp Laboratories Of America, Inc. Methods and systems for image enhancement and estimation of compression noise
US8532429B2 (en) 2010-09-28 2013-09-10 Sharp Laboratories Of America, Inc. Methods and systems for noise reduction and image enhancement involving selection of noise-control parameter

Also Published As

Publication number Publication date
JP2006128744A (en) 2006-05-18

Similar Documents

Publication Publication Date Title
US7203234B1 (en) Method of directional filtering for post-processing compressed video
JP4455487B2 (en) Decoding device, decoding method, and program
US10922792B2 (en) Image adjustment method and associated image processing circuit
WO2002102086A2 (en) Apparatus and method for adaptive spatial segmentation-based noise reducing for encoded image signal
JPH08186714A (en) Noise removal of picture data and its device
WO2007040765A1 (en) Content adaptive noise reduction filtering for image signals
WO2004002135A1 (en) Motion detection device and noise reduction device using that
EP1439711A2 (en) Method for blocking artifact reduction
JP2005142891A (en) Method and device for processing image
EP1549075A2 (en) Method of reducing block and mosquito noise (effect) in images
JP4380498B2 (en) Block distortion reduction device
US8446966B2 (en) Block noise reducing apparatus
JP2007336075A (en) Block distortion reducing device
US20070285729A1 (en) Image processing apparatus and image processing method
JPH0767176B2 (en) Coding noise elimination filter
JP2005117449A (en) Mosquito noise reducer, mosquito noise reducing method, and program for reducing mosquito noise
JP4065287B2 (en) Method and apparatus for removing noise from image data
US8259818B2 (en) Deblocking apparatus and associated method
JP2010212870A (en) Image processing apparatus and image display
JP5436082B2 (en) Noise reduction device and noise reduction method
JP4449430B2 (en) Image processing apparatus, image processing method, program, and recording medium
JPH07307942A (en) Image noise removing device
JPH11298898A (en) Block distortion reduction circuit
JP4285396B2 (en) Block noise reduction device
JP2010193515A (en) Image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080827

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080909

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081021

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090602

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090710

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090901

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090914

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121002

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4380498

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121002

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121002

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121002

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131002

Year of fee payment: 4