JP6180889B2 - 印字検査装置 - Google Patents

印字検査装置 Download PDF

Info

Publication number
JP6180889B2
JP6180889B2 JP2013231662A JP2013231662A JP6180889B2 JP 6180889 B2 JP6180889 B2 JP 6180889B2 JP 2013231662 A JP2013231662 A JP 2013231662A JP 2013231662 A JP2013231662 A JP 2013231662A JP 6180889 B2 JP6180889 B2 JP 6180889B2
Authority
JP
Japan
Prior art keywords
character
inspection
image data
filter
character information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013231662A
Other languages
English (en)
Other versions
JP2015092141A (ja
Inventor
宗明 渡邊
宗明 渡邊
弥生 中口
弥生 中口
信一 猿楽
信一 猿楽
幸一 持田
幸一 持田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Industrial Equipment Systems Co Ltd
Original Assignee
Hitachi Industrial Equipment Systems Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Industrial Equipment Systems Co Ltd filed Critical Hitachi Industrial Equipment Systems Co Ltd
Priority to JP2013231662A priority Critical patent/JP6180889B2/ja
Publication of JP2015092141A publication Critical patent/JP2015092141A/ja
Application granted granted Critical
Publication of JP6180889B2 publication Critical patent/JP6180889B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、印字検査装置に関する。
本技術分野の背景技術として、特開2008−97589号公報(特許文献1)がある。この公報には、「背景画像に比較的広い領域のノイズや汚れが生じている場合であっても、撮像画像に含まれる文字の領域を精度よく切り出す技術を提供することを課題とする。文字列が含まれる画像61の文字列方向Aの各画素位置について、文字切り出し方向Bの画素値を積算した画素値積算評価値を求める。その波形を波形データ62で表す。波形データ62に対して第1閾値63と第2閾値64を設定する。波形データ62が第1閾値63を超える領域を文字候補領域とする。そして、文字候補領域の中で、画素値積算評価値が第2閾値64を超える領域が存在する場合には、当該文字候補領域を真の文字領域として文字を切り出す。」と記載されている(要約参照)。
特開2008−97589号公報
食品や薬品の包装容器には、製造年月日(年月や時分を含む)や賞味期限(消費期限)、製造ロットなどの表示が法律上義務づけられており、それを実現するのがインクジェットプリンタ等の印字装置である。包装容器は多様化しており、白地以外の着色された部分に、印字することも増加している。印字装置で正しく印字されたことを確認するために印字検査装置が用いられる。印字検査装置では、カメラ等の撮像装置を使って画像を取り込み、あらかじめ登録した正常パターンとの照合検査によって印字文字の汚れ、欠けを自動検査する。
この場合、文字部分を正確に抽出しなければならない。最終的には撮像した画像データより、文字部分を1、背景部分を0などとなるように分離、すなわち二値化する必要がある。文字部分だけを正確に抽出して、二値化する方法はいくつか提案されている。例えば、特許文献1では文字領域の切り出し方法として、多値画像を使用した方法がある。
しかし、図5に示すように、文字21aが赤色、背景21bが緑色で、明度の差があまりない場合、図6に示すように文字部分21aと背景部分21bを二値化閾値21cによって良好に分離することができなかった。
本発明は、印字検査の精度を向上することを目的とする。
上記課題を解決するために、例えば特許請求の範囲に記載の構成を採用する。
本願は上記課題を解決する手段を複数含んでいるが、その一例を挙げるならば、検査対象を撮像する撮像手段と、撮像手段より取り込まれた画像データを記憶する画像データ記憶手段と、予め登録された正常文字データを記憶するデータ記憶手段と、画像データ記憶手段から抽出した文字情報と登録された正常文字データを比較して正常化不良かを判定する検査手段とよりなる印字検査装置であって、少なくとも波長の異なる2つ以上の光成分を用いて撮像する。
本発明によれば、印字検査の精度を向上することができる。
本発明の実施例にかかる合成明度説明図。 図1のヒストグラム。 従来例の検査対象図。 図3のヒストグラム。 本発明の実施例にかかる検査対象図。 図5のヒストグラム。 図5の色分布図。 図7のヒストグラム。 本発明の実施例にかかるの全体機器構成図。 本発明の実施例にかかるハードウェア構成図。 本発明の実施例にかかる全体処理フロー。 本発明の実施例にかかるフィルター調整処理フロー。 本発明の実施例にかかる範囲指定画面例。 本発明の実施例にかかるカラーフィルター計算処理フロー。 本発明の実施例にかかる検査文字設定処理フロー。 本発明の実施例にかかる検査処理フロー。
以下、実施例を図面を用いて説明する。
図5は検査対象8であり、文字21aが赤色、背景21bが緑色となっている。これをモノクロカメラで撮像すると、明度と画素数の関係(以後ヒストグラムと呼ぶ)は、図6のようになる。文字21aと背景21bは明度の差が少なく、ヒストグラム上で二値化閾値21cで分離することができない。
図7はカラーカメラで検査対象8を撮像した結果の分布図であり、RGBの三次元空間では文字21aと背景21bが分離している。
図8はRGB、それぞれの軸に射影したヒストグラムである。これは、モノクロカメラに各々赤、緑、青の色フィルターを装着した場合に得られるヒストグラムに相当する。この場合単純な各色単独の情報だけでは、文字21aと背景21bが分離できないことが分かる。従ってモノクロカメラと色フィルターの組み合わせでは、文字21aと背景21bを分離することができない。
図1は文字21aと背景21bの重心を結ぶ軸を合成明度として設定したものである。この合成明度軸に射影すると図2のヒストグラムが得られる。この場合文字21aと背景21bは二値化閾値21cで分離することができる。
このような多次元での最適な合成軸(合成明度軸)は、多変量解析により統計的に求められることが知られている。本実施例では主成分分析を応用して合成明度軸を求めている。
主成分分析では文字21aと背景21bを含む部分の分散共分散行列を求め、その最大固有値を算出する。最大固有値に対する固有ベクトルを求めると、その固有ベクトルが合成明度軸方向となる。最大固有値に対応した固有ベクトルで合成明度を定義すると、合成明度の分散は最大になり、最良のコントラストを得ることができる。
一般的な主成分分析では、ここまでで計算が終了するが、合成明度をある一定の範囲内にするために、次の[数1]を用いる。
Figure 0006180889
ここに、I(i,j)は座標(i,j)の合成明度、R(i,j)、G(i,j)、B(i,j)は各々画素座標(i,j)のRGB成分、fr、fg、fbは固有ベクトルの一定係数倍、fnは原点を調整するための定数項である。fr、fg、fb、fnをフィルター係数として、撮像したカラー画像を変換することにより、常に最良のコントラストが得られる。
図9は本実施例の全体構成図である。1は印字検査装置であり、印字文字の検査を行う。2はカラーカメラであり、画像の撮像を行う。このカラーカメラは、赤(R)、緑(G)、青(B)それぞれに対応した波長610nm、540nm、455nmにピークを持つフィルタを搭載しており、3波長の光を分離して撮像できる。3はストロボ照明装置であり、印字検査装置からの発光命令に従って、カラーカメラの撮像タイミングに合わせて発光する。4はタッチパネル付モニタであり、撮像した画像内容と操作メニューを表示し、タッチパネルにより操作者の指示を入力できる。5は光電センサであり、検査対象が来た時、信号を印字検査装置に送る。6はライン制御装置であり、コンベア9と排出機7の制御を行っている。7は排出機であり、検査対象が印字不良の場合、コンベアから排除する。8a、8b、8cはそれぞれ検査対象である。9はコンベアであり、検査対象を左から右へ一定速度で搬送する。
コンベア9上を搬送された検査対象8は、光電センサ5に検出されると、一定時間後にストロボ3の発光と同期してカラーカメラ2により撮像され、印字検査装置1で印字内容を検査される。正常時はそのままコンベア上を流れていき、印字不良時は排出機7によってコンベア上から排除される。
次に印字検査装置1の内部を中心に説明する。図10はハードウエア構成図である。10はバスであり、各機器を接続している。11はCPUであり、この装置での全ての演算を行っている。12はROMであり、電源投入時の初期化プログラムが格納されている。13はRAMであり、この装置で実行するプログラムと演算の途中結果、カラーカメラから取り込んだ画像データ等が格納されている。14はシリアルI/Oであり、CPU11はここを介してタッチパネル付モニタ4のタッチパネルとの情報のやりとりを行う。15はカメラインターフェイスである。CPU11からの撮像命令が発行されると、カメラインターフェイス15はカラーカメラ2の撮像制御を行い、取り込んだ画像データをRAM13にバス10を介して転送する。16は照明用ストロボとのインターフェイスであり、CPU11からの発行命令により、カラーカメラ2の撮像タイミングと同期してストロボ3の点灯、消灯を行う。17はDISKインターフェイスであり、ハードディスク18とのデータの入出力を行う。ハードディスク18にはこの装置で実行するプログラムと印字文字登録データ、各種制御条件等が格納されている。この装置で実行するプログラムは電源投入時にROM12に格納されているプログラムによってRAM13に転送され、CPU11によって実行される。19はパラレルI/Oであり、光電センサからの信号入力と、ライン制御装置とのデータのやりとりを行う。
図11はCPU11で実行されるプログラムの全体処理フローである。電源が投入されると、101で初期化が行われる。初期化ではハードディスク18に格納されているプログラムとすべての印字文字登録データ、制御条件設定ファイル等をRAM14に転送する。また、各I/Oとインターフェイスの初期化も行い、完了するとタッチパネル付モニタ4に初期メニューを表示する。
次に102でタッチパネルからの入力をチェックする。終了メニューが選択されると、処理を終了する。調整メニューが選択されると、103の処理に進む。検査メニューが選択されると106の処理に進む。106の処理内容については、後で詳細に述べる。
103では品種番号を入力する。この品種番号によって、フィルター値、二値化閾値、検査文字の設定データ等、検査対象によって異なる設定データが管理される。次に104に進む。104の処理内容については、後で詳細に述べる。その後、105に進む。105の処理内容についても、後で詳細に述べる。
図12は104のフィルター調整の処理フローである。
まず201でカラーカメラ2で撮像を行う。撮像した画像情報はRAM13に格納される。
次に202でタッチパネルを用いて、フィルターを計算するための範囲を指定する。図13は範囲を指定した状態の表示画面である。背景部分以外の余計な印字や汚れ102を含まないように、範囲110を指定する。指定した範囲は左上の点Ps(is,js)と右下の点Pe(ie,je)の座標値として記憶される。
203で実際のカラーフィルターの値を計算する。計算方法の詳細については、後で説明する。
204では、203で求めたフィルター値を用いて、数1により合成明度画像を作成して、表示する。fr、fg、fb、fnは203で求めたフィルター値を用いる。
次に205で操作者は表示された合成明度画像が適切かどうか判断する。文字部分と背景のコントラストが適切であれは、206に進む。コントラストが十分でなければ、202からやり直す。
206では表示された合成明度画像に二値化閾値を設定し、二値画像を表示する。
次に207で操作者は表示された二値画像で文字部分と背景が黒と白に分離されていることを確認する。分離されていれば、208でフィルター値と二値化閾値の結果を品種番号に対応させて記憶し、終了する。分離されていなければ、206をやり直す。
図14は203の詳細を示したカラーフィルター計算の処理フローである。フィルター値はRGBの3次元で主成分分析を行い、その第一主成分を元にフィルター係数を決定する。
まず301で指定範囲内110の分散共分散行列を演算する。計算では以下の式を用いる。まず、[数2]により各画素値の和、自乗和および面積を求める。
Figure 0006180889
次に、求めた値から、[数3]を用いて分散共分散行列の各要素を計算する。
Figure 0006180889
これらを要素とする、[数4]のAが求めた分散共分散行列である。
Figure 0006180889
次に[数5]により、この分散共分散行列の固有値と固有ベクトルを求める。
Figure 0006180889
これより、λを求める。ここにEは3×3の単位行列、detは行列式を求める関数である。3つの解が求まるので、絶対値が最大の物を最終的なλとする(第1主成分)。
次にこのλに対する固有ベクトルを求める。
Figure 0006180889
この連立方程式を解いて、Fr、Fg、Fbを求める。これが第一主成分対する固有ベクトルである。次の[数7]で合成値を求めた場合、主成分分析の原理によって、指定範囲内の分散が最大になり、文字と背景が良好に分離可能となる。
Figure 0006180889
合成明度を求める場合、他の画像と統一的に扱うために、最小値と最大値を限定する必要がある。この実施例では、最小値を0、最大値を255としている。そのため定数項fnと倍率kを計算する。
まず303で、指定範囲内の[数7]の最大値Tmaxと最小値Tminを求める。次に304で次の式により定数項fnと倍率kを求める。
Figure 0006180889
なお、文字と背景の黒と白の関係を入れ替えたい場合は、次の式で定数項fnと倍率kを求める。
Figure 0006180889
最後に304で最終的にフィルタ係数を決定する。
Figure 0006180889
ここで求めたfr、fg、fb、fnがフィルター値である。決定したフィルター値は品種番号に対応して、ハードディスク18に記憶する。
このフィルター値を用いて数1により合成明度を算出すると、指定範囲内での分散が最大となるので最もコントラストの良い明暗画像が得られる。
図15は、105の詳細を説明した検査文字設定処理フローである。
まず、301でタッチパネルを使って検査文字を入力する。例えば、図13の検査対象では、一行目に「2013.09.20」、二行目に「Lot N0235」を指定する。ただし、「2013.09.20」は製造日、「N0235」は製造番号なので、その属性も同時に指定する。
次に302で基準となる検査対象を設置して、検査対象の撮像を行う。この時ストロボ3を同期して点灯させる。
303で撮像したRGB画像を元に、数1により合成明度変換を行う。この実施例では、撮像した画像全体を変換して合成明度画像を作成している。数1を用いると合成明度値が0から255の範囲外になることがあるか、0未満は0、256以上は255に制限している。
304では、合成明度画像を206で設定した二値化閾値を用いて二値化し、二値画像を作成する。305で文字の切り出し(セグメンテーション)を行う。306でそれを正規化し、307で基準のパターンとして登録する。登録した内容は、品種番号に対応してハードディスク18に記憶される。
図16は、106の詳細を説明した検査処理フローである。
まず、401で入力を確認する。タッチパネルで終了がタッチされていれば、検査処理を終了する。光電センサ5からの入力があれば、402に進む。入力がなければ、この処理を繰り返す。
402では、品種番号を取り込む。この実施例では、ライン制御装置6から検査する品種番号を受け取る。これ以降は、取り込んだ品種番号に応じた設定値で検査を行う。
次に403で、指定された品種番号に対応したフィルター計算用係数に切り替えて、指定された品種に最適なフィルター計算方法になるようにする。
404で光電センサ5の検出位置から撮像位置まで検査対象が移動するまで待った後、ストロボ3を点灯させて撮像する。
405では、撮像したRGB画像を数1を用いて合成明度に変換し、合成明度画像を作成する。これによって図2に示したように、文字部分と背景が分離したヒストグラムを持つ合成明度画像が得られる。
406では合成明度画像を品種番号に対応した閾値で二値化する。407で文字の切り出しを行い、408で切り出された文字を正規化する。
409で105で設定した標準文字と比較し、全文字が一致していれば不良なし、それ以外では不良有と判断する。
410では、不良の有無を判断し、不良があれば、411でライン制御装置6に対して排出出力を行う。これにより、ライン制御装置6は排出機7を駆動して、不良品をコンベアから排除する。
このようして、色のついた検査対象に対して、最適なコントラストで印字文字の検査を行うことができる。
また、フィルター値は検査対象が切り替わった際も、ライン制御装置6からの品種番号の指定により、検査対象に最適に設定されるため、常に良好なコントラストが得られる。
この実施例では、RGBのフィルターを搭載したカラーカメラを使用しているが、主成分分析を用いれば、任意次元の分布に対して主成分を求めることができるため、4波長(すなわち4色)以上の撮像が可能なカメラにも、簡単に拡張できる。またその波長は可視光の範囲に入っている必要はない。
また、この実施例では、数1を用いてRGBの値から合成明度を計算しているが、あらかじめRGBと合成明度との関係テーブルを作成しておき、関係テーブルを用いて変換することも可能である。
この実施例によれば、次のような効果もある。タッチパネルを用いてフィルター係数を計算する範囲を指定するので、文字と背景だけを含んだ領域を指定するのが、容易である。また、フィルター用の係数を計算した後、合成明度を表示して確認を行えるので、フィルター係数が誤っていないことを確認できる。また、フィルター係数は、計算結果が任意の範囲(この実施例では0から255)に入るように決定できるので、画像処理用のメモリサイズに応じて調整することが可能である。
1 印字検査装置
2 カラーカメラ
3 ストロボ照明装置
4 タッチパネル付モニタ
5 光電センサ
6 ライン制御装置
8a、8b、8c 検査対象
21a 文字
21b 背景
21c 二値化閾値
104 フィルター調整処理
403 フィルター切り替え処理
405 合成明度変換処理

Claims (3)

  1. 検査対象を少なくとも波長の異なる2つ以上の光成分を用いて撮像する撮像手段と、
    撮像手段より取り込まれた画像データを記憶する画像データ記憶手段と、
    正常文字データを記憶するデータ記憶手段と、
    画像データ記憶手段から抽出した文字情報である検査対象文字データと登録された正常文字データを比較して正常不良かを判定する検査手段と
    を含む印字検査装置であって、
    さらに、
    利用者からの入力を受け付ける入力手段と、
    前記撮像手段により取り込まれた画像データを用いて、前記入力手段で入力された品種番号毎のフィルター値および二値化閾値を決定するフィルター調整手段と、
    前記フィルター調整手段で算出されたフィルター値および二値化閾値を用いて、前記撮像手段により取り込まれた画像データから文字情報を抽出する文字情報抽出手段と、
    当該印字検査装置を制御する制御手段を有し、
    前記入力手段が、前記利用者から品種番号の入力を受付け、
    前記データ記憶手段が、前記撮像手段で撮像された画像データを用いて前記フィルター調整手段で決定された前記フィルター値および前記二値化閾値を、前記入力手段で受け付けられた品種番号に対応付けて記憶し、
    前記撮像手段が、前記正常文字データとすべき文字が印刷された基準となる基準検査対象を撮像し、
    前記文字情報抽出手段が、撮像された前記基準検査対象の画像データから、前記データ記憶装置に記憶されたフィルター値および二値化閾値を用いて文字情報を抽出して、前記正常文字データを生成し、
    前記データ記憶手段が、生成された前記正常文字データを、前記入力手段で受け付けられた品種番号に対応付けて記憶し、
    前記文字情報抽出手段が、前記制御手段から検査対象となる品種番号を示す検査対象品種番号を受け取り、
    前記撮像手段が、前記検査対象品種番号に対応する検査対象を撮像し、
    前記文字情報抽出手段が、撮像された前記検査対象の画像データから、前記検査対象品種番号に対応するフィルター値および二値化閾値を用いて文字情報を抽出して、前記検査対象文字データを生成する
    ことを特徴とする印字検査装置。
  2. 請求項に記載の印字検査装置であって、
    画像データ記憶手段に記憶された画像の範囲を指定する指定手段を有し、
    前記フィルター調整手段は、その範囲内で波長の異なる2つ以上の光成分を統計的に処理して前記フィルターを決定する処理手段を持つことを特徴とする印字検査装置。
  3. 請求項に記載の印字検査装置であって、
    文字と該当する背景部分だけを指定して、前記フィルターを決めることを特徴とする印字検査装置。
JP2013231662A 2013-11-08 2013-11-08 印字検査装置 Active JP6180889B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013231662A JP6180889B2 (ja) 2013-11-08 2013-11-08 印字検査装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013231662A JP6180889B2 (ja) 2013-11-08 2013-11-08 印字検査装置

Publications (2)

Publication Number Publication Date
JP2015092141A JP2015092141A (ja) 2015-05-14
JP6180889B2 true JP6180889B2 (ja) 2017-08-16

Family

ID=53195378

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013231662A Active JP6180889B2 (ja) 2013-11-08 2013-11-08 印字検査装置

Country Status (1)

Country Link
JP (1) JP6180889B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7092563B2 (ja) * 2018-06-08 2022-06-28 マクセルフロンティア株式会社 印字検査機
US20240027340A1 (en) 2020-11-27 2024-01-25 Kabushiki Kaisha N-Tech Imaging Device, Inspection Device, and Imaging Method

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3061899B2 (ja) * 1991-07-31 2000-07-10 株式会社東芝 印刷物の検査装置
JPH07144461A (ja) * 1993-11-24 1995-06-06 Hitachi Eng Co Ltd 印字装置
JP3097067B2 (ja) * 1994-01-20 2000-10-10 新日本製鐵株式会社 印字検査装置
JPH08323965A (ja) * 1995-05-31 1996-12-10 Dainippon Printing Co Ltd カラー画像の検査方法及び装置
JP2005205748A (ja) * 2004-01-23 2005-08-04 Dainippon Printing Co Ltd 印刷物検査装置、印刷物検査方法
JP5635946B2 (ja) * 2011-05-26 2014-12-03 グローリー株式会社 印刷物検査方法及び印刷物検査装置
JP5767963B2 (ja) * 2011-12-28 2015-08-26 株式会社キーエンス 外観検査装置、外観検査方法及びコンピュータプログラム

Also Published As

Publication number Publication date
JP2015092141A (ja) 2015-05-14

Similar Documents

Publication Publication Date Title
JP5903966B2 (ja) 画像検査装置、画像形成装置及び画像検査装置の制御方法
US10824906B2 (en) Image processing device, non-transitory computer readable storage medium, and image processing system
TWI291561B (en) PC board inspecting apparatus, inspection logic setting method, and inspection logic setting apparatus
WO2019151393A1 (ja) 食品検査システム、食品検査プログラム、食品検査方法および食品生産方法
JP7036477B1 (ja) 欠陥検出方法、欠陥検出システム、及び、欠陥検出プログラム
US9286669B2 (en) Image processing apparatus, image processing method and program
JP7214432B2 (ja) 画像処理方法、画像処理プログラム、記録媒体、画像処理装置、生産システム、物品の製造方法
JP6180889B2 (ja) 印字検査装置
JP2010008159A (ja) 外観検査処理方法
US20220261974A1 (en) Method of detecting an abnormality and abnormality detection device
US8358831B2 (en) Probe mark inspection
JP5788367B2 (ja) 長尺物本数測定装置、長尺物本数測定方法、及びコンピュータプログラム
JP7215218B2 (ja) 分光検査方法、画像処理装置、及びロボットシステム
JP2008241424A (ja) 画像処理装置及びこれを用いた画像処理方法
JP6357864B2 (ja) 印刷検査装置及び印刷検査方法
JP5932413B2 (ja) ワークの位置ずれ検出装置、ワークの位置ずれ検出方法、及びコンピュータプログラム
CN113506297B (zh) 基于大数据处理的印刷数据识别方法
JP5509706B2 (ja) 画像処理装置および画像処理方法
JP2007010525A (ja) 欠陥検出方法
CN115343313A (zh) 基于人工智能的视觉识别方法
JP2019046134A (ja) 画像検査装置、及び画像検査方法
JP4961370B2 (ja) 検査方法および検査装置
JP6909360B1 (ja) 物体計測装置、及び計測装置
JP2020003452A (ja) 検査装置、検査方法、および、検査装置用のプログラム
JP7300155B2 (ja) 固形製剤外観検査における教示装置、及び固形製剤外観検査における教示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161125

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170123

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170123

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170620

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170719

R150 Certificate of patent or registration of utility model

Ref document number: 6180889

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150