JP7219430B2 - LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM - Google Patents
LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM Download PDFInfo
- Publication number
- JP7219430B2 JP7219430B2 JP2020179978A JP2020179978A JP7219430B2 JP 7219430 B2 JP7219430 B2 JP 7219430B2 JP 2020179978 A JP2020179978 A JP 2020179978A JP 2020179978 A JP2020179978 A JP 2020179978A JP 7219430 B2 JP7219430 B2 JP 7219430B2
- Authority
- JP
- Japan
- Prior art keywords
- learning
- label
- value
- learning data
- state
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Testing And Monitoring For Control Systems (AREA)
- Complex Calculations (AREA)
Description
本発明は、学習処理装置、方法及びプログラムに関する。 The present invention relates to a learning processing device, method and program.
近時、機器又は該機器を構成する部品(以下、「予測対象物」という)の劣化度あるいは新鮮度を、機械学習を利用して予測する技術が提案されている。この予測の際に、予測対象物の状態を示す状態値の集合体(以下、「状態値セット」という)を入力とし、劣化度又は新鮮度を示すラベル値を出力とする学習器が用いられる。 Recently, techniques have been proposed for predicting the degree of deterioration or the degree of freshness of a device or a component that constitutes the device (hereinafter referred to as a "prediction target") using machine learning. During this prediction, a learner is used that receives as input a set of state values indicating the state of the object to be predicted (hereinafter referred to as a "state value set") and outputs a label value indicating the degree of deterioration or freshness. .
特許文献1には、劣化加速実験を通じて、設備が正常から劣化に至るまでの一連の測定データを取得し、この一連の測定データから学習データを作成する劣化診断システムが開示されている。
ところで、予測精度が高い学習器を獲得すべく、様々な場所で設置された稼働中の機器からネットワークを通じて状態値セットを逐次収集し、より多くの学習データを蓄積することが望ましい。ところが、実際の運用では、システムの保全を優先し、故障が発生する前に機器が交換又は撤去される場合が多い。例えば、製造業者又は保守業者が、実体寿命よりも短い耐用期間(つまり、設定寿命)を設けておき、この設定寿命を経過した機器を新品に交換することがある。 By the way, in order to obtain a learner with high prediction accuracy, it is desirable to sequentially collect state value sets through a network from operating devices installed in various places and accumulate more learning data. However, in actual operation, priority is given to system maintenance, and equipment is often replaced or removed before a failure occurs. For example, a manufacturer or a maintenance company may provide a service life (that is, a set life span) shorter than the actual life span, and replace the device with a new one after the set life span has passed.
そうすると、実体寿命を全うすることなく稼働を終えた機器の場合には実際の劣化度又は新鮮度を特定できず、正しいラベル値を算出することが困難になる。一方、実体寿命を全うした機器の状態値セットのみを抽出して学習データを生成することも考えられるが、その分だけ収集可能な学習データが少なくなり、学習不足に起因する予測精度の低下を招いてしまう。また、何らかの理由により、設定寿命を経過する前に機器が交換又は撤去された場合についても同様である。 As a result, it is difficult to calculate the correct label value because the actual degree of deterioration or freshness cannot be identified in the case of a device that has finished its operation without completing its actual life. On the other hand, it is conceivable to generate training data by extracting only the state value set of the equipment that has completed the actual life, but the amount of training data that can be collected will be reduced by that amount, and the decrease in prediction accuracy due to insufficient learning will be avoided. I invite you. The same applies to the case where the device is replaced or removed for some reason before the set life has passed.
本発明はこのような問題に鑑みてなされたものであり、その目的は、実体寿命又は設定寿命を迎えていない予測対象物から取得した状態値セットを用いる場合であっても、ラベル値の不確定性に起因する予測精度の低下を抑制可能な学習処理装置、方法及びプログラムを提供することにある。 The present invention has been made in view of such a problem, and its object is to provide a method for identifying label value inaccuracies even when using a state value set obtained from a prediction target that has not reached its actual life or set life. An object of the present invention is to provide a learning processing device, method, and program capable of suppressing deterioration in prediction accuracy caused by determinism.
本発明の第一態様における学習処理装置は、機器又は該機器を構成する部品である予測対象物の状態を示す状態値セットを取得する状態取得部と、前記予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正するラベル算出部と、前記状態取得部により取得された前記状態値セットと、前記ラベル算出部により付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習処理部と、を備え、前記ラベル算出部は、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。 A learning processing device according to a first aspect of the present invention includes a state acquisition unit that acquires a state value set indicating a state of a prediction target that is a device or a component that constitutes the device; A population of learning data consisting of a label calculation unit that assigns or corrects a label value that indicates , the state value set acquired by the state acquisition unit, and the label value assigned or corrected by the label calculation unit and a learning processing unit that performs learning processing on a learning device that inputs the state value set and outputs the label value using the learning data set that is the same prediction target. A plurality of label values respectively corresponding to the plurality of state value sets are assigned or corrected collectively with respect to the plurality of state value sets obtained from the object in time series.
本発明の第二態様における学習処理装置では、前記ラベル値は、前記劣化度を正規化した値であり、前記ラベル算出部は、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、前記複数のラベル値を一括して補正する。 In the learning processing device according to the second aspect of the present invention, the label value is a value obtained by normalizing the degree of deterioration, and the label calculation unit applies a correction amount that increases as the label value increases to the original label value. The plurality of label values are collectively corrected by adding them respectively.
本発明の第三態様における学習処理装置では、前記補正量は、前記複数のラベル値のうち最大値である学習データに関する学習誤差を前記最大値で除算して求められる補正係数を、前記元のラベル値に乗算した値である。 In the learning processing device according to the third aspect of the present invention, the correction amount is a correction coefficient obtained by dividing a learning error related to learning data, which is the maximum value among the plurality of label values, by the maximum value. It is the value multiplied by the label value.
本発明の第四態様における学習処理装置は、前記学習処理部により学習処理がなされた学習器を用いて、前記学習データセットに含まれる学習データの除外又は該学習データのラベル値の補正を行うか否かを判定するデータ判定部をさらに備える。 The learning processing device according to the fourth aspect of the present invention uses a learning device subjected to learning processing by the learning processing unit to exclude learning data included in the learning data set or correct the label value of the learning data. It further includes a data determination unit that determines whether or not.
本発明の第五態様における学習処理装置では、前記学習処理部は、前記ラベル算出部によりラベル値が補正された学習データセットを用いて、前記学習器に対する再学習又は追加学習を繰り返す。 In the learning processing device according to the fifth aspect of the present invention, the learning processing section repeats re-learning or additional learning for the learning device using the learning data set whose label values are corrected by the label calculating section.
本発明の第六態様における学習処理方法では、一又は複数のコンピュータが、機器又は該機器を構成する部品である予測対象物の状態を示す状態値セットを取得する取得ステップと、前記予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正する算出ステップと、前記取得ステップで取得された前記状態値セットと、前記算出ステップで付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習ステップと、を実行し、前記算出ステップでは、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。 In the learning processing method according to the sixth aspect of the present invention, one or more computers acquire a state value set indicating the state of a prediction target that is a device or a component that constitutes the device; Learning data consisting of a calculating step of assigning or correcting a label value indicating the degree of deterioration or freshness of the data, the state value set obtained in the obtaining step, and the label value assigned or corrected in the calculating step a learning step of performing a learning process on a learner that inputs the state value set and outputs the label value, using a learning data set that is a population of A plurality of label values respectively corresponding to the plurality of state value sets are collectively assigned or corrected for the plurality of state value sets obtained from the prediction object in time series.
本発明の第七態様における学習処理プログラムでは、一又は複数のコンピュータを、機器又は該機器を構成する部品である予測対象物の状態を示す状態値セットを取得する状態取得手段、前記予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正するラベル算出手段、前記状態取得手段により取得された前記状態値セットと、前記ラベル算出手段により付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習処理手段、として機能させ、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。 In the learning processing program according to the seventh aspect of the present invention, one or more computers are configured to acquire a state value set indicating the state of a prediction target that is a device or a component that constitutes the device; label calculation means for assigning or correcting a label value indicating the degree of deterioration or freshness of the label; the state value set acquired by the state acquisition means; and the label value assigned or corrected by the label calculation means. Using a learning data set, which is a population of learning data, to function as learning processing means for performing learning processing on a learning device that inputs the state value set and outputs the label value, and the same prediction object A plurality of label values respectively corresponding to the plurality of state value sets obtained in time series from is assigned or corrected collectively.
本発明によれば、実体寿命又は設定寿命を迎えていない予測対象物から取得した状態値セットを用いる場合であっても、ラベル値の不確定性に起因する予測精度の低下を抑制することができる。 According to the present invention, even when using a state value set acquired from a prediction target that has not reached its actual life or set life, it is possible to suppress deterioration in prediction accuracy due to uncertainty in label values. can.
以下、添付図面を参照しながら本発明の実施形態について説明する。説明の理解を容易にするため、各図面において同一の構成要素に対しては可能な限り同一の符号を付して、重複する説明は省略する。 Embodiments of the present invention will be described below with reference to the accompanying drawings. In order to facilitate understanding of the description, the same constituent elements in each drawing are denoted by the same reference numerals as much as possible, and overlapping descriptions are omitted.
[機器診断システム10の構成]
図1は、本発明の一実施形態における学習処理装置30が組み込まれた機器診断システム10の全体構成図である。機器診断システム10は、予測対象物の機器年齢を予測し、予測対象物の劣化度又は新鮮度を診断する機器診断サービスを提供可能に構成される。「予測対象物」とは、機器20又は機器20を構成する部品22であり、その用途は業務向けあるいは家庭向けのいずれであってもよい。「機器年齢」とは、機器20の稼働開始時点から故障時点までの状態を定量的に示した指標であり、この最大値が機器20の実体寿命に対応する。
[Configuration of Device Diagnosis System 10]
FIG. 1 is an overall configuration diagram of a
この機器診断システム10は、具体的には、一又は複数の機器20と、学習処理装置30と、年齢予測装置40と、を含んで構成される。機器20、学習処理装置30及び年齢予測装置40は、ネットワークNTを通じて相互に通信可能である。
This
機器20は、複数の部品22を協働させて一連の動作を行うことで、様々な機能を実現する。機器20には、機器20又は部品22の状態を示す物理量を検出するセンサ24が内蔵又は外付けされる。機器20は、自身が生成した情報をIoT(Internet Of Things)データD1として外部に送信する。これにより、学習処理装置30又は年齢予測装置40は、各々の機器20からIoTデータD1を収集することができる。
The
学習処理装置30は、各々の機器20から収集したIoTデータD1を用いて学習処理を実行し、学習器LN(図2及び図6)の演算規則を特定可能なモデルデータD2を生成するコンピュータである。この学習処理装置30は、通信I/F32と、プロセッサ34と、メモリ36と、記憶装置38と、を含んで構成される。
The
通信I/F32は、外部装置に対して電気信号を送受信するインターフェースである。これにより、学習処理装置30は、IoTデータD1を機器20から受信可能であるとともに、自身が生成したモデルデータD2を年齢予測装置40に送信可能である。プロセッサ34は、CPU(Central Processing Unit)を含む汎用プロセッサであってもよいし、FPGA(Field Programmable Gate Array)、GPU(Graphics Processing Unit)を含む専用プロセッサであってもよい。
The communication I/
メモリ36は、非一過性の記憶媒体であり、プロセッサ34が各構成要素を制御するのに必要なプログラム及びデータを記憶している。記憶装置38は、例えば、ハードディスクドライブ(HDD:Hard Disk Drive)やソリッドステートドライブ(SSD:Solid State Drive)を含む非一過性の記憶媒体である。
The
年齢予測装置40は、学習処理装置30と概ね同様の装置構成を有するコンピュータである。年齢予測装置40は、学習処理装置30により提供されたモデルデータD2を取得することで、学習済みの学習器LNを構築する。そして、年齢予測装置40は、予測対象物である機器20からIoTデータD1を受信し、学習器LNを用いて予測対象物の機器年齢を予測する。
The
図2は、図1に示すプロセッサ34の機能ブロック図である。プロセッサ34は、状態取得部50、ラベル算出部52、学習処理部54、データ判定部56、及び年齢予測部58として機能する。また、記憶装置38には、学習データセット60及び学習パラメータ群62が格納される。
FIG. 2 is a functional block diagram of
状態取得部50は、機器20又は該機器20を構成する部品22(つまり、予測対象物)の状態を示す状態値の集合体(以下、「状態値セット」という)を取得する。状態値の一例として、[1]予測対象物に関する測定量(例えば、電流、電圧、温度、光量など)、[2]外部環境に関する測定量(例えば、時刻、場所、外部の温湿度など)、[3]部品22を駆動する際の制御指令値、[4]機器20のログデータ(正常/異常のステータス情報など)が挙げられる。
The
ラベル算出部52は、予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正する。ラベル算出部52は、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。ここで、「付与」とは、ラベリングが未了である状態値セットに対してラベル値を新たに対応付けることを意味する。また、「補正」とは、ラベリングが既になされた状態値セットに対応するラベル値をより適切な値に変更することを意味する。
The
第一に、ラベル算出部52は、キー状態値を所定の範囲で正規化することで各々のラベル値を付与してもよい。ここで、キー状態値は、機器年齢との間に相応の相関性を有する状態値であり、ラベル値の付与に用いられる。キー状態値の一例として、設定寿命の判断根拠となり得る各種パラメータ(具体的には、作動回数、稼働時間、設置日数など)が挙げられる。なお、キー状態値は、状態値セットに含まれてもよいが、学習への依存度が過度に高くならないように状態値セットから除外されることが望ましい。
First, the
第二に、ラベル算出部52は、ラベル値が予測対象物の劣化度を正規化した値であり、かつ、複数組の学習データの中に学習誤差が大きい学習データがある場合、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、複数のラベル値を一括して補正してもよい。この補正量は、複数のラベル値のうち最大値である学習データに関する学習誤差を最大値で除算して求められる補正係数を、元のラベル値に乗算した値である。
Second, if the label value is a value obtained by normalizing the degree of deterioration of the prediction object and there is learning data with a large learning error among the plurality of sets of learning data, the
第三に、ラベル算出部52は、ラベル値が予測対象物の新鮮度を正規化した値であり、かつ、複数組の学習データの中に学習誤差が大きい学習データがある場合、ラベル値が増加するにつれて小さくなる補正量を元のラベル値にそれぞれ加算することで、複数のラベル値を一括して補正してもよい。この補正量は、複数のラベル値のうち最小値である学習データに関する学習誤差を最大値で除算して求められる補正係数を、元のラベル値に乗算した値である。
Thirdly, if the label value is a value obtained by normalizing the freshness of the prediction target object and there is learning data with a large learning error among the plurality of sets of learning data, the
学習処理部54は、学習器LNに対して様々な学習処理(ここでは、教師あり学習)を行うことで、学習パラメータ群62を構成する学習パラメータの各値を決定する。学習器LNは、状態値セットを入力してラベル値を出力する学習モデルからなる。学習処理部54は、ラベル算出部52によりラベル値が補正された学習データセット60を用いて、学習器LNに対する再学習又は追加学習を繰り返す。なお、この学習手法は、バッチ学習、ミニバッチ学習、オンライン学習のいずれにも適用し得る。
The
データ判定部56は、学習処理部54により学習処理がなされた学習器LNを用いて、学習データセット60に含まれる学習データの除外又は該学習データのラベル値の補正を行うか否かを判定する。具体的には、データ判定部56は、判定対象の学習データに関する学習誤差(例えば、L1誤差、L2誤差)との間の閾値判定を行う。例えば、データ判定部56は、[1]学習誤差が第一閾値未満である場合には学習データをそのまま維持する、[2]学習誤差が第一閾値以上かつ第二閾値未満である場合には該当するラベル値を補正する、[3]学習誤差が第二閾値以上である場合には該当する学習データを削除する、との判定をそれぞれ行う。
The
年齢予測部58は、学習処理がなされた学習器LNを用いて、予測対象物の劣化度又は新鮮度を予測する。劣化度の一例として機器年齢が、新鮮度の一例として残存耐用期間(Remaining Useful Life)がそれぞれ挙げられる。なお、年齢予測部58は、学習処理を行う学習処理装置30で実行されてもよいし、別の装置(具体的には、図1の年齢予測装置40)で実行されてもよい。
The
学習データセット60は、状態値セットとラベル値から構成される学習データの集合体である。学習データは、[1]学習パラメータ群62の更新に用いられる「訓練用データ」、[2]学習パラメータ群62による汎化性能の評価に用いられる「検証用データ」、及び[3]学習がなされた学習器LNの予測性能の評価に用いられる「テスト用データ」の3種類に分類される。
The learning
学習パラメータ群62は、学習器LNの演算に用いられる学習パラメータの集合体である。学習パラメータ群62は、学習時の更新対象である「可変パラメータ」と、学習時の更新対象でない「固定パラメータ」(いわゆるハイパーパラメータ)から構成される。可変パラメータの一例として、演算ユニットの活性化関数を記述する係数、演算ユニット間の結合強度などが挙げられる。固定パラメータの一例として、演算ユニットの個数、中間層の数、畳み込み演算のカーネルサイズなどが挙げられる。
The learning
[学習処理装置30の動作]
この実施形態における学習処理装置30が組み込まれた機器診断システム10は、以上のように構成される。続いて、学習処理装置30による学習動作について、図3のフローチャート及び図4~図10を参照しながら説明する。
[Operation of learning processing device 30]
The
図3のステップSP10において、状態取得部50は、IoTデータD1に対して解析及び前処理を行うことで、予測対象物の状態を示す状態値の集合体(つまり、状態値セット)を取得する。
In step SP10 of FIG. 3, the
図4は、IoTデータD1が有するデータ構造の一例を示す図である。このIoTデータD1は、機器20の識別情報である「機器ID」と、(N+1)個の状態値との間の対応関係を示すテーブル形式のデータである。(N+1)個の状態値は、1個の「キー状態値」(ここでは、機器20の作動回数)と、N個の「状態値セット」とに分類される。
FIG. 4 is a diagram showing an example of the data structure of the IoT data D1. This IoT data D1 is data in a table format showing the correspondence between the "device ID", which is the identification information of the
ステップSP12において、ラベル算出部52は、ステップSP10で取得された状態値セットに対応するラベル値を付与する。ここでは、ラベル算出部52は、同一の予測対象物から複数の時点で取得された複数組の状態値セットに対応するラベル値を一括して付与する。
At step SP12, the
図5は、複数組の状態値セットに対応するラベル値の付与方法の一例を示す図である。グラフの横軸は作動回数(単位:回)を、グラフの縦軸は機器年齢(単位:歳)をそれぞれ示している。説明の便宜上、5個のプロットのみ表記しているが。状態値セットの組数は4組以下あるいは6組以上であってもよい。 FIG. 5 is a diagram showing an example of a method of assigning label values corresponding to a plurality of status value sets. The horizontal axis of the graph indicates the number of operations (unit: times), and the vertical axis of the graph indicates the device age (unit: years). For convenience of explanation, only 5 plots are shown. The number of status value sets may be four or less, or six or more.
例えば、最後に取得された状態値セットに対応する作動回数がN回、つまり、作動回数の最大値が「N」であることを想定する。このNの値は、機器20を交換又は撤去した状況によっては、実体寿命に相当する場合もあるし、実体寿命より小さい場合もあり得る。ここでは、ラベル算出部52は、作動回数を[0,100]の範囲で正規化することで各々のラベル値を付与する。具体的には、作動回数が0である場合に「0」歳とし、作動回数がNである場合に「100」歳とする。
For example, assume that the number of actuations corresponding to the last obtained state value set is N times, that is, the maximum value of the number of actuations is "N". Depending on the circumstances under which the
図3のステップSP14において、プロセッサ34は、ステップSP10で取得された状態値セットと、ステップSP12で生成されたラベル値と、を対応付けた状態にて記憶装置38に記憶させる。新たな学習データの蓄積により、学習データセット60が更新される。
At step SP14 in FIG. 3, the
ステップSP16において、学習処理部54は、学習器LNに対する学習処理の実行要否を確認する。学習処理の実行が必要でない場合(ステップSP16:NO)、ステップSP10に戻って、実行が必要になるまでの間、ステップSP10~SP16を順次繰り返す。一方、学習処理の実行が必要である場合(ステップSP16:YES)、次のステップSP18に進む。
At step SP16, the
ステップSP18において、学習処理部54は、学習データセット60を用いて、学習器LNに対する学習処理を実行する。ここでは、学習データの組数が十分に蓄積されたことを契機として、新たな学習が行われる場合を想定する。
At step SP18, the
図6は、図2の学習器LNが有するネットワーク構造の一例を示す図である。学習器LNは、入力層、中間層及び出力層からなる階層型ニューラルネットワークである。入力層は、N個の状態値を入力するためのN個の演算ユニットから構成される。中間層は、次元圧縮されたM(1<M<N)次元の特徴ベクトルを生成するためのM個の演算ユニットから構成される。出力層は、ラベル値を出力するための21個の演算ユニットから構成される。 FIG. 6 is a diagram showing an example of the network structure of the learning device LN of FIG. 2. In FIG. A learner LN is a hierarchical neural network consisting of an input layer, an intermediate layer and an output layer. The input layer consists of N arithmetic units for inputting N state values. The hidden layer consists of M arithmetic units for generating dimensionally compressed M (1<M<N) dimensional feature vectors. The output layer consists of 21 operation units for outputting label values.
本図の例では、機器年齢が0~100歳の範囲を5歳おきに区分し、かつ、出力層ではソフトマックス関数を作用する。これにより、学習器LNは、0,5,10,・・・,95,100歳である確率をそれぞれ出力する。例えば、出力された確率分布のうち確率が最大であるラベル値が、機器年齢の予測値として求められる。 In the example of this figure, the device age range of 0 to 100 years is divided into five-year intervals, and a softmax function is applied in the output layer. Thus, the learner LN outputs probabilities of being 0, 5, 10, . For example, the label value with the maximum probability in the output probability distribution is obtained as the predicted value of the device age.
なお、学習データのバッチ選択規則、損失項を含む目的関数の演算式、学習パラメータの更新則を含む学習アルゴリズムは、様々な手法が採用され得る。この学習処理を繰り返して実行した結果、所定の収束条件を満たす学習パラメータ群62が決定される。
Various methods can be adopted for the learning algorithm including the batch selection rule for learning data, the objective function equation including the loss term, and the learning parameter update rule. As a result of repeatedly executing this learning process, a learning
図3のステップSP20において、データ判定部56は、ステップSP18で学習処理がなされた学習器LNを用いて、学習データセット60に含まれる学習データの判定を行う。具体的には、データ判定部56は、状態値データから得られる「予測値」と、この状態値データに対応する「教示値」との学習誤差(ここでは、L1誤差)を評価する。
In step SP20 of FIG. 3, the
図7は、学習データの判定方法の一例を示す図である。グラフの軸は、機器年齢(単位:歳)を示している。ここでは、ラベル値(あるいは、教示値)が100歳である場合を想定する。[条件A]学習誤差が15未満である場合、データ判定部56は、付与されたラベル値が妥当であるので、学習データをそのまま維持する旨の判定を行う。[条件B]学習誤差が15以上かつ30未満である場合、データ判定部56は、付与されたラベル値が妥当でないため、ラベル値を補正する旨の判定を行う。[条件C]学習誤差が30以上である場合、データ判定部56は、学習データ自体が不適切であるため、学習データを除外する旨の判定を行う。
FIG. 7 is a diagram illustrating an example of a learning data determination method. The axis of the graph indicates the device age (unit: years). Here, it is assumed that the label value (or teaching value) is 100 years old. [Condition A] If the learning error is less than 15, the
図3のステップSP22において、データ判定部56は、ステップSP20での判定結果に基づいて、変更が必要とされる学習データの有無を確認する。変更対象の学習データがない場合(ステップSP22:NO)、そのままフローチャートを終了する。一方、変更対象の学習データがある場合(ステップSP22:YES)、次のステップSP24に進む。
At step SP22 in FIG. 3, the
ステップSP24において、データ判定部56は、記憶装置38に記憶されている学習データセット60を更新(「ラベル値を一括補正」又は「学習データを削除」)する旨の指示を行う。ここでは、ラベル算出部52は、同一の予測対象物から複数の時点で取得された複数組の状態値セットに対応するラベル値を一括して補正する。
In step SP24, the
図8は、複数組の状態値セットに対応するラベル値の補正方法の一例を示す図である。グラフの横軸は補正前の年齢(単位:歳)を、グラフの縦軸は補正後の年齢(単位:歳)をそれぞれ示している。図5の場合と同様に、状態値セットの組数が5である。 FIG. 8 is a diagram showing an example of a method of correcting label values corresponding to a plurality of status value sets. The horizontal axis of the graph indicates age before correction (unit: years), and the vertical axis indicates age after correction (unit: years). As in the case of FIG. 5, the number of status value sets is five.
例えば、5個のラベル値のうちの最大値が100歳であり、対応する学習誤差が20歳であったとする。この場合、補正係数Cは、(100-20)/100=0.8と求められる。そして、元のラベル値に対して補正係数C=0.8を乗算することで、それぞれのラベル値が線形的に補正される。このように、特定のラベル値を一括で補正することで、時系列で取得された状態値セット同士の関係性が維持されやすくなる。 For example, assume that the maximum value among five label values is 100 years old and the corresponding learning error is 20 years old. In this case, the correction coefficient C is obtained as (100-20)/100=0.8. Each label value is linearly corrected by multiplying the original label value by the correction coefficient C=0.8. By collectively correcting the specific label values in this way, it becomes easier to maintain the relationship between the state value sets acquired in time series.
その後、ステップSP18に戻って、学習データの変更が不要になるまで、ステップSP18~SP24を順次繰り返す。なお、学習処理部54は、ステップSP24で学習データが変更された後、学習パラメータ群62を初期化した上で、学習器LNに対して再学習を行ってもよい。あるいは、学習処理部54は、ステップSP24で変更された複数組の学習データのみを用いて、学習途中である学習器LNに対して追加学習を行ってもよい。
After that, the process returns to step SP18, and steps SP18 to SP24 are sequentially repeated until it is no longer necessary to change the learning data. Note that after the learning data is changed in step SP24, the
図9は、ラベル値の一括補正による予測精度の向上効果を示す第一のグラフである。より詳しくは、図9(a)はラベル値の一括補正を行わない「比較例」を、図9(b)はラベル値の一括補正を行う「実施例」をそれぞれ示している。また、図5の場合と同様に、グラフの横軸は作動回数(単位:回)を、グラフの縦軸は機器年齢(単位:歳)をそれぞれ示している。 FIG. 9 is a first graph showing the effect of improving prediction accuracy by batch correction of label values. More specifically, FIG. 9A shows a "comparative example" in which label values are not collectively corrected, and FIG. 9B shows an "embodiment" in which label values are collectively corrected. As in the case of FIG. 5, the horizontal axis of the graph indicates the number of operations (unit: times), and the vertical axis of the graph indicates the device age (unit: years).
ここでは、正常に寿命に達した機器20から全時系列のIoTデータD1を収集し、機器年齢をそれぞれ予測してグラフを作成した。なお、部品22を定期的に交換しながら機器20の稼働を継続しているので、機器年齢のグラフは微視的に変動する点に留意する。つまり、部品22の交換直前では機器年齢が高くなり、部品22の交換直後では機器年齢が低くなる傾向がある。
Here, all time-series IoT data D1 are collected from the
図9(a)の「比較例」では、作動回数が少ない領域から中間領域にわたって、機器年齢が大局的に線形的に増加している。ところが、作動回数が多い領域(つまり、実体寿命に近い領域)では、機器年齢のクリッピング現象が発生するので、その分だけ予測精度が低下してしまう。その理由は、設定寿命(装置の交換時期)が実体寿命からマージンを差し引いて定められるので、そのマージン領域内での機器年齢の微妙な違いを予測できないからである。一方、図9(b)の「実施例」では、ラベル値の一括補正を通じて、上記したクリッピング現象が抑制されるので、作動回数の全領域(つまり、全範囲の機器年齢)を高精度に予測することができる。 In the “comparative example” of FIG. 9( a ), the age of the device increases linearly from a region with a small number of times of operation to an intermediate region. However, in a region where the number of times of operation is large (that is, a region close to the actual life span), the clipping phenomenon of the device age occurs, and the prediction accuracy is reduced accordingly. The reason for this is that since the set life (time to replace the device) is determined by subtracting a margin from the actual life, it is not possible to predict subtle differences in device age within the margin region. On the other hand, in the "embodiment" of FIG. 9(b), the clipping phenomenon described above is suppressed through batch correction of label values, so the entire range of the number of operations (that is, the entire range of device age) can be predicted with high accuracy. can do.
図10は、ラベル値の一括補正による予測精度の向上効果を示す第二のグラフである。より詳しくは、図9(a)はラベル値の一括補正を行わない「比較例」を、図9(b)はラベル値の一括補正を行う「実施例」をそれぞれ示している。ここでは、実体寿命を全うする前に何らかの理由で故障が発生した機器20から、全時系列のIoTデータD1を収集し、機器年齢をそれぞれ予測してグラフを作成した。
FIG. 10 is a second graph showing the effect of improving the prediction accuracy by batch correction of label values. More specifically, FIG. 9A shows a "comparative example" in which label values are not collectively corrected, and FIG. 9B shows an "embodiment" in which label values are collectively corrected. Here, the entire time-series IoT data D1 is collected from a
図10(a)の「比較例」では、作動回数にかかわらず機器年齢が略一定であると予測されるため、機器20の状態変化の兆候を検出することが困難である。一方、図10(b)の「実施例」では、図9(b)の場合と同様に、作動回数と機器年齢の間の関係性を適切に表現できるため、機器20の状態変化の兆候を高精度に予測することができる。
In the “comparative example” of FIG. 10( a ), the device age is expected to be substantially constant regardless of the number of times of operation, so it is difficult to detect signs of state change of the
[実施形態のまとめ]
以上のように、この実施形態における学習処理装置30は、機器20又は該機器20を構成する部品22である予測対象物の状態を示す状態値セットを取得する状態取得部50と、予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正するラベル算出部52と、状態取得部50により取得された状態値セットと、ラベル算出部52により付与又は補正されたラベル値と、からなる学習データの母集団である学習データセット60を用いて、状態値セットを入力してラベル値を出力する学習器LNに対して学習処理を行う学習処理部54と、を備える。そして、ラベル算出部52は、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。
[Summary of embodiment]
As described above, the
また、この実施形態における学習処理方法及びプログラムでは、一又は複数のコンピュータが、機器20又は該機器20を構成する部品22である予測対象物の状態を示す状態値セットを取得する取得ステップ(SP10)と、予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正する算出ステップ(SP12,SP24)と、取得された状態値セットと、付与又は補正されたラベル値と、からなる学習データの母集団である学習データセット60を用いて、状態値セットを入力してラベル値を出力する学習器LNに対して学習処理を行う学習ステップ(SP18)と、を実行する。そして、算出ステップ(SP24)では、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。
Further, in the learning processing method and program in this embodiment, one or a plurality of computers obtains a state value set indicating the state of the prediction object that is the
このように、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正するので、複数組の状態値セット同士の相対的な関係性を保ったまま複数のラベル値が設定される。つまり、実際の劣化度又は新鮮度を特定できない場合には、一括的な付与又は補正を通じて、実体寿命の予測が反映された適正なラベル値を設定可能となる。これにより、実体寿命又は設定寿命を迎えていない予測対象物から取得した状態値セットを用いる場合であっても、ラベル値の不確定性に起因する予測精度の低下を抑制することができる。 In this way, with respect to a plurality of sets of state values obtained in time series from the same prediction object, a plurality of label values respectively corresponding to the plurality of sets of state values are collectively assigned or corrected. A plurality of label values are set while maintaining the relative relationship between the plurality of sets of state values. In other words, when the actual degree of deterioration or freshness cannot be specified, it is possible to set an appropriate label value that reflects the prediction of the actual lifespan through batch assignment or correction. As a result, even when using a state value set obtained from a prediction target that has not reached the end of its actual life or set life, it is possible to suppress deterioration in prediction accuracy due to uncertainty in label values.
また、ラベル算出部52は、ラベル値が予測対象物の劣化度を正規化した値であり、かつ複数組の学習データの中に学習誤差が大きい学習データがある場合、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、複数のラベル値を一括して補正してもよい。
Further, when the label value is a value obtained by normalizing the degree of deterioration of the prediction target object and there is learning data with a large learning error among the plurality of sets of learning data, the
また、補正量は、複数のラベル値のうち最大値である学習データに関する学習誤差を最大値で除算して求められる補正係数を、元のラベル値に乗算した値であってもよい。これにより、ラベル値が最大である学習データに関する学習誤差をより小さくことができる。 Further, the correction amount may be a value obtained by multiplying the original label value by a correction coefficient obtained by dividing the learning error related to the learning data, which is the maximum value among the plurality of label values, by the maximum value. As a result, the learning error associated with the learning data having the maximum label value can be made smaller.
また、学習処理装置30は、学習処理部54により学習処理がなされた学習器LNを用いて、学習データセット60に含まれる学習データの除外又は該学習データのラベル値の補正を行うか否かを判定するデータ判定部56をさらに備えてもよい。
In addition, the
また、学習処理部54は、ラベル算出部52によりラベル値が補正された学習データセット60を用いて、学習器LNに対する再学習又は追加学習を繰り返してもよい。これにより、学習データのクレンジングが逐次的に行われ、学習器LNの予測精度が向上する。
Further, the
[変形例]
なお、本発明は、上記した実施形態に限定されるものではなく、この発明の主旨を逸脱しない範囲で自由に変更できることは勿論である。あるいは、技術的に矛盾が生じない範囲で各々の構成を任意に組み合わせてもよい。
[Modification]
It goes without saying that the present invention is not limited to the above-described embodiments, and can be freely modified without departing from the gist of the present invention. Alternatively, each configuration may be arbitrarily combined as long as there is no technical contradiction.
上記した実施形態では、学習処理装置30を単体のコンピュータとして図示しているが、これに代わって、学習処理装置30は、分散システムを構築するコンピュータ群であってもよい。また、学習処理装置30は、クラウド型のサーバ(いわゆる、クラウドサーバ)であってもよいし、オンプレミス型のサーバであってもよい。
In the above embodiment, the
上記した実施形態では、階層型ニューラルネットワークを用いて学習器LN(図6参照)を構築したが、機械学習の手法はこれに限られない。例えば、サポートベクターマシン、ディシジョンツリー(一例として、ランダムフォレスト)、ブースティング法(一例として、勾配ブースティング法)を含む様々な手法を採用してもよい。 In the above-described embodiment, the learner LN (see FIG. 6) is constructed using a hierarchical neural network, but the machine learning technique is not limited to this. For example, various techniques may be employed including support vector machines, decision trees (eg, random forests), boosting methods (eg, gradient boosting methods).
上記した実施形態では、機器年齢を複数の区分又は度数(つまり、離散値)によって分類し、確率が最大値であるラベル値を機器年齢として計算する場合について説明したが、機器年齢の計算方法はこれに限られない。例えば、機器年齢は、度数と確率の積和(つまり、期待値)であってもよい。また、学習器LNの出力層に設けられる演算ユニットを一個に減らして、[0,1]などに正規化された機器年齢が、一個の連続値として出力されてもよい。 In the above-described embodiment, the device age is classified by a plurality of categories or frequencies (that is, discrete values), and the label value with the maximum probability is calculated as the device age. It is not limited to this. For example, the device age may be the sum of products of frequencies and probabilities (that is, expected values). Also, the number of operation units provided in the output layer of the learning device LN may be reduced to one, and the device age normalized to [0, 1] or the like may be output as one continuous value.
10…機器診断システム、20…機器(予測対象物)、22…部品(予測対象物)、30…学習処理装置、50…状態取得部、52…ラベル算出部、54…学習処理部、56…データ判定部、60…学習データセット、LN…学習器
DESCRIPTION OF
Claims (6)
前記予測対象物の劣化度を正規化した値であるラベル値を付与又は補正するラベル算出部と、
前記状態取得部により取得された前記状態値セットと、前記ラベル算出部により付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習処理部と、
を備え、
前記学習データセットには、同一の予測対象物から時系列的に取得された複数組の状態値セットと、前記ラベル算出部により付与された複数のラベル値と、からなる時系列的な学習データが含まれ、
前記ラベル算出部は、前記時系列的な学習データの中に、前記学習処理の際に算出される学習誤差が閾値よりも大きい学習データがある場合、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、前記時系列的な学習データにおける複数のラベル値を一括して補正する、学習処理装置。 a state acquisition unit that acquires a state value set indicating the state of a prediction target that is a device or a component that constitutes the device;
a label calculation unit that assigns or corrects a label value that is a value obtained by normalizing the degree of deterioration of the prediction target;
The state value set is obtained by using a learning data set, which is a population of learning data including the state value set obtained by the state obtaining unit and the label values assigned or corrected by the label calculation unit. a learning processing unit that performs learning processing on a learning device that receives an input and outputs the label value;
with
The learning data set includes time-series learning data composed of a plurality of sets of state values obtained in time-series from the same prediction object and a plurality of label values assigned by the label calculation unit. includes
If the time-series learning data include learning data in which the learning error calculated during the learning process is larger than a threshold value, the label calculation unit calculates a correction amount that increases as the label value increases. A learning processing device that collectively corrects a plurality of label values in the time-series learning data by adding each to an original label value .
請求項1に記載の学習処理装置。 The correction amount is a value obtained by multiplying the original label value by a correction coefficient obtained by dividing a learning error related to learning data, which is the maximum value among the plurality of label values, by the maximum value.
2. The learning processing device according to claim 1 .
請求項1又は2に記載の学習処理装置。 further comprising a data determination unit that determines whether to exclude learning data included in the learning data set or correct the label value of the learning data using the learning device that has been subjected to the learning processing by the learning processing unit. ,
3. The learning processing device according to claim 1 or 2 .
請求項1~3のいずれか1項に記載の学習処理装置。 The learning processing unit repeats re-learning or additional learning for the learning device using the learning data set whose label value is corrected by the label calculation unit.
The learning processing device according to any one of claims 1 to 3 .
機器又は該機器を構成する部品である予測対象物の状態を示す状態値セットを取得する取得ステップと、
前記予測対象物の劣化度を正規化した値であるラベル値を付与又は補正する算出ステップと、
前記取得ステップで取得された前記状態値セットと、前記算出ステップで付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習ステップと、
を実行し、
前記学習データセットには、同一の予測対象物から時系列的に取得された複数組の状態値セットと、前記算出ステップで付与された複数のラベル値と、からなる時系列的な学習データが含まれ、
前記算出ステップでは、前記時系列的な学習データの中に、前記学習処理の際に算出される学習誤差が閾値よりも大きい学習データがある場合、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、前記時系列的な学習データにおける複数のラベル値を一括して補正する、学習処理方法。 one or more computers
an acquisition step of acquiring a state value set indicating the state of a prediction target object that is a device or a component that constitutes the device;
a calculation step of assigning or correcting a label value that is a value obtained by normalizing the degree of deterioration of the prediction target;
inputting the state value set using a learning data set that is a population of learning data including the state value set obtained in the obtaining step and the label values assigned or corrected in the calculating step; a learning step of performing a learning process on a learner that outputs the label value by
and run
The learning data set includes time-series learning data composed of a plurality of sets of state values obtained in time-series from the same prediction object and a plurality of label values assigned in the calculating step. included,
In the calculating step, when there is learning data in the time-series learning data in which the learning error calculated during the learning process is larger than a threshold value, a correction amount that increases as the label value increases is calculated. A learning processing method for collectively correcting a plurality of label values in the time-series learning data by adding each to the label values of .
機器又は該機器を構成する部品である予測対象物の状態を示す状態値セットを取得する状態取得手段、
前記予測対象物の劣化度を正規化した値であるラベル値を付与又は補正するラベル算出手段、
前記状態取得手段により取得された前記状態値セットと、前記ラベル算出手段により付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習処理手段、
として機能させ、
前記学習データセットには、同一の予測対象物から時系列的に取得された複数組の状態値セットと、前記ラベル算出手段により付与された複数のラベル値と、からなる時系列的な学習データが含まれ、
前記ラベル算出手段は、前記時系列的な学習データの中に、前記学習処理の際に算出される学習誤差が閾値よりも大きい学習データがある場合、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、前記時系列的な学習データにおける複数のラベル値を一括して補正する、学習処理プログラム。 one or more computers,
State acquisition means for acquiring a state value set indicating the state of a prediction target that is a device or a component that constitutes the device;
label calculation means for assigning or correcting a label value that is a value obtained by normalizing the degree of deterioration of the prediction object;
The state value set is obtained by using a learning data set which is a population of learning data including the state value set obtained by the state obtaining means and the label values assigned or corrected by the label calculation means. learning processing means for performing learning processing on a learner that inputs and outputs the label value;
function as
The learning data set includes time-series learning data composed of a plurality of sets of state values obtained in time-series from the same prediction object and a plurality of label values assigned by the label calculating means. includes
The label calculation means calculates a correction amount that increases as the label value increases when there is learning data with a learning error calculated during the learning process larger than a threshold in the time-series learning data. A learning processing program for collectively correcting a plurality of label values in the time-series learning data by adding each to an original label value .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020179978A JP7219430B2 (en) | 2020-10-27 | 2020-10-27 | LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020179978A JP7219430B2 (en) | 2020-10-27 | 2020-10-27 | LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022070744A JP2022070744A (en) | 2022-05-13 |
JP7219430B2 true JP7219430B2 (en) | 2023-02-08 |
Family
ID=81535026
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020179978A Active JP7219430B2 (en) | 2020-10-27 | 2020-10-27 | LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7219430B2 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018159169A1 (en) | 2017-03-03 | 2018-09-07 | パナソニックIpマネジメント株式会社 | Additional learning method for deterioration diagnosis system |
WO2020059099A1 (en) | 2018-09-20 | 2020-03-26 | 日本電気株式会社 | Label correction device |
-
2020
- 2020-10-27 JP JP2020179978A patent/JP7219430B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018159169A1 (en) | 2017-03-03 | 2018-09-07 | パナソニックIpマネジメント株式会社 | Additional learning method for deterioration diagnosis system |
WO2020059099A1 (en) | 2018-09-20 | 2020-03-26 | 日本電気株式会社 | Label correction device |
Also Published As
Publication number | Publication date |
---|---|
JP2022070744A (en) | 2022-05-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10521490B2 (en) | Equipment maintenance management system and equipment maintenance management method | |
JP7320368B2 (en) | FAILURE PREDICTION DEVICE, FAILURE PREDICTION METHOD AND COMPUTER PROGRAM | |
US20180365089A1 (en) | Abnormality detection system, abnormality detection method, abnormality detection program, and method for generating learned model | |
JP7036697B2 (en) | Monitoring system and monitoring method | |
WO2018071005A1 (en) | Deep long short term memory network for estimation of remaining useful life of the components | |
JP7279445B2 (en) | Prediction method, prediction program and information processing device | |
JP6521096B2 (en) | Display method, display device, and program | |
JP6489235B2 (en) | System analysis method, system analysis apparatus, and program | |
US11796992B2 (en) | Condition-based method for malfunction prediction | |
JP7566080B2 (en) | Improved predictive models | |
JP2020052714A5 (en) | ||
WO2011138911A1 (en) | Malfunction analysis apparatus, malfunction analysis method, and recording medium | |
JP7152938B2 (en) | Machine learning model building device and machine learning model building method | |
US20200167660A1 (en) | Automated heuristic deep learning-based modelling | |
US20210216901A1 (en) | Estimation system, estimation method, and estimation program | |
JP2020117209A (en) | Methods and systems for performing aircraft maintenance | |
JP2013196698A (en) | System monitoring | |
WO2022009010A1 (en) | Model fidelity monitoring and regeneration for manufacturing process decision support | |
JP7219430B2 (en) | LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM | |
US20220221836A1 (en) | Performance determination through extrapolation of learning curves | |
US20180121794A1 (en) | Method and system for machine failure prediction | |
US11176502B2 (en) | Analytical model training method for customer experience estimation | |
JP6973445B2 (en) | Display method, display device, and program | |
JP6701467B2 (en) | Learning device and learning method | |
CN117785522A (en) | Method and system for performing root cause analysis using a trained machine learning model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211004 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220926 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221025 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221110 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230117 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230119 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7219430 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |