JP2020046498A - Imaging device and tremor-damping method - Google Patents
Imaging device and tremor-damping method Download PDFInfo
- Publication number
- JP2020046498A JP2020046498A JP2018173654A JP2018173654A JP2020046498A JP 2020046498 A JP2020046498 A JP 2020046498A JP 2018173654 A JP2018173654 A JP 2018173654A JP 2018173654 A JP2018173654 A JP 2018173654A JP 2020046498 A JP2020046498 A JP 2020046498A
- Authority
- JP
- Japan
- Prior art keywords
- image
- vibration suppression
- processing
- unit
- amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Accessories Of Cameras (AREA)
- Adjustment Of Camera Lenses (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は、撮像装置に係り、特に制振機能を有する撮像装置および制振方法に関する。 The present invention relates to an imaging device, and more particularly, to an imaging device having a vibration suppression function and a vibration suppression method.
監視システムに用いられる雲台一体型カメラは、例えば、車・列車通過時の振動及び、風等の影響により雲台一体型カメラが振動し、出力に画像ブレが生じる。特にズームアップした際、画像ブレが目障りとなる。一般に、画像ブレは、高周波(例えば30Hz以上)でのブレは目障りとならないが、低周波(例えば10Hz以下)では特に目障りと感じられる。また、道路の落下物などを判別するためにズームアップした時など、画像ブレにより目視判別が困難となることもある。 In the camera integrated with a camera platform used in the monitoring system, for example, the camera integrated with a camera platform vibrates due to the influence of vibration when passing through a car or a train, wind, and the like, and image blur occurs in the output. Especially when zooming up, image blurring becomes annoying. In general, image blurring is not disturbing at high frequencies (for example, 30 Hz or higher), but is particularly disturbing at low frequencies (for example, 10 Hz or lower). In addition, when a zoom-up is performed to determine a falling object on a road or the like, visual determination may be difficult due to image blur.
雲台一体型カメラの画像ブレの振動対策として、画像処理を用いた画像スタビライザ(画像スタビライザ処理)が広く知られている。画像スタビライザがカメラ本体に搭載された雲台一体型カメラもある。また、画像スタビライザがカメラ本体に搭載されていない場合、監視カメラとモニタの間に設置することにより画像ブレを低減した映像をモニタに映し出す技術も知られている。 2. Description of the Related Art As a countermeasure against image shake vibration of a camera platform integrated camera, an image stabilizer (image stabilizer processing) using image processing is widely known. There is also a camera platform integrated camera in which an image stabilizer is mounted on the camera body. In addition, there is also known a technique in which, when an image stabilizer is not mounted on a camera body, an image with reduced image blur is displayed on a monitor by installing the image stabilizer between a monitoring camera and a monitor.
他の画像ブレ対策としてレンズユニットによる補正手段もある。また、パン方向及びチルト方向のそれぞれに対応して設けられた圧電素子等によるアクチュエータでレンズユニットを動かし振動によるブレを低減するアクチュエータ制振技術も知られている(例えば特許文献1参照)。 As another measure against image blur, there is also a correction unit using a lens unit. Further, there is also known an actuator vibration suppression technique for moving a lens unit by an actuator using a piezoelectric element or the like provided in each of a pan direction and a tilt direction to reduce blur due to vibration (for example, see Patent Document 1).
アクチュエータ制振技術は、振動の周波数が小さく振幅の大きな揺れで効果が大きい。また、鮮明な映像が得られない中でも効果を発揮する。画像スタビライザの技術は、アクチュエータ制振技術よりも高周波に有効だが、画面の切だしが必要で画角が小さくなる。 The actuator vibration suppression technique has a large effect with a vibration having a small vibration frequency and a large amplitude. In addition, the effect is exhibited even when clear images cannot be obtained. The image stabilizer technology is more effective at high frequencies than the actuator vibration suppression technology, but the screen angle is required and the angle of view is reduced.
画像ブレ対策を搭載した据付型の撮像装置では、これら異なる特徴を持つ画像ブレ補正技術を組み合わせて装置全体として画像ブレが低減するように組み合わせたハイブリッド制振型の製品がある。 Among fixed image pickup apparatuses equipped with image blur countermeasures, there are hybrid vibration suppression type products in which image blur correction techniques having different characteristics are combined to reduce image blur as a whole apparatus.
雲台一体型カメラの画像ブレをジャイロセンサ(振動センサ)とモータを使って制振する方法(以下、アクティブ制振)と画像処理で画像ブレ量を解析して画像を切り出す方法(以下、画像処理制振)とを併用して搭載する場合、アクティブ制振では低周波の大きな揺れ、画像処理制振では高周波の小さな揺れを補正するなど両方の特長を活かして効果的に画像ブレ低減を実現する方法がある。アクティブ制振ではジャイロセンサの値を読み取った後、制御部でジャイロセンサの値から振動の角速度を計算して、振動を低減する方向にモータを動かす指令を出す。モータが振動を打ち消す方向に動作すると画像のブレが低減される。 A method of controlling the image blur of a camera with a pan head using a gyro sensor (vibration sensor) and a motor (hereinafter referred to as active vibration suppression) and a method of analyzing the image blur amount by image processing and cutting out the image (hereinafter referred to as image When used in combination with (processing damping), active image damping corrects large low-frequency shaking, and image processing damping corrects small high-frequency shaking. There is a way to do that. In active vibration suppression, after reading the value of the gyro sensor, the control unit calculates the angular velocity of the vibration from the value of the gyro sensor, and issues a command to move the motor in a direction to reduce the vibration. When the motor operates in a direction to cancel the vibration, image blur is reduced.
雲台一体型カメラの画像ブレ対策としてアクティブ制振を用いる場合、画像ブレの原因(原因となる振動周波数)によりジャイロセンサの取付け位置を調整する場合がある。据付型カメラの土台部にセンサをとりつけした場合は雲台を固定した構造体に発生する振動を対象とした制振対策となる。また、カメラ部に取付けした場合は、土台部からパン軸、チルト軸を経由したカメラ部に伝達した振動を対象とする制振対策となる。センサの取付け位置は振動の対象の他、センサを検知した後の制御処理も大きく変わるため、カメラの用途によって選択される。 In the case where active vibration suppression is used as a measure against image blur of the camera platform integrated camera, the mounting position of the gyro sensor may be adjusted depending on the cause of the image blur (caused vibration frequency). When the sensor is mounted on the base of the fixed camera, it is a vibration suppression measure for vibration generated in the structure to which the camera platform is fixed. Further, when it is attached to the camera section, it is a vibration suppression measure for vibration transmitted from the base section to the camera section via the pan axis and the tilt axis. The mounting position of the sensor is selected depending on the application of the camera, because the control processing after detecting the sensor is greatly changed in addition to the object to be vibrated.
アクティブ制振では実際には、ジャイロセンサの検出値とカメラに現れる振動量に誤差が出ることがある。例えばジャイロセンサを雲台の土台部に取付けした場合、誤差の原因としては、ジャイロセンサが検出する振動がセンサを取付けした土台部のものであるのに対して、カメラ映像に現れる振動は土台部からパン軸、チルト軸を経由してカメラ部に伝達した振動になるので振動箇所の差がある。この時、振動が伝搬する過程でジャイロセンサの取付け箇所での検出軸とパン軸、チルト軸の取付け、組立誤差の他、雲台軸の揺れに対する剛性、またジャイロセンサの個体差などでも誤差が生じると考えられる。 In active vibration suppression, an error may actually occur between the value detected by the gyro sensor and the amount of vibration appearing in the camera. For example, when the gyro sensor is mounted on the base of the camera platform, the cause of the error is that the vibration detected by the gyro sensor is that of the base where the sensor is mounted, whereas the vibration that appears in the camera image is the vibration of the base. From the camera unit via the pan axis and the tilt axis. At this time, in addition to the mounting error of the detection axis and the pan axis and the tilt axis at the mounting point of the gyro sensor, the assembly error, the rigidity against the shaking of the camera platform axis, the individual difference of the gyro sensor, etc. Likely to occur.
雲台一体型カメラでは、これらの補正量をパラメータ(以下、「センサ補正値」)として保持して製造時に記録してアクティブ制振処理に使用するが、雲台カメラ設置場所の振動状況や経年劣化による剛性低下で設置後にセンサ補正値が変わることもあるため、雲台設置後も誤差を補正できることが望ましい。 In the camera with integrated head, these correction amounts are stored as parameters (hereinafter referred to as “sensor correction values”), recorded during manufacturing, and used for active vibration suppression processing. Since the sensor correction value may change after installation due to deterioration in rigidity due to deterioration, it is desirable that the error can be corrected even after installation of the camera platform.
アクティブ制振により画像のブレを低減させる場合の制御方法の一つにPID制御がある。PID制御はジャイロセンサからの値を比例、積分、微分量に換算してそれぞれにゲイン(以下、「PIDゲイン」)をかけて加算したものを制御量として定義する制御方法である。 PID control is one of the control methods for reducing image blurring by active vibration suppression. The PID control is a control method in which a value from a gyro sensor is converted into a proportional, integral, and derivative amount, each of which is multiplied by a gain (hereinafter, “PID gain”) and defined as a control amount.
PID制御では、ジャイロセンサで検出する振動の周波数と振幅を比例、積分、微分量に与えるそれぞれのゲインの組合せで制御効果が変わる。雲台一体型カメラでPID制御する場合、発生する振動に合わせたPIDゲイン調整を行うことが必要で、一般的にカメラ製造時や据付時に対応可能な振動、据付現場の振動に合わせてPIDゲインを調整する。 In the PID control, the control effect changes depending on the combination of the respective gains that give the frequency and amplitude of the vibration detected by the gyro sensor to the proportional, integral, and differential amounts. When performing PID control with a camera integrated with a pan head, it is necessary to adjust the PID gain in accordance with the generated vibration. In general, the PID gain is adjusted according to the vibration that can be handled at the time of camera manufacture and installation, and the vibration at the installation site. To adjust.
この時、PIDゲインの調整方法の一つとして、あらかじめ対応する振動で効果が確認されているPIDゲインを設定する方法があるが、据付場所の振動は装置の固定方法や現場の状況で変化するため、最適なPIDゲインを設定するには現場に合わせた微調整が求められ、設置の手間が増える。この場合、現地にてPIDゲインを変更してカメラ画像で制振効果を確認し、PIDゲインが最適化どうか判断するという手順の繰り返しになる。また、装置本体の構成部品の劣化などの要因で、同じ現場の振動であってもカメラ映像に表れる振動が設置直後と経年劣化後で変化する可能性があり、設置後のPIDゲイン調整が出来ない場合、装置の制振効果に影響する。 At this time, as one of the methods of adjusting the PID gain, there is a method of setting a PID gain, the effect of which is confirmed in advance by the corresponding vibration, but the vibration at the installation location changes depending on the fixing method of the device and the situation at the site. Therefore, in order to set the optimum PID gain, fine adjustment according to the site is required, and the installation time is increased. In this case, the procedure of changing the PID gain on the spot, confirming the vibration suppression effect with the camera image, and determining whether the PID gain is optimized is repeated. In addition, due to factors such as deterioration of the components of the device main body, even in the same on-site vibration, the vibration that appears in the camera image may change immediately after installation and after aging, so that PID gain adjustment after installation is not possible. Otherwise, it will affect the damping effect of the device.
PIDゲイン調整のもう一つの方法として、ジャイロセンサなどで取得したセンサ値を制御部で記録、解析して、PIDゲインを自動で調整する方法がある。この方法では、現場に発生する振動に合わせて自動でゲイン調整が可能になるが、振動を解析するアルゴリズムが複雑で解析精度の問題があり、また、センサとの通信や計算処理に時間もかかるため、制御周期が長くなり、対応可能な制振範囲が狭くなる可能性がある。また、最終的な判断基準は画像ブレが低減しているかどうかになるので、調整結果が最適化どうかの判断が難しい。 As another method of adjusting the PID gain, there is a method of recording and analyzing a sensor value acquired by a gyro sensor or the like by a control unit and automatically adjusting the PID gain. With this method, the gain can be automatically adjusted according to the vibrations that occur in the field.However, the algorithm for analyzing the vibrations is complicated, and there is a problem with the accuracy of the analysis. In addition, communication with the sensors and calculation processing take time. Therefore, there is a possibility that the control cycle becomes longer and the applicable vibration suppression range becomes narrower. Further, since the final criterion is whether or not the image blur is reduced, it is difficult to determine whether the adjustment result is optimized.
一方、画像処理制振は、画像解析から得られる画像ブレ量分、画像の切出し位置を変更するもので、対応可能な制振仕様は電気部品やアルゴリズムで決まってくるが、細かなゲインの調整は不要である。 On the other hand, image processing vibration suppression changes the image cutout position by the amount of image blur obtained from image analysis, and the applicable vibration suppression specification is determined by electrical components and algorithms, but fine gain adjustment Is unnecessary.
本発明は、このような状況に鑑みなされたもので、上記課題を解決することを目的とする。 The present invention has been made in view of such circumstances, and has as its object to solve the above problems.
本発明は、雲台に一体に構成されたカメラモジュールと、前記カメラモジュールの撮像方向を定めるアクチュエータと、前記カメラモジュールの振動を検知する振動センサと、前記振動センサの検出結果をもとに、前記アクチュエータに対してアクティブ制振制御を行うアクティブ制振制御部と、撮影した映像の画像ブレ量を算出する画像ブレ量算出部と、前記画像ブレ量をもとに画像処理制振処理を行う画像処理制振制御部と、を有し、前記アクティブ制振制御部は、前記画像ブレ量算出部が算出した前記画像ブレ量を取得し、前記アクティブ制振制御のゲイン調整に反映させる。これによって、映像の画像ブレ量を低減できるため、制振性能を向上させることができ、特に、画像処理制振処理において、広い画角の映像を切出し用いることができる。
また、前記アクティブ制振処理はPID制御によってなされ、前記アクティブ制振処理をオフかつ前記画像処理制振処理をオフにした状態において、前記振動センサのセンサ値を一定期間において取得し蓄積する振動センサ値取得部と、前記振動センサ値取得部における前記センサ値の取得期間と同じ一定期間において、前記画像ブレ量を取得し蓄積する画像ブレ量算出部と、前記一定期間における前記センサ値と前記画像ブレ量とを比較し、それら値の差を縮小するように、前記振動センサのセンサ値の補正量を算出するセンサ補正値計算処理部と、前記補正値をもとに前記PID制御に用いる制御量のゲイン値を調整するゲイン調整処理部と、を備えてもよい。これによって、振動センサによって得られるセンサ値(ブレ量)と映像中の画像ブレ量との差を縮小させる又はゼロにすることで、制振性能を向上させることができる。
本発明は、雲台に一体に構成されたカメラモジュールの制振方法であって、前記カメラモジュールに取りつけられた振動センサのセンサ値をもとにPID制御によりアクティブ制振処理を行うアクティブ制振処理工程と、前記カメラモジュールの撮影した映像の画像ブレをもとに画像処理制振処理を行う画像処理制振処理工程と、前記アクティブ制振処理をオフかつ前記画像処理制振処理をオフにした状態において得られた前記振動センサのセンサ値と前記画像ブレの量とを比較し、それら値の差を縮小するように前記PID制御に用いる制御量のゲイン値を調整するゲイン調整工程と、を備える。これによって、振動センサによって得られるセンサ値(ブレ量)と映像中の画像ブレ量との差を縮小させる又はゼロにすることで、制振性能を向上させることができる。
The present invention provides a camera module integrally formed on a camera platform, an actuator that determines an imaging direction of the camera module, a vibration sensor that detects vibration of the camera module, and a detection result of the vibration sensor. An active vibration suppression control unit that performs active vibration suppression control on the actuator, an image shake amount calculation unit that calculates the image shake amount of a captured video, and performs an image processing vibration suppression process based on the image shake amount An image processing vibration suppression control unit, wherein the active vibration suppression control unit acquires the image blur amount calculated by the image blur amount calculation unit, and reflects the image blur amount on the gain adjustment of the active vibration suppression control. As a result, the image blurring amount of the video can be reduced, so that the vibration damping performance can be improved. In particular, in the image processing vibration damping processing, a video having a wide angle of view can be cut out and used.
Further, the active vibration suppression processing is performed by PID control, and a vibration sensor that acquires and accumulates a sensor value of the vibration sensor for a certain period in a state where the active vibration suppression processing is turned off and the image processing vibration suppression processing is turned off. A value obtaining unit, an image blur amount calculating unit that obtains and accumulates the image blur amount during the same fixed period as the sensor value obtaining period in the vibration sensor value obtaining unit, and the sensor value and the image during the certain period. A sensor correction value calculation processing unit that calculates a correction amount of the sensor value of the vibration sensor so as to compare the amount of shake and reduce the difference between the values, and a control that is used for the PID control based on the correction value. A gain adjustment processing unit that adjusts the gain value of the quantity. Thereby, the difference between the sensor value (blur amount) obtained by the vibration sensor and the blur amount of the image in the video is reduced or set to zero, so that the vibration damping performance can be improved.
The present invention relates to a vibration damping method for a camera module integrally formed on a camera platform, wherein the active vibration damping processing performs active vibration damping processing by PID control based on a sensor value of a vibration sensor attached to the camera module. A processing step, an image processing vibration suppression processing step of performing image processing vibration suppression processing based on image blurring of an image captured by the camera module, and the active vibration suppression processing is turned off and the image processing vibration suppression processing is turned off. A gain adjustment step of comparing the sensor value of the vibration sensor and the amount of image blurring obtained in a state where the vibration has occurred, and adjusting a gain value of a control amount used for the PID control so as to reduce a difference between the values. Is provided. Thereby, the difference between the sensor value (blur amount) obtained by the vibration sensor and the blur amount of the image in the video is reduced or set to zero, so that the vibration damping performance can be improved.
本発明によれば、振動センサを用いたアクティブ制振機能と画像処理制振機能との二つの制振機能を有する撮像装置において、制振性能を向上させることができる。 ADVANTAGE OF THE INVENTION According to this invention, in the imaging device which has two vibration suppression functions of the active vibration suppression function using a vibration sensor and the image processing vibration suppression function, the vibration suppression performance can be improved.
以下、本発明の実施形態について図面を参照して詳細に説明する。図1は本実施形態に係る雲台一体型カメラ100を示し、図1(a)は外観、図1(b)は主要構成を模式的に示している。また、図2は、雲台一体型カメラ100の機能ブロック図であり、主に制振機能(振動による画像ブレの低減機能)に着目して示している。雲台一体型カメラ100は、アクティブ制振機能と画像処理制振機能とのハイブリッド制振機能を有し、その制振機能においてPID制御を適用したPID制振制御を用いる。
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 shows a camera platform integrated
図1に示すように、雲台一体型カメラ100は、カメラモジュール1を備え、チルト軸モータ及びパン軸モータを有するアクチュエータ8によって、パン軸回転方向2及びチルト軸回転方向3の2軸方向について旋回駆動可能である。
As shown in FIG. 1, the camera platform integrated
回転部である本体部4と土台部5は、図示されないスリップリング9aを介することでパン軸回転方向2に360°エンドレスで旋回する。本実施形態では、図1の雲台一体型カメラのパン軸のジャイロ補正値計算処理と制御ゲインを調整する手順について説明する。
The
図1に示す雲台一体型カメラ100の土台部5の外部(内部でもよい)には、振動センサとして3軸対応のジャイロセンサ6が取り付けられている。ジャイロセンサ6は、3軸方向のジャイロ信号を取得し、その信号をマイクロコンピュータ(後述のアクティブ制振制御部20)に伝送する。本実施形態では、ジャイロセンサ6は、土台部5に取りつけられたジャイロセンサ(A)6aと、本体部4に取りつけられたジャイロセンサ(B)6bの2箇所に設けられているが、このような構成に限らず、いずれか一方のみでもよい。ジャイロセンサ6をこのような構成とすることで、チルト軸9bのアクティブ制振処理をシンプルにすることができる。ジャイロセンサ6は、取付け位置である土台部5や本体部4の振動を検出する。なお、ジャイロ信号は、角速度として出力される。
A
雲台一体型カメラ100を振動のある場所(図示せず)に設置すると、土台部5、本体部4、カメラケース7を伝搬しカメラモジュール1を振動させる。この振動により画像ブレが生じる。ジャイロセンサ6はその振動を検出し、その検出結果が画像ブレ低減に利用される。
When the camera platform integrated
図2を参照してアクティブ制振機能と画像処理制振機能とのハイブリッド制振機能について説明する。図示のように、雲台一体型カメラ100は、カメラモジュール1を制御する制御部10を備える。制御部10は、アクティブ制振制御部20と、画像処理制振処理部30と、全体制御部40とを備える。なお、図示はしないが、無線LANやBLUETOOTH(登録商標)通信の機能(通信IF)を備え、操作端末99等と通信し所定のコマンドを送信したり、撮影した映像を送信したりすることが可能である。
The hybrid vibration suppression function of the active vibration suppression function and the image processing vibration suppression function will be described with reference to FIG. As shown in the drawing, the camera platform integrated
アクティブ制振制御部20は、例えば、MPU(Microprocessor)からなり、画像ブレ低減機能を実現する。その低減処理のため、アクティブ制振制御部20は、ゲイン調整処理部21と、変数保持部22と、ジャイロセンサデータ取得部23と、ジャイロセンサデータ記録部24と、アクティブ制振処理部25と、モータ制御パルス出力部26と、センサ補正値計算処理部27とを備える。
The active vibration
ジャイロセンサデータ取得部23は、ジャイロセンサ6からジャイロ信号を取得する。ジャイロセンサデータ記録部24は、取得したジャイロ信号を記録する。
The gyro sensor
アクティブ制振処理部25は、取得したジャイロ信号に基づきPID制御によりアクティブ制振処理を行い、ブレ低減を行う。モータ制御パルス出力部26は、アクティブ制振処理部25の演算結果に基づき、カメラ撮像方向設定モータ8(パン軸モータ8a、チルト軸モータ8b)を制御する。なお、PID制御において、P制御量、I制御量、D制御量の全てについてゲイン調整する必要が無い場合もある。すなわち、いずれかの制御量においてゲイン調整が有効に機能するもの、例えば「P制御量のみ」や、「P制御量及びD制御量」に着目して調整を行い、他の調整処理を省くこともできる。
The active vibration
アクティブ制振制御部20は、制振機能のON/OFFを切替え可能であり、制振機能がOFFの時にもジャイロセンサ値の記録のみ実行できる。この時、後述する画像処理制振処理部30により画像ブレ量計算のみ実行した場合の記録値はアクティブ制振処理部25から参照できる。
The active vibration
ゲイン調整処理部21は、PIDゲイン調整処理機能を実行する場合、アクティブ制振機能をON、画像処制振機能をOFFにして画像ブレ量計算のみを実行した状態で行う。この状態で雲台(土台部5)や本体部4(回転部)に振動が発生した場合、アクティブ制振処理により、カメラ映像の画像ブレは低減し、その時の画像ブレ量のみを記録することが出来る。この時、低減する画像ブレの量は、アクティブ制振のPIDゲインによって変化する。PIDゲイン調整処理機能は、あらかじめ指定した範囲でPIDゲインを変動させていき、PIDゲインごとの画像ブレ量を記録して、その中から画像ブレが最少になる場合のPIDゲインを決定する処理をする。
When executing the PID gain adjustment processing function, the gain
アクティブ制振処理部25は、アクティブ制振のPID制御処理において、ジャイロセンサ6の検出値を取得した後、ジャイロセンサ6の検出値に対してセンサ補正値計算処理部27が算出するセンサ補正値を取得し補正処理を施し、補正後の値からP制御量、I制御量、D制御量を計算する。
The active vibration
センサ補正値計算処理部27は、図5で後述するセンサ補正値計算処理によりセンサ補正値を算出する。ジャイロセンサ6の補正値を算出する機能として指定した時間の間、アクティブ制振処理部25は、ジャイロセンサ値のみを検出して記録し、また、画像処理制振処理部30における画像処理制振では、画像ブレ量のみを計算して記録する。この間、雲台(土台部5)を取付けした構造体に振動が発生した場合、同じ振動揺れをジャイロセンサ6と画像ブレ計算で同時に検出する。指定時間経過後にジャイロセンサ6の記録値と画像ブレ量の記録値を比較処理してジャイロセンサ6の補正値を算出する。
The sensor correction value calculation processing unit 27 calculates a sensor correction value by a sensor correction value calculation process described later with reference to FIG. During a time designated as a function for calculating the correction value of the
モータ制御パルス出力部26は、アクティブ制振処理部25が算出した制御量に対応し、それぞれにPIDゲインを掛けて加算した値に対応するパルスによってカメラ撮像方向設定モータ8に動作指令を送る。この時、ジャイロセンサ6の補正量計算で使用する値とPIDゲインとは、制振処理の中で値を変数として、変数保持部22に保持させ変更可能となっている。
The motor control
図3を参照して、アクティブ制振制御部20におけるアクティブ制振処理のフローを説明する。
With reference to FIG. 3, a flow of the active vibration suppression processing in the active vibration
アクティブ制振処理機能がONの場合(S11のYES)、ジャイロセンサデータ取得部23は、ジャイロセンサ値を取得し(S12)、センサ補正値計算処理部27がそのジャイロセンサ値に対して、変数保持部22に記録されているセンサ補正値を反映させるセンサ値補正処理を実行する(S13)。
When the active vibration suppression processing function is ON (YES in S11), the gyro sensor
アクティブ制振処理部25は、補正が施されたセンサ値に基づき、PID制御の制御量(P制御量、I制御量、D制御量)を算出する(S14)。モータ制御パルス出力部26は、算出された制御量に対応したカメラ撮像方向設定モータ8(パン軸モータ8a、チルト軸モータ8b)の動作量(すなわちパルス出力量)を算出し(S15)、カメラ撮像方向設定モータ8に対して動作指令を出力する(S16)。
The active vibration
アクティブ制振処理機能がOFFの場合(S11のNO)、アクティブ制振制御部20は、センサ補正量計算機能がONであれば(S17のYES)、ジャイロセンサデータ取得部23がジャイロセンサ6のジャイロセンサ値を取得し(S18)、ジャイロセンサデータ記録部24に記録する(S19)。センサ補正量計算機能がOFFであれば(S17のNO)、処理は実行されず終了となる。
When the active vibration suppression processing function is OFF (NO in S11), if the sensor correction amount calculation function is ON (YES in S17), the gyro sensor
図2に戻り、画像処理制振処理部30の説明をする。画像処理制振処理部30は、例えば、FPGA(Field Programmable Gate Array)であって、画像処理による画像ブレ低減機能を備える。画像ブレ低減機能を実行する具体的な構成として、画像処理制振処理部30は、カメラ映像取得31と、基準画像保存部32と、画像ブレ量算出部33と、画像切出位置算出部34と、画像切出し処理部35とを備える。
Returning to FIG. 2, the image processing vibration
カメラ映像取得31は、カメラモジュール1から映像(画像)を取得する。基準画像保存部32は基準画像を記録し保持する。画像ブレ量算出部33は、画像ブレ量を算出する。画像切出位置算出部34は、画像処理による制振処理において、画像の切出し位置を算出する。画像切出し処理部35は、画像切出位置算出部34が算出した画像の切出し位置に基づき、撮影した映像をトリミングして切出し、操作端末99等にカメラ映像表示出力する。
The camera video acquisition 31 acquires a video (image) from the
図4を参照して、画像処理制振処理部30による画像ブレ低減処理のフローを説明する。画像処理制振機能がONの場合(S21のYES)、カメラ映像取得31は、カメラモジュール1から映像を取得し(S22)、画像ブレ量算出部33がその映像の画像ブレ量を計算する(S23)。画像切出位置算出部34は算出した画像ブレ量から映像出力した場合にブレが無くなるように画像切出し位置を算出し、画像切出し処理部35がカメラ画像の切出し処理を行い(S24)、切り出した画像を表示出力する(S25)。
With reference to FIG. 4, a flow of the image blur reduction processing by the image processing vibration
画像処理制振機能がOFFの場合(S21のNO)、PIDゲイン調整処理機能がONかセンサ補正量計算処理がONであれば(S26のYES)、カメラ映像取得31はカメラモジュール1から映像を取得し(S27)、画像ブレ量算出部33がその映像の画像ブレ量を計算し全体制御部40に通知する(S28)。全体制御部40は、画像ブレ量データ保持部44に画像ブレ量を記録する(S29)。
When the image processing vibration suppression function is OFF (NO in S21), if the PID gain adjustment processing function is ON or the sensor correction amount calculation processing is ON (YES in S26), the camera image acquisition 31 obtains an image from the
PIDゲイン調整処理機能及びセンサ補正量計算処理のいずれもOFFであれば(S26のNO)、当該フローによる処理は終了する。 If both the PID gain adjustment processing function and the sensor correction amount calculation processing are OFF (NO in S26), the processing according to the flow ends.
再度図2に戻り、全体制御部40の説明をする。全体制御部40は、画像処理制振ON/OFF部41と、アクティブ制振ON/OFF部42と、PIDゲイン自動調整ON/OFF部43と、画像ブレ量データ保持部44と、を備える。
Returning to FIG. 2 again, the
画像処理制振ON/OFF部41は、画像処理制振処理部30による画像処理制振機能のON/OFFを実行する。これによって画像処理制振機能はON/OFF切替え可能となり、画像処理制振機能がOFFの時も画像ブレ量計算のみを実行して記録する機能を持たせる。この時、画像ブレ量計算のみ実行した場合の記録値はアクティブ制振制御部20から参照できる。
The image processing vibration suppression ON /
アクティブ制振ON/OFF部42は、アクティブ制振制御部20によるアクティブ制振機能のON/OFFを実行する。これによってアクティブ制振機能はON/OFFを切替え可能となり、制振機能がOFFの時にもジャイロセンサ値の記録のみ実行できる。
The active vibration suppression ON /
PIDゲイン自動調整ON/OFF部43は、所定のコマンドを取得してPIDゲイン調整機能のON/OFFを実行する。画像ブレ量データ保持部44は、画像ブレ量算出部33が算出した画像ブレ量を記録し保持する。センサ補正量計算ON/OFF部45は、所定のコマンド(センサ補正量計算コマンド)を取得してジャイロセンサ6のジャイロセンサ値の補正量計算処理のON/OFFを実行する。
The PID gain automatic adjustment ON /
つづいて図5を参照してセンサ補正値計算処理のフローを説明する。この処理は、制振制御がOFFの状態で行われる。センサ補正値計算処理部27は、所定のトリガーによって処理をスタートさせ、まず指定時間を取得する(S31)。トリガーとして、例えば、雲台一体型カメラ100の外部操作メニューにより指示されるセンサ補正量計算コマンドがある。実使用ではPIDゲイン調整実行処理の前に組み込んでよい。指定時間は、予め初期値として設定されていてもよいし、操作端末99から管理者等の指定を受けてもよい。つぎに、ジャイロセンサデータ取得部23が、ジャイロセンサ6からジャイロセンサ値を取得し、ジャイロセンサデータ記録部24に記録する(S32)。この処理は、図3のS18、S19の処理に対応しアクティブ制振をOFFの状態で実行される。
Next, the flow of the sensor correction value calculation process will be described with reference to FIG. This process is performed with the vibration suppression control turned off. The sensor correction value calculation processing unit 27 starts the process by a predetermined trigger, and first acquires a specified time (S31). As the trigger, for example, there is a sensor correction amount calculation command specified by an external operation menu of the camera platform integrated
つぎに、画像ブレ量算出部33が、カメラモジュール1の撮影した映像から画像ブレ量を算出し画像ブレ量データ保持部44に記録する(S33)。この処理は、図4のS27〜S29の処理に対応し、画像処理制振をOFFした状態で実行される。
Next, the image blur
所定時間が終了していない場合(S34のNO)、ジャイロセンサ値記録処理(S32)及び画像ブレ量記録処理(S33)は継続する。 If the predetermined time has not elapsed (NO in S34), the gyro sensor value recording process (S32) and the image blur amount recording process (S33) continue.
所定時間が終了すると(S34のYES)、センサ補正値計算処理部27はジャイロセンサデータ記録部24に記録してあるジャイロセンサ値と画像ブレ量データ保持部44に記録されている画像ブレ量の記録値とを比較し差分を検出し(S35)、それらの間に差が無いようにセンサ補正値を決定し記録する(S36)。
When the predetermined time has elapsed (YES in S34), the sensor correction value calculation processing unit 27 calculates the gyro sensor value recorded in the gyro sensor
センサ補正値計算処理では最初にジャイロセンサ6の検出値の記録と画像ブレ量の計算値の記録のみを一定時間(例えば1分間)行う。画像ブレ低減処理を行わないため、この間記録されるデータは同じ振動内容のデータとなる。ただし、ジャイロセンサ6の値は雲台の土台部5、画像ブレ量の値はカメラ部(カメラモジュール1)に伝搬した振動となるため、記録データに誤差が発生する。誤差を事前に計算して、ジャイロセンサ6の補正値として変数保持部22に記録、アクティブ制振処理で使用することで制振効果を高めることができる。
In the sensor correction value calculation process, first, only the recording of the detection value of the
ジャイロセンサ6のデータは角速度であるため、ジャイロセンサ6のサンプリング時間で積分すると角度を得られる。一方、画像ブレ量もカメラモジュール1の画角とピクセル数から角度を得られる。同じ振動であれば、ジャイロセンサ値から得られる振幅角度と画像ブレ計算から得られる振幅角度は同じ値になるはずなので、その差分が大きければ比率を計算して、アクティブ制振の中でジャイロセンサの補正値として組み込むことでよりカメラ映像のブレを反映した補正が可能になる。
Since the data of the
図6を参照してアクティブ制振処理におけるゲイン調整処理のフローを説明する。ゲイン調整処理部21は、所定のトリガーによって処理を開始する。ここでは、雲台一体型カメラ100の外部操作メニューからPIDゲイン調整コマンドが送信されPIDゲイン自動調整ON/OFF部43が取得する形態をとる。実使用では定期的に実行する処理としてもよいし、雲台一体型カメラ100のエラー発生時のリスタート直後に実行されてもよいし、画像処理制振において補正量が所定値を超えた場合に実行されてもよい。
The flow of the gain adjustment process in the active vibration suppression process will be described with reference to FIG. The gain
全体制御部40においてPIDゲイン自動調整ON/OFF部43がPIDゲイン調整コマンドを受信すると、画像処理制振処理部30に画像ブレ量計算(画像補正は行わない)の実行指令を出す(S41)。アクティブ制振が動作していない状況では、画像ブレ補正が働かないため振動が伝わる度に画像ブレが発生する。ゲインの自動調整処理の間、画像ブレ量算出部33は、画像ブレ量を全体制御部40に出力し続ける。全体制御部40ではアクティブ制振処理部のゲインごと制振効果を記録するタイミングに合わせて、画像ブレ量算出部33から受信する画像ブレ量を画像ブレ量データ保持部44に記録する。
When the PID gain automatic adjustment ON /
続いて全体制御部40はアクティブ制振制御部20のゲイン調整処理部21に処理実行を命令する。ゲイン調整処理部21は、ゲイン設定値nを取得する(S42)。初期ゲインを「1」として、処理回数となる「n」まで繰り返し実行される。ゲイン調整処理実行開始のため、PIDゲインをあらかじめ設定してある初期ゲイン「1」に設定する。
Subsequently, the
アクティブ制振制御部20ではゲインを初期値に設定後、アクティブ制振処理を開始するとともに、全体制御部に画像ブレ量データの保存開始のタイミングを伝える。全体制御部40は画像ブレ量を一定時間(たとえば5秒)記録し、アクティブ制振制御部20ではジャイロセンサの値を同じ時間記録する(S43)。雲台一体型カメラ100に発生する振動は常に一定ではないので、アクティブ制振の制振効果の判定のため一定時間のデータ記録が必要となる。
After setting the gain to the initial value, the active vibration
指定時間のデータ記録後、アクティブ制振処理部25は、一度アクティブ制振処理とジャイロセンサ値の記録を中断して、全体制御部40にも画像ブレ量の記録停止を伝える。処理の停止を確認後、全体制御部40は記録した画像ブレ量の最大値を検索して、このときの設定ゲインでのモータ制御方向、速度が計算されアクティブ制振の結果として保存する(S44)。
After recording the data for the designated time, the active vibration
この時、ジャイロセンサ6の記録データは画像ブレ量の記録と比較することでアクティブ制振が正常に動作していたかを判定する材料とする。例えば、ジャイロセンサの値が小さい時に画像ブレ量が最大値を記録した場合、信頼性の低い値と判断することが出来る。
At this time, the recording data of the
以上の処理を1ゲインの設定として、あらかじめ設定していたゲイン範囲全てで処理を繰り返す(S45のNO)。アクティブ制振制御部20はゲイン範囲内の結果を全て取得した後(S45のYES)、アクティブ制振の処理を停止して、全体制御部40に記録取得の処理が終了したことを伝え、全体制御部40は記録したゲイン値と画像ブレ量の最大値のセットを検査し、画像ブレ量が一番小さくなったゲイン値を抽出する(S46)。その後、PIDゲイン設定処理によって、抽出したゲイン値がアクティブ制振処理部25のゲイン値に上書きされ(S47)、自動ゲイン処理が終了となる。
The above processing is set as one gain, and the processing is repeated in the entire gain range set in advance (NO in S45). After acquiring all the results within the gain range (YES in S45), the active vibration damping
以上、本実施形態によれば、雲台一体型カメラ100を振動発生場所に設置した状態で、アクティブ制振と画像ブレ補正の機能を使用してアクティブ制振側のゲインの自動調整を実現することができる。
As described above, according to the present embodiment, the gain of the active vibration suppression side is automatically adjusted using the functions of the active vibration suppression and the image blur correction in a state where the camera-integrated
以上、本発明を実施形態をもとに説明した。この実施形態は例示であり、それらの各構成要素の組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。例えば、画像ブレ量を算出し、アクティブ制振処理にフィードバックすることで、画像処理制振処理を行う場合に、トリミングする領域を小さくすることで、広い画角の映像出力が可能となる。 The present invention has been described based on the embodiments. This embodiment is an exemplification, and it will be understood by those skilled in the art that various modifications can be made to the combination of the components, and that such modifications are also within the scope of the present invention. For example, by calculating the image blurring amount and feeding it back to the active vibration suppression processing, when performing the image processing vibration suppression processing, it is possible to output a video with a wide angle of view by reducing the trimming area.
1 カメラモジュール
2 パン軸回転方向
3 チルト軸回転方向
4 本体部
5 土台部
6 ジャイロセンサ
7 カメラケース
8 カメラ撮像方向設定モータ
9a パン軸
9b チルト軸
10 制御部
20 アクティブ制振制御部
21 ゲイン調整処理部
22 変数保持部
23 ジャイロセンサデータ取得部
24 ジャイロセンサデータ記録部
25 アクティブ制振処理部
26 モータ制御パルス出力部
27 センサ補正値計算処理部
30 画像処理制振処理部
31 カメラ映像取得
32 基準画像保存部
33 画像ブレ量算出部
34 画像切出位置算出部
35 画像切出し処理部
40 全体制御部
41 画像処理制振ON/OFF部
42 アクティブ制振ON/OFF部
43 PIDゲイン自動調整ON/OFF部
44 画像ブレ量データ保持部
45 センサ補正量計算ON/OFF部
99 操作端末
DESCRIPTION OF
Claims (3)
前記カメラモジュールの撮像方向を定めるアクチュエータと、
前記カメラモジュールの振動を検知する振動センサと、
前記振動センサの検出結果をもとに、前記アクチュエータに対してアクティブ制振制御を行うアクティブ制振制御部と、
撮影した映像の画像ブレ量を算出する画像ブレ量算出部と、
前記画像ブレ量をもとに画像処理制振処理を行う画像処理制振制御部と、
を有し、
前記アクティブ制振制御部は、前記画像ブレ量算出部が算出した前記画像ブレ量を取得し、前記アクティブ制振制御のゲイン調整に反映させることを特徴とする撮像装置。 A camera module integrated with the camera platform,
An actuator for determining an imaging direction of the camera module;
A vibration sensor for detecting vibration of the camera module,
Based on the detection result of the vibration sensor, an active vibration suppression control unit that performs active vibration suppression control on the actuator,
An image blur amount calculation unit that calculates an image blur amount of a shot video;
An image processing vibration suppression control unit that performs image processing vibration suppression processing based on the image blur amount,
Has,
The imaging apparatus, wherein the active vibration suppression control unit acquires the image shake amount calculated by the image shake amount calculation unit and reflects the image shake amount on a gain adjustment of the active vibration suppression control.
前記アクティブ制振処理をオフかつ前記画像処理制振処理をオフにした状態において、前記振動センサのセンサ値を一定期間において取得し蓄積する振動センサ値取得部と、
前記振動センサ値取得部における前記センサ値の取得期間と同じ一定期間において、前記画像ブレ量を取得し蓄積する画像ブレ量算出部と、
前記一定期間における前記センサ値と前記画像ブレ量とを比較し、それら値の差を縮小するように、前記振動センサのセンサ値の補正量を算出するセンサ補正値計算処理部と、
前記補正値をもとに前記PID制御に用いる制御量のゲイン値を調整するゲイン調整処理部と、
を備えることを特徴とする撮像装置。 The active vibration suppression processing is performed by PID control,
In a state where the active vibration suppression processing is turned off and the image processing vibration suppression processing is turned off, a vibration sensor value acquisition unit that acquires and accumulates a sensor value of the vibration sensor for a certain period,
An image blur amount calculation unit that obtains and accumulates the image blur amount during the same fixed period as the sensor value obtaining period in the vibration sensor value obtaining unit,
A sensor correction value calculation processing unit that compares the sensor value and the image blur amount during the certain period, and calculates a correction amount of the sensor value of the vibration sensor so as to reduce a difference between the values.
A gain adjustment processing unit that adjusts a gain value of a control amount used for the PID control based on the correction value;
An imaging device comprising:
前記カメラモジュールに取りつけられた振動センサのセンサ値をもとにPID制御によりアクティブ制振処理を行うアクティブ制振処理工程と、
前記カメラモジュールの撮影した映像の画像ブレをもとに画像処理制振処理を行う画像処理制振処理工程と、
前記アクティブ制振処理をオフかつ前記画像処理制振処理をオフにした状態において得られた前記振動センサのセンサ値と前記画像ブレの量とを比較し、それら値の差を縮小するように前記PID制御に用いる制御量のゲイン値を調整するゲイン調整工程と、
を備えることを特徴とする制振方法。 A method of damping a camera module integrated with a camera platform,
An active vibration suppression processing step of performing active vibration suppression processing by PID control based on a sensor value of a vibration sensor attached to the camera module;
An image processing vibration suppression processing step of performing image processing vibration suppression processing based on image blur of a video taken by the camera module,
The sensor value of the vibration sensor obtained in a state where the active vibration suppression processing is turned off and the image processing vibration suppression processing is turned off is compared with the amount of image blur, and the difference between the values is reduced so as to reduce the difference between the values. A gain adjustment step of adjusting a gain value of a control amount used for PID control;
A vibration damping method comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018173654A JP7202823B2 (en) | 2018-09-18 | 2018-09-18 | Imaging device and damping method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018173654A JP7202823B2 (en) | 2018-09-18 | 2018-09-18 | Imaging device and damping method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020046498A true JP2020046498A (en) | 2020-03-26 |
JP7202823B2 JP7202823B2 (en) | 2023-01-12 |
Family
ID=69899609
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018173654A Active JP7202823B2 (en) | 2018-09-18 | 2018-09-18 | Imaging device and damping method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7202823B2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020118758A (en) * | 2019-01-21 | 2020-08-06 | キヤノン株式会社 | Imaging device and method of controlling the same |
WO2022019197A1 (en) * | 2020-07-21 | 2022-01-27 | ソニーグループ株式会社 | Imaging device, lens tube device, imaging method, transmission method |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006065103A (en) * | 2004-08-27 | 2006-03-09 | Nikon Corp | Blurring correcting apparatus and camera system |
JP2007158853A (en) * | 2005-12-06 | 2007-06-21 | Konica Minolta Opto Inc | Shake correcting device |
JP2009300614A (en) * | 2008-06-11 | 2009-12-24 | Canon Inc | Imaging device |
JP2018055096A (en) * | 2016-09-27 | 2018-04-05 | 株式会社日立国際電気 | Imaging apparatus |
-
2018
- 2018-09-18 JP JP2018173654A patent/JP7202823B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006065103A (en) * | 2004-08-27 | 2006-03-09 | Nikon Corp | Blurring correcting apparatus and camera system |
JP2007158853A (en) * | 2005-12-06 | 2007-06-21 | Konica Minolta Opto Inc | Shake correcting device |
JP2009300614A (en) * | 2008-06-11 | 2009-12-24 | Canon Inc | Imaging device |
JP2018055096A (en) * | 2016-09-27 | 2018-04-05 | 株式会社日立国際電気 | Imaging apparatus |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020118758A (en) * | 2019-01-21 | 2020-08-06 | キヤノン株式会社 | Imaging device and method of controlling the same |
JP7301542B2 (en) | 2019-01-21 | 2023-07-03 | キヤノン株式会社 | Imaging device and its control method |
WO2022019197A1 (en) * | 2020-07-21 | 2022-01-27 | ソニーグループ株式会社 | Imaging device, lens tube device, imaging method, transmission method |
Also Published As
Publication number | Publication date |
---|---|
JP7202823B2 (en) | 2023-01-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7590336B2 (en) | Image stabilizer | |
CN103176332B (en) | Device for image stabilization and control method, optical device and picture pick-up device | |
JP5489709B2 (en) | Lens device | |
US11363205B2 (en) | Imaging apparatus and imaging system | |
US10728454B2 (en) | Imaging apparatus configured to perform image stabilization and control method thereof | |
JP2020046498A (en) | Imaging device and tremor-damping method | |
JP5268546B2 (en) | Optical apparatus and control method thereof | |
EP2031440B1 (en) | Image stabilization apparatus for camera | |
JP4689328B2 (en) | Shooting system | |
JP2011118073A (en) | Image blur correcting apparatus | |
JP2010025965A (en) | Image stabilization control apparatus and imaging apparatus | |
JP4305723B2 (en) | Image blur correction device | |
JP5152769B2 (en) | Improvements in or relating to methods for stabilizing optical devices | |
JP2019145956A (en) | Imaging apparatus, control method of the same, and program | |
JP2762811B2 (en) | Anti-vibration camera | |
JP2008003327A (en) | Camera device | |
JP3253067B2 (en) | Imaging device | |
JP7362457B2 (en) | Imaging device drive control method, imaging device | |
JP4723817B2 (en) | Imaging device with moving mechanism | |
WO2019222966A1 (en) | Gimbal control method and apparatus | |
WO2022138122A1 (en) | Information processing device, information processing method, and program | |
JP2001100106A (en) | Image stabilizer | |
JP5207861B2 (en) | Image shake correction apparatus, image pickup apparatus including the same, optical apparatus, and image shake correction apparatus control method | |
JP7374661B2 (en) | Control device, imaging device, and lens device | |
JP2006319852A (en) | Imaging apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210708 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220520 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220531 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220721 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221101 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221207 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221220 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221226 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7202823 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |