JP2020046498A - Imaging device and tremor-damping method - Google Patents

Imaging device and tremor-damping method Download PDF

Info

Publication number
JP2020046498A
JP2020046498A JP2018173654A JP2018173654A JP2020046498A JP 2020046498 A JP2020046498 A JP 2020046498A JP 2018173654 A JP2018173654 A JP 2018173654A JP 2018173654 A JP2018173654 A JP 2018173654A JP 2020046498 A JP2020046498 A JP 2020046498A
Authority
JP
Japan
Prior art keywords
image
vibration suppression
processing
unit
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018173654A
Other languages
Japanese (ja)
Other versions
JP7202823B2 (en
Inventor
友紀 中島
Tomonori Nakajima
友紀 中島
廣川 智
Satoshi Hirokawa
智 廣川
中川 直之
Naoyuki Nakagawa
直之 中川
文也 飯田
Fumiya Ida
文也 飯田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Kokusai Electric Inc
Original Assignee
Hitachi Kokusai Electric Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Kokusai Electric Inc filed Critical Hitachi Kokusai Electric Inc
Priority to JP2018173654A priority Critical patent/JP7202823B2/en
Publication of JP2020046498A publication Critical patent/JP2020046498A/en
Application granted granted Critical
Publication of JP7202823B2 publication Critical patent/JP7202823B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Accessories Of Cameras (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Studio Devices (AREA)

Abstract

To provide a technology that upgrades a tremor-damping processing performance of a universal head integral-type camera.SOLUTION: A universal head integral-type camera has: a camera module 1 that is integrally constituted with a universal head (base part 5); an actuator (camera imaging direction setting motor 8) that determines an imaging direction of the camera module 1; a gyro sensor 6 that detects oscillation of the camera module 1; an active tremor-damping control unit 20 that performs active tremor-damping control on the basis of a sensor value of the gyro sensor 6; an image burring-amount calculation unit 33 that calculates an amount of image burring of a taken video; and an image processing tremor-damping control unit 30 that performs processing of an image processing tremor-damping on the basis of the image burring. The active tremor control controlling unit 20 is configured to: acquire the amount of image blurring calculated by the image blurring-amount calculation unit 33; and reflect the amount of image blurring to a gain adjustment of the active tremor-damping control.SELECTED DRAWING: Figure 2

Description

本発明は、撮像装置に係り、特に制振機能を有する撮像装置および制振方法に関する。   The present invention relates to an imaging device, and more particularly, to an imaging device having a vibration suppression function and a vibration suppression method.

監視システムに用いられる雲台一体型カメラは、例えば、車・列車通過時の振動及び、風等の影響により雲台一体型カメラが振動し、出力に画像ブレが生じる。特にズームアップした際、画像ブレが目障りとなる。一般に、画像ブレは、高周波(例えば30Hz以上)でのブレは目障りとならないが、低周波(例えば10Hz以下)では特に目障りと感じられる。また、道路の落下物などを判別するためにズームアップした時など、画像ブレにより目視判別が困難となることもある。   In the camera integrated with a camera platform used in the monitoring system, for example, the camera integrated with a camera platform vibrates due to the influence of vibration when passing through a car or a train, wind, and the like, and image blur occurs in the output. Especially when zooming up, image blurring becomes annoying. In general, image blurring is not disturbing at high frequencies (for example, 30 Hz or higher), but is particularly disturbing at low frequencies (for example, 10 Hz or lower). In addition, when a zoom-up is performed to determine a falling object on a road or the like, visual determination may be difficult due to image blur.

雲台一体型カメラの画像ブレの振動対策として、画像処理を用いた画像スタビライザ(画像スタビライザ処理)が広く知られている。画像スタビライザがカメラ本体に搭載された雲台一体型カメラもある。また、画像スタビライザがカメラ本体に搭載されていない場合、監視カメラとモニタの間に設置することにより画像ブレを低減した映像をモニタに映し出す技術も知られている。   2. Description of the Related Art As a countermeasure against image shake vibration of a camera platform integrated camera, an image stabilizer (image stabilizer processing) using image processing is widely known. There is also a camera platform integrated camera in which an image stabilizer is mounted on the camera body. In addition, there is also known a technique in which, when an image stabilizer is not mounted on a camera body, an image with reduced image blur is displayed on a monitor by installing the image stabilizer between a monitoring camera and a monitor.

他の画像ブレ対策としてレンズユニットによる補正手段もある。また、パン方向及びチルト方向のそれぞれに対応して設けられた圧電素子等によるアクチュエータでレンズユニットを動かし振動によるブレを低減するアクチュエータ制振技術も知られている(例えば特許文献1参照)。   As another measure against image blur, there is also a correction unit using a lens unit. Further, there is also known an actuator vibration suppression technique for moving a lens unit by an actuator using a piezoelectric element or the like provided in each of a pan direction and a tilt direction to reduce blur due to vibration (for example, see Patent Document 1).

アクチュエータ制振技術は、振動の周波数が小さく振幅の大きな揺れで効果が大きい。また、鮮明な映像が得られない中でも効果を発揮する。画像スタビライザの技術は、アクチュエータ制振技術よりも高周波に有効だが、画面の切だしが必要で画角が小さくなる。   The actuator vibration suppression technique has a large effect with a vibration having a small vibration frequency and a large amplitude. In addition, the effect is exhibited even when clear images cannot be obtained. The image stabilizer technology is more effective at high frequencies than the actuator vibration suppression technology, but the screen angle is required and the angle of view is reduced.

画像ブレ対策を搭載した据付型の撮像装置では、これら異なる特徴を持つ画像ブレ補正技術を組み合わせて装置全体として画像ブレが低減するように組み合わせたハイブリッド制振型の製品がある。   Among fixed image pickup apparatuses equipped with image blur countermeasures, there are hybrid vibration suppression type products in which image blur correction techniques having different characteristics are combined to reduce image blur as a whole apparatus.

雲台一体型カメラの画像ブレをジャイロセンサ(振動センサ)とモータを使って制振する方法(以下、アクティブ制振)と画像処理で画像ブレ量を解析して画像を切り出す方法(以下、画像処理制振)とを併用して搭載する場合、アクティブ制振では低周波の大きな揺れ、画像処理制振では高周波の小さな揺れを補正するなど両方の特長を活かして効果的に画像ブレ低減を実現する方法がある。アクティブ制振ではジャイロセンサの値を読み取った後、制御部でジャイロセンサの値から振動の角速度を計算して、振動を低減する方向にモータを動かす指令を出す。モータが振動を打ち消す方向に動作すると画像のブレが低減される。   A method of controlling the image blur of a camera with a pan head using a gyro sensor (vibration sensor) and a motor (hereinafter referred to as active vibration suppression) and a method of analyzing the image blur amount by image processing and cutting out the image (hereinafter referred to as image When used in combination with (processing damping), active image damping corrects large low-frequency shaking, and image processing damping corrects small high-frequency shaking. There is a way to do that. In active vibration suppression, after reading the value of the gyro sensor, the control unit calculates the angular velocity of the vibration from the value of the gyro sensor, and issues a command to move the motor in a direction to reduce the vibration. When the motor operates in a direction to cancel the vibration, image blur is reduced.

雲台一体型カメラの画像ブレ対策としてアクティブ制振を用いる場合、画像ブレの原因(原因となる振動周波数)によりジャイロセンサの取付け位置を調整する場合がある。据付型カメラの土台部にセンサをとりつけした場合は雲台を固定した構造体に発生する振動を対象とした制振対策となる。また、カメラ部に取付けした場合は、土台部からパン軸、チルト軸を経由したカメラ部に伝達した振動を対象とする制振対策となる。センサの取付け位置は振動の対象の他、センサを検知した後の制御処理も大きく変わるため、カメラの用途によって選択される。   In the case where active vibration suppression is used as a measure against image blur of the camera platform integrated camera, the mounting position of the gyro sensor may be adjusted depending on the cause of the image blur (caused vibration frequency). When the sensor is mounted on the base of the fixed camera, it is a vibration suppression measure for vibration generated in the structure to which the camera platform is fixed. Further, when it is attached to the camera section, it is a vibration suppression measure for vibration transmitted from the base section to the camera section via the pan axis and the tilt axis. The mounting position of the sensor is selected depending on the application of the camera, because the control processing after detecting the sensor is greatly changed in addition to the object to be vibrated.

特開2018−55096号公報JP, 2018-55096, A

アクティブ制振では実際には、ジャイロセンサの検出値とカメラに現れる振動量に誤差が出ることがある。例えばジャイロセンサを雲台の土台部に取付けした場合、誤差の原因としては、ジャイロセンサが検出する振動がセンサを取付けした土台部のものであるのに対して、カメラ映像に現れる振動は土台部からパン軸、チルト軸を経由してカメラ部に伝達した振動になるので振動箇所の差がある。この時、振動が伝搬する過程でジャイロセンサの取付け箇所での検出軸とパン軸、チルト軸の取付け、組立誤差の他、雲台軸の揺れに対する剛性、またジャイロセンサの個体差などでも誤差が生じると考えられる。   In active vibration suppression, an error may actually occur between the value detected by the gyro sensor and the amount of vibration appearing in the camera. For example, when the gyro sensor is mounted on the base of the camera platform, the cause of the error is that the vibration detected by the gyro sensor is that of the base where the sensor is mounted, whereas the vibration that appears in the camera image is the vibration of the base. From the camera unit via the pan axis and the tilt axis. At this time, in addition to the mounting error of the detection axis and the pan axis and the tilt axis at the mounting point of the gyro sensor, the assembly error, the rigidity against the shaking of the camera platform axis, the individual difference of the gyro sensor, etc. Likely to occur.

雲台一体型カメラでは、これらの補正量をパラメータ(以下、「センサ補正値」)として保持して製造時に記録してアクティブ制振処理に使用するが、雲台カメラ設置場所の振動状況や経年劣化による剛性低下で設置後にセンサ補正値が変わることもあるため、雲台設置後も誤差を補正できることが望ましい。   In the camera with integrated head, these correction amounts are stored as parameters (hereinafter referred to as “sensor correction values”), recorded during manufacturing, and used for active vibration suppression processing. Since the sensor correction value may change after installation due to deterioration in rigidity due to deterioration, it is desirable that the error can be corrected even after installation of the camera platform.

アクティブ制振により画像のブレを低減させる場合の制御方法の一つにPID制御がある。PID制御はジャイロセンサからの値を比例、積分、微分量に換算してそれぞれにゲイン(以下、「PIDゲイン」)をかけて加算したものを制御量として定義する制御方法である。   PID control is one of the control methods for reducing image blurring by active vibration suppression. The PID control is a control method in which a value from a gyro sensor is converted into a proportional, integral, and derivative amount, each of which is multiplied by a gain (hereinafter, “PID gain”) and defined as a control amount.

PID制御では、ジャイロセンサで検出する振動の周波数と振幅を比例、積分、微分量に与えるそれぞれのゲインの組合せで制御効果が変わる。雲台一体型カメラでPID制御する場合、発生する振動に合わせたPIDゲイン調整を行うことが必要で、一般的にカメラ製造時や据付時に対応可能な振動、据付現場の振動に合わせてPIDゲインを調整する。   In the PID control, the control effect changes depending on the combination of the respective gains that give the frequency and amplitude of the vibration detected by the gyro sensor to the proportional, integral, and differential amounts. When performing PID control with a camera integrated with a pan head, it is necessary to adjust the PID gain in accordance with the generated vibration. In general, the PID gain is adjusted according to the vibration that can be handled at the time of camera manufacture and installation, and the vibration at the installation site. To adjust.

この時、PIDゲインの調整方法の一つとして、あらかじめ対応する振動で効果が確認されているPIDゲインを設定する方法があるが、据付場所の振動は装置の固定方法や現場の状況で変化するため、最適なPIDゲインを設定するには現場に合わせた微調整が求められ、設置の手間が増える。この場合、現地にてPIDゲインを変更してカメラ画像で制振効果を確認し、PIDゲインが最適化どうか判断するという手順の繰り返しになる。また、装置本体の構成部品の劣化などの要因で、同じ現場の振動であってもカメラ映像に表れる振動が設置直後と経年劣化後で変化する可能性があり、設置後のPIDゲイン調整が出来ない場合、装置の制振効果に影響する。   At this time, as one of the methods of adjusting the PID gain, there is a method of setting a PID gain, the effect of which is confirmed in advance by the corresponding vibration, but the vibration at the installation location changes depending on the fixing method of the device and the situation at the site. Therefore, in order to set the optimum PID gain, fine adjustment according to the site is required, and the installation time is increased. In this case, the procedure of changing the PID gain on the spot, confirming the vibration suppression effect with the camera image, and determining whether the PID gain is optimized is repeated. In addition, due to factors such as deterioration of the components of the device main body, even in the same on-site vibration, the vibration that appears in the camera image may change immediately after installation and after aging, so that PID gain adjustment after installation is not possible. Otherwise, it will affect the damping effect of the device.

PIDゲイン調整のもう一つの方法として、ジャイロセンサなどで取得したセンサ値を制御部で記録、解析して、PIDゲインを自動で調整する方法がある。この方法では、現場に発生する振動に合わせて自動でゲイン調整が可能になるが、振動を解析するアルゴリズムが複雑で解析精度の問題があり、また、センサとの通信や計算処理に時間もかかるため、制御周期が長くなり、対応可能な制振範囲が狭くなる可能性がある。また、最終的な判断基準は画像ブレが低減しているかどうかになるので、調整結果が最適化どうかの判断が難しい。   As another method of adjusting the PID gain, there is a method of recording and analyzing a sensor value acquired by a gyro sensor or the like by a control unit and automatically adjusting the PID gain. With this method, the gain can be automatically adjusted according to the vibrations that occur in the field.However, the algorithm for analyzing the vibrations is complicated, and there is a problem with the accuracy of the analysis. In addition, communication with the sensors and calculation processing take time. Therefore, there is a possibility that the control cycle becomes longer and the applicable vibration suppression range becomes narrower. Further, since the final criterion is whether or not the image blur is reduced, it is difficult to determine whether the adjustment result is optimized.

一方、画像処理制振は、画像解析から得られる画像ブレ量分、画像の切出し位置を変更するもので、対応可能な制振仕様は電気部品やアルゴリズムで決まってくるが、細かなゲインの調整は不要である。   On the other hand, image processing vibration suppression changes the image cutout position by the amount of image blur obtained from image analysis, and the applicable vibration suppression specification is determined by electrical components and algorithms, but fine gain adjustment Is unnecessary.

本発明は、このような状況に鑑みなされたもので、上記課題を解決することを目的とする。   The present invention has been made in view of such circumstances, and has as its object to solve the above problems.

本発明は、雲台に一体に構成されたカメラモジュールと、前記カメラモジュールの撮像方向を定めるアクチュエータと、前記カメラモジュールの振動を検知する振動センサと、前記振動センサの検出結果をもとに、前記アクチュエータに対してアクティブ制振制御を行うアクティブ制振制御部と、撮影した映像の画像ブレ量を算出する画像ブレ量算出部と、前記画像ブレ量をもとに画像処理制振処理を行う画像処理制振制御部と、を有し、前記アクティブ制振制御部は、前記画像ブレ量算出部が算出した前記画像ブレ量を取得し、前記アクティブ制振制御のゲイン調整に反映させる。これによって、映像の画像ブレ量を低減できるため、制振性能を向上させることができ、特に、画像処理制振処理において、広い画角の映像を切出し用いることができる。
また、前記アクティブ制振処理はPID制御によってなされ、前記アクティブ制振処理をオフかつ前記画像処理制振処理をオフにした状態において、前記振動センサのセンサ値を一定期間において取得し蓄積する振動センサ値取得部と、前記振動センサ値取得部における前記センサ値の取得期間と同じ一定期間において、前記画像ブレ量を取得し蓄積する画像ブレ量算出部と、前記一定期間における前記センサ値と前記画像ブレ量とを比較し、それら値の差を縮小するように、前記振動センサのセンサ値の補正量を算出するセンサ補正値計算処理部と、前記補正値をもとに前記PID制御に用いる制御量のゲイン値を調整するゲイン調整処理部と、を備えてもよい。これによって、振動センサによって得られるセンサ値(ブレ量)と映像中の画像ブレ量との差を縮小させる又はゼロにすることで、制振性能を向上させることができる。
本発明は、雲台に一体に構成されたカメラモジュールの制振方法であって、前記カメラモジュールに取りつけられた振動センサのセンサ値をもとにPID制御によりアクティブ制振処理を行うアクティブ制振処理工程と、前記カメラモジュールの撮影した映像の画像ブレをもとに画像処理制振処理を行う画像処理制振処理工程と、前記アクティブ制振処理をオフかつ前記画像処理制振処理をオフにした状態において得られた前記振動センサのセンサ値と前記画像ブレの量とを比較し、それら値の差を縮小するように前記PID制御に用いる制御量のゲイン値を調整するゲイン調整工程と、を備える。これによって、振動センサによって得られるセンサ値(ブレ量)と映像中の画像ブレ量との差を縮小させる又はゼロにすることで、制振性能を向上させることができる。
The present invention provides a camera module integrally formed on a camera platform, an actuator that determines an imaging direction of the camera module, a vibration sensor that detects vibration of the camera module, and a detection result of the vibration sensor. An active vibration suppression control unit that performs active vibration suppression control on the actuator, an image shake amount calculation unit that calculates the image shake amount of a captured video, and performs an image processing vibration suppression process based on the image shake amount An image processing vibration suppression control unit, wherein the active vibration suppression control unit acquires the image blur amount calculated by the image blur amount calculation unit, and reflects the image blur amount on the gain adjustment of the active vibration suppression control. As a result, the image blurring amount of the video can be reduced, so that the vibration damping performance can be improved. In particular, in the image processing vibration damping processing, a video having a wide angle of view can be cut out and used.
Further, the active vibration suppression processing is performed by PID control, and a vibration sensor that acquires and accumulates a sensor value of the vibration sensor for a certain period in a state where the active vibration suppression processing is turned off and the image processing vibration suppression processing is turned off. A value obtaining unit, an image blur amount calculating unit that obtains and accumulates the image blur amount during the same fixed period as the sensor value obtaining period in the vibration sensor value obtaining unit, and the sensor value and the image during the certain period. A sensor correction value calculation processing unit that calculates a correction amount of the sensor value of the vibration sensor so as to compare the amount of shake and reduce the difference between the values, and a control that is used for the PID control based on the correction value. A gain adjustment processing unit that adjusts the gain value of the quantity. Thereby, the difference between the sensor value (blur amount) obtained by the vibration sensor and the blur amount of the image in the video is reduced or set to zero, so that the vibration damping performance can be improved.
The present invention relates to a vibration damping method for a camera module integrally formed on a camera platform, wherein the active vibration damping processing performs active vibration damping processing by PID control based on a sensor value of a vibration sensor attached to the camera module. A processing step, an image processing vibration suppression processing step of performing image processing vibration suppression processing based on image blurring of an image captured by the camera module, and the active vibration suppression processing is turned off and the image processing vibration suppression processing is turned off. A gain adjustment step of comparing the sensor value of the vibration sensor and the amount of image blurring obtained in a state where the vibration has occurred, and adjusting a gain value of a control amount used for the PID control so as to reduce a difference between the values. Is provided. Thereby, the difference between the sensor value (blur amount) obtained by the vibration sensor and the blur amount of the image in the video is reduced or set to zero, so that the vibration damping performance can be improved.

本発明によれば、振動センサを用いたアクティブ制振機能と画像処理制振機能との二つの制振機能を有する撮像装置において、制振性能を向上させることができる。   ADVANTAGE OF THE INVENTION According to this invention, in the imaging device which has two vibration suppression functions of the active vibration suppression function using a vibration sensor and the image processing vibration suppression function, the vibration suppression performance can be improved.

実施形態に係る、雲台一体型カメラの概要を説明する図である。FIG. 1 is a diagram illustrating an overview of a camera platform integrated camera according to an embodiment. 実施形態に係る、制御部の機能ブロック図である。FIG. 3 is a functional block diagram of a control unit according to the embodiment. 実施形態に係る、アクティブ制振処理のフローチャートである。It is a flow chart of active damping processing concerning an embodiment. 実施形態に係る、画像ブレ低減処理のフローチャートである。6 is a flowchart of an image blur reduction process according to the embodiment. 実施形態に係る、センサ補正値計算処理のフローチャートである。9 is a flowchart of a sensor correction value calculation process according to the embodiment. 実施形態に係る、ゲイン調整処理のフローチャートである。6 is a flowchart of a gain adjustment process according to the embodiment.

以下、本発明の実施形態について図面を参照して詳細に説明する。図1は本実施形態に係る雲台一体型カメラ100を示し、図1(a)は外観、図1(b)は主要構成を模式的に示している。また、図2は、雲台一体型カメラ100の機能ブロック図であり、主に制振機能(振動による画像ブレの低減機能)に着目して示している。雲台一体型カメラ100は、アクティブ制振機能と画像処理制振機能とのハイブリッド制振機能を有し、その制振機能においてPID制御を適用したPID制振制御を用いる。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 shows a camera platform integrated camera 100 according to the present embodiment. FIG. 1A schematically shows an external appearance, and FIG. 1B schematically shows a main configuration. FIG. 2 is a functional block diagram of the camera platform integrated camera 100, and mainly shows a vibration suppression function (a function of reducing image blur caused by vibration). The camera platform integrated camera 100 has a hybrid vibration suppression function of an active vibration suppression function and an image processing vibration suppression function, and uses PID vibration suppression control to which PID control is applied in the vibration suppression function.

図1に示すように、雲台一体型カメラ100は、カメラモジュール1を備え、チルト軸モータ及びパン軸モータを有するアクチュエータ8によって、パン軸回転方向2及びチルト軸回転方向3の2軸方向について旋回駆動可能である。   As shown in FIG. 1, the camera platform integrated camera 100 includes a camera module 1, and has two axes of a pan axis rotation direction 2 and a tilt axis rotation direction 3 by an actuator 8 having a tilt axis motor and a pan axis motor. Swivel drive is possible.

回転部である本体部4と土台部5は、図示されないスリップリング9aを介することでパン軸回転方向2に360°エンドレスで旋回する。本実施形態では、図1の雲台一体型カメラのパン軸のジャイロ補正値計算処理と制御ゲインを調整する手順について説明する。   The main body 4 and the base 5, which are rotating parts, rotate 360 ° endlessly in the pan axis rotation direction 2 via a slip ring 9a (not shown). In the present embodiment, a procedure for calculating the gyro correction value of the pan axis and adjusting the control gain of the pan head integrated camera of FIG. 1 will be described.

図1に示す雲台一体型カメラ100の土台部5の外部(内部でもよい)には、振動センサとして3軸対応のジャイロセンサ6が取り付けられている。ジャイロセンサ6は、3軸方向のジャイロ信号を取得し、その信号をマイクロコンピュータ(後述のアクティブ制振制御部20)に伝送する。本実施形態では、ジャイロセンサ6は、土台部5に取りつけられたジャイロセンサ(A)6aと、本体部4に取りつけられたジャイロセンサ(B)6bの2箇所に設けられているが、このような構成に限らず、いずれか一方のみでもよい。ジャイロセンサ6をこのような構成とすることで、チルト軸9bのアクティブ制振処理をシンプルにすることができる。ジャイロセンサ6は、取付け位置である土台部5や本体部4の振動を検出する。なお、ジャイロ信号は、角速度として出力される。   A gyro sensor 6 corresponding to three axes is attached as a vibration sensor outside (or inside) the base 5 of the camera platform integrated camera 100 shown in FIG. The gyro sensor 6 acquires a gyro signal in three axial directions, and transmits the signal to a microcomputer (an active vibration suppression control unit 20 described later). In the present embodiment, the gyro sensors 6 are provided at two places: the gyro sensor (A) 6a attached to the base 5 and the gyro sensor (B) 6b attached to the main body 4. The configuration is not limited to this, and only one of them may be used. With such a configuration of the gyro sensor 6, the active vibration suppression processing of the tilt shaft 9b can be simplified. The gyro sensor 6 detects the vibration of the base portion 5 or the main body portion 4 at the mounting position. The gyro signal is output as an angular velocity.

雲台一体型カメラ100を振動のある場所(図示せず)に設置すると、土台部5、本体部4、カメラケース7を伝搬しカメラモジュール1を振動させる。この振動により画像ブレが生じる。ジャイロセンサ6はその振動を検出し、その検出結果が画像ブレ低減に利用される。   When the camera platform integrated camera 100 is installed in a place (not shown) having vibration, the camera module 1 is vibrated by propagating through the base 5, the main body 4, and the camera case 7. This vibration causes image blurring. The gyro sensor 6 detects the vibration, and the detection result is used for image blur reduction.

図2を参照してアクティブ制振機能と画像処理制振機能とのハイブリッド制振機能について説明する。図示のように、雲台一体型カメラ100は、カメラモジュール1を制御する制御部10を備える。制御部10は、アクティブ制振制御部20と、画像処理制振処理部30と、全体制御部40とを備える。なお、図示はしないが、無線LANやBLUETOOTH(登録商標)通信の機能(通信IF)を備え、操作端末99等と通信し所定のコマンドを送信したり、撮影した映像を送信したりすることが可能である。   The hybrid vibration suppression function of the active vibration suppression function and the image processing vibration suppression function will be described with reference to FIG. As shown in the drawing, the camera platform integrated camera 100 includes a control unit 10 that controls the camera module 1. The control unit 10 includes an active vibration suppression control unit 20, an image processing vibration suppression processing unit 30, and an overall control unit 40. Although not shown, a wireless LAN or BLUETOOTH (registered trademark) communication function (communication IF) is provided to communicate with the operation terminal 99 or the like to transmit a predetermined command or to transmit a captured video. It is possible.

アクティブ制振制御部20は、例えば、MPU(Microprocessor)からなり、画像ブレ低減機能を実現する。その低減処理のため、アクティブ制振制御部20は、ゲイン調整処理部21と、変数保持部22と、ジャイロセンサデータ取得部23と、ジャイロセンサデータ記録部24と、アクティブ制振処理部25と、モータ制御パルス出力部26と、センサ補正値計算処理部27とを備える。   The active vibration suppression control unit 20 includes, for example, an MPU (Microprocessor) and implements an image blur reduction function. For the reduction processing, the active vibration suppression control unit 20 includes a gain adjustment processing unit 21, a variable holding unit 22, a gyro sensor data acquisition unit 23, a gyro sensor data recording unit 24, and an active vibration suppression processing unit 25. , A motor control pulse output unit 26, and a sensor correction value calculation processing unit 27.

ジャイロセンサデータ取得部23は、ジャイロセンサ6からジャイロ信号を取得する。ジャイロセンサデータ記録部24は、取得したジャイロ信号を記録する。   The gyro sensor data acquisition unit 23 acquires a gyro signal from the gyro sensor 6. The gyro sensor data recording unit 24 records the acquired gyro signal.

アクティブ制振処理部25は、取得したジャイロ信号に基づきPID制御によりアクティブ制振処理を行い、ブレ低減を行う。モータ制御パルス出力部26は、アクティブ制振処理部25の演算結果に基づき、カメラ撮像方向設定モータ8(パン軸モータ8a、チルト軸モータ8b)を制御する。なお、PID制御において、P制御量、I制御量、D制御量の全てについてゲイン調整する必要が無い場合もある。すなわち、いずれかの制御量においてゲイン調整が有効に機能するもの、例えば「P制御量のみ」や、「P制御量及びD制御量」に着目して調整を行い、他の調整処理を省くこともできる。   The active vibration suppression processing unit 25 performs active vibration suppression processing by PID control based on the acquired gyro signal to reduce blur. The motor control pulse output unit 26 controls the camera imaging direction setting motor 8 (the pan axis motor 8a and the tilt axis motor 8b) based on the calculation result of the active vibration suppression processing unit 25. In the PID control, it may not be necessary to adjust the gain for all of the P control amount, the I control amount, and the D control amount. That is, the adjustment is performed by paying attention to one in which the gain adjustment effectively functions in any of the control amounts, for example, “P control amount only” or “P control amount and D control amount”, and omit other adjustment processing. Can also.

アクティブ制振制御部20は、制振機能のON/OFFを切替え可能であり、制振機能がOFFの時にもジャイロセンサ値の記録のみ実行できる。この時、後述する画像処理制振処理部30により画像ブレ量計算のみ実行した場合の記録値はアクティブ制振処理部25から参照できる。   The active vibration suppression control unit 20 can switch ON / OFF of the vibration suppression function, and can execute only recording of the gyro sensor value even when the vibration suppression function is OFF. At this time, the active vibration suppression processing unit 25 can refer to the recorded value when only the image blur amount calculation is performed by the image processing vibration suppression processing unit 30 described later.

ゲイン調整処理部21は、PIDゲイン調整処理機能を実行する場合、アクティブ制振機能をON、画像処制振機能をOFFにして画像ブレ量計算のみを実行した状態で行う。この状態で雲台(土台部5)や本体部4(回転部)に振動が発生した場合、アクティブ制振処理により、カメラ映像の画像ブレは低減し、その時の画像ブレ量のみを記録することが出来る。この時、低減する画像ブレの量は、アクティブ制振のPIDゲインによって変化する。PIDゲイン調整処理機能は、あらかじめ指定した範囲でPIDゲインを変動させていき、PIDゲインごとの画像ブレ量を記録して、その中から画像ブレが最少になる場合のPIDゲインを決定する処理をする。   When executing the PID gain adjustment processing function, the gain adjustment processing unit 21 performs the operation in a state where the active vibration suppression function is turned on, the image processing vibration suppression function is turned off, and only the image blur amount calculation is executed. If vibrations occur in the camera platform (base unit 5) or the main unit 4 (rotating unit) in this state, image blurring of the camera video is reduced by active vibration suppression processing, and only the image blurring amount at that time is recorded. Can be done. At this time, the amount of image blur to be reduced changes depending on the PID gain of active vibration suppression. The PID gain adjustment processing function is a process of changing the PID gain within a predetermined range, recording the image blur amount for each PID gain, and determining the PID gain when the image blur is minimized from the amount. I do.

アクティブ制振処理部25は、アクティブ制振のPID制御処理において、ジャイロセンサ6の検出値を取得した後、ジャイロセンサ6の検出値に対してセンサ補正値計算処理部27が算出するセンサ補正値を取得し補正処理を施し、補正後の値からP制御量、I制御量、D制御量を計算する。   The active vibration suppression processing unit 25 acquires the detection value of the gyro sensor 6 in the PID control processing of the active vibration suppression, and then calculates the sensor correction value calculated by the sensor correction value calculation processing unit 27 for the detection value of the gyro sensor 6. Is obtained, a correction process is performed, and a P control amount, an I control amount, and a D control amount are calculated from the corrected values.

センサ補正値計算処理部27は、図5で後述するセンサ補正値計算処理によりセンサ補正値を算出する。ジャイロセンサ6の補正値を算出する機能として指定した時間の間、アクティブ制振処理部25は、ジャイロセンサ値のみを検出して記録し、また、画像処理制振処理部30における画像処理制振では、画像ブレ量のみを計算して記録する。この間、雲台(土台部5)を取付けした構造体に振動が発生した場合、同じ振動揺れをジャイロセンサ6と画像ブレ計算で同時に検出する。指定時間経過後にジャイロセンサ6の記録値と画像ブレ量の記録値を比較処理してジャイロセンサ6の補正値を算出する。   The sensor correction value calculation processing unit 27 calculates a sensor correction value by a sensor correction value calculation process described later with reference to FIG. During a time designated as a function for calculating the correction value of the gyro sensor 6, the active vibration suppression processing unit 25 detects and records only the gyro sensor value, Then, only the image blur amount is calculated and recorded. During this time, when vibration occurs in the structure on which the camera platform (base portion 5) is mounted, the same vibration and vibration are detected simultaneously by the gyro sensor 6 and the image blur calculation. After the lapse of the designated time, the recorded value of the gyro sensor 6 is compared with the recorded value of the image blur amount to calculate a correction value of the gyro sensor 6.

モータ制御パルス出力部26は、アクティブ制振処理部25が算出した制御量に対応し、それぞれにPIDゲインを掛けて加算した値に対応するパルスによってカメラ撮像方向設定モータ8に動作指令を送る。この時、ジャイロセンサ6の補正量計算で使用する値とPIDゲインとは、制振処理の中で値を変数として、変数保持部22に保持させ変更可能となっている。   The motor control pulse output unit 26 sends an operation command to the camera imaging direction setting motor 8 by a pulse corresponding to the control amount calculated by the active vibration suppression processing unit 25 and multiplied by a PID gain. At this time, the value used in the correction amount calculation of the gyro sensor 6 and the PID gain can be changed by holding the value as a variable in the variable holding unit 22 in the vibration suppression processing.

図3を参照して、アクティブ制振制御部20におけるアクティブ制振処理のフローを説明する。   With reference to FIG. 3, a flow of the active vibration suppression processing in the active vibration suppression control unit 20 will be described.

アクティブ制振処理機能がONの場合(S11のYES)、ジャイロセンサデータ取得部23は、ジャイロセンサ値を取得し(S12)、センサ補正値計算処理部27がそのジャイロセンサ値に対して、変数保持部22に記録されているセンサ補正値を反映させるセンサ値補正処理を実行する(S13)。   When the active vibration suppression processing function is ON (YES in S11), the gyro sensor data acquisition unit 23 acquires a gyro sensor value (S12), and the sensor correction value calculation processing unit 27 sends a variable to the gyro sensor value. A sensor value correction process for reflecting the sensor correction value recorded in the holding unit 22 is executed (S13).

アクティブ制振処理部25は、補正が施されたセンサ値に基づき、PID制御の制御量(P制御量、I制御量、D制御量)を算出する(S14)。モータ制御パルス出力部26は、算出された制御量に対応したカメラ撮像方向設定モータ8(パン軸モータ8a、チルト軸モータ8b)の動作量(すなわちパルス出力量)を算出し(S15)、カメラ撮像方向設定モータ8に対して動作指令を出力する(S16)。   The active vibration suppression processing unit 25 calculates a control amount (P control amount, I control amount, D control amount) of the PID control based on the corrected sensor value (S14). The motor control pulse output unit 26 calculates the operation amount (that is, the pulse output amount) of the camera imaging direction setting motor 8 (the pan axis motor 8a and the tilt axis motor 8b) corresponding to the calculated control amount (S15). An operation command is output to the imaging direction setting motor 8 (S16).

アクティブ制振処理機能がOFFの場合(S11のNO)、アクティブ制振制御部20は、センサ補正量計算機能がONであれば(S17のYES)、ジャイロセンサデータ取得部23がジャイロセンサ6のジャイロセンサ値を取得し(S18)、ジャイロセンサデータ記録部24に記録する(S19)。センサ補正量計算機能がOFFであれば(S17のNO)、処理は実行されず終了となる。   When the active vibration suppression processing function is OFF (NO in S11), if the sensor correction amount calculation function is ON (YES in S17), the gyro sensor data acquisition unit 23 The gyro sensor value is obtained (S18) and recorded in the gyro sensor data recording unit 24 (S19). If the sensor correction amount calculation function is OFF (NO in S17), the process is not executed and the process ends.

図2に戻り、画像処理制振処理部30の説明をする。画像処理制振処理部30は、例えば、FPGA(Field Programmable Gate Array)であって、画像処理による画像ブレ低減機能を備える。画像ブレ低減機能を実行する具体的な構成として、画像処理制振処理部30は、カメラ映像取得31と、基準画像保存部32と、画像ブレ量算出部33と、画像切出位置算出部34と、画像切出し処理部35とを備える。   Returning to FIG. 2, the image processing vibration suppression processing unit 30 will be described. The image processing vibration suppression processing unit 30 is, for example, an FPGA (Field Programmable Gate Array) and has an image blur reduction function by image processing. As a specific configuration for executing the image blur reduction function, the image processing vibration suppression processing unit 30 includes a camera image acquisition unit 31, a reference image storage unit 32, an image blur amount calculation unit 33, and an image cutout position calculation unit 34. And an image cut-out processing unit 35.

カメラ映像取得31は、カメラモジュール1から映像(画像)を取得する。基準画像保存部32は基準画像を記録し保持する。画像ブレ量算出部33は、画像ブレ量を算出する。画像切出位置算出部34は、画像処理による制振処理において、画像の切出し位置を算出する。画像切出し処理部35は、画像切出位置算出部34が算出した画像の切出し位置に基づき、撮影した映像をトリミングして切出し、操作端末99等にカメラ映像表示出力する。   The camera video acquisition 31 acquires a video (image) from the camera module 1. The reference image storage unit 32 records and holds the reference image. The image blur amount calculator 33 calculates the image blur amount. The image cutout position calculation unit 34 calculates an image cutout position in the vibration damping process by the image processing. The image cut-out processing unit 35 trims and shoots the shot video based on the cut-out position of the image calculated by the image cut-out position calculation unit 34, and outputs a camera video display to the operation terminal 99 or the like.

図4を参照して、画像処理制振処理部30による画像ブレ低減処理のフローを説明する。画像処理制振機能がONの場合(S21のYES)、カメラ映像取得31は、カメラモジュール1から映像を取得し(S22)、画像ブレ量算出部33がその映像の画像ブレ量を計算する(S23)。画像切出位置算出部34は算出した画像ブレ量から映像出力した場合にブレが無くなるように画像切出し位置を算出し、画像切出し処理部35がカメラ画像の切出し処理を行い(S24)、切り出した画像を表示出力する(S25)。   With reference to FIG. 4, a flow of the image blur reduction processing by the image processing vibration suppression processing unit 30 will be described. When the image processing vibration suppression function is ON (YES in S21), the camera video acquisition unit 31 acquires a video from the camera module 1 (S22), and the image blur amount calculation unit 33 calculates the image blur amount of the video (S22). S23). The image cutout position calculator 34 calculates an image cutout position from the calculated image shake amount so that there is no blur when outputting video, and the image cutout processor 35 performs a process of cutting out the camera image (S24). The image is displayed and output (S25).

画像処理制振機能がOFFの場合(S21のNO)、PIDゲイン調整処理機能がONかセンサ補正量計算処理がONであれば(S26のYES)、カメラ映像取得31はカメラモジュール1から映像を取得し(S27)、画像ブレ量算出部33がその映像の画像ブレ量を計算し全体制御部40に通知する(S28)。全体制御部40は、画像ブレ量データ保持部44に画像ブレ量を記録する(S29)。   When the image processing vibration suppression function is OFF (NO in S21), if the PID gain adjustment processing function is ON or the sensor correction amount calculation processing is ON (YES in S26), the camera image acquisition 31 obtains an image from the camera module 1 Then, the image blur amount calculation unit 33 calculates the image blur amount of the video and notifies the overall control unit 40 (S28). The overall control unit 40 records the image blur amount in the image blur amount data holding unit 44 (S29).

PIDゲイン調整処理機能及びセンサ補正量計算処理のいずれもOFFであれば(S26のNO)、当該フローによる処理は終了する。   If both the PID gain adjustment processing function and the sensor correction amount calculation processing are OFF (NO in S26), the processing according to the flow ends.

再度図2に戻り、全体制御部40の説明をする。全体制御部40は、画像処理制振ON/OFF部41と、アクティブ制振ON/OFF部42と、PIDゲイン自動調整ON/OFF部43と、画像ブレ量データ保持部44と、を備える。   Returning to FIG. 2 again, the overall control unit 40 will be described. The overall control unit 40 includes an image processing vibration suppression ON / OFF unit 41, an active vibration suppression ON / OFF unit 42, a PID gain automatic adjustment ON / OFF unit 43, and an image blur amount data holding unit 44.

画像処理制振ON/OFF部41は、画像処理制振処理部30による画像処理制振機能のON/OFFを実行する。これによって画像処理制振機能はON/OFF切替え可能となり、画像処理制振機能がOFFの時も画像ブレ量計算のみを実行して記録する機能を持たせる。この時、画像ブレ量計算のみ実行した場合の記録値はアクティブ制振制御部20から参照できる。   The image processing vibration suppression ON / OFF unit 41 executes ON / OFF of the image processing vibration suppression function by the image processing vibration suppression processing unit 30. As a result, the image processing damping function can be switched between ON and OFF, and even when the image processing damping function is OFF, only the image blur amount calculation is executed and recorded. At this time, the recorded value when only the image blur amount calculation is executed can be referred to from the active vibration suppression control unit 20.

アクティブ制振ON/OFF部42は、アクティブ制振制御部20によるアクティブ制振機能のON/OFFを実行する。これによってアクティブ制振機能はON/OFFを切替え可能となり、制振機能がOFFの時にもジャイロセンサ値の記録のみ実行できる。   The active vibration suppression ON / OFF unit 42 performs ON / OFF of the active vibration suppression function by the active vibration suppression control unit 20. As a result, the active vibration suppression function can be switched between ON and OFF, and even when the vibration suppression function is OFF, only recording of the gyro sensor value can be executed.

PIDゲイン自動調整ON/OFF部43は、所定のコマンドを取得してPIDゲイン調整機能のON/OFFを実行する。画像ブレ量データ保持部44は、画像ブレ量算出部33が算出した画像ブレ量を記録し保持する。センサ補正量計算ON/OFF部45は、所定のコマンド(センサ補正量計算コマンド)を取得してジャイロセンサ6のジャイロセンサ値の補正量計算処理のON/OFFを実行する。   The PID gain automatic adjustment ON / OFF unit 43 acquires a predetermined command and executes ON / OFF of the PID gain adjustment function. The image shake amount data holding unit 44 records and holds the image shake amount calculated by the image shake amount calculation unit 33. The sensor correction amount calculation ON / OFF unit 45 acquires a predetermined command (sensor correction amount calculation command) and executes ON / OFF of the correction amount calculation processing of the gyro sensor value of the gyro sensor 6.

つづいて図5を参照してセンサ補正値計算処理のフローを説明する。この処理は、制振制御がOFFの状態で行われる。センサ補正値計算処理部27は、所定のトリガーによって処理をスタートさせ、まず指定時間を取得する(S31)。トリガーとして、例えば、雲台一体型カメラ100の外部操作メニューにより指示されるセンサ補正量計算コマンドがある。実使用ではPIDゲイン調整実行処理の前に組み込んでよい。指定時間は、予め初期値として設定されていてもよいし、操作端末99から管理者等の指定を受けてもよい。つぎに、ジャイロセンサデータ取得部23が、ジャイロセンサ6からジャイロセンサ値を取得し、ジャイロセンサデータ記録部24に記録する(S32)。この処理は、図3のS18、S19の処理に対応しアクティブ制振をOFFの状態で実行される。   Next, the flow of the sensor correction value calculation process will be described with reference to FIG. This process is performed with the vibration suppression control turned off. The sensor correction value calculation processing unit 27 starts the process by a predetermined trigger, and first acquires a specified time (S31). As the trigger, for example, there is a sensor correction amount calculation command specified by an external operation menu of the camera platform integrated camera 100. In actual use, it may be incorporated before the PID gain adjustment execution processing. The specified time may be set in advance as an initial value, or may be specified by the administrator or the like from the operation terminal 99. Next, the gyro sensor data acquisition section 23 acquires a gyro sensor value from the gyro sensor 6 and records it in the gyro sensor data recording section 24 (S32). This processing corresponds to the processing of S18 and S19 in FIG. 3 and is executed with the active vibration suppression turned off.

つぎに、画像ブレ量算出部33が、カメラモジュール1の撮影した映像から画像ブレ量を算出し画像ブレ量データ保持部44に記録する(S33)。この処理は、図4のS27〜S29の処理に対応し、画像処理制振をOFFした状態で実行される。   Next, the image blur amount calculation unit 33 calculates the image blur amount from the video captured by the camera module 1 and records it in the image blur amount data holding unit 44 (S33). This processing corresponds to the processing of S27 to S29 in FIG. 4 and is executed in a state where the image processing damping is turned off.

所定時間が終了していない場合(S34のNO)、ジャイロセンサ値記録処理(S32)及び画像ブレ量記録処理(S33)は継続する。   If the predetermined time has not elapsed (NO in S34), the gyro sensor value recording process (S32) and the image blur amount recording process (S33) continue.

所定時間が終了すると(S34のYES)、センサ補正値計算処理部27はジャイロセンサデータ記録部24に記録してあるジャイロセンサ値と画像ブレ量データ保持部44に記録されている画像ブレ量の記録値とを比較し差分を検出し(S35)、それらの間に差が無いようにセンサ補正値を決定し記録する(S36)。   When the predetermined time has elapsed (YES in S34), the sensor correction value calculation processing unit 27 calculates the gyro sensor value recorded in the gyro sensor data recording unit 24 and the image blur amount recorded in the image blur amount data holding unit 44. The difference is detected by comparing with the recorded value (S35), and the sensor correction value is determined and recorded so that there is no difference between them (S36).

センサ補正値計算処理では最初にジャイロセンサ6の検出値の記録と画像ブレ量の計算値の記録のみを一定時間(例えば1分間)行う。画像ブレ低減処理を行わないため、この間記録されるデータは同じ振動内容のデータとなる。ただし、ジャイロセンサ6の値は雲台の土台部5、画像ブレ量の値はカメラ部(カメラモジュール1)に伝搬した振動となるため、記録データに誤差が発生する。誤差を事前に計算して、ジャイロセンサ6の補正値として変数保持部22に記録、アクティブ制振処理で使用することで制振効果を高めることができる。   In the sensor correction value calculation process, first, only the recording of the detection value of the gyro sensor 6 and the recording of the calculated value of the image blurring amount are performed for a fixed time (for example, one minute). Since the image blur reduction processing is not performed, the data recorded during this time has the same vibration content. However, since the value of the gyro sensor 6 is the vibration transmitted to the camera base (camera module 1) and the value of the image blur amount is the vibration transmitted to the camera unit (camera module 1), an error occurs in the recording data. An error is calculated in advance, recorded as a correction value of the gyro sensor 6 in the variable holding unit 22, and used in the active vibration suppression processing, whereby the vibration suppression effect can be enhanced.

ジャイロセンサ6のデータは角速度であるため、ジャイロセンサ6のサンプリング時間で積分すると角度を得られる。一方、画像ブレ量もカメラモジュール1の画角とピクセル数から角度を得られる。同じ振動であれば、ジャイロセンサ値から得られる振幅角度と画像ブレ計算から得られる振幅角度は同じ値になるはずなので、その差分が大きければ比率を計算して、アクティブ制振の中でジャイロセンサの補正値として組み込むことでよりカメラ映像のブレを反映した補正が可能になる。   Since the data of the gyro sensor 6 is an angular velocity, an angle can be obtained by integrating the data with the sampling time of the gyro sensor 6. On the other hand, the image blur amount can be obtained from the angle of view and the number of pixels of the camera module 1. If the vibration is the same, the amplitude angle obtained from the gyro sensor value and the amplitude angle obtained from the image blur calculation should be the same value, so if the difference is large, calculate the ratio and use the gyro sensor in active vibration suppression. By incorporating the correction value as a correction value, it becomes possible to perform a correction reflecting the blur of the camera image.

図6を参照してアクティブ制振処理におけるゲイン調整処理のフローを説明する。ゲイン調整処理部21は、所定のトリガーによって処理を開始する。ここでは、雲台一体型カメラ100の外部操作メニューからPIDゲイン調整コマンドが送信されPIDゲイン自動調整ON/OFF部43が取得する形態をとる。実使用では定期的に実行する処理としてもよいし、雲台一体型カメラ100のエラー発生時のリスタート直後に実行されてもよいし、画像処理制振において補正量が所定値を超えた場合に実行されてもよい。   The flow of the gain adjustment process in the active vibration suppression process will be described with reference to FIG. The gain adjustment processing unit 21 starts the process by a predetermined trigger. Here, the PID gain adjustment command is transmitted from the external operation menu of the camera platform integrated camera 100, and the PID gain automatic adjustment ON / OFF unit 43 acquires the PID gain adjustment command. In actual use, the processing may be performed periodically, may be performed immediately after restart of the camera integrated with the camera platform 100 when an error occurs, or when the correction amount exceeds a predetermined value in image processing vibration suppression. May be executed.

全体制御部40においてPIDゲイン自動調整ON/OFF部43がPIDゲイン調整コマンドを受信すると、画像処理制振処理部30に画像ブレ量計算(画像補正は行わない)の実行指令を出す(S41)。アクティブ制振が動作していない状況では、画像ブレ補正が働かないため振動が伝わる度に画像ブレが発生する。ゲインの自動調整処理の間、画像ブレ量算出部33は、画像ブレ量を全体制御部40に出力し続ける。全体制御部40ではアクティブ制振処理部のゲインごと制振効果を記録するタイミングに合わせて、画像ブレ量算出部33から受信する画像ブレ量を画像ブレ量データ保持部44に記録する。   When the PID gain automatic adjustment ON / OFF unit 43 receives the PID gain adjustment command in the overall control unit 40, it issues an image blur amount calculation (no image correction) execution instruction to the image processing vibration suppression processing unit 30 (S41). . In a situation where the active vibration suppression is not operating, the image blur correction does not work, so that the image blur occurs each time the vibration is transmitted. During the automatic gain adjustment process, the image blur amount calculation unit 33 continues to output the image blur amount to the overall control unit 40. The overall control unit 40 records the image blurring amount received from the image blurring amount calculating unit 33 in the image blurring amount data holding unit 44 at the timing of recording the vibration damping effect for each gain of the active vibration damping processing unit.

続いて全体制御部40はアクティブ制振制御部20のゲイン調整処理部21に処理実行を命令する。ゲイン調整処理部21は、ゲイン設定値nを取得する(S42)。初期ゲインを「1」として、処理回数となる「n」まで繰り返し実行される。ゲイン調整処理実行開始のため、PIDゲインをあらかじめ設定してある初期ゲイン「1」に設定する。   Subsequently, the overall control unit 40 instructs the gain adjustment processing unit 21 of the active vibration suppression control unit 20 to execute processing. The gain adjustment processing unit 21 acquires the gain set value n (S42). With the initial gain set to “1”, the process is repeatedly executed until “n”, which is the number of times of processing. In order to start the execution of the gain adjustment processing, the PID gain is set to a preset initial gain “1”.

アクティブ制振制御部20ではゲインを初期値に設定後、アクティブ制振処理を開始するとともに、全体制御部に画像ブレ量データの保存開始のタイミングを伝える。全体制御部40は画像ブレ量を一定時間(たとえば5秒)記録し、アクティブ制振制御部20ではジャイロセンサの値を同じ時間記録する(S43)。雲台一体型カメラ100に発生する振動は常に一定ではないので、アクティブ制振の制振効果の判定のため一定時間のデータ記録が必要となる。   After setting the gain to the initial value, the active vibration suppression control unit 20 starts the active vibration suppression processing, and notifies the overall control unit of the timing to start saving the image blur amount data. The overall control unit 40 records the image blur amount for a fixed time (for example, 5 seconds), and the active vibration suppression control unit 20 records the value of the gyro sensor for the same time (S43). Since the vibration generated in the camera platform integrated camera 100 is not always constant, it is necessary to record data for a certain period of time in order to determine the damping effect of the active damping.

指定時間のデータ記録後、アクティブ制振処理部25は、一度アクティブ制振処理とジャイロセンサ値の記録を中断して、全体制御部40にも画像ブレ量の記録停止を伝える。処理の停止を確認後、全体制御部40は記録した画像ブレ量の最大値を検索して、このときの設定ゲインでのモータ制御方向、速度が計算されアクティブ制振の結果として保存する(S44)。   After recording the data for the designated time, the active vibration suppression processing unit 25 once suspends the active vibration suppression processing and the recording of the gyro sensor value, and also notifies the overall control unit 40 of the stop of the recording of the image blurring amount. After confirming the stop of the processing, the overall control unit 40 searches for the maximum value of the recorded image blur amount, calculates the motor control direction and speed at the set gain at this time, and saves them as a result of active vibration suppression (S44). ).

この時、ジャイロセンサ6の記録データは画像ブレ量の記録と比較することでアクティブ制振が正常に動作していたかを判定する材料とする。例えば、ジャイロセンサの値が小さい時に画像ブレ量が最大値を記録した場合、信頼性の低い値と判断することが出来る。   At this time, the recording data of the gyro sensor 6 is used as a material for determining whether or not the active vibration suppression is operating normally by comparing with the recording of the image blur amount. For example, if the maximum value of the image blur amount is recorded when the value of the gyro sensor is small, it can be determined that the value is low in reliability.

以上の処理を1ゲインの設定として、あらかじめ設定していたゲイン範囲全てで処理を繰り返す(S45のNO)。アクティブ制振制御部20はゲイン範囲内の結果を全て取得した後(S45のYES)、アクティブ制振の処理を停止して、全体制御部40に記録取得の処理が終了したことを伝え、全体制御部40は記録したゲイン値と画像ブレ量の最大値のセットを検査し、画像ブレ量が一番小さくなったゲイン値を抽出する(S46)。その後、PIDゲイン設定処理によって、抽出したゲイン値がアクティブ制振処理部25のゲイン値に上書きされ(S47)、自動ゲイン処理が終了となる。   The above processing is set as one gain, and the processing is repeated in the entire gain range set in advance (NO in S45). After acquiring all the results within the gain range (YES in S45), the active vibration damping control unit 20 stops the active vibration damping process, notifies the overall control unit 40 that the recording acquisition process has been completed, The control unit 40 checks the set of the recorded gain value and the maximum value of the image blurring amount, and extracts the gain value with the smallest image blurring amount (S46). Thereafter, the extracted gain value is overwritten on the gain value of the active vibration suppression processing unit 25 by the PID gain setting processing (S47), and the automatic gain processing ends.

以上、本実施形態によれば、雲台一体型カメラ100を振動発生場所に設置した状態で、アクティブ制振と画像ブレ補正の機能を使用してアクティブ制振側のゲインの自動調整を実現することができる。   As described above, according to the present embodiment, the gain of the active vibration suppression side is automatically adjusted using the functions of the active vibration suppression and the image blur correction in a state where the camera-integrated camera 100 is installed at the place where the vibration is generated. be able to.

以上、本発明を実施形態をもとに説明した。この実施形態は例示であり、それらの各構成要素の組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。例えば、画像ブレ量を算出し、アクティブ制振処理にフィードバックすることで、画像処理制振処理を行う場合に、トリミングする領域を小さくすることで、広い画角の映像出力が可能となる。   The present invention has been described based on the embodiments. This embodiment is an exemplification, and it will be understood by those skilled in the art that various modifications can be made to the combination of the components, and that such modifications are also within the scope of the present invention. For example, by calculating the image blurring amount and feeding it back to the active vibration suppression processing, when performing the image processing vibration suppression processing, it is possible to output a video with a wide angle of view by reducing the trimming area.

1 カメラモジュール
2 パン軸回転方向
3 チルト軸回転方向
4 本体部
5 土台部
6 ジャイロセンサ
7 カメラケース
8 カメラ撮像方向設定モータ
9a パン軸
9b チルト軸
10 制御部
20 アクティブ制振制御部
21 ゲイン調整処理部
22 変数保持部
23 ジャイロセンサデータ取得部
24 ジャイロセンサデータ記録部
25 アクティブ制振処理部
26 モータ制御パルス出力部
27 センサ補正値計算処理部
30 画像処理制振処理部
31 カメラ映像取得
32 基準画像保存部
33 画像ブレ量算出部
34 画像切出位置算出部
35 画像切出し処理部
40 全体制御部
41 画像処理制振ON/OFF部
42 アクティブ制振ON/OFF部
43 PIDゲイン自動調整ON/OFF部
44 画像ブレ量データ保持部
45 センサ補正量計算ON/OFF部
99 操作端末
DESCRIPTION OF SYMBOLS 1 Camera module 2 Pan axis rotation direction 3 Tilt axis rotation direction 4 Body part 5 Base part 6 Gyro sensor 7 Camera case 8 Camera imaging direction setting motor 9a Pan axis 9b Tilt axis 10 Control part 20 Active vibration suppression control part 21 Gain adjustment processing Unit 22 Variable holding unit 23 Gyro sensor data acquisition unit 24 Gyro sensor data recording unit 25 Active vibration suppression processing unit 26 Motor control pulse output unit 27 Sensor correction value calculation processing unit 30 Image processing vibration suppression processing unit 31 Camera image acquisition 32 Reference image Storage unit 33 Image blur amount calculation unit 34 Image cutout position calculation unit 35 Image cutout processing unit 40 Overall control unit 41 Image processing vibration suppression ON / OFF unit 42 Active vibration suppression ON / OFF unit 43 PID gain automatic adjustment ON / OFF unit 44 Image blur amount data holding unit 45 Sensor correction amount calculation ON / OFF unit 9 9 Operation terminal

Claims (3)

雲台に一体に構成されたカメラモジュールと、
前記カメラモジュールの撮像方向を定めるアクチュエータと、
前記カメラモジュールの振動を検知する振動センサと、
前記振動センサの検出結果をもとに、前記アクチュエータに対してアクティブ制振制御を行うアクティブ制振制御部と、
撮影した映像の画像ブレ量を算出する画像ブレ量算出部と、
前記画像ブレ量をもとに画像処理制振処理を行う画像処理制振制御部と、
を有し、
前記アクティブ制振制御部は、前記画像ブレ量算出部が算出した前記画像ブレ量を取得し、前記アクティブ制振制御のゲイン調整に反映させることを特徴とする撮像装置。
A camera module integrated with the camera platform,
An actuator for determining an imaging direction of the camera module;
A vibration sensor for detecting vibration of the camera module,
Based on the detection result of the vibration sensor, an active vibration suppression control unit that performs active vibration suppression control on the actuator,
An image blur amount calculation unit that calculates an image blur amount of a shot video;
An image processing vibration suppression control unit that performs image processing vibration suppression processing based on the image blur amount,
Has,
The imaging apparatus, wherein the active vibration suppression control unit acquires the image shake amount calculated by the image shake amount calculation unit and reflects the image shake amount on a gain adjustment of the active vibration suppression control.
前記アクティブ制振処理はPID制御によってなされ、
前記アクティブ制振処理をオフかつ前記画像処理制振処理をオフにした状態において、前記振動センサのセンサ値を一定期間において取得し蓄積する振動センサ値取得部と、
前記振動センサ値取得部における前記センサ値の取得期間と同じ一定期間において、前記画像ブレ量を取得し蓄積する画像ブレ量算出部と、
前記一定期間における前記センサ値と前記画像ブレ量とを比較し、それら値の差を縮小するように、前記振動センサのセンサ値の補正量を算出するセンサ補正値計算処理部と、
前記補正値をもとに前記PID制御に用いる制御量のゲイン値を調整するゲイン調整処理部と、
を備えることを特徴とする撮像装置。
The active vibration suppression processing is performed by PID control,
In a state where the active vibration suppression processing is turned off and the image processing vibration suppression processing is turned off, a vibration sensor value acquisition unit that acquires and accumulates a sensor value of the vibration sensor for a certain period,
An image blur amount calculation unit that obtains and accumulates the image blur amount during the same fixed period as the sensor value obtaining period in the vibration sensor value obtaining unit,
A sensor correction value calculation processing unit that compares the sensor value and the image blur amount during the certain period, and calculates a correction amount of the sensor value of the vibration sensor so as to reduce a difference between the values.
A gain adjustment processing unit that adjusts a gain value of a control amount used for the PID control based on the correction value;
An imaging device comprising:
雲台に一体に構成されたカメラモジュールの制振方法であって、
前記カメラモジュールに取りつけられた振動センサのセンサ値をもとにPID制御によりアクティブ制振処理を行うアクティブ制振処理工程と、
前記カメラモジュールの撮影した映像の画像ブレをもとに画像処理制振処理を行う画像処理制振処理工程と、
前記アクティブ制振処理をオフかつ前記画像処理制振処理をオフにした状態において得られた前記振動センサのセンサ値と前記画像ブレの量とを比較し、それら値の差を縮小するように前記PID制御に用いる制御量のゲイン値を調整するゲイン調整工程と、
を備えることを特徴とする制振方法。
A method of damping a camera module integrated with a camera platform,
An active vibration suppression processing step of performing active vibration suppression processing by PID control based on a sensor value of a vibration sensor attached to the camera module;
An image processing vibration suppression processing step of performing image processing vibration suppression processing based on image blur of a video taken by the camera module,
The sensor value of the vibration sensor obtained in a state where the active vibration suppression processing is turned off and the image processing vibration suppression processing is turned off is compared with the amount of image blur, and the difference between the values is reduced so as to reduce the difference between the values. A gain adjustment step of adjusting a gain value of a control amount used for PID control;
A vibration damping method comprising:
JP2018173654A 2018-09-18 2018-09-18 Imaging device and damping method Active JP7202823B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018173654A JP7202823B2 (en) 2018-09-18 2018-09-18 Imaging device and damping method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018173654A JP7202823B2 (en) 2018-09-18 2018-09-18 Imaging device and damping method

Publications (2)

Publication Number Publication Date
JP2020046498A true JP2020046498A (en) 2020-03-26
JP7202823B2 JP7202823B2 (en) 2023-01-12

Family

ID=69899609

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018173654A Active JP7202823B2 (en) 2018-09-18 2018-09-18 Imaging device and damping method

Country Status (1)

Country Link
JP (1) JP7202823B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020118758A (en) * 2019-01-21 2020-08-06 キヤノン株式会社 Imaging device and method of controlling the same
WO2022019197A1 (en) * 2020-07-21 2022-01-27 ソニーグループ株式会社 Imaging device, lens tube device, imaging method, transmission method

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006065103A (en) * 2004-08-27 2006-03-09 Nikon Corp Blurring correcting apparatus and camera system
JP2007158853A (en) * 2005-12-06 2007-06-21 Konica Minolta Opto Inc Shake correcting device
JP2009300614A (en) * 2008-06-11 2009-12-24 Canon Inc Imaging device
JP2018055096A (en) * 2016-09-27 2018-04-05 株式会社日立国際電気 Imaging apparatus

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006065103A (en) * 2004-08-27 2006-03-09 Nikon Corp Blurring correcting apparatus and camera system
JP2007158853A (en) * 2005-12-06 2007-06-21 Konica Minolta Opto Inc Shake correcting device
JP2009300614A (en) * 2008-06-11 2009-12-24 Canon Inc Imaging device
JP2018055096A (en) * 2016-09-27 2018-04-05 株式会社日立国際電気 Imaging apparatus

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020118758A (en) * 2019-01-21 2020-08-06 キヤノン株式会社 Imaging device and method of controlling the same
JP7301542B2 (en) 2019-01-21 2023-07-03 キヤノン株式会社 Imaging device and its control method
WO2022019197A1 (en) * 2020-07-21 2022-01-27 ソニーグループ株式会社 Imaging device, lens tube device, imaging method, transmission method

Also Published As

Publication number Publication date
JP7202823B2 (en) 2023-01-12

Similar Documents

Publication Publication Date Title
US7590336B2 (en) Image stabilizer
CN103176332B (en) Device for image stabilization and control method, optical device and picture pick-up device
JP5489709B2 (en) Lens device
US11363205B2 (en) Imaging apparatus and imaging system
US10728454B2 (en) Imaging apparatus configured to perform image stabilization and control method thereof
JP2020046498A (en) Imaging device and tremor-damping method
JP5268546B2 (en) Optical apparatus and control method thereof
EP2031440B1 (en) Image stabilization apparatus for camera
JP4689328B2 (en) Shooting system
JP2011118073A (en) Image blur correcting apparatus
JP2010025965A (en) Image stabilization control apparatus and imaging apparatus
JP4305723B2 (en) Image blur correction device
JP5152769B2 (en) Improvements in or relating to methods for stabilizing optical devices
JP2019145956A (en) Imaging apparatus, control method of the same, and program
JP2762811B2 (en) Anti-vibration camera
JP2008003327A (en) Camera device
JP3253067B2 (en) Imaging device
JP7362457B2 (en) Imaging device drive control method, imaging device
JP4723817B2 (en) Imaging device with moving mechanism
WO2019222966A1 (en) Gimbal control method and apparatus
WO2022138122A1 (en) Information processing device, information processing method, and program
JP2001100106A (en) Image stabilizer
JP5207861B2 (en) Image shake correction apparatus, image pickup apparatus including the same, optical apparatus, and image shake correction apparatus control method
JP7374661B2 (en) Control device, imaging device, and lens device
JP2006319852A (en) Imaging apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210708

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220520

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220721

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221226

R150 Certificate of patent or registration of utility model

Ref document number: 7202823

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150