図1は、本発明を適用したネットワーク監視システム1の一実施の形態を示すブロック図である。ネットワーク監視システム1は、監視システム11−1乃至11−a、センタシステム12、および、端末装置13−1乃至13−bを含むように構成される。監視システム11−1乃至11−a、センタシステム12、および端末装置13−1乃至13−bは、ネットワーク14を介して相互に接続されている。
なお、以下、監視システム11−1乃至11−aを個々に区別する必要がない場合、単に監視システム11と称し、端末装置13−1乃至13−bを個々に区別する必要がない場合、単に端末装置13と称する。
監視システム11−1乃至11−a、センタシステム12、および、端末装置13−1乃至13−bは、ネットワーク14を介して、相互に通信を行う。なお、監視システム11−1乃至11−a、センタシステム12、および、端末装置13−1乃至13−bは、ネットワーク14を介さずに、直接有線通信または無線通信を行うようにしてもよい。
監視システム11は、監視する対象であるもの(以下、監視対象)を盗難、破壊、侵入などの被害から保護するために、監視対象に接近する人、および、監視対象への不審行為を監視する。監視システム11は、不審者を検出した場合、ネットワーク14を介して、他の監視システム11、センタシステム12、または、端末装置13に不審者を検出したことを通知する。また、監視システム11は、不審者による監視対象への被害の発生および拡大を防止するために、監視対象の動作を制御したり、不審者に対して監視対象から離れるように注意、警告、威嚇などを行う。
なお、監視システム11が監視する監視対象は、動産、不動産を問わず、例えば、建物、部屋、オフィス、店舗、事務所、車、倉庫、ロッカー、家財、不動産、動物、農作物などである。また、監視システム11が監視する不審者による不審行為は、例えば、人体に対する危害行為、ストーカー行為、嫌がらせ、盗難、破壊、放火、不正侵入などである。
なお、以下、監視システム11により監視対象への接近が検出された人(以下、接近者とも称する)のを以下のとおり分類する。
まず、監視対象の利用、または、監視対象への接近が許可されている人を許可者と称する。また、許可者のうち、監視対象の利用が許可されている人を利用許可者と称する。例えば、利用許可者は、監視対象が車の場合、運転者、および、乗客などである。一方、許可者のうち、監視対象の利用が許可されていない人を接近許可者と称する。例えば、接近許可者は、監視対象が車の場合、隣の駐車場を使用する人、近所の人などである。
また、以下、利用許可者のうち監視システム11の所有者であり、監視システム11を利用および操作する人を、特にユーザとも称する。
一方、監視対象の利用、および、監視対象への接近が許可されていな人を未許可者と称する。また、未許可者のうち、過去に監視対象への接近が検出され、検出された接近行為に関する情報(以下、接近情報と称する)が監視システム11に記録されている人を既検出者と称する。一方、未許可者のうち、過去に監視対象への接近が検出されておらず、接近情報が監視システム11に記録されていない人を未検出者と称する。
監視システム11は、検出した不審者に関する情報、監視対象の状態、監視システム11の監視領域の状態など、監視システム11が取得した情報を、ネットワーク14を介して、他の監視システム11、センタシステム12、または、端末装置13に送信する。また、監視システム11は、ネットワーク14を介して、他の監視システム11から、他の監視システム11が取得した情報を受信する。さらに、監視システム11は、ネットワーク14を介して、センタシステム12から各種の処理の実行の指令および情報を受信する。また、監視システム11は、ネットワーク14を介して、ユーザが端末装置13を操作することにより入力した各種の処理の実行の指令を受信する。
センタシステム12は、例えば、警察または警備会社などが各種の監視サービスを提供するためのシステムである。センタシステム12は、例えば、ネットワーク14を介して、各監視システム11が取得した情報を収集し、必要に応じて、各監視システム11、または、端末装置13に収集した情報を配信する。これにより、個々の監視システム11が取得した情報が、ネットワーク14に接続されている全ての監視システム11において迅速に共有され、その結果、不審者の検出率が向上する。
また、センタシステム12は、ネットワーク14を介して、監視システム11に各種の処理の実行の指令を送信する。さらに、センタシステム12は、ネットワーク14を介して、監視システム11に対する処理の実行の指令を端末装置13から受信し、受信した処理の実行の指令を監視システム11に転送する。また、センタシステム12は、ネットワーク14を介して、監視システム11または端末装置13から各種の情報の送信を要求する情報を受信し、要求された情報を監視システム11または端末装置13に送信する。
端末装置13は、例えば、コンピュータ、携帯情報端末、携帯電話機、PHS(Personal Handyphone System)などの情報処理端末とされる。端末装置13は、ネットワーク14を介して、監視システム11、または、センタシステム12から各種の情報を受信する。端末装置13は、例えば、受信した情報を図示せぬディスプレイに表示したり、音声により出力したりする。また、端末装置13は、ユーザにより入力された監視システム11またはセンタシステム12への処理の実行の指令を、ネットワーク14を介して、監視システム11またはセンタシステム12に送信する。
図2は、図1の監視システム11の一実施の形態を示すブロック図である。監視システム11は、撮像部101、センサ部102、および、監視処理部103を含むように構成される。撮像部101と監視処理部103とは、相互に無線通信を行ったり、または、同軸ケーブル、ビデオケーブル、LAN(Local Area Network)ケーブルなどにより接続され、相互に有線通信を行う。
撮像部101は、監視対象、または、監視対象の周辺の監視領域を撮像した画像(以下、監視画像とも称する)の画像データ(以下、監視画像データとも称する)を監視処理部103に供給する。
センサ部102は、各種のセンサを含むように構成される。センサ部102は、例えば、明るさを検出する照度センサ、温度を検出する温度センサ、湿度を検出する湿度センサ、風速を検出する風速センサ、気圧を検出する気圧センサ、降雨量を検出する降雨量センサなど、監視対象の周囲の気候や環境を検出するセンサを含む。また、センサ部102は、例えば、監視対象の傾きや振動を検出する加速度センサ、監視対象の速度を検出する速度センサ、監視対象または監視対象の周囲のものの有無または状態を検出する物体センサ、監視対象または監視対象の周囲のものとの距離を検出する距離センサなど、監視対象または監視対象の周辺のものの有無、状態、位置などを検出するセンサを含む。
センサ部102は、センサ部102に設けられている各種のセンサから出力されるセンサデータ(以下、総称して監視センサデータともいう)を監視処理部103に供給する。
監視処理部103は、周辺情報取得部111、不審者検出部112、対処動作部113、通信部114、許可者情報記録部115、および、接近情報記録部116を含むように構成される。
周辺情報取得部111は、図5を参照して詳細を後述するように、監視画像データ以外の監視対象および監視対象の周辺の各種の情報(以下、適宜、周辺情報と総称する)を取得する。例えば、周辺情報取得部111は、センサ部102から監視センサデータを取得する。また、例えば、周辺情報取得部111は、監視対象に設けられている各種のセンサから出力されるセンサデータを取得する。さらに、例えば、周辺情報取得部111は、ネットワーク14および通信部114を介して、他の監視システム11、センタシステム12、または、端末装置13から、各種の情報を取得する。
不審者検出部112は、図19および図20を参照して詳細を後述するように、監視画像データから人の顔の特徴を持つ画像(以下、顔画像と称する)を検出する。不審者検出部112は、顔画像に基づいて、許可者情報記録部115に記録されている許可者の顔の特徴量および接近情報記録部116に記録されている既検出者の顔の特徴量と、接近者の顔の特徴量とを照合することにより、接近者を特定する。また、不審者検出部112は、顔画像および監視画像に基づいて、接近者の顔の向き(以下、顔方向と称する)および視線の向き(以下、視線方向と称する)を検出する。
また、不審者検出部112は、図26を参照して後述するように、特定した接近者の不審度を算出し、接近者が不審者であるか否かを判定する。さらに、不審者検出部112は、図23を参照して後述するように、目出し帽、フード、フルフェイスのヘルメットなどにより顔を隠蔽した接近者である隠蔽不審者を検出する。さらに、不審者検出部112は、図33などを参照して後述するように、接近者により行われている不審行為を検出する。
不審者検出部112は、接近者の分類(利用許可者、接近許可者、既検出者、または、未検出者)、不審度、または、不審者であるか否かの判定結果などを含む接近者に関する情報(以下、接近者検出情報と称する)を対処動作部113に供給する。
また、不審者検出部112は、接近者を特定した結果を示す情報(以下、接近者特定情報と称する)、接近者の顔画像データ、接近者の特徴量データ、接近者の視線方向および顔方向を示す情報、接近者による不審行為の内容を示す情報、および、接近者検出情報を接近情報記録部116に供給する。
対処動作部113は、図34を参照して後述するように、不審者が検出された場合、監視対象を不審者から防御するための処理を行う。例えば、対処動作部113は、監視対象から離れるように、接近者を注意、警告、または、威嚇したりする。また、例えば、対処動作部113は、不審者から防御するように監視対象の動作を制御する。さらに、例えば、対処動作部113は、不審者が検出されたことを通知する情報を、ネットワーク14を介して、他の監視システム11、センタシステム12、または、端末装置13に送信する。
対処動作部113は、接近者に対して行った動作の内容を示す情報を接近情報記録部116に供給する。また、対処動作部113は、ユーザの指令により、接近情報記録部116に記録されている接近者の情報を、許可者情報記録部115に記録させ、検出された接近者を利用許可者または接近許可者として登録する。
対処動作部113は、ネットワーク14および通信部114を介して、他の監視システム11、センタシステム12、または、端末装置13から、処理の実行の指令を示す情報を取得する。対処動作部113は、また、対処動作部113は、必要に応じて、監視システム11による監視状況を通知する情報を、通信部114およびネットワーク14を介して、他の監視システム11、センタシステム12、または、端末装置13に送信する。
また、対処動作部113は、必要に応じて、監視画像データに基づく監視画像を表示する。
通信部114は、有線通信または無線通信により、ネットワーク14に接続して、ネットワーク14に接続されている他の監視システム11、センタシステム12、または端末装置13と通信を行う。なお、通信部114は、ネットワーク14を介さずに、他の監視システム11、センタシステム12、または端末装置13と通信を行うようにしてもよい。
通信部114の通信には、無線通信の場合、IEEE(Institute of Electrical and Electronic Engineers)802.11(802.11a,802.11b,802.11gなど)により規定される無線LAN(Local Area Network)の規格、W-CDMA(Wideband Code Division Multiple Access)、PIAFS(Personal Handyphone System Internet Access Forum Standard)などの携帯電話やPHS(Personal Handyphone System)の通信規格、ブルートゥース(商標)などの規格を適用することができる。また、通信部114の通信には、有線通信の場合、IEEE802.3などで規定されるイーサネット(登録商標)などの規格を適用することができる。
許可者情報記録部115および接近情報記録部116は、例えば、EEPROM(Electrically Erasable and Programmable Read Only Memory)、HDD(Hard Disk Drive)、MRAM(Magnetoresistive Random Access Memory,磁気抵抗メモリ)、FeRAM(Ferroelectric Random Access Memory,強誘電体メモリ)、OUM(Ovonic Unified Memory)などの不揮発性のメモリを備える。なお、許可者情報記録部115および接近情報記録部116が備えるメモリを、それぞれ別のメモリにより構成するようにしてもよいし、同一のメモリにより構成するようにしてもよい。
許可者情報記録部115は、図15を参照して後述するように、許可者に関する情報を記録し、管理する。
接近情報記録部116は、図17を参照して後述するように、接近情報を記録し、管理する。また、接近情報記録部116は、撮像部101から供給される監視画像データを一時的に記録する。さらに、接近情報記録部116は、周辺情報取得部111から供給される周辺情報を一時的に記録する。
図3は、図2の撮像部101の機能の構成例を示すブロック図である。撮像部101は、n台の撮像装置131−1乃至131−n、および、接続部132を含むように構成される。撮像装置131−1乃至131−nと接続部132とは、有線または無線通信により相互に通信を行う。なお、以下、撮像装置131−1乃至131−nを個々に区別する必要がない場合、単に撮像装置131と称する。
撮像装置131は、監視対象、または、監視対象の周辺の所定の領域を撮像するように設置される。撮像装置131は、後述するように、対数変換型の撮像素子を用いて、約170dBの非常に広いダイナミックレンジで、監視領域を撮像し、撮像した画像データ(監視画像データ)を接続部132に供給する。
接続部132は、撮像装置131−1乃至132−nから供給される監視画像データを、撮像した撮像装置131−1乃至132−nを識別するカメラNo.を示すデータともに、不審者検出部112、対処動作部113、および、接近情報記録部116に供給する。
撮像装置131−1乃至131−nは、それぞれ、レンズ141−1乃至141−n、および、撮像素子142−1乃至142−nを含むように構成される。なお、以下、レンズ141−1乃至141−nを個々に区別する必要がない場合、単にレンズ141と称し、撮像素子142−1乃至142−nを個々に区別する必要がない場合、単に撮像素子142と称する。
撮像装置131により撮像される被写体から発せられた光(あるいは、被写体により反射された光)は、レンズ141に入射し、撮像素子142の図示せぬ光検出面に結像する。
撮像素子142は、例えば、HDRC(High Dynamic Range CMOS(Complementary Metal Oxide Semiconductor))などの対数変換型の撮像素子とされる。撮像素子142は、レンズ141により結像された被写体の光を、入射された光の明るさ(照度)に応じた電荷に変換し、変換した電荷を蓄積する。また、撮像素子142は、例えば、複数のMOSFET(Metal Oxide Semiconductor Field Effect Transistor)を有し、MOSFETのサブスレッショルド特性を利用して、蓄積した電荷を、画素ごとに電荷の数(電流の強さ)の対数(被写体の光の光量の対数)にほぼ比例した電圧値に変換したアナログの電気信号を生成する。さらに、撮像素子142は、アナログの電気信号をデジタルの画像データにA/D変換し、変換したデジタルの画像データを接続部132に供給する。
このように、撮像装置131は、入射した被写体の光の明るさ(入射光量)の対数に比例した画素値を持つデジタルの画像データを出力する。なお、対数変換型の撮像素子については、例えば、特表平7−506932公報などにその詳細が開示されている。
図4は、撮像素子142、CCD撮像素子、銀塩フィルム、および、人の目の感度特性を示すグラフである。図4の横軸は、入射光の照度(単位は、ルクス(lux))の対数値を示し、縦軸は入射光の照度に対する感度を示している。線151は撮像素子142の感度特性を示し、線152はCCD撮像素子の感度特性を示し、線153は銀塩フィルムの感度特性を示し、線154は人の目の感度特性を示している。
図4に示されるように、CCD撮像素子は、人の目よりダイナミックレンジが狭い。従って、CCD撮像素子を用いた撮像装置では、入射光の照度がCCD撮像素子のダイナミックレンジ内に収まるように、絞りやシャッタースピードなどを調整する必要がある。
しかしながら、被写体の光の照度の範囲がCCD撮像素子のダイナミックレンジを超える場合、被写体の明るい領域の画素の画素値がCCD撮像素子が出力可能な画素値の最大値に制限されたり、被写体の暗い領域の画素の画素値がCCD撮像素子が出力可能な画素値の最小値に制限されたりする輝度クリッピングが発生する。また、入射光量を調整した場合、例えば、被写体の輝度が変動しない領域に対応する入射光量が変動し、その領域の画素値が変動するなど、入射光量の調整に伴う画素値の変動が発生する。すなわち、従来のCCD撮像素子を用いた撮像装置では、被写体の輝度の変動および被写体の動き以外の要因により画素値が変動する。
一方、撮像素子142は、上述したように、入射光量の対数にほぼ比例した画素値からなる画像データを出力することにより、撮像素子142を構成するフォトダイオードやMOSFETなどの容量を飽和させずに、CCD撮像素子、銀塩フィルム、および、人の目より広い、約1ミリルクスから太陽光の輝度より高い約500キロルクスまでの約170dBのダイナミックレンジで被写体を撮像することができる。
従って、撮像素子142を用いた撮像装置131は、人が視認できる輝度範囲において、輝度クリッピングが発生しないため、絞りやシャッタースピードなどを調整して入射光量を調整する必要がない。すなわち、撮像装置131は、入射光量を調整しなくても、被写体の詳細な輝度分布を忠実に撮像することができる。
例えば、昼間に車内から車の前方を撮像する場合、画角内に太陽が入っていても、撮像装置131により撮像された画像は、入射光量を調整しなくても、太陽と前方の道路の輝度の分布を忠実に再現した画像となる。また、夜間に車内から車の前方を撮像する場合、対向車のヘッドライトが前方から照らされていても、撮像装置131により撮像された画像は、入射光量を調整しなくても、対向車のヘッドライトの光から自車のヘッドライトに照らされていない領域までの輝度の分布を忠実に再現した画像となる。
また、CCD撮像素子および銀塩フィルムでは、線152および線153に示されるように、ガンマ特性などの要因により感度特性が入射光の照度の対数に比例しないのに比べて、撮像素子142では、感度特性が入射光の照度の対数にほぼ比例する。
このように、撮像素子142を用いた撮像装置131は、輝度クリッピングの発生、入射光量の調整、ガンマ特性の影響を受けないため、撮像装置131により撮像された画像データの画素値は、被写体の輝度の変動および被写体の動きをほぼ忠実に反映するように変動する。すなわち、フレーム間の画像データの差分をとった差分データの各画素の差分値は、被写体の輝度の変動および被写体の動きがほぼ忠実に反映された値となる。従って、撮像装置131を用いることにより、周囲の環境条件に関わらず、画像データから所定の被写体(例えば、人の顔)の画像を抽出したり、人の顔の認証を行ったり、被写体の動きを検出したりすることが容易になり、それらの精度が向上する。
なお、以上では、約170dBのダイナミックレンジを持つ撮像装置131(撮像素子142)について説明したが、監視領域の輝度の変動幅がそれより狭いことが想定される場合、その変動幅に応じたダイナミックレンジ(例えば、100dB、120dBなど)を持つ撮像素子を用いた撮像装置を用いるようにしてもよい。
次に、撮像装置131の設置位置の例を挙げる。例えば、監視対象が車である場合、撮像装置131は、車内、並びに、車体の左側、右側、前方、および後方を撮像するように設置される。また、例えば、撮像装置131は、不審者が監視対象をのぞき込んだときに、不審者の顔を撮像できるような位置に設置される。例えば、監視対象がセダン型の車の場合、車内に侵入する経路となったり、不正に工作されたりする可能性が高い左右の4枚のドア、トランク、ボンネットフードの前に接近した人の顔を撮像できる位置に設置される。
また、撮像装置131は、監視対象の弱点となる部分、例えば、周囲の人の視線が届きにくい場所に接近する接近者の顔を確実に撮像できる位置に設置されることが望ましい。さらに、撮像装置131は、悪意のある不審者しか侵入しないような場所があれば、その場所に侵入する接近者の顔を確実に撮像できる位置に設置されることが望ましい。
また、不審者が撮像装置131の存在を事前に察知する場合を想定して、別の撮像装置131を設置するようにしてもよい。例えば、玄関または車のドア付近に撮像装置131が設置されている場合、不審者は、その撮像装置131の画角に入らないように監視対象に接近する可能性が高い。従って、玄関または車のドア付近の撮像装置131の画角に入らないように監視対象に接近する経路上において、不審者の顔を撮像できる位置に別の撮像装置131を設置すると効果的である。
さらに、不審者が顔を接近させるように誘引する手段を用いて、不審者が誘引されたとき、不審者の顔を撮像できる位置に撮像装置131を設置するようにしてもよい。そのような誘因手段として、例えば、偽の鍵穴やシリンダー錠、監視対象または監視システム11の操作方法、状態、注意、または、警告などを記した偽の文書、監視対象または監視システム11の操作部(ボタン、ハンドル、キーボードなど)などがある。
また、撮像装置131の筐体を目立つ色や形状にしたり、撮像装置131から点滅光を発したり、音を出力したりすることにより、意図的に撮像装置131に注目させるようにして、不審者の顔を撮像する確率を向上させるようにしてもよい。逆に、撮像装置131の位置を察知されないように隠蔽して設置するようにしてもよい。また、注目させる撮像装置131と、隠蔽する撮像装置131を組み合わせて設置するようにしてもよい。
図5は、図2の周辺情報取得部111の機能の構成例を示すブロック図である。周辺情報取得部111は、ユーザID取得部161、ユーザ情報取得部162、監視対象情報取得部163、環境情報取得部164、位置情報取得部165、および、接近制限情報取得部166、および、周辺情報出力部167を含むように構成される。
ユーザID取得部161は、例えば、図6を参照して後述するユーザID送信装置171を用いてユーザにより入力される、ユーザを認証するためのユーザIDを示す情報(以下、ユーザID情報と称する)を受信する。ユーザID取得部161は、ユーザID情報を周辺情報出力部167に供給する。ユーザIDは、例えば、監視システム11が、顔画像を用いずに接近者がユーザであることを特定し、ユーザを認証するために用いられる。
ユーザ情報取得部162は、ネットワーク14および通信部114を介して、他の監視システム11、センタシステム12、または、端末装置13から監視システム11のユーザに関する情報(以下、ユーザ情報と称する)を取得し、取得したユーザ情報を周辺情報出力部167に供給する。
ユーザ情報は、例えば、ユーザの所在地、スケジュールなどである。例えば、監視システム11が、ユーザの所在地またはスケジュールに基づいて、ユーザが監視対象の側にいるか否かを把握し、ユーザが監視対象の側にいるか否かに基づいて、接近者が不審者であるか否かを判定するようにすれば、不審者の検出精度を向上させることができる。また、ユーザID情報を受信したとき、ユーザが監視対象の側にいるか否かに基づいて、ユーザID情報がユーザにより送信されたものであるか否かを判定することができる。
監視対象情報取得部163は、図7を参照して詳細な例を後述するように、監視対象に関する情報(以下、監視対象情報と称する)を監視対象、または、監視対象に設けられている各種のセンサなどから取得し、取得した監視対象情報を周辺情報出力部167に供給する。
環境情報取得部164は、図8を参照して詳細を後述するように、監視対象の周辺の環境などに関する情報(以下、環境情報と称する)を取得し、取得した環境情報を周辺情報出力部167に供給する。
位置情報取得部165は、監視対象の位置に関する情報(以下、位置情報と称する)を取得し、取得した位置情報を周辺情報出力部167に供給する。
例えば、位置情報取得部165は、GPS(Global Positioning System)受信機により構成される。GPS受信機である位置情報取得部165は、例えば、監視対象に取り付けられ、監視対象の現在位置の緯度と経度を示す情報を取得する。
また、例えば、位置情報取得部165は、RFID(Radio Frequency Identification)用のリーダライタにより構成される。リーダライタである位置情報取得部165は、例えば、監視対象に取り付けられ、所定の位置に設置されているRFIDが発信する無線信号を受信することにより、監視対象の現在位置を把握する。これにより、測地衛星から送信される電波をGPS受信機が受信できない屋内や地下においても、監視対象の位置を把握することができるようになる。
接近制限情報取得部166は、監視対象への接近を制限する接近制限手段から供給される情報(以下、接近制限情報と称する)を取得し、取得した接近制限情報を周辺情報出力部167に供給する。
接近制限手段は、例えば、監視対象に接近する場合に通過する門扉、ドアなどである。例えば、接近制限情報取得部166は、接近制限手段である門扉またはドアに設けられている人の通過を検知する物体センサからのセンサデータや、門扉またはドアの開閉を検出するセンサ開閉センサからのセンサデータを取得する。
また、接近制限手段は、例えば、監視対象がある区域に人が侵入した場合、警報などを鳴動することにより、侵入者に立ち退きを警告する警報装置などである。例えば、接近制限情報取得部166は、接近制限手段である警報装置から、警報装置が起動したことを示すデータを取得する。
周辺情報出力部167は、ユーザID情報、ユーザ情報、監視対象情報、環境情報、位置情報、または、接近制限情報を含む周辺情報を、通信部114、または、接近情報記録部116に供給する。
図6は、図5のユーザID取得部161が、車のドアロックの解錠を制御するパッシブエントリシステムの受信機として設けられる場合の実施の形態を示している。
パッシブエントリシステムの受信機であるユーザID取得部161は、制御部171、通信部172、パッシブエントリ認証部173、および、記憶部174を含むように構成される。制御部171、通信部172、および、パッシブエントリ認証部173は、バス175を介して、相互に接続される。また、車のドアロックの開閉を制御するロック制御装置191が、バス175に接続される。
制御部171は、ユーザID取得部161の各部の処理を制御する。
通信部172は、ユーザID送信装置192から所定の周波数の信号により送信されてくるユーザID情報を受信し、受信したユーザID情報をパッシブエントリ認証部173に供給する。
パッシブエントリ認証部173は、ユーザID情報に示されるユーザIDを、記憶部174に記憶されている識別番号181と照合する。ユーザIDが識別番号181と一致する場合、ユーザID送信装置192から送信されてきたユーザIDが監視対象である車のユーザのものであると認証し、ユーザ認証が成功したことを示す情報をロック制御装置191に供給する。
ロック制御装置191は、ユーザ認証が成功したことを示す情報を受信した場合、車のドアロックを解錠する。
パッシブエントリシステムの送信機であるユーザID送信装置192は、制御部201、通信部202、および、記録部203を含むように構成される。
制御部201は、ユーザID送信装置191の各部の処理を制御する。
通信部202は、記憶部203に記憶されている識別番号211をユーザIDに設定したユーザID情報を、所定の周波数の信号として定期的に外部に送信する。
例えば、ユーザが、ユーザID送信装置192を持って、監視対象である車に接近した場合、ユーザID送信装置192の通信部202から定期的に送信されるユーザID情報が、ユーザID取得部161の通信部172により受信される。パッシブエントリ認証部173は、通信部173からユーザID情報を取得し、ユーザID情報に示されるユーザIDが識別番号181と一致する場合、ユーザ認証が成功したことを示す情報をロック制御装置191に供給する。ロック制御装置191は、例えば、ユーザが車のドアノブを引き、ドアノブの側に設けられている所定のスイッチを押下したとき、車のドアロックを解錠する。
図7は、監視対象である車から各種の情報(監視対象情報)を取得するために、図5の監視対象情報取得部163を車の各装置に接続する場合の例を示す図である。図7の例において、監視対象情報取得部163は、エンジン制御装置241、自動走行制御装置242、電動パワーステアリング制御装置243、ブレーキ制御装置244、エアバッグ制御装置245、センサ246、外部通信装置247、ロック制御装置248、ナビゲーション装置249、オーディオビデオ装置250、放送受信装置251、および、エアコン制御装置252と、バス253を介して、相互に接続されている。また、監視対象情報取得部163は、車に設けられている音響センサ261、加速度センサ262、物体センサ263、および、圧力センサ264と接続される。
エンジン制御装置241は、車のエンジンの制御に用いる各種のパラメータ、および、エンジンの起動、停止、回転数などエンジンの動作状況を示す情報などを含む情報を、バス253を介して、監視対象情報取得部163に供給する。
自動走行制御装置242は、車の自動走行の制御に用いる各種のパラメータ、および、自動走行の状況を示す情報などを含む情報を、バス253を介して、監視対象情報取得部163に供給する。
電動パワーステアリング243は、車の電動パワーステアリングの制御に用いる各種のパラメータ、および、電動パワーステアリングの動作状況を示す情報などを含む情報を、バス253を介して、監視対象情報取得部163に供給する。
ブレーキ制御装置244は、車のブレーキの制御に用いるパラメータ、および、ブレーキの動作状況を示す情報などを含む情報を、バス253を介して、監視対象情報取得部163に供給する。
エアバッグ制御装置245は、車のエアバッグの制御に用いるパラメータ、および、エアバッグの動作状況を示す情報などを含む情報を、バス253を介して、監視対象情報取得部163に供給する。
センサ246は、例えば、ドア、ドアロック、窓、トランクなどの開閉を検出するセンサ、キーシリンダへのキーの挿入を検出するセンサなど、車に装備されているセンサであある。センサ246は、各種のセンサのデータを、バス253を介して、監視対象情報取得部163に供給する。
外部通信装置247は、例えば、無線機、無線LANの送受信機など車外の通信機器と通信する装置である。外部通信装置247は、車外の通信機器から受信した情報を、バス253を介して、監視対象情報取得部163に供給する。
ロック制御装置248、例えば、車のドアやトランクの鍵の開閉を制御する装置であり、ドアまたはトランクの鍵の開閉状況などを示す情報を、バス253を介して、監視対象情報取得部163に供給する。
ナビゲーション装置249は、例えば、市販のカーナビゲーション装置であり、現在位置、進行方向、走行距離、目的地、周辺情報など、カーナビゲーション装置が処理する各種の情報を、バス253を介して、監視対象情報取得部163に供給する。
オーディオビデオ装置250は、例えば、車載用のAV(Audio/Visual)データの再生装置である。オーディオビデオ装置250は、オーディオビデオ装置250の動作状況を示す情報、オーディオビデオ装置250により再生中のオーディオデータまたはビデオデータなどを、バス253を介して、監視対象情報取得部163に供給する。
放送受信装置251は、例えば、車載用のテレビジョン受像器やラジオである。放送受信装置251は、放送受信装置251の動作状況を示す情報、受信した放送信号などを、バス253を介して、監視対象情報取得部163に供給する。
エアコン制御装置252は、例えば、車に装備されたエアコンの制御に用いるパラメータ、および、エアコンの動作状況を示す情報などを含む情報を、バス253を介して、監視対象情報取得部163に供給する。
音響センサ261は、例えば、音波によって振動する振動体の振幅を電気信号に変換したセンサデータ、すなわち、車内および車両の周辺の音の大きさ、周波数、音源の位置や方向などを示すセンサデータを監視対象情報取得部163に供給する。
加速度センサ262は、例えば、互いにほぼ直交する3軸方向の加速度を検出し、検出した加速度に基づいたセンサデータ、すなわち、車両の傾き、振動などを示すセンサデータを監視対象情報取得部163に供給する。
物体センサ263は、例えば、赤外線光など光を利用した赤外線センサ、マイクロ波を利用したマイクロ波センサ、超音波を利用した超音波センサ、磁界や電界を利用した近接センサなど、非接触で物体の有無や状態を検出するセンサである。物体センサ263は、車内または車外の物体の有無や状態を示すセンサデータを監視対象情報取得部163に供給する。
圧力センサ264は、例えば、車のタイヤに取り付けられ、タイヤの空気圧を示すセンサデータを監視対象情報取得部163に供給する。
図8は、図5の環境情報取得部164の機能の構成の例を示すブロック図である。環境情報取得部164は、カレンダタイマ部281、センサデータ取得部282、ネットワーク情報取得部283、周辺監視システム情報取得部284、および、環境情報出力部285を含むように構成される。
カレンダタイマ部281は、現在の日時を示す情報を環境情報出力部285に供給する。
センサデータ取得部282は、センサ部102に設けられている各種のセンサから出力されるセンサデータを取得し、取得したセンサデータを環境情報出力部285に供給する。
ネットワーク情報取得部283は、ネットワーク14および通信部114を介して、センタシステム12、または、端末装置13から各種の情報を取得し、取得した情報を環境情報出力部285に供給する。例えば、ネットワーク情報取得部283は、警察または警備会社が所有するセンタシステム12から送信される周辺地域での犯罪発生情報、不審者の顔画像データなどを受信する。
周辺監視システム情報取得部284は、ネットワーク14および通信部114を介して、他の監視システム11、または、監視システム11とは異なる種類の監視システムから各種の情報を取得し、取得した情報を環境情報出力部285に供給する。例えば、周辺監視システム情報取得部284は、監視対象である車がビルの駐車場に停車されている場合、監視対象の周囲の車を監視する監視システム、ビル監視システム、駐車場監視システムなどから、各監視システムが検出した不審者の顔画像データなどを受信する。
環境情報出力部285は、カレンダタイマ部281、センサデータ取得部282、ネットワーク情報取得部283、または、周辺監視システム情報取得部284から取得した情報またはデータを周辺情報出力部167に供給する。
図9は、図2の不審者検出部112の機能の構成例を示すブロック図である。不審者検出部112は、顔検出部301、特徴量検出部302、照合部303、視線検出部304、および、不審者検出処理部305を含むように構成される。また、不審者検出処理部305は、不審度判定部311、接近行為検出部312、異常行為検出部313、隠蔽不審者検出部314、および、子供判定部315を含むように構成される。
顔検出部301は、接続部132から監視画像データ、および、監視画像データを撮像した撮像装置131のカメラNo.を示すデータを取得する。顔検出部301は、図19および図20を参照して後述するように、監視画像データから人の顔の特徴を持つ画像、すなわち、顔画像を検出する。顔検出部301は、監視画像データから接近者の顔の画像を抽出した顔画像データを、特徴量検出部302および視線検出部304に供給する。さらに、顔検出部301は、接近者の顔が検出された監視画像データ、および、その監視画像データを撮像した撮像装置131のカメラNo.を示すデータを視線検出部304に供給する。また、顔検出部301は、監視画像データから人の顔が検出されなかった場合、人の顔が検出されなかったことを通知する情報を不審度判定部311に供給する。
特徴量検出部302は、図19および図20を参照して後述するように、顔画像データに基づいて、接近者の顔の特徴量を検出する。特徴量検出部302は、検出した特徴量を示す特徴量データ、および、特徴量を検出するのに用いた顔画像データを照合部303に供給する。
照合部303は、図19および図20を参照して後述するように、許可者情報記録部115に記録されている許可者の顔の特徴量データおよび接近情報記録部116に記録されている既検出者の顔の特徴量データと、接近者の顔の特徴量データとを照合することにより、接近者を特定する。また、照合部303は、周辺情報取得部111から供給される周辺情報に含まれるユーザIDに基づいて、接近者を特定する。さらに、照合部303は、接近者を特定した結果を示す接近者特定情報を不審度判定部311に供給する。また、照合部303は、接近者の顔画像データおよび特徴量データを接近情報記録部116に供給する。
視線検出部304は、図23を参照して後述するように、接近者の顔画像データおよび監視画像データに基づいて、接近者の顔方向および視線方向を検出する。視線検出部304は、接近者の視線方向および顔方向を示す情報を、接近情報記録部116に供給する。
不審者検出処理部305は、監視画像データおよび周辺情報に基づいて、接近者の不審行為の検出、不審度の算出、および、隠蔽不審者の検出を行う。
不審度判定部311は、接近者の顔方向および視線方向の検出を指示する情報を視線検出部304に供給する。また、不審度判定部311は、隠蔽不審者の検出処理の実行を指示する情報を隠蔽不審者検出部314に供給し、検出結果を隠蔽不審者検出部314から取得する。さらに、不審度判定部311は、接近者が子供であるか否かを判定する子供判定の実行を指示する情報を子供判定部315に供給し、判定結果を子供判定部315から取得する。不審度判定部311は、接近者特定情報および接近者の不審度の算出を指示する情報を接近行為検出部312および異常行為検出部313に供給し、算出した不審度を示す情報を接近行為検出部312および異常行為検出部313から取得する。
不審度判定部311は、接近者特定情報、隠蔽不審者の検出結果、子供判定の判定結果、および、不審度に基づいて、接近者が不審者であるか否かを判定する。不審度判定部311は、検出した接近者に関する接近者検出情報を対処動作部113および接近情報記録部116に供給する。また、不審度判定部311は、接近者特定情報を接近情報記録部116に供給する。また、不審度判定部311は、接近情報の更新を指示する情報を接近情報記録部116に供給する。
接近行為検出部312は、図10を参照して詳細を後述するように、監視画像データ、周辺情報、並びに、接近者の顔方向および視線方向を示す情報に基づいて、接近者の監視対象への接近行為に対する不審度を算出し、算出した不審度を示す情報を不審度判定部311に供給する。また、接近行為検出部312は、検出した接近者による不審行為の記録を指示する情報を接近情報記録部116に供給する。
異常行為検出部313は、図10を参照して詳細を後述するように、監視画像データおよび周辺情報に基づいて、接近行為以外の接近者の異常な行為に対する不審度を算出し、算出した不審度を示す情報を不審度判定部311に供給する。また、異常行為検出部313は、検出した接近者による不審行為の記録を指示する情報を接近情報記録部116に供給する。
隠蔽不審者検出部314は、図23を参照して後述するように、監視画像データに基づいて、隠蔽不審者の検出処理を行う。隠蔽不審者検出部314は、検出結果を示す情報を不審度判定部311に供給する。
子供判定部315は、図24および図25を参照して後述するように、接近者が子供であるか否かを判定する。子供判定部315は、判定結果を示す情報を不審度判定部311に供給する。
図10は、図9の接近行為検出部312および異常行為検出部313の機能の構成の例を示すブロック図である。接近行為検出部312は、接近頻度不審度算出部321、接近距離不審度算出部322、対面時間不審度算出部323、顔方向不審度算出部324、視線方向不審度算出部325、および、うろつき不審度算出部326を含むように構成される。
接近頻度不審度算出部321は、図27を参照して後述するように、所定の時間内に接近者が監視対象に接近した(所定の時間内に接近者の顔の画像が検出された)頻度に基づいて、接近者の接近頻度不審度を算出し、算出した不審度を不審度判定部311に供給する。
ここで、図11および図12を参照して、接近頻度不審度の詳細を説明する。図11は、監視対象が車である場合、顔A乃至Cを持つ一般の通行人が車の側を通過する場合、監視システム11により顔が検出される頻度の例を示す図である。一方、図12は、顔Zを持つ不審者が、車に対して何らかの不審行為を働こうとしたり、不審行為を働く前に車の下見をする場合、監視システム11により顔が検出される頻度の例を示す図である。図11および図12の横軸は時間を示しており、上向きの矢印により示される時刻が、顔が検出された時刻を示している。
図11に示されるように、一般の通行人が車の側を通過する場合、車の側を通過する時間(例えば、10秒程度)の間だけ、監視システム11により繰り返し同じ顔が検出される。一方、図12に示されるように、不審者が車に不審行為を働こうとする場合、一般の通行人が車の側を通過する時間より長い時間に渡って、同じ顔が頻繁に監視システムに11により検出される。接近頻度不審度は、このように、不審者が監視対象に頻繁に接近する行為を検出するために用いられる。
接近距離不審度算出部322は、図28を参照して後述するように、監視対象への接近距離に基づいて、接近者の接近距離不審度を算出し、算出した不審度を不審度判定部311に供給する。
対面時間不審度算出部323は、図29を参照して後述するように、監視対象への接近が継続して検出されている(接近者の顔の画像が継続して検出されている)時間に基づいて、接近者の対面時間不審度を算出し、算出した不審度を不審度判定部311に供給する。
顔方向不審度算出部324は、図30を参照して後述するように、監視対象の方向に顔を向ける割合および回数に基づいて、接近者の顔方向不審度を算出し、算出した不審度を不審度判定部311に供給する。また、顔方向不審度算出部324は、所定の時間(例えば、10秒間)の間に、所定の値(例えば、50%)以上の割合で、接近者の顔が監視対象の方向に向けられる行為(以下、顔方向不審行為と称する)を検出した場合、接近者による顔方向不審行為の記録を指示する情報を接近情報記録部116に供給する。
視線方向不審度算出部325は、図31を参照して後述するように、監視対象の方向に視線を向ける割合および回数に基づいて、不審度を算出し、算出した不審度を不審度判定部311に供給する。また、視線方向不審度算出部325は、所定の時間(例えば、10秒間)の間に、所定の値(例えば、50%)以上の割合で、接近者の視線が監視対象の方向に向けられる行為(以下、視線方向不審行為と称する)を検出した場合、接近者による視線方向不審行為の記録を指示する情報を接近情報記録部116に供給する。
うろつき不審度算出部326は、図32を参照して後述するように、接近者が監視対象の周りを移動した角度に基づいて、接近者のうろつき不審度を算出し、算出した不審度を不審度判定部311に供給する。
異常行為検出部313は、身体動作不審度算出部331、特定箇所不審度算出部332、連続行為不審度算出部333、監視対象不審度算出部334、および、接近制限不審度算出部335を含むように構成される。
身体動作不審度算出部331は、図33を参照して後述するように、接近者の不自然な身体動作を検出することにより、接近者の身体動作不審度を算出し、算出した不審度を不審度判定部311に供給する。また、身体不審度算出部331は、接近者による不審な身体動作を検出した場合、その身体動作の内容の記録を指示する情報を接近情報記録部116に供給する。
特定箇所不審度算出部332は、図33を参照して後述するように、監視対象の特定の箇所(例えば、車のドア、トランクなど)に対して行われる行為を検出することにより、接近者の特定箇所不審度を算出し、算出した不審度を不審度判定部311に供給する。また、特定箇所不審度算出部332は、接近者による監視対象の特定箇所に対する不審行為を検出した場合、その不審行為の記録を指示する情報を接近情報記録部116に供給する。
連続行為不審度算出部333は、図33を参照して後述するように、接近者の一連の連続した行為の組み合わせ、順序、および、継続時間などに基づいて、接近者の連続行為不審度を算出し、算出した不審度を不審度判定部311に供給する。
図13は、連続行為不審度の算出を行うためのデータを記録する連続行為情報記録部351の機能の構成の例を示す図である。連続行為情報記録部351は、行為データ記録部361およびシーケンステーブル記録部362を含むように構成される。
行為データ記録部361は、所定の行為を行った場合の監視画像データおよび周辺情報の特徴を示すデータを記録する。例えば、接近者が所定の行為(例えば、車のドアロックの解錠)を行った場合の監視画像内の接近者の位置、姿勢、各種センサのセンサデータの値の範囲、検出時間などが、行為ごとに記録される。また各行為には、各行為を一意に識別するための行為No.が割り当てられる。
シーケンステーブル記録部362は、不審な連続行為の内容および不審度を設定するシーケンステーブルを管理する。例えば、不審な連続行為には、監視対象が車である場合、運転席のドアに接近し、運転席のドアハンドルを操作し、運転席後部のドアに接近し、ドアハンドルを操作し、トランクに接近し、トランクの開閉操作部を操作し、助手席後部座席に接近し助手席後部座席のドアハンドルを操作し、助手席に接近して助手席ドアハンドルを操作するなど車の操作可能な操作部を次々と操作する行為、鍵穴に接近して、顔を鍵穴付近に向け、鍵穴付近を注視し、鍵穴付近に物体を近づける行為、ホイールを盗難するために、車の4個のホイールに順次近づいて、顔や手を近づける行為などがある。
シーケンステーブルには、例えば、不審な連続行為ごとに、連続行為の一連の流れが、行為データ記録部361に記録されている行為の行為No.の順序と各行為の継続時間の範囲により定義される。また、シーケンステーブルには、各不審連続行為に対する不審度が設定される。
連続行為不審度算出部333は、監視画像データおよび周辺情報に基づいて、シーケンステーブルに定義されている連続行為を接近者が行ったことを検出した場合、その接近者の不審度を、シーケンステーブルに設定されている不審度に設定する。また、連続行為不審度検出部333は、接近者による不審な連続行為を検出した場合、その連続行為の記録を指示する情報を接近情報記録部116に供給する。
なお、例えば、ユーザが、事前に想定される不審な連続行為を模擬的に実行し、そのとき取得された監視画像データおよび周辺情報に基づいて、行為データ記録部361およびシーケンステーブル記録部362に不審な連続行為に関する情報を自動的に記録させるような構成にすれば、検出すべき不審な連続行為に関する情報の登録が容易になる。
監視対象不審度算出部334は、図33を参照して後述するように、監視対象の異常を検出することにより、接近者の監視対象不審度を算出し、算出した不審度を不審度判定部311に供給する。
接近制限不審度算出部335は、図33を参照して後述するように、接近制限手段から供給される接近制限情報に基づいて、接近者の接近制限不審度を算出し、算出した不審度を不審度判定部311に供給する。
図14は、図2の対処動作部113の機能の構成の例を示すブロック図である。対処動作部113は、対処動作指示部401、注意・警告・威嚇部402、通知部403、監視対象制御部404、表示部405、および、許可者登録部406を含むように構成される。
対処動作指示部401は、不審度判定部311から接近者検出情報を取得する。対処動作指示部401は、ネットワーク14および通信部114を介して、他の監視システム11、センタシステム12、または、端末装置13から、処理の実行の指令を示す情報を取得する。対処動作指示部401は、接近者検出情報、または、処理の実行の指令を示す情報に基づいて、注意・警告・威嚇部402、通知部403、監視対象制御部404、表示部405、および、許可者登録部406に、各種の処理の実行を指示する情報を供給し、各種の処理を実行させる。また、対処動作指示部401は、接近情報の更新を指示する情報を接近情報記録部116に供給する。
注意・警告・威嚇部402は、例えば、LED(Light Emitting Diode)などによる表示装置、スピーカなどによる音声出力装置を有し、図34を参照して後述するように、LEDの点滅や音声などにより、監視対象から離れるように接近者を注意、警告、または、威嚇する。
通知部403は、監視システム11による監視状況を通知する情報を、通信部114およびネットワーク14を介して、他の監視システム11、センタシステム12、または、端末装置13に送信する。
監視対象制御部404は、図34を参照して後述するように、不審者が検出された場合、不審者から監視対象を防御するために、監視対象の動作を制御する。また、監視対象制御部404は、図19および図20を参照して後述するように、接近者が利用許可者であると特定された場合、利用許可者の利便性を向上させるように、監視対象の動作を制御する。
表示部405は、例えば、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などのディスプレイなどにより構成される。表示部405は、監視画像データ、および、監視画像データを撮像した撮像装置131のカメラNo.を示すデータを接続部132から取得する。表示部405は、対処動作指示部401の制御の基に、監視画像データに基づく監視画像を表示したり、各種のメッセージや情報を表示したりする。
許可者登録部406は、図34を参照して後述するように、ユーザの指令により、不審者と判定された接近者の顔画像データおよび特徴量データを、接近情報記録部116から取得し、許可者情報記録部115に記録させる。これにより、不審者であると判定された接近者が、利用許可者または接近許可者として登録される。
図15は、図2の許可者情報記録部115の機能の構成の例を示すブロック図である。許可者情報記録部115は、許可者情報管理部501、顔画像記録部502、特徴量記録部503、利用情報記録部504、および個人情報記録部505を含むように構成される。
許可者情報管理部501は、図16を参照して後述する許可者情報テーブルを管理し、監視システム11の各部からの指示に基づいて、許可者情報テーブルの更新を行う。また、許可者情報管理部501は、監視システム11の各部からのデータの書き込みの指示に基づいて、顔画像記録部502、特徴量記録部503、利用情報記録部504、または、個人情報記録部505に、書き込みが指示されたデータを記録させる。さらに、許可者情報管理部501は、監視システム11の各部からのデータの読み出しの指示に基づいて、顔画像記録部502、特徴量記録部503、利用情報記録部504、または、個人情報記録部505から、読み出しが指示されたデータを読み出し、読み出したデータを各部に供給する。
顔画像記録部502は、各許可者の顔画像データを記録する。なお、顔画像記録部502は、1人の許可者に対して複数の顔画像データを記録することができる。また、顔画像データには、各顔画像データを一意に識別するためのユニークな顔画像No.が割り当てられる。
特徴量記録部503は、各許可者の顔の特徴を示す特徴量データを記録する。特徴量データは、例えば、顔、目、鼻、口、眉、耳、ほくろ、しみなどの顔または顔の各部の位置、形状、大きさなど、顔の各部の大きさの比率、肌、髪、瞳などの色、虹彩の形状、外観から推定した骨格の形状などを示すデータを含む。また、特徴量データには、各特徴量データを一意に識別するためのユニークな特徴量No.が割り当てられる。
利用情報記録部504は、各許可者の利用情報を記録する。利用情報とは、各許可者に対して許可されている監視対象の利用範囲を示す情報である。例えば、監視対象が車である場合、利用情報は、車を運転する、車に乗車する、車に接近する、車の付近を通過するなど、各利用許可者に対して許可されている車の利用範囲を示す情報を含む。また、利用情報は、接近者が利用許可者であると特定された場合、その利用許可者の利便性を高めるために、監視システム11が自動的に行う処理(例えば、車のドアロックを自動的に解錠するなど)を示す情報を含む。さらに、利用情報には、各利用情報を一意に識別するためのユニークな利用情報No.が割り当てられる。
個人情報記録部505は、各許可者の個人情報が記録される。個人情報は、例えば、許可者の氏名、住所、電話番号、年齢、職業、性別などを含む。また、個人情報には、各個人情報を一意に識別するためにユニークな個人情報No.が割り当てられる。
図16は、許可者情報管理部501が管理する許可者情報テーブルの例を示す図である。許可者情報テーブルの各レコードは、例えば、許可者ID、登録種別、特徴量No.、顔画像No.、利用情報No.、および、個人情報No.を含む。なお、以下、許可者情報テーブルの各レコードを、単に許可者情報とも称する。
許可者IDは、許可者情報テーブルにより管理される許可者を一意に識別するために、各許可者に割り当てられたIDである。
登録種別は、許可者が、利用許可者であるか接近許可者を示すデータである。
特徴量No.、顔画像No.、利用情報No.、および個人情報No.は、各許可者に対応する特徴量データの特徴量No.、顔画像データの顔画像No.、利用情報の利用情報No.、および、個人情報の個人情報No.を示す。
図17は、図2の接近情報記録部116の機能の構成の例を示すブロック図である。接近情報記録部116は、接近情報管理部521、顔画像記録部522、特徴量記録部523、行為情報記録部524、周辺情報記録部525、および、バッファ526を含むように構成される。
接近情報管理部521は、図18を参照して後述する接近情報テーブルを管理し、監視システム11の各部からの指示に基づいて、接近情報テーブルの更新を行う。また、接近情報管理部521は、監視システム11の各部からのデータの書き込みの指示に基づいて、顔画像記録部522、特徴量記録部523、行為情報記録部524、周辺情報記録部525、または、バッファ526に、書き込みが指示されたデータを記録させる。さらに、接近情報管理部521は、監視システム11の各部からのデータの読み出しの指示に基づいて、顔画像記録部522、特徴量記録部523、行為情報記録部524、周辺情報記録部525、または、バッファ526から、読み出しが指示されたデータを読み出し、読み出したデータを各部に供給する。
顔画像記録部522は、撮像装置131が撮像した各接近者の顔画像データを記録する。
特徴量記録部523は、顔画像データから検出された各接近者の顔の特徴を示すデータである特徴量データを記録する。特徴量データは、上述した許可者の特徴量データと同様のデータを含む。
1組の顔画像データと特徴量データには、各データを一意に識別するためのユニークな顔画像・特徴量No.が割り当てられる。
行為情報記録部524は、接近者が検出されたときに行った不審行為の内容を示す行為情報を記録する。行為情報に記録される行為には、例えば、顔方向不審行為、視線方向不審行為、不審な身体動作、特定箇所に対する不審行為、不審な連続行為などがある。
周辺情報記録部525は、接近者が検出されたときに周辺情報取得部111により取得された周辺情報を記録する。
1組の行為情報533と周辺情報534には、各データを一意に識別するためにユニークな行為・周辺情報No.が割り当てられる。
バッファ526は、監視システム11の処理において必要となる各種の情報やデータを、一時的に記録する。
図18は、接近情報管理部521が管理する接近情報テーブルの例を示す図である。接近情報テーブルの各レコードは、例えば、データNo.、カメラNo.、検出者ID、検出時刻、10秒間頻度、顔画像・特徴量No.、不審度、不審者判定、対応動作、および、行為・周辺情報No.を含む。なお、以下、接近情報テーブルの各レコードを、単に接近情報とも称する。なお、監視システム11により同じ接近者が連続して検出されている場合、所定の時間(例えば、10秒)(以下、単位時間と称する)ごとに新たな接近情報が追加される。なお、以下、接近情報の単位時間を10秒として説明する。
データNo.は、接近情報テーブルにより管理される接近情報を一意に識別するために割り振られた番号である。
カメラNo.は、接近者の顔画像を撮像した撮像装置131の番号を示す。
検出者IDは、過去に監視システム11により検出された既検出者を一意に識別するために割り振られた番号である。
検出時刻は、接近情報の記録が開始された時刻を示す。
10秒間頻度は、接近情報が記録される単位時間(いまの場合、10秒)あたりに、接近者の顔が検出された回数を示す。
顔画像・特徴量No.は、各接近情報に対応する顔画像データおよび特徴量データの顔画像・特徴量No.を示す。すなわち、接近情報が記録された接近者の顔画像データおよび特徴量データの顔画像・特徴量No.を示す。
不審度は、接近者の不審度を示すデータである。
不審者判定は、接近者が不審者または非不審者のどちらに判定されたかを示すデータである。
対応動作は、接近者に対して、監視システム11が行った動作の種類(例えば、対応動作なし、注意、警告、威嚇など)を示す。
行為・周辺情報No.は、各接近情報に対応する行為情報および周辺情報の行為・周辺情報No.を示す。すなわち、接近情報が記録されているときの、接近者による行為情報および周辺情報の行為・周辺情報No.を示す。
次に、図19乃至図39を参照して、監視システム11により実行される処理を説明する。
まず、図19および図20を参照して、監視システム11により実行される監視処理を説明する。なお、この処理は、例えば、監視システム11への電力の供給が開始されたとき開始される。
ステップS1において、撮像部101は、監視領域の撮像を開始する。具体的には、撮像部101の各撮像装置131は、監視領域の撮像を開始し、撮像した監視画像データを接続部132に供給する。接続部132は、監視画像データ、および、監視画像データを撮像した撮像装置131のカメラNo.を示すデータの、顔検出部301、表示部405、および、接近情報管理部521への供給を開始する。接近情報管理部521は、取得した監視画像データとカメラNo.を関連づけて、所定の時間(例えば、3分間)の間、バッファ526に一時的に記録させる。
ステップS2において、周辺情報取得部111は、周辺情報の取得を開始し、取得した周辺情報の接近情報管理部521への供給を開始する。接近情報管理部521は、取得した周辺情報を、所定の時間(例えば、3分間)の間、バッファ526に一時的に記録させる。
ステップS3において、監視システム11は、監視を開始するか否かを判定する。例えば、監視システム11は、ユーザが監視システム11の図示せぬ操作部を操作することにより入力した監視の開始の指令を取得したとき、監視を開始すると判定し、処理はステップS4に進む。また、例えば、監視システム11は、監視対象が車の場合、キーシリンダに車のキーが未挿入である場合に、車のドアロックが施錠されたことを監視対象情報取得部163が検出したときなど、監視システム11の監視の開始条件が整ったとき、監視を開始すると判定し、処理はステップS4に進む。
ステップS4において、顔検出部301は、監視画像データの中から人の顔を検索する。具体的には、顔検出部301は、例えば、テンプレートマッチングやニューラルネットワークなどの手法を用いて、監視画像データの中から人の顔の特徴を持つ画像、すなわち、顔画像を検索する。なお、顔検出部301が行う顔検出処理は、特定の手法に限定されるものではない。
ステップS5において、顔検出部301は、ステップS4の処理の結果に基づいて、監視画像データから人の顔が検出されたか否かを判定する。監視画像データに人の顔が検出されていないと判定された場合、処理はステップS6に進む。
ステップS6において、顔検出部301は、不審度判定部311に、人の顔が検出されなかったことを通知する。具体的には、顔検出部301は、不審度判定部311に、監視画像データから人の顔が検出されなかったことを通知する情報を供給する。不審度判定部311は、隠蔽不審者検出処理の実行を指示する情報を隠蔽不審者検出部314に供給する。
ステップS7において、隠蔽不審者検出部314は、隠蔽不審者検出処理を行う。隠蔽不審者検出処理の詳細は、図23を参照して後述するが、この処理により、監視領域に隠蔽不審者検出処理が実行され、検出結果を示す情報が不審度判定部311に供給される。
ステップS8において、不審度判定部311は、ステップS6の処理の結果に基づいて、監視領域から隠蔽不審者が検出されたか否かを判定する。隠蔽不審者が検出されていないと判定された場合、すなわち、監視領域から人の存在が検出されなかった場合、処理はステップS15に進む。
ステップS8において、隠蔽不審者が検出されたと判定された場合、処理はステップS16に進む。
ステップS5において、監視画像データから人の顔が検出されたと判定された場合、処理はステップS9に進む。
ステップS9において、特徴量検出部302は、接近者の顔の特徴量を検出する。具体的には、顔検出部301は、監視画像データの中から接近者の顔の画像を抽出し、接近者の顔の画像を抽出した画像データ(顔画像データ)を、特徴量検出部302に供給する。
特徴量検出部302は、顔画像データに基づいて、例えば、顔、目、鼻、口、眉、耳、ほくろ、しみなどの顔または顔の各部の位置、形状、大きさなど、顔の各部の大きさの比率、肌、髪、瞳などの色、虹彩の形状、外観から推定した骨格の形状などを特徴量として検出する。特徴量検出部302は、接近者の顔の特徴量を示す特徴量データ、および、特徴量を検出するために用いた顔画像データを照合部303に供給する。
なお、特徴量検出部302は、上述した特徴量以外の特徴量を検出するようにしてもよいし、状況に応じて検出する特徴量を選択するようにしてもよい。
ステップS10において、照合部303は、接近者を特定する。具体的には、照合部303は、許可者情報管理部501を介して、特徴量記録部503から、利用許可者の特徴量データを取得する。照合部303は、利用許可者の特徴量データと、接近者の特徴量データとを照合する。照合部303は、所定の判定条件に基づいて、接近者の特徴量データと一致する利用許可者の特徴量データが検出された場合、一致する特徴量データを持つ利用許可者に接近者を特定する。
接近者を利用許可者に特定できなかった場合、照合部303は、許可者情報管理部501を介して、特徴量記録部503から、接近許可者の特徴量データを取得する。照合部303は、接近許可者の特徴量データと、接近者の特徴量データとを照合する。照合部303は、所定の判定条件に基づいて、接近者の特徴量データと一致する接近許可者の特徴量データが検出された場合、一致する特徴量データを持つ接近許可者に接近者を特定する。
接近者を利用許可者および接近許可者に特定できなかった場合、照合部303は、接近情報管理部521を介して、特徴量記録部523から、既検出者の特徴量データを取得する。照合部303は、既検出者の特徴量データと、接近者の特徴量データとを照合する。照合部303は、所定の判定条件に基づいて、接近者の特徴量データと一致する既検出者の特徴量データが検出された場合、一致する特徴量データを持つ既検出者に接近者を特定する。
接近者を利用許可者、接近許可者、および、既検出者に特定できなかった場合、照合部303は、接近者が未検出者であると判定する。
照合部303は、接近者が利用許可者または接近許可者である場合、接近者の許可者IDを含む接近者特定情報を不審度判定部311に供給する。また、照合部303は、接近者が既検出者である場合、接近者の検出者IDを含む接近者特定情報を不審度判定部311に供給する。さらに、照合部303は、接近者が未検出者である場合、接近者が未検出者であることを示す接近者特定情報を不審度判定部311に供給する。
なお、照合部303が接近者を特定する方法には、例えば、以下の方法がある。
(1)顔、目、鼻、口、眉、耳、黒子、しみなど、顔の各部の位置や形状、大きさを用いる方法
(2)顔の各部の大きさの比率を用いる方法
(3)肌、髪、瞳などの色を用いる方法
(4)虹彩の形状を用いる方法
(5)外観から推定される骨格の形状を用いる方法
なお、顔検出部301が行う接近者の特定する方法は、特定の方法に限定されるものではなく、上述した以外の方法を用いたり、複数の方法を組み合わたりするようにしてもよい。
また、照合部303は、図6を参照して上述したユーザIDを用いて、利用許可者を特定するようにしてもよい。さらに、ユーザIDと顔画像の両方を用いて、利用許可者を特定するようにしてもよい。なお、ユーザIDと顔画像の両方を用いることにより、ユーザIDを不正に利用しようとする不審者を検出できるようにすることも可能である。
ステップS11において、不審度判定部311は、接近者特定情報に基づいて、接近者が利用許可者であるか否かを判定する。接近者が利用許可者であると判定された場合、処理はステップS12に進む。
ステップS12において、対処動作部113は、利用許可者に対応した動作を行う。具体的には、不審度判定部311は、検出された接近者の利用者ID、および、接近者が利用許可者であることを示す情報を含む接近者検出情報を対処動作指示部401に供給する。対処動作指示部401は、許可者情報管理部501を介して、接近者の利用情報を取得する。対処動作指示部401は、利用情報に示されている利用許可者が検出された場合に自動的に実行する処理の実行を指示する情報を監視対象制御部404に供給する。監視対象制御部404は、対処動作指示部401の指示に基づいて、監視対象の動作を制御する。
例えば、監視対象制御部404は、監視対象が車である場合、車のドアロックを自動的に解錠したり、車のエンジンの始動を可能とする。また、例えば、監視対象制御部404は、監視対象が家である場合、家の鍵を自動的に解錠する。
その後、処理はステップS15に進む。
ステップS11において、接近者が利用許可者でないと判定された場合、すなわち、接近者が、接近許可者、既検出者、または、未検出者であると判定された場合、処理はステップS13に進む。
ステップS13において、不審者検出部112は、不審度判定処理を行う。不審度判定処理の詳細は、図24および図25を参照して後述するが、この処理により、接近者の不審度が算出され、接近者が不審者であるか否かが判定される。また、検出された接近者に関する接近者検出情報が、不審度判定部311から対処動作指示部401に供給される。
ステップS14において、対処動作指示部401は、接近者検出情報に基づいて、不審者が検出されたか否かを判定する。不審者が検出されていないと判定された場合、処理はステップS15に進む。
ステップS15において、通知部403は、異常が検出されなかったことを通知する。具体的には、通知部403は、対処動作指示部401の制御の基に、異常が検出されなかったことを示す情報を、通信部114およびネットワーク14を介して、定期的にセンタシステム12に送信する。
センタシステム12は、例えば、異常が検出されなかったことが継続して監視システム11から通知されている場合、定期的に(例えば、7時、11時、15時、19時、および23時の1日5回)、監視領域において異常が検出されていないことを通知する情報を、ネットワーク14を介して、監視システム11のユーザが所有する端末装置13に送信する。
図21は、このとき、端末装置13のディスプレイに表示される情報の例を示している。図21に示される例において、1行目に情報の発信元の企業名とサービス名が表示され、2行目に監視結果と通知時刻が表示される。そして、3行目以降に、監視結果の詳細が表示される。なお、ユーザは、ハイパーリンクが埋め込まれたテキスト571を選択することにより、監視システム11により算出された不審度の時間経過を示すグラフを、ネットワーク14を介してセンタシステム12からダウンロードして、端末装置13に表示させることができる。このように、監視領域において異常が発生していない状態が継続していることが定期的にユーザに通知されることにより、異常があった場合のみ通知される場合に比べて、ユーザにより安心感を与えることができる。
図22は、不審度が極めて低い状態が長時間継続した後、不審度がわずかに上昇した場合に、端末装置13に表示される情報の例を示している。図22に示される例において、1行目に情報の発信元の企業名とサービス名が表示され、2行目に監視結果と通知時刻が表示される。そして、3行目以降に、監視システム11による監視結果の詳細が、図21に示される例に比べて、より詳しく表示される。例えば、不審度が変化した事象の遷移が一目で分かるような表示がなされる。
なお、ユーザは、ハイパーリンクが埋め込まれたテキスト572を選択することにより、より詳細な監視結果(例えば、検出された不審行為の内容など)を示す情報を、ネットワーク14を介して、センタシステム12からダウンロードして、端末装置13に表示させることができる。また、ユーザは、ハイパーリンクが埋め込まれたテキスト573を選択することにより、現在監視システム11に設定されている不審者の判定条件を示す情報を、ネットワーク14を介して、センタシステム12からダウンロードして、端末装置13に表示させることができる。さらに、ユーザは、ハイパーリンクが埋め込まれたテキスト574を選択することにより、不審度の時間経過を示すグラフを、ネットワーク14を介して、センタシステム12からダウンロードして、端末装置13に表示させることができる。
なお、図21および図22に示される監視結果を通知する情報を、監視システム11から直接端末装置13に送信するようにしてもよい。また、端末装置13が携帯電話機である場合、監視システム11から通知される情報を、携帯電話機の待ち受け画面にリアルタイムに表示させるようにして、ユーザがリアルタイムに監視システム11の監視状況を把握できるようにしてもよい。
図20に戻り、ステップS14において、不審者が検出されたと判定された場合、処理はステップS16に進む。
ステップS16において、対処動作部113は、不審者対応処理を行う。不審者対応処理の詳細は、図34を参照して後述するが、この処理により、検出された不審者の情報がユーザに通知されたり、不審者に対する注意、警告、威嚇などが行われる。
ステップS17において、監視システム11は、監視を停止するか否かを判定する。例えば、監視システム11は、監視を停止する条件が整った場合、例えば、監視対象が車である場合、不審者が検出されていない場合に車のエンジンが始動されたとき、または、例えば、監視対象が家である場合、家の住人により監視状態が解除されたとき、監視を停止すると判定し、処理はステップS18に進む。
ステップS18において、監視システム11は、監視処理を終了するか否かを判定する。監視処理の終了が指令されていないと判定された場合、処理はステップS3に戻り、上述したステップS3以降の処理が実行される。
ステップS18において、監視処理を終了すると判定された場合、例えば、監視システム11への電力の供給が停止された場合、監視処理は終了する。
ステップS17において、監視を停止しないと判定された場合、処理はステップS4に戻り、上述したステップS4以降の処理が実行される。
次に、図23のフローチャートを参照して、図19のステップS7の隠蔽不審者検出処理の詳細を説明する。
ステップS31において、隠蔽不審者検出部314は、監視画像データの中から人の姿を検索する。具体的には、隠蔽不審者検出部314は、図18のステップS4において、人の顔が検出されなかった監視画像データを、接近情報管理部521を介して、バッファ526から取得する。隠蔽不審者検出部314は、取得した監視画像データの中から人の特徴を持つ画像を検索する。
ステップS32において、隠蔽不審者検出部314は、ステップS31の処理の結果に基づいて、監視画像データに人が写っているか否かを判定する。監視画像データに人が写っていると判定された場合、処理はステップS33に進む。
ステップS33において、隠蔽不審者検出部314は、隠蔽不審者の判定をする。具体的には、隠蔽不審者検出部314は、ステップS31において検出した特徴を持つ人が、一度も顔が検出されないまま、所定の時間(例えば、2分)の間に所定の値(例えば、50%)以上の確率で検出されている場合、ステップS31において検出された人が隠蔽不審者であると判定する。
ステップS34において、隠蔽不審者検出部314は、ステップS33の処理の結果に基づいて、隠蔽不審者が検出されたか否かを判定する。隠蔽不審者が検出されたと判定された場合、処理はステップS35に進む。
ステップS35において、隠蔽不審者検出部314は、隠蔽不審者の検出を通知する。具体的には、隠蔽不審者検出部314は、隠蔽不審者が検出されたことを示す情報を不審度判定部311に供給する。
ステップS35において、接近情報管理部521は、接近情報を更新し、隠蔽不審者検出処理は終了する。具体的には、不審度判定部311は、隠蔽不審者の検出時刻、隠蔽不審者を撮像した撮像装置131のカメラNo.などを含み、隠蔽不審者に関する接近情報の追加を指示する情報を接近情報管理部521に供給する。接近情報管理部521は、検出された隠蔽不審者である接近者に検出者IDを割り当てる。また、接近情報管理部521は、接近情報テーブルに接近情報を新たに追加し、データNo.、カメラNo.、検出者ID、検出時刻、および、10秒間頻度を記録する。
ステップS34において、隠蔽不審者が検出されていないと判定された場合、処理はステップS37に進む。
ステップS32において、監視画像データに人が写っていないと判定された場合、処理はステップS37に進む。
ステップS37において、隠蔽不審者検出部314は、隠蔽不審者が検出されなかったことを通知し、隠蔽不審者検出処理は終了する。具体的には、隠蔽不審者検出部314は、接近者が検出されなかったことを示す情報を不審度判定部311に供給する。
次に、図24および図25のフローチャートを参照して、図20のステップS13の不審度判定処理の詳細を説明する。
ステップS51において、不審度判定部311は、接近者特定情報に基づいて、接近者が接近許可者であるか否かを判定する。接近者が接近許可者でないと判定された場合、処理はステップS52に進む。
ステップS52において、視線検出部304は、接近者の顔方向および視線方向を検出する。具体的には、不審度判定部311は、接近者の顔方向および視線方向の検出を指示する情報を視線検出部304に供給する。視線検出部304は、接近者の顔画像データ、顔画像データを切り出す前の監視画像データ、および、接近者を撮像した撮像装置131のカメラNo.を示すデータを、顔検出部301から取得する。
視線検出部304は、例えば、接近者が写っている顔画像データに基づいて、接近者の両目の輪郭、両目の両端の位置および鼻孔の位置を検出する。視線検出部304は、両目の両端の位置と鼻孔の位置に基づいて、眼球の中心位置および半径を推定し、接近者の目の輪郭内の輝度情報に基づいて瞳孔の中心の位置を検出する。視線検出部304は、眼球の中心と瞳孔の中心を結ぶベクトルを演算する。視線検出部304は、得られたベクトルの方向、視線検出部304は、顔画像データの抽出元の監視画像データにおける顔の位置、および、接近者を撮像した撮像装置131の位置などに基づいて、接近者の視線方向を検出する。
また、視線方向検出部304は、例えば、両目、鼻、口の位置、および、接近者を撮像した撮像装置131の位置などに基づいて、接近者の顔の方向を検出する。
視線検出部304は、接近者の視線方向および顔方向を示す情報を、接近情報管理部521に供給する。接近情報管理部521は、視線方向および顔方向の検出に用いた監視画像データに関連づけて、視線方向および顔方向を示す情報をバッファ526に記録させる。
ステップS53において、接近情報管理部521は、接近情報を更新する。具体的には、不審度判定部311は、接近者特定情報とともに接近情報の更新を指示する情報を接近情報管理部521に供給する。接近情報管理部521は、接近者の顔画像データおよび特徴量データを照合部303から取得する。
接近者が未検出者である場合、接近情報管理部521は、接近者の顔画像データおよび特徴量データに顔画像・特徴量No.を割り当てるとともに、顔画像データを顔画像記録部522に記録させ、特徴量データを特徴量記録部523に記録させる。また、接近情報管理部521は、検出された接近者に検出者IDを割り当てる。さらに、接近情報管理部521は、接近情報テーブルに接近情報を新たに追加し、データNo.、カメラNo.、検出者ID、検出時刻、10秒間頻度、および、顔画像・特徴量No.を記録する。
接近者が既検出者である場合、接近情報管理部521は、接近情報テーブルに基づいて、直前の所定の時間(例えば、10秒)以内に、接近者に関する接近情報が記録されているか否かを調べる。なお、以下、直前の所定の時間以内に、接近者に関する接近情報が記録されていることを、接近者の接近情報を記録中であるとも表現し、直前の所定の時間以内に、接近者に関する接近情報が記録されていないことを、接近者の接近情報を記録中でないとも表現する。また、直前の所定の時間以内に記録されている接近情報を、記録中の接近情報とも称する。
接近者の接近情報を記録中でない場合、接近情報管理部521は、接近者の顔画像データおよび特徴量データに顔画像・特徴量No.を割り当てるとともに、顔画像データを顔画像記録部522に記録させ、特徴量データを特徴量記録部523に記録させる。また、接近情報管理部521は、接近情報テーブルに接近情報を新たに追加し、データNo.、カメラNo.、検出者ID、検出時刻、10秒間頻度、および、顔画像・特徴量No.を記録する。
接近者の接近情報を記録中である場合、接近情報管理部521は、記録中の接近情報の10秒間頻度を更新する。また、接近情報管理部521は、必要に応じて、接近者の顔画像データおよび特徴量データに記録中の接近情報に対応する顔画像・特徴量No.を割り当てるとともに、顔画像データを顔画像記録部522に記録させ、特徴量データを特徴量記録部523に記録させる。
接近情報管理部521は、接近者の顔画像データと検出者IDを、相互に関連づけて、バッファ526に記録させる。
なお、接近者の顔画像データの代わりに、顔画像データを切り出す前の監視画像データを顔画像記録部522に記録させるようにしてもよい。また、顔画像データと監視画像データの両方を顔画像記録部522に記録させるようにしてもよい。
ステップS54において、不審度判定部311は、接近者特定情報に基づいて、接近者が未検出者であるか否かを判定する。接近者が未検出者でないと判定された場合、処理はステップS55に進む。
ステップS55において、不審度判定部311は、接近者が過去に不審者であると判定されているか否かを判定する。具体的には、不審度判定部311は、接近情報管理部511から接近情報テーブルを取得する。不審度判定部311は、接近情報テーブルに基づいて、接近者IDで示される既検出者が、過去に不審者と判定されているか否かを調べる。不審度判定部311が、調査結果に基づいて、接近者が過去に不審者であると判定されていないと判定した場合、処理はステップS56に進む。
ステップS56において、子供判定部315は、子供判定を行う。具体的には、不審度判定部311は、子供判定の実行を指示する情報を子供判定部315に供給する。子供判定部315は、接近情報管理部521を介して、接近者が写っている監視画像データをバッファ526から取得し、接近者が写っている顔画像データを顔画像記録部522から取得し、接近者の特徴量データを特徴量記録部523から取得する。
子供判定部315は、例えば、監視画像データ、顔画像データ、および、特徴量データに基づいて、接近者の顔の位置や大きさ、および、身体や顔の年齢的特長などから、接近者が子供であるか否かを判定する。また、例えば、所定の身長以上の人の顔が画角に入らないように撮像装置131を設置し、子供判定部315は、その撮像装置131により撮像された監視画像データから立っている人の顔が検出されたか否かに基づいて、接近者の身長を推定し、接近者が子供であるか否かを判定する。
子供判定部315は、判定結果を示す情報を不審度判定部311に供給する。
ステップS57において、不審度判定部311は、子供判定部315による判定結果に基づいて、接近者が子供であるか否かを判定する。接近者が子供でないと判定された場合、処理は、ステップS58に進む。
ステップS58において、不審者検出処理部305は、不審度算出処理を行う。不審度算出処理の詳細は、図26を参照して後述するが、この処理により接近者の不審度が算出される。
ステップS59において、不審度判定部311は、接近者が不審者であるか否かを判定する。不審度判定部311は、接近者の不審度が所定の閾値(例えば、10)以上である場合、接近者が不審者であると判定し、処理はステップS60に進む。
ステップS60において、不審度判定部311は、不審者の検出を通知し、不審度判定処理は終了する。具体的には、不審度判定部311は、接近者の許可者IDまたは検出者ID、接近者の不審度、接近者が不審者であることを示す情報などを含む接近者検出情報を対処動作指示部401および接近情報管理部521に供給する。接近情報管理部521は、接近者検出情報に基づいて、記録中の接近者の接近情報の不審者判定および不審度を更新する。
ステップS59において、接近者が非不審者であると判定された場合、すなわち、接近者の不審度が所定の閾値未満である場合、処理はステップS61に進む。
ステップS57において、接近者が子供であると判定された場合、処理はステップS61に進む。
ところで、子供は、大人とは異なる行動基準で活動するため、子供に対しても大人と同じ判定基準で不審度判定を行うと、子供を不審者と判定してしまう可能性が高くなる。例えば、監視対象が車である場合、子供が駐車場付近で遊んでいるとき、その子供の顔が監視システム11により繰り返し検出され、不審者と判定される場合がある。それを避けるために、子供判定を行うことにより、子供を検出対象から除外する。なお、子供を検出対象に含める場合、ステップS57およびS58の処理を省略するようにすればよい。
ステップS54において、接近者が未検出者であると判定された場合、処理はステップS61に進む。
ステップS61において、不審度判定部311は、非不審者の検出を通知し、不審度判定処理は終了する。具体的には、不審度判定部311は、接近者の許可者IDまたは検出者ID、接近者の不審度、接近者が非不審者であることを示す情報を含む接近者検出情報を対処動作指示部401および接近情報管理部521に供給する。接近情報管理部521は、接近者検出情報に基づいて、記録中の接近者の接近情報の不審者判定および不審度を更新する。
ステップS51において、接近者が接近許可者であると判定された場合、処理はステップS62に進む。
ステップS62において、上述したステップS58の処理と同様に、不審度算出処理が行われる。
ステップS63において、上述したステップS59の処理と同様に、接近者が不審者であるか否かが判定される。接近者が非不審者であると判定された場合、処理はステップS64に進む。なお、ステップS59の判定処理、すなわち、未許可者である接近者が不審者であるか否かの判定処理と、ステップS63の判定処理、すなわち、接近許可者である接近者が不審者であるか否かの判定処理とで、閾値を変更するようにしてもよい。
ステップS64において、不審度判定部311は、接近許可者の検出を通知し、不審度判定処理は終了する。具体的には、不審度判定部311は、接近者の許可者ID、接近者が接近許可者であることを示す情報を含む接近者検出情報を対処動作指示部401に供給する。
ステップS63において、接近者が不審者であると判定された場合、処理はステップS65に進む。
ステップS65において、接近情報管理部521は、接近情報を更新する。具体的には、不審度判定部311は、接近者である接近許可者の顔画像データおよび特徴量データを、許可者情報管理部501を介して、顔画像記録部502および特徴量記録部503から取得する。不審度判定部311は、接近者の顔画像データおよび特徴量データを接近情報管理部521に供給する。
接近情報管理部521は、接近者の顔画像データおよび特徴量データに顔画像・特徴量No.を割り当てるとともに、顔画像データを顔画像記録部522に記録させ、特徴量データを特徴量記録部523に記録させる。また、接近情報管理部521は、検出された接近者に検出者IDを割り当てる。さらに、接近情報管理部521は、接近情報テーブルに接近情報を新たに追加し、データNo.、カメラNo.、検出者ID、検出時刻、10秒間頻度、および、顔画像・特徴量No.を記録する。
また、許可者情報管理部501は、許可者情報テーブルから不審者と判定された接近許可者の許可者情報を削除する。
ステップS66において、上述したステップS60と同様の処理により、不審者の検出が通知され、不審度判定処理は終了する。
次に、図26のフローチャートを参照して、図24のステップS58および図25のステップS62の不審度算出処理の詳細を説明する。
ステップS81において、不審度判定部311は、接近者特定情報に基づいて、接近者が接近許可者であるか否かを判定する。接近者が接近許可者でないと判定された場合、処理はステップS82に進む。
ステップS82において、不審度判定部311は、接近者の不審度の算出を指示する。具体的には、不審度判定部311は、接近行為検出部312および異常行為検出部313に、接近者特定情報および接近者の不審度の算出を指示する情報を供給する。
ステップ83において、接近頻度不審度算出部321は、接近頻度不審度算出処理を行う。接近頻度不審度算出処理の詳細は、図27を参照して後述するが、この処理により、接近者の接近頻度不審度が算出され、算出された不審度を示すデータが不審度判定部311に供給される。
ステップ84において、接近距離不審度算出部322は、接近距離不審度算出処理を行う。接近距離不審度算出処理の詳細は、図28を参照して後述するが、この処理により、接近者の接近距離不審度が算出され、算出された不審度を示すデータが不審度判定部311に供給される。
ステップ85において、対面時間不審度算出部323は、対面時間不審度算出処理を行う。対面時間不審度算出処理の詳細は、図29を参照して後述するが、この処理により、接近者の対面時間不審度が算出され、算出された不審度を示すデータが不審度判定部311に供給される。
ステップ86において、顔方向不審度算出部324は、顔方向不審度算出処理を行う。顔方向不審度算出処理の詳細は、図30を参照して後述するが、この処理により、接近者の顔方向不審度が算出され、算出された不審度を示すデータが不審度判定部311に供給される。
ステップ87において、視線方向不審度算出部325は、視線方向不審度算出処理を行う。視線方向不審度算出処理の詳細は、図31を参照して後述するが、この処理により、接近者の視線方向不審度が算出され、算出された不審度を示すデータが不審度判定部311に供給される。
ステップ88において、うろつき不審度算出部326は、うろつき不審度算出処理を行う。うろつき不審度算出処理の詳細は、図32を参照して後述するが、この処理により、接近者のうろつき不審度が算出され、算出された不審度を示すデータが不審度判定部311に供給される。
その後、処理はステップS90に進む。
ステップS81において、接近者が接近許可者であると判定された場合、処理はステップS89に進む。
ステップS89において、不審度判定部311は、接近者の不審度の算出を指示する。具体的には、不審度判定部311は、異常行為検出部313に、接近者特定情報および接近者の不審度の算出を指示する情報を供給する。
ステップ90において、異常行為検出部313は、異常行為不審度算出処理を行う。異常行為不審度算出処理の詳細は、図33を参照して後述するが、この処理により、接近者の異常行為不審度が算出され、算出された不審度を示すデータが不審度判定部311に供給される。
ステップS91において、不審度判定部311は、不審度を合計し、不審度算出処理は終了する。具体的には、不審度判定部311は、接近行為検出部312および異常行為不審度313の各部で算出された不審度を合計する。
次に、図27のフローチャートを参照して、図26のステップS83の接近頻度不審度算出処理の詳細を説明する。
ステップS101において、接近頻度不審度算出部321は、直前の24時間以内に接近者による接近行為が検出されているか否かを判定する。具体的には、接近頻度不審度算出部321は、接近情報管理部521から接近情報テーブルを取得する。接近頻度不審度算出部321は、現在記録中の接近情報を除く直前の24時間以内の接近情報の中から、接近者の接近情報を検索する。接近頻度不審度算出部321は、直前の24時間以内に接近者の接近情報が記録されている場合、直前の24時間以内に接近者による接近行為が検出されていると判定し、処理はステップS102に進む。
ステップS102において、接近頻度不審度算出部321は、直前の10秒以内に接近者による接近行為が検出されているか否かを判定する。具体的には、接近頻度不審度算出部321は、接近情報テーブルの中から現在記録中の接近者の接近情報、すなわち、直前の10秒以内に記録が開始された接近者の接近情報を検索する。接近頻度不審度算出部321は、現在記録中の接近者の接近情報が検出された場合、直前の10秒以内に接近者による接近行為が検出されていると判定し、処理はステップS103に進む。
ステップS103において、接近頻度不審度算出部321は、直前の5分以内に10回以上、接近者による接近行為が検出されているか否かを判定する。具体的には、接近頻度不審度算出部321は、直前の5分以内に記録されている接近者の接近情報の数を数える。接近頻度不審度算出部321は、直前の5分以内に記録されている接近者の接近情報の数が10個以上の場合、直前の5分以内に10回以上、接近者による接近行為が検出されていると判定し、処理はステップS104に進む。
ステップS104において、接近頻度不審度算出部321は、不審度を10とし、接近頻度不審度算出処理は終了する。具体的には、接近頻度不審度算出部321は、接近者の不審度が10であることを示すデータを不審度判定部311に供給する。
ステップS103において、直前の5分以内に10回以上、接近者による接近行為が検出されていないと判定された場合、処理はステップS105に進む。
ステップS102において、直前の10秒以内に接近者による接近行為が検出されていないと判定された場合、処理はステップS105に進む。
ステップS105において、上述したステップS104と同様の処理により、不審度が1とされ、接近頻度不審度算出処理は終了する。
ステップS101において、直前の24時間以内に接近者による接近行為が検出されていないと判定された場合、処理はステップS106に進む。
ステップS106において、上述したステップS104と同様の処理により、不審度が0とされ、接近頻度不審度算出処理は終了する。
この処理により、所定の時間内に接近者が監視対象に接近した頻度に基づいて、接近者の不審度を設定することができる。従って、例えば、接近対象に不審行為を働こうとしたり、不審行為を働く前に下見を行うために、短期間の間に監視対象に頻繁に接近する不審者を、被害に遭う前に、より確実に検出することができるようになる。
なお、この処理の説明で用いた判定条件および不審度の値は、その一例であり、監視対象の種類や周囲の環境などにより適切な条件および値に設定されることが望ましい。また、判定条件および不審度の値をユーザが設定できるようにしてもよい。さらに、検出された接近行為の頻度に応じて、不審度の値を変化させるようにしてもよい。
次に、図28のフローチャートを参照して、図26のステップS84の接近距離不審度算出処理の詳細を説明する。
ステップS121において、顔検出部301は、接近者の接近距離を算出する。具体的には、接近距離不審度算出部322は、接近者の接近距離の算出を指示する情報を顔検出部301に供給する。顔検出部301は、接近者が写っている監視画像データに基づいて、接近者と監視領域との間の距離である接近距離を算出する。顔検出部301は、接近者の接近距離を示す情報を接近距離不審度算出部322に供給する。
例えば、顔検出部301は、画角に占める顔の大きさの割合に基づいて、接近者の接近距離を算出する。なお、撮像装置131のレンズ141を広角レンズにすることにより、接近距離により、接近者の顔の大きさが大きく変化するので、より正確に接近距離を算出することができるようになる。また、撮像装置131がオートフォーカス機能を有している場合、顔検出部301は、撮像装置131の図示せぬオートフォーカス制御部が測定した接近者との距離を撮像装置131から取得し、その距離を接近距離とするようにしてもよい。
なお、接近距離を、監視画像データを用いずに、例えば、センサ部102に設けられている距離センサなどにより測定するようにしてもよい。
ステップS122において、接近距離不審度算出部322は、接近距離が2m以上であるか否かを判定する。接近距離が2m未満であると判定された場合、処理はステップS123に進む。
ステップS123において、接近距離不審度算出部322は、接近距離が1m以上であるか否かを判定する。接近距離が1m未満であると判定された場合、処理はステップS124に進む。
ステップS124において、接近距離不審度算出部322は、接近距離が50cm以上であるか否かを判定する。接近距離が50cm未満であると判定された場合、処理はステップS125に進む。
ステップS125において、接近距離不審度算出部322は、接近距離が15cm以上であるか否かを判定する。接近距離が15cm未満であると判定された場合、処理はステップS126に進む。
ステップS126において、接近距離不審度算出部322は、不審度を5とし、接近頻度不審度算出処理は終了する。具体的には、接近距離不審度算出部322は、接近者の不審度が5であることを示すデータを不審度判定部311に供給する。
ステップS125において、接近距離が15cm以上であると判定された場合、処理はステップS127に進む。
ステップS127において、上述したステップ126と同様の処理により、不審度が3とされ、接近距離不審度算出処理は終了する。
ステップS124において、接近距離が50cm以上であると判定された場合、処理はステップS128に進む。
ステップS128において、上述したステップ126と同様の処理により、不審度が2とされ、接近距離不審度算出処理は終了する。
ステップS123において、接近距離が1m以上であると判定された場合、処理はステップS129に進む。
ステップS129において、上述したステップ126と同様の処理により、不審度が1とされ、接近距離不審度算出処理は終了する。
ステップS122において、接近距離が2m以上であると判定された場合、処理はステップS130に進む。
ステップS130において、上述したステップ126と同様の処理により、不審度が0とされ、接近距離不審度算出処理は終了する。
この処理により、接近者が監視対象に接近した距離に基づいて、接近者の不審度を設定することができる。従って、例えば、接近対象に不審行為を働こうとしたり、不審行為を働く前に下見を行うために、監視対象に近づく不審者を、被害に遭う前に、より確実に検出することができるようになる。
なお、この処理の説明で用いた判定条件および不審度の値は、その一例であり、監視対象の種類や周囲の環境などにより適切な条件および値に設定されることが望ましい。また、判定条件および不審度の値をユーザが設定できるようにしてもよい。
次に、図29のフローチャートを参照して、図26のステップS85の対面時間不審度算出処理の詳細を説明する。
ステップS151において、対面時間不審度算出部323は、上述した図27のステップS102の接近頻度不審度算出部321による処理と同様の処理により、直前の10秒以内に接近者による接近行為が検出されているか否かを判定する。直前の10秒以内に接近者による接近行為が検出されていると判定された場合、処理はステップS152に進む。
ステップS152において、対面時間不審度算出部323は、対面時間が30秒以上経過したか否かを判定する。具体的には、対面時間不審度算出部323は、後述するステップS156において計測が開始される対面時間タイマが30秒以上経過している場合、対面時間が30秒以上経過したと判定し、処理はステップS153に進む。なお、対面時間とは、接近者の顔が所定の時間(例えば、10秒間)に1回以上検出される状態が継続する時間のことである。
ステップS153において、上述したステップS152と同様の処理により、対面時間が2分以上経過したか否かが判定される。対面時間が2分以上経過したと判定された場合、処理はステップS154に進む。
ステップS154において、対面時間不審度算出部323は、不審度を20とし、対面時間不審度算出処理は終了する。具体的には、対面時間不審度算出部323は、接近者の不審度が20であることを示すデータを不審度判定部311に供給する。
ステップS153において、対面時間が2分未満であると判定された場合、処理はステップS155に進む。
ステップS155において、上述したステップS154と同様の処理により、不審度が5とされ、対面時間不審度算出処理は終了する。
ステップS152において、対面時間が30秒未満であると判定された場合、処理はステップS157に進む。
ステップS151において、直前の10秒以内に接近者による接近行為が検出されていないと判定された場合、処理はステップS156に進む。
ステップS156において、対面時間不審度算出部323は、対面時間タイマをリセットする。具体的には、対面時間不審度算出部323は、対面時間を計測する対面時間タイマの値を0に戻し、対面時間の計測を再スタートする。
ステップS157において、上述したステップS154と同様の処理により、不審度が0とされ、対面時間不審度算出処理は終了する。
この処理により、接近者の顔が継続して検出されている時間に基づいて、接近者の不審度を設定することができる。従って、例えば、接近対象に不審行為を働こうとしたり、不審行為を働く前に下見を行うために、接近対象の近くに長時間とどまっている不審者を、被害に遭う前に、より確実に検出することができるようになる。
なお、この処理の説明で用いた判定条件および不審度の値は、その一例であり、監視対象の種類や周囲の環境などにより適切な条件および値に設定されることが望ましい。また、判定条件および不審度の値をユーザが設定できるようにしてもよい。
次に、図30のフローチャートを参照して、図26のステップS85の顔方向不審度算出処理の詳細を説明する。
ステップS171において、顔方向不審度算出部324は、直前の10秒間に接近者による顔方向不審行為が検出されているか否かを判定する。具体的には、顔方向不審度算出部324は、直前の10秒間の接近者による顔方向不審行為を示す情報を、接近情報管理部521を介して、行為情報記録部524から取得する。顔方向不審度算出部324は、直前の10秒間に接近者による顔方向不審行為を示す情報を取得できなかった場合、直前の10秒間に接近者による顔方向不審行為が検出されていないと判定し、処理はステップS172に進む。
ステップS172において、顔方向不審度算出部324は、直前の10秒間に接近者の顔が監視対象の方向を向いていた時間を算出する。具体的には、顔方向不審度算出部324は、直前の10秒間の接近者の顔方向を示す情報を、接近情報管理部521を介して、バッファ526から取得する。顔方向不審度算出部324は、取得した情報に基づいて、直前の10秒間に接近者の顔が監視対象の方向を向いていた時間を算出する。
ステップS173において、顔方向不審度算出部324は、ステップS172の処理の結果に基づいて、直前の10秒間に接近者の顔が監視対象の方向を向いていた割合が50%以上であるか否かを判定する。直前の10秒間に接近者の顔が監視対象の方向を向いていた割合が50%以上であると判定された場合、処理はステップS174に進む。
ステップS174において、顔方向不審度算出部324は、接近者による顔方向不審行為を記録する。具体的には、顔方向不審度算出部324は、接近者による顔方向不審行為の記録を指示する情報を接近情報管理部521に供給する。接近情報管理部521は、現在記録中の接近者の接近情報に対応する行為情報に、接近者による顔方向不審行為に関する情報を追加する。
ステップS173において、直前の10秒間に接近者の顔が監視対象の方向を向いていた割合が50%未満であると判定された場合、ステップS174の処理はスキップされ、処理はステップS175に進む。
ステップS171において、直前の10秒間に接近者による顔方向不審行為が検出されていると判定された場合、ステップS172乃至S174の処理はスキップされ、処理はステップS175に進む。
ステップS175において、顔方向不審度算出部324は、直前の5分間に検出された接近者の顔方向不審行為の回数を求める。具体的には、顔方向不審度算出部324は、直前の5分間の接近者による顔方向不審行為を示す情報を、接近情報管理部521を介して、行為情報記録部524から取得する。顔方向不審度算出部324は、取得した情報に基づいて、直前の5分間に検出された接近者の顔方向不審行為の回数を求める。
ステップS176において、顔方向不審度算出部324は、直前の5分間に検出された接近者の顔方向不審行為の回数が10回以上であるか否かを判定する。直前の5分間に検出された接近者の顔方向不審行為の回数が10回未満であると判定された場合、処理はステップS177に進む。
ステップS177において、顔方向不審度算出部324は、直前の5分間に検出された接近者の顔方向不審行為の回数が5回以上であるか否かを判定する。直前の5分間に検出された接近者の顔方向不審行為の回数が5回以上であると判定された場合、処理はステップS178に進む。
ステップS178において、顔方向不審度算出部324は、不審度を5とし、顔方向不審度算出処理は終了する。具体的には、顔方向不審度算出部324は、接近者の不審度が5であることを示すデータを不審度判定部311に供給する。
ステップS177において、直前の5分間に検出された接近者の顔方向不審行為の回数が5回未満であると判定された場合、処理はステップS179に進む。
ステップS179において、上述したステップS178と同様の処理により、不審度が0とされ、顔方向不審度算出処理は終了する。
ステップS176において、直前の5分間に検出された接近者の顔方向不審行為の回数が10回以上であると判定された場合、処理はステップS180に進む。
ステップS180において、上述したステップS178と同様の処理により、不審度が1とされ、顔方向不審度算出処理は終了する。
この処理により、接近者が監視対象の方向に顔を向ける割合および回数に基づいて、接近者の不審度を設定することができる。従って、例えば、接近対象に不審行為を働こうとしたり、不審行為を働く前に下見を行うために、監視対象の方向に頻繁に顔を向けている不審者を、被害に遭う前に、より確実に検出することができるようになる。
なお、この処理の説明で用いた判定条件および不審度の値は、その一例であり、監視対象の種類や周囲の環境などにより適切な条件および値に設定されることが望ましい。また、判定条件および不審度の値をユーザが設定できるようにしてもよい。
次に、図31のフローチャートを参照して、図26のステップS86の視線方向不審度算出処理の詳細を説明する。
ステップS201において、視線方向不審度算出部325は、直前の10秒間に接近者による視線方向不審行為が検出されているか否かを判定する。具体的には、視線方向不審度算出部325は、直前の10秒間の接近者による視線方向不審行為を示す情報を、接近情報管理部521を介して、行為情報記録部524から取得する。視線方向不審度算出部325は、直前の10秒間に接近者による視線方向不審行為を示す情報を取得できなかった場合、直前の10秒間に接近者による視線方向不審行為が検出されていないと判定し、処理はステップS202に進む。
ステップS202において、視線方向不審度算出部325は、直前の10秒間に接近者の視線が監視対象の方向を向いていた時間を算出する。具体的には、視線方向不審度算出部325は、直前の10秒間の接近者の視線方向を示す情報を、接近情報管理部521を介して、バッファ526から取得する。視線方向不審度算出部325は、取得した情報に基づいて、直前の10秒間に接近者の視線が監視対象の方向を向いていた時間を算出する。
ステップS203において、視線方向不審度算出部325は、ステップS202の処理の結果に基づいて、直前の10秒間に接近者の視線が監視対象の方向を向いていた割合が50%以上であるか否かを判定する。直前の10秒間に接近者の視線が監視対象の方向を向いていた割合が50%以上であると判定された場合、処理はステップS204に進む。
ステップS204において、視線方向不審度算出部325は、接近者の視線方向不審行為を記録する。具体的には、視線方向不審度算出部325は、接近者による視線方向不審行為の記録を指示する情報を接近情報管理部521に供給する。接近情報管理部521は、現在記録中の接近者の接近情報に対応する行為情報に、接近者による視線方向不審行為に関する情報を追加する。
ステップS203において、直前の10秒間に接近者の視線が監視対象の方向を向いていた割合が50%未満であると判定された場合、ステップS204の処理はスキップされ、処理はステップS205に進む。
ステップS201において、直前の10秒間に接近者による視線方向不審行為が検出されていると判定された場合、ステップS202乃至S204の処理はスキップされ、処理はステップS205に進む。
ステップS205において、視線方向不審度算出部325は、直前の5分間に検出された接近者の視線方向不審行為の回数を求める。具体的には、視線方向不審度算出部325は、直前の5分間の接近者による視線方向不審行為を示す情報を、接近情報管理部521を介して、行為情報記録部524から取得する。視線方向不審度算出部325は、取得した情報に基づいて、直前の5分間に検出された接近者の視線方向不審行為の回数を求める。
ステップS206において、視線方向不審度算出部325は、直前の5分間に検出された接近者の視線方向不審行為の回数が10回以上であるか否かを判定する。直前の5分間に検出された接近者の視線方向不審行為の回数が10回未満であると判定された場合、処理はステップS207に進む。
ステップS207において、視線方向不審度算出部325は、直前の5分間に検出された接近者の視線方向不審行為の回数が5回以上であるか否かを判定する。直前の5分間に検出された接近者の視線方向不審行為の回数が5回以上であると判定された場合、処理はステップS208に進む。
ステップS208において、視線方向不審度算出部325は、不審度を5とし、視線方向不審度算出処理は終了する。具体的には、視線方向不審度算出部325は、接近者の不審度が5であることを示すデータを不審度判定部311に供給する。
ステップS207において、直前の5分間に検出された接近者の視線方向不審行為の回数が5回未満であると判定された場合、処理はステップS209に進む。
ステップS209において、上述したステップS208と同様の処理により、不審度が0とされ、視線方向不審度算出処理は終了する。
ステップS206において、直前の5分間に検出された接近者の視線方向不審行為の回数が10回以上であると判定された場合、処理はステップS210に進む。
ステップS210において、上述したステップS208と同様の処理により、不審度が1とされ、視線方向不審度算出処理は終了する。
この処理により、接近者が監視対象の方向に視線を向ける割合および回数に基づいて、接近者の不審度を設定することができる。従って、例えば、接近対象に不審行為を働こうとしたり、不審行為を働く前に下見を行うために、監視対象の方向に頻繁に視線を向けている不審者を、被害に遭う前に、より確実に検出することができるようになる。
なお、この処理の説明で用いた判定条件および不審度の値は、その一例であり、監視対象の種類や周囲の環境などにより適切な条件および値に設定されることが望ましい。また、判定条件および不審度の値をユーザが設定できるようにしてもよい。
次に、図32のフローチャートを参照して、図26のステップS88のうろつき不審度算出処理の詳細を説明する。
ステップS231において、うろつき不審度算出部326は、接近者が直前の1分間に監視対象の周囲を移動した角度を算出する。具体的には、うろつき不審度算出部326は、過去1分間に接近者が写っている監視画像データ、および、撮像した撮像装置131のカメラNo.を示す情報を、接近情報管理部521を介して、バッファ526から取得する。うろつき不審度算出部326は、例えば、接近者を撮像した撮像装置131の遷移に基づいて、接近者が監視対象の周囲を移動した角度を算出する。例えば、監視対象が車の場合、車内から前後左右の4方向を撮像できるように4台の撮像装置131を設置し、うろつき不審度算出部326は、接近者を撮像した撮像装置131の遷移に基づいて、接近者が車の周囲を移動した角度を算出する。
なお、うろつき不審度算出部326は、例えば、接近者が写っている監視画像データにおける接近者の位置を検出し、その位置の遷移に基づいて、接近者が監視対象の周囲を移動した角度を算出するようにしてもよい。
ステップS232において、うろつき不審度算出部326は、ステップS231の処理の結果に基づいて、接近者が直前の1分間に監視対象の周囲を移動した角度が180度以上であるか否かを判定する。接近者が直前の1分間に監視対象の周囲を移動した角度が180度以上であると判定された場合、処理はステップS233に進む。
ステップS233において、ステップS232と同様の処理により、接近者が直前の1分間に監視対象の周囲を移動した角度が270度以上であるか否かが判定される。接近者が直前の1分間に監視対象の周囲を移動した角度が270度以上であると判定された場合、処理はステップS233に進む。
ステップS234において、うろつき不審度算出部326は、ステップS231と同様の処置により、接近者が直前の10分間に監視対象の周囲を移動した角度を算出する。
ステップS235において、ステップS232と同様の処理により、接近者が直前の10分間に監視対象の周囲を移動した角度が360度以上であるか否かが判定される。接近者が直前の10分間に監視対象の周囲を移動した角度が360度以上であると判定された場合、処理はステップS236に進む。
ステップS236において、ステップS232と同様の処理により、接近者が直前の10分間に監視対象の周囲を移動した角度が720度以上であるか否かが判定される。接近者が直前の10分間に監視対象の周囲を移動した角度が720度以上であると判定された場合、処理はステップS237に進む。
ステップS237において、うろつき不審度算出部326は、不審度を20とし、うろつき不審度算出処理は終了する。具体的には、うろつき不審度算出部326は、接近者の不審度が20であることを示すデータを不審度判定部311に供給する。
ステップS236において、接近者が直前の10分間に監視対象の周囲を移動した角度が720度未満であると判定された場合、処理はステップS238に進む。
ステップS238において、上述したステップS237と同様の処理により、不審度が15とされ、うろつき不審度算出処理は終了する。
ステップS235において、接近者が直前の10分間に監視対象の周囲を移動した角度が360度未満であると判定された場合、処理はステップS239に進む。
ステップS239において、上述したステップS237と同様の処理により、不審度が10とされ、うろつき不審度算出処理は終了する。
ステップS233において、接近者が直前の1分間に監視対象の周囲を移動した角度が270度未満であると判定された場合、処理はステップS240に進む。
ステップS240において、上述したステップS237と同様の処理により、不審度が5とされ、うろつき不審度算出処理は終了する。
ステップS232において、接近者が直前の1分間に監視対象の周囲を移動した角度が180度未満であると判定された場合、処理はステップS241に進む。
ステップS241において、上述したステップS237と同様の処理により、不審度が0とされ、うろつき不審度算出処理は終了する。
この処理により、接近者が監視対象の周りを移動した角度に基づいて、接近者の不審度を設定することができる。従って、例えば、接近対象に不審行為を働こうとしたり、不審行為を働く前に下見を行うために、監視対象の周囲をうろつく不審者を、被害に遭う前に、より確実に検出することができるようになる。
なお、この処理の説明で用いた判定条件および不審度の値は、その一例であり、監視対象の種類や周囲の環境などにより適切な条件および値に設定されることが望ましい。また、判定条件および不審度の値をユーザが設定できるようにしてもよい。
次に、図33のフローチャートを参照して、図26のステップS90の異常行為不審度算出処理の詳細を説明する。
ステップS261において、身体動作不審度算出部331は、監視画像データおよび周辺情報に基づいて、身体動作不審度を算出する。具体的には、身体動作不審度算出部331は、監視画像データおよび周辺情報を、接近情報管理部521を介して、バッファ526から取得する。
例えば、監視対象が車である場合、身体動作不審度算出部331は、監視画像データに基づいて、車の下部に手、腕、物体などを差し入れる行為、車に対して腕を伸ばす行為(例えば、車のドアハンドルなどに手をのばす行為)、車の窓の近くに立ち、手に何らかの物体を持って頭上にかざす行為など接近者の不審な身体動作を検出した場合、不審度を20とする。
また、例えば、身体動作不審度算出部331は、監視画像データに基づいて、接近者の顔の位置が通常の人の身長より高い位置または低い位置で検出されたり、顔が所定の角度(例えば、90度)以上傾いていたり、顔の向きが上下逆さになっていたり、接近者が通常の歩行姿勢より低い姿勢(例えば、匍匐姿勢)をとっていたり、所定の時間(例えば、3分間)内に所定の回数(例えば、20回)以上、接近者の顔が縦方向に大きく(例えば、顔の高さの4倍以上)繰り返し動く行為繰り返される行為など、接近者が不自然な姿勢をとっていることを検出した場合、その頻度や継続時間などに応じて、不審度を設定する。
さらに、例えば、身体動作不審度算出部331は、監視画像データに基づいて、接近者が監視対象にライトを所定の時間(例えば、10秒間)以上照らす行為を検出した場合、不審度を20とする。
身体動作不審度算出部331は、算出した不審度を示すデータを不審度判定部311に供給する。また、身体不審度算出部331は、接近者による不審な身体動作を検出した場合、不審な身体動作の内容の記録を指示する情報を接近情報管理部521に供給する。接近情報管理部521は、現在記録中の接近者の接近情報に対応する行為情報に、接近者による不審な身体動作に関する情報を追加する。
ステップS262において、特定箇所不審度算出部332は、特定箇所不審行為不審度を算出する。具体的には、特定箇所不審度算出部332は、周辺情報を、接近情報管理部521を介して、バッファ526から取得する。特定箇所不審度算出部332は、周辺情報に基づいて、接近者による監視対象の特定の箇所への不審な行為を検出する。
例えば、特定箇所不審度算出部332は、監視対象の特定の箇所に設置されている距離センサから取得したセンサデータに基づいて、監視対象の特定の箇所に接近者が異常に接近していることを検出した場合、例えば、監視対象が車である場合、ドア、トランク、および、窓付近に距離センサを設置しておき、接近者の体の一部がドア、トランク、または、窓に所定の距離(例えば、10センチ)より接近したことを検出した場合、不審度を10とする。これにより、ドアハンドルに手を近づける行為、鍵穴のピッキング、針金や専用工具などを窓枠の間に差し込んで解錠する行為、ドアをバールなどでこじ開ける行為、硬貨や工具などで車の塗装に傷をつける行為、トランクのキーシリンダを取り外す行為などを行おうとしている接近者の不審度を高く設定することができる。
特定箇所不審度算出部332は、算出した不審度を示すデータを不審度判定部311に供給する。また、特定箇所不審度算出部332は、接近者による監視対象の特定箇所に対する不審行為を検出した場合、その不審行為の記録を指示する情報を接近情報管理部521に供給する。接近情報管理部521は、現在記録中の接近者の接近情報に対応する行為情報に、接近者による監視対象の特定箇所に対する不審行為に関する情報を追加する。
ステップS263において、連続行為不審度検出部333は、連続行為不審度を算出する。具体的には、連続行為不審度検出部333は、監視画像データおよび周辺情報を、接近情報管理部521を介して、バッファ526から取得する。連続行為不審度検出部333は、監視画像データおよび周辺情報に基づいて、接近者が行った一連の連続行為を検出する。連続行為不審度検出部333は、検出した一連の連続行為がシーケンステーブルに登録されている場合、その連続行為に対して設定されている不審度を接近者の不審度とする。
連続行為不審度検出部333は、算出した不審度を示すデータを不審度判定部311に供給する。また、連続行為不審度検出部333は、接近者による不審な連続行為を検出した場合、その連続行為の記録を指示する情報を接近情報管理部521に供給する。接近情報管理部521は、現在記録中の接近者の接近情報に対応する行為情報に、接近者による不審な連続行為に関する情報を追加する。
ステップS264において、監視対象不審度算出部334は、監視対象不審度を算出する。具体的には、監視対象不審度算出部334は、監視画像データおよび周辺情報を、接近情報管理部521を介して、バッファ526から取得する。監視対象不審度算出部334は、監視画像データまたは周辺情報に基づいて、監視対象の異常を検出した場合、検出した異常に応じて、監視対象不審度を算出する。
例えば、監視対象不審度算出部334は、車に設置されている加速度センサから取得したセンサデータに基づいて、車の傾きが所定の値以上になったことを検出した場合、不審度を30とする。また、例えば、監視対象不審度算出部334は、車のタイヤに設置されている圧力センサから取得したセンサデータに基づいて、タイヤの空気圧が所定の値以下になったことを検出した場合、不審度を30とする。
監視対象不審度算出部334は、算出した不審度を示すデータを不審度判定部311に供給する。
ステップS265において、接近制限不審度算出部335は、接近制限不審度を算出し、異常行為不審度算出処理は終了する。具体的には、接近制限不審度算出部335は、周辺情報を、接近情報管理部521を介して、バッファ526から取得する。接近制限不審度算出部335は、周辺情報に含まれる接近制限情報に基づいて、接近制限不審度を算出する。例えば、接近制限手段が門扉またはドアの場合、接近制限不審度算出部335は、接近制限手段を接近者が通過したことを検出した場合、不審度5とする。また、例えば、接近制限手段が警報装置である場合、接近制限不審度算出部335は、警報装置が20秒間継続して動作していることを検出した場合、不審度を20とする。
接近制限不審度算出部335は、算出した不審度を示すデータを不審度判定部311に供給する。
次に、図34のフローチャートを参照して、図20のステップS16の不審者対応処理の詳細を説明する。
ステップS301において、通知部403は、不審者の検出を通知する。具体的には、対処動作指示部401は、不審者の通知を指示する情報を通知部403に供給する。通知部403は、接近情報管理部521から検出された不審者の情報を取得する。通知部403は、ネットワーク14を介して、センタシステム12または端末装置13に、不審者の検出を通知する情報を送信する。
なお、不審者の検出を通知されたセンタシステム12および端末装置13の処理の例については、図37乃至図39を参照して後述する。
ステップS302において、対処動作指示部401は、接近者の不審度が注意レベルであるか否かを判定する。対処動作指示部401は、接近者の不審度が所定の注意レベルの範囲内である場合、不審度が注意レベルであると判定し、処理はステップS303に進む。
ステップS303において、対処動作部113は、注意動作を行う。具体的には、対処動作指示部401は、注意動作を指示する情報を注意・警告・威嚇部402に供給する。例えば、監視対象が車である場合、注意・警告・威嚇部402は、車の目立つ位置されているLEDを点滅させることにより、接近者に監視対象から離れるように注意を促すとともに、接近者以外の周囲の人々を監視対象および接近者に注目させるようにする。また、例えば、注意・警告・威嚇部402は、2次元に配列されたLEDを点滅させることにより、「この車は監視中です」といった接近者に注意を促すメッセージを表示する。さらに、例えば、監視対象が一般の通行人が接近しない場所に設置される場合、注意・警告・威嚇部402は、「この場所は、一般の方の通行はご遠慮いただいていますので、近づかないようにお願いします。」といった接近者に注意を促すメッセージを音声により出力する。その後、処理はステップS308に進む。
ステップS302において、不審度が注意レベルでないと判定された場合、すなわち、不審度が注意レベルの範囲外の場合、処理はステップS304に進む。
ステップS304において、対処動作指示部401は、接近者の不審度が警告レベルであるか否かを判定する。対処動作指示部401は、接近者の不審度が所定の警告レベルの範囲内である場合、不審度が警告レベルであると判定し、処理はステップS305に進む。
ステップS305において、対処動作部113は、警告動作を行う。具体的には、対処動作指示部401は、警告動作を指示する情報を注意・警告・威嚇部402に供給する。例えば、注意・警告・威嚇部402は、LEDの輝度を明るくしたり、点滅の周期を速くしたり、「この場所は監視されていますので、登録されていない人はここから離れてください。」といった強い表現のメッセージを流したりして、不審度が注意レベルの場合より、強い表現または動作で、接近者が監視対象から離れるように警告する。その後、処理はステップS308に進む。
ステップS304において、不審度が警告レベルでないと判定された場合、すなわち、不審度が警告レベルの範囲外の場合、処理はステップS306に進む。
ステップS306において、対処動作指示部401は、接近者の不審度が威嚇レベルであるか否かを判定する。対処動作指示部401は、接近者の不審度が所定の威嚇レベルの範囲内である場合、不審度が威嚇レベルであると判定し、処理はステップS307に進む。
ステップS307において、対処動作部113は、威嚇動作を行う。具体的には、対処動作指示部401は、威嚇動作を指示する情報を注意・警告・威嚇部402に供給する。
注意・警告・威嚇部402は、例えば、大音量で警報を鳴動したり、通報する旨を示すメッセージの表示または音声出力を行ったり、強い光を接近者に照射したりすることにより、接近者が監視対象から離れるように威嚇する。また、例えば、対処動作指示部401の制御の基に、接近者に見える位置に設置されている表示部405に、接近者を撮像した画像を表示させることにより、接近者を威嚇する。その後、処理はステップS308に進む。
ステップS306において、不審度が威嚇レベルでないと判定された場合、すなわち、不審度が威嚇レベルの範囲外の場合、ステップS307の処理はスキップされ、処理はステップS308に進む。
ステップS308において、対処動作指示部401は、接近者に対して防御動作を行うか否かを判定する。具体的には、対処動作指示部401は、接近者の不審度、監視システム11の設定などに基づいて、防御動作を行うか否かを判定する。防御動作を行うと判定された場合、処理はステップS309に進む。
ステップS309において、対処動作部113は、接近者に対して防御動作を行う。例えば、対処動作部113は、接近者から監視対象を防御するように、監視対象の動作を制御する。具体的には、対処動作指示部401は、監視対象の動作の制御を指示する情報を監視対象制御部404に供給する。監視対象制御部404は、監視対象の動作を制御する制御信号を監視対象に出力し、監視対象の動作を制御する。
ここで、図35および図36を参照して、監視対象の動作を制御することによる防御動作の例を説明する。
図35は、監視対象が車の場合、その車の制御部の機能の構成の例の一部を示すブロック図である。図35に示される例において、監視対象である車は、電装部品制御部601、ドアロック制御部602、パワーウインドウ制御部603、トランク開閉制御部604、および、エンジン制御部605を有する。
例えば、監視対象制御部404は、監視対象である車の電装制御部601に、制御信号を出力する。ドアロック制御部602は、電装制御部601の制御の基に、車のドアの鍵をロックする。パワーウインドウ制御部603は、電装制御部601の制御の基に、車の窓を閉める。トランク開閉部604は、電装制御部601の制御の基に、車のトランクの鍵をロックする。エンジン制御部605は、電装制御部601の制御の基に、車のエンジンを停止するとともに、エンジンを始動できないようにする。これにより、監視対象である車を、接近者による盗難、侵入、破壊などから防御する。
図36は、監視対象が家の場合、その家のセキュリティ装置の制御部の機能の構成の例の一部を示すブロック図である。図36に示される例において、監視対象である家のセキュリティ装置は、セキュリティ制御部611、玄関ドアロック制御部612、オートロック制御部613、窓ロック制御部614、電動シャッター制御部615、および、接近制限手段制御部616を有する。
例えば、監視対象制御部404は、監視対象である家のセキュリティ装置のセキュリティ制御部611に、制御信号を出力する。玄関ドアロック制御部612は、セキュリティ制御部611の制御の基に、家の玄関のドアの鍵をロックする。オートロック制御部613は、セキュリティ制御部611の制御の基に、例えば、マンションの1階のエントランスの鍵をロックする。窓ロック制御部614は、セキュリティ制御部611の制御の基に、家の窓を閉め、窓の鍵をロックする。電動シャッター制御部615は、セキュリティ制御部611の制御の基に、家の窓やガレージに設置されている電動シャッターを閉める。接近制限手段制御部616は、セキュリティ制御部611の制御の基に、接近制限手段制御部616である門扉やドアを閉め、開放できないようにする。これにより、監視対象である家を、接近者による侵入、破壊などから防御する。
また、例えば、接近者に対する防御動作として、接近者の不審度が低いうちに、不審度が高くなった場合に迅速に対応できるように、監視システム11の各部の動作の準備を始めるようにしてもよい。
例えば、対処動作指示部401は、ネットワーク14との接続の確立を指示する情報を、通知部403を介して、通信部114に供給する。通信部114は、所定のプロトコルにより、ネットワーク14との接続を確立する。これにより、接近者の不審度が高くなった場合、迅速にセンタシステム12または端末装置13に通知することができるようになる。
ステップS308において、防御動作を行わないと判定された場合、ステップS309の処理はスキップされ、処理はステップS310に進む。
ステップS310において、対処動作指示部401は、検出した接近者を許可者として登録するか否かを判定する。具体的には、監視システム11のユーザが、例えば、端末装置13を用いて、検出した接近者を利用許可者または接近許可者として登録する指令を入力し、ネットワーク14および通信部114を介して、対処動作指示部401が、その指令を取得した場合、対処動作指示部401は、検出した接近者を許可者として登録すると判定し、処理はステップS311に進む。
ステップS311において、許可者登録部406は、検出した接近者を許可者として登録し、不審者対応処理は終了する。具体的には、対処動作指示部401は、ユーザにより入力された接近者を利用許可者または接近許可者として登録する指令を、許可者登録部406に供給する。許可者登録部406は、接近情報管理部521を介して、接近者の顔画像データおよび特徴量データを取得する。許可者登録部406は、取得した接近者の顔画像データおよび特徴量データを、許可者情報管理部501に供給する。また、許可者登録部406は、ユーザにより利用情報または個人情報の登録が指令されている場合、ユーザにより入力された利用情報または個人情報を、許可者情報管理部501に供給する。
許可者情報管理部501は、接近者の顔画像データに顔画像No.を割り当てるとともに、顔画像データを顔画像記録部502に記録させる。また、許可者情報管理部501は、接近者の特徴量データに特徴量No.を割り当てるとともに、特徴量データを特徴量記録部503に記録させる。さらに、許可者情報管理部501は、接近者の利用情報に利用情報No.を割り当てるとともに、利用情報を利用情報記録部504に記録させる。また、許可者情報管理部501は、接近者の個人情報に個人情報No.を割り当てるとともに、個人情報を個人情報記録部505に記録させる。
また、許可者情報管理部501は、利用許可者または接近許可者として登録する接近者に許可者IDを割り当てる。さらに、許可者情報管理部501は、許可者情報テーブルに許可者情報を新たに追加し、許可者ID、登録種別、特徴量No.、顔画像No.、利用情報No.、および、個人情報No.を登録する。
接近情報管理部521は、利用許可者または接近許可者として登録された接近者の接近情報を、接近情報テーブルから削除する。
なお、接近者を許可者として登録する場合のセンタシステム12および端末装置13の処理の例については、図37を参照して後述する。
ステップS310において、検出した接近者を許可者として登録しないと判定された場合、すなわち、ユーザにより、検出した接近者を利用許可者または接近許可者として登録する指令が入力されていない場合、処理はステップS312に進む。
ステップS312において、接近情報管理部521は、接近情報を更新し、不審者対応処理は終了する。具体的には、対処動作指示部401は、接近者に対して行った対応動作を示す情報を、接近情報管理部521に供給する。接近情報管理部521は、記録中の接近者の接近情報の対応動作のデータを更新する。
次に、図37のフローチャートを参照して、監視システム11により不審者が検出された場合、その不審者を許可者として監視システム11に登録する場合のネットワーク監視システム1内の処理の流れの例を説明する。
まず、監視システム11により実行される処理を説明する。
ステップS401において、監視システム11は、上述した図34のステップS301と同様の処理により、不審者の検出を通知する。これにより、ネットワーク14を介して、監視システム11からセンタシステム12に不審者の検出を通知する情報が送信される。
後述するステップS411において、センタシステム12は、監視システム11により検出された不審者の情報を記録する。また、後述するステップS415において、センタシステム12は、端末装置13から送信された不審者を許可者として登録するように指示する情報(以下、許可者登録指示情報と称する)を監視システム11に転送する。
ステップS402において、監視システム11は、上述した図34のステップS312と同様の処理により、検出した不審者を許可者として登録し、処理は終了する。
次に、センタシステム12により実行される処理を説明する。
ステップS411において、センタシステム12は、不審者の情報を記録する。具体的には、センタシステム12は、上述したステップS401において、監視システム11から送信された不審者の検出を通知する情報を、ネットワーク14を介して受信する。センタシステム12は、受信した情報に基づいて、監視システム11により検出された不審者の情報を記録する。
ステップS412において、センタシステム12は、不審者情報を送信する。具体的には、センタシステム12は、これまでに監視システム11から受信して記録している情報に基づいて、端末装置13に送信する不審者情報を生成する。センタシステム12は、生成した不審者情報を、ネットワーク14を介して、監視システム11のユーザの端末装置13に送信する。
後述するステップS421において、端末装置13は、センタシステム12から送信されてきた不審者情報を受信し、受信した不審者情報を端末装置13のディスプレイに表示させる。ユーザは、端末装置13に表示された不審者情報を見て、不審者の顔画像の表示の指令を入力する。後述するステップS422において、端末装置13は、不審者の顔画像データの送信を要求する情報をセンタシステム12に送信する。
ステップS413において、センタシステム12は、不審者の顔画像データの送信の要求を受信する。具体的には、センタシステム12は、ネットワーク14を介して、端末装置13から不審者の顔画像データの送信を要求する情報を受信する。
ステップS414において、センタシステム12は、不審者の顔画像データを送信する。具体的には、センタシステム12は、端末装置13により要求された不審者の顔画像データを読み出し、読み出した不審者の顔画像データを、ネットワーク14を介して、端末装置13に送信する。
後述するステップS423において、端末装置13は、不審者の顔画像データを受信し、ディスプレイに不審者の顔画像を表示する。そして、例えば、ユーザは、不審者の顔画像を見て、監視システム11により検出された不審者が、許可者情報テーブルに登録されていないユーザの知人であることを認識する。ユーザは、監視システム11により検出された不審者を許可者として登録させる指令を端末装置13に入力する。後述するステップS424において、端末装置13は、入力された指令に基づく許可者登録指示情報をセンタシステム12に送信する。
ステップS415において、センタシステム12は、許可者登録指示情報を転送して、処理は終了する。具体的には、センタシステム12は、ネットワーク14を介して、端末装置13から許可者登録指示情報を受信する。センタシステム12は、受信した許可者登録指示情報を、ネットワーク14を介して、監視システム11に送信する。
次に、端末装置13により実行される処理を説明する。
ステップS421において、端末装置13は、不審者情報を表示する。具体的には、端末装置13は、上述したステップS412において、センタシステム12から送信された不審者情報を、ネットワーク14を介して受信する。端末装置13は、受信した不審者情報をディスプレイに表示する。
図38は、端末装置13に表示される不審者情報の例を示している。図38に示される不審者情報の例において、1行目にメッセージの通知元の企業名とサービス名が表示され、2行目に監視結果と通知時刻が表示される。そして、3行目以降に、監視システム11により検出された不審者に関する情報を含む監視結果の詳細が表示される。
なお、プライバシ保護のため、第3者に不審者の顔画像が容易に見られないように、不審者の顔画像は表示されない。ユーザは、ハイパーリンクが埋め込まれたテキスト631を選択することにより、ネットワーク14を介して、センタシステム12から不審者の顔画像データをダウンロードして、不審者の顔画像を端末装置13に表示させることができる。
また、ユーザは、ハイパーリンクが埋め込まれたテキスト632を選択することにより、表示されている不審者を許可者として登録するように監視システム11に簡単に指示することができる。
さらに、ユーザは、ハイパーリンクが埋め込まれたテキスト633を選択することにより、ユーザの監視システム11により不審者が検出されたことを、契約している警備会社などに簡単に通知し、迅速に対応してもらうことができる。
なお、端末装置13が携帯電話機である場合、携帯電話機の待ち受け画面にアイコンなどを表示するとともに、特定の着信音を鳴動させたり、または、特定の振動パターンでバイブレータを振動させて、不審者情報を受信したことをユーザに通知し、所定の操作により、瞬時に不審者情報を表示できるようにしてもよい。
ユーザは、テキスト631を選択することにより、検出された不審者の顔画像の表示の指令を端末装置13に入力する。このとき、例えば、パスワードの入力を要求するようにして、ユーザ以外の人が容易に不審者の顔画像の表示を行えないようにしてもよい。
ステップS422において、端末装置13は、不審者の顔画像データの送信を要求する。具体的には、端末装置13は、不審者の顔画像データの送信を要求する情報を、ネットワーク14を介して、センタシステム12に送信する。
ステップS423において、端末装置13は、不審者の顔画像を表示する。具体的には、端末装置13は、上述したステップS414において、センタシステム12から送信された不審者の顔画像データを、ネットワーク14を介して受信する。端末装置13は、受信した顔画像データに基づく不審者の顔画像をディスプレイに表示する。
ユーザは、図38のテキスト632を選択することにより、監視システム11により検出された不審者を許可者として登録する指令を端末装置13に入力する。
ステップS424において、端末装置13は、検出された不審者を接近許可者として登録するように指示する許可者登録指示情報を、ネットワーク14を介して、センタシステム12に送信し、端末装置13の処理は終了する。
このようにして、許可者として登録すべき人が不審者として検出された場合、簡単かつ迅速に、不審者として検出された人を許可者として登録できる。なお、この方法で登録される特徴量データは、接近者の特定に繰り返し使用されたデータであり、認証精度が高い特徴量データであるといえる。従って、この方法によって全ての許可者の登録を行うようにした場合、より高い精度で許可者を特定することができるようになる。
次に、図39のフローチャートを参照して、複数の監視システム11で不審者の情報を共有する場合のネットワーク監視システム1内の処理の流れの例を説明する。なお、以下、図39のフローチャートの説明に用いる2台の監視システム11のうち一方を監視システムAと称し、他方を監視システムBと称する。
まず、監視システムAの処理を説明する。
ステップS451において、監視システムAは、上述した図34のステップS301と同様の処理により、不審者の検出を通知し、処理は終了する。これにより、ネットワーク14を介して、監視システムAからセンタシステム12に不審者の検出を通知する情報が送信される。
センタシステム12は、後述するステップS471において、監視システムAから送信された情報を受信し、後述するステップS472において、監視システムAにより検出された不審者の不審者情報を、監視システムB、および、監視システムBのユーザの端末装置13に送信する。
次に、監視システムBの処理を説明する。
ステップS461において、監視システムBは、監視システムAにより検出された不審者の特徴量データを記録する。具体的には、監視システムBは、監視システムAにより検出された不審者の不審者情報を、ネットワーク14を介して、センタシステム12から受信する。監視システムBは、不審者情報に含まれる不審者の特徴量データを記録する。
その後、監視システムAにより検出された不審者が、監視システムBの監視領域に現れ、監視システムBにより検出されるものとする。
ステップS462において、監視システムBは、不審者を検出する。具体的には、監視システムBは、ステップS461において記録した特徴量データに基づいて、検出した接近者が監視装置Aにより検出された不審者であることを検出する。
ステップS463において、監視システムBは、上述した図34のステップS301と同様の処理により、不審者の検出を通知し、処理は終了する。これにより、ネットワーク14を介して、監視システムBからセンタシステム12に不審者の検出を通知する情報が送信される。
次に、センタシステム12による処理を説明する。
ステップS471において、上述した図37のステップS411と同様の処理により、監視システムAにより検出された不審者の情報がセンタシステム12に記録される。
ステップS472において、センタシステム12は、不審者情報を送信する。具体的には、センタシステム12は、過去に蓄積されている不審者の特徴量データの中から、監視システムAにより検出された不審者の特徴量データとほぼ一致するデータを検索する。ほぼ一致するデータが検索されなかった場合、センタシステム12は、新たな不審者が検出されたと判定し、監視システムAにより検出された不審者の不審者情報を、ネットワーク14を介して、ネットワーク14に接続されている全ての監視システム11および端末装置13に送信する。
ステップS473において、上述した図37のステップS412と同様の処理により、センタシステム12から監視システムBのユーザの端末装置13に、監視システムBにより検出された不審者の不審者情報が送信され、センタシステム12の処理は終了する。
次に、監視システムBのユーザの端末装置13の処理を説明する。
ステップS481において、上述した図37のステップS421と同様の処理により、端末装置13のディスプレイに監視装置Aにより検出された不審者の不審者情報が表示される。
ステップS482において、上述した図37のステップS421と同様の処理により、端末装置13のディスプレイに監視装置Bにより検出された不審者の不審者情報が表示され、端末装置13の処理は終了する。
これにより、監視システムBは、検出した接近者が監視システムAにより検出された不審者であることを迅速に認識することができる。また、監視システムBのユーザは、監視システムAにより検出された不審者が、監視システムBでも検出されたことを迅速に知ることができる。
なお、センタシステム12が、監視システムAで検出された不審者が監視システムBでも検出されたことを判断するようにしてもよい。
る。
図40は、監視システム11の一実施の形態である車載用監視装置701の外観構成の例を模式的に示す図である。監視装置701は、例えば、車内に設置され、車、および、車内の物品を盗難、破損などの危害から守るために設置される。車載用監視装置701は、撮像部と監視処理部とが一体化した構成とされ、撮像装置711−1乃至711−4、警告表示部712−1乃至712−4、および、音響警告部713を含むように構成される。車載用監視装置701は、例えば、片手で携帯できる程度の大きさとされる。
撮像装置711−1乃至711−4は、例えば、上述した対数変換型の撮像素子142を用いた撮像装置とされる。撮像装置711−1乃至711−4は、互いにほぼ垂直な四方向を撮像できるように設置されている。従って、例えば、監視装置701を車内の天井の中央付近に設置することにより、車の前後左右の四方向を監視することができる。
警告表示部712−1乃至712−4は、例えば、LEDまたはランプなどからなり、不審者が検出された場合、点灯または点滅する。これにより、不審者を注意、警告、または、威嚇したり、車の周囲にいる不審者以外の人の注目を集めることができる。
音響警告部713は、スピーカまたはブザーなどからなり、不審者が検出された場合、警告音を鳴動する。これにより、不審者を注意、警告、または、威嚇したり、車の周囲にいる不審者以外の人の注目を集めることができる。
図41は、監視システム11の他の実施の形態である玄関用監視装置721の外観の構成の例を模式的に示す図である。玄関用監視装置721は、撮像部と監視処理部とが一体化した構成とされ、撮像部731および本体部732により構成される。撮像部731は、直方体の形状をした本体部732の面732Aのほぼ中央に取り付けられている。
撮像部731は、例えば、上述した対数変換型の撮像素子142を用いた撮像装置とされる。本体部732は、監視処理部103を内蔵する。
玄関用監視装置721は、例えば、撮像部731が、玄関のドア741ののぞき窓742から外を撮像できるように設置され、家やマンションの玄関に接近する不審者を監視する。
図42は、監視システム11のさらに他の実施の形態である監視システム751の構成の例を示す図である。監視システム751は、撮像装置761−1乃至761−4、および、監視処理部762を含むように構成され、例えば、車に組み込まれた状態で出荷される。
撮像装置761−1乃至761−4は、例えば、上述した対数変換型の撮像素子142を用いた撮像装置とされる。撮像装置761−1乃至761−4は、車および車周辺の監視領域を撮像し、撮像した監視画像データを監視処理部762に入力する。
監視処理部762は、車内に設けられているパワーウインドウ制御装置771、ロック制御装置772、エンジン始動制御装置773、外部通信装置774、音響警告部775、および、警告表示部776と、共通バス777を介して、相互に接続される。監視処理部762は、監視画像データに基づいて、図19および図20などを参照して上述した監視処理を行う。
また、監視処理部762は、不審者を検出した場合、監視対象である車の制御を行う。例えば、監視処理部762は、パワーウインドウ制御部771を制御して、車の窓を閉める。また、監視処理部762は、キーレスエントリシステムの受信機であるロック制御装置772を制御して、キーレスエントリシステムの送信機であるユーザID装置781による車のドアロックの解錠を行えないようにする。さらに、監視処理部762は、エンジン始動制御装置773を制御して、車のエンジンを始動できないようにする。また、監視処理部762は、外部通信装置774を介して、ユーザの携帯端末などに、監視状況を通知する情報を送信する。
さらに、監視処理部762は、クラクションなどからなる音響警告部775を制御して、不審者を注意、警告、または、威嚇したり、車の周囲にいる不審者以外の人の注目を集めるために、警告音を鳴動させる。また、監視処理部762は、ウインカー、警告灯、ブレーキランプなどからなる警告表示部776を制御して、不審者を注意、警告、または、威嚇したり、車の周囲にいる不審者以外の人の注目を集めるために、警告表示部776を点灯または点滅させる。
以上のようにして、より確実に不審者を検出することができ、被害の発生および拡大を防止することができる。また、監視対象から離れるように不審者を注意、警告、または、威嚇したり、不審者から防御するように監視対象を制御したり、監視状況を他の監視システム11、センタシステム12、または、端末装置13に通知するので、被害の発生および拡大を防止することができる。さらに、様々な観点から算出した不審度に基づいて、不審者を検出するので、様々なタイプの不審者を確実に検出することができる。また、許可者および既検出者の特徴量データと接近者の特徴量データとを照合することにより、接近者を特定するので、高い精度で不審者を検出することができる。
さらに、広いダイナミックレンジで撮像可能な撮像装置131を用いることにより、周囲の環境条件に関わらず、被写体に忠実な監視画像を確実に撮像でき、接近者の顔検出、接近者の顔の特定(顔認識)、接近者の動きの検出などの精度が向上するので、不審者の検出を高い精度で行うことができる。また、撮像装置131は、使用環境の制限がほとんどなく、ライトなどの補助光を必要としないので、利便性が向上する。さらに、周囲の環境条件に関わらず、接近者の顔画像データを確実に取得することができるので、後で不審者を特定する場合に有用である。
なお、以上の説明では、対数変換型の撮像素子142を用いた撮像装置131を利用する例を示したが、監視対象の周辺の明るさが大きく変動せず、かつ、被写体の輝度のダイナミックレンジが広くない場合、従来のCCD撮像素子またはCMOS撮像素子を用いた撮像装置を用いるようにしてもよい。
図43は、従来のCCD撮像素子またはCMOS撮像素子を用いた撮像装置801の機能の構成の例を示す図である。撮像装置801は、レンズ811、光量制御部812、および、CCD撮像素子またはCMOS撮像素子からなる撮像素子813を含むように構成される。光量制御部812は、撮像装置801の絞りやシャッター速度を制御することにより、レンズ811から入射する被写体から発せられた光(あるいは、被写体により反射された光)の光量が、撮像素子813のダイナミックレンジ内に収まるように調整する。撮像素子813は、入射光の照度にほぼ比例したデジタルの画像データを出力する。
また、撮像装置131または撮像装置801に、パン、ティルト、ズームなどの画角を制御する手段を設けるようにしてもよい。また、周辺情報取得部111により取得される周辺情報に基づいて、画角を調整するようにしてもよい。
さらに、本発明は、周辺情報を用いずに、監視画像データのみを用いて監視処理を行うことも可能である。図44は、監視画像データのみを用いて監視処理を行う場合の不審者検出部821の機能の構成の例を示す図である。不審者検出部821は、顔検出部831、特徴量検出部832、照合部833、不審度判定部834、および、接近行為検出部835を含むように構成される。なお、顔検出部831、特徴量検出部832、照合部833、不審度判定部834、および、接近行為検出部835は、図9の不審者検出部112の顔検出部301、特徴量検出部302、照合部303、不審度判定部311、および、接近行為検出部312に対応する。この構成により、接近者の接近頻度不審度、接近距離不審度、対面時間不審度、顔方向不審度、視線方向不審度、および、うろつき不審度が算出される。
また、監視システム11により取得した監視画像データおよび周辺情報を、ネットワーク14を介してセンタシステム12に送信し、センタシステム12が不審者の検出の処理の一部または全部を行うようにしてもよい。これにより、監視システム11の構成が簡単になり、小型化および低コスト化することができる。
さらに、監視画像データから検出された人の顔を、実際の人の顔と、例えば、看板、ポスター、写真などに写っている人の顔、および、3次元の模型などの顔と識別するために、例えば、検出した顔が静止している状態が所定の時間継続した場合、実際の人の顔ではないと判定するようにしてもよい。また、撮像装置131のフォーカス情報、距離センサによる距離情報などに基づいて、検出した顔の大きさを推定し、推定した顔の大きさが通常の人より極端に大きいまたは小さい場合、実際の人の顔ではないと判定するようにしてもよい。さらに、複数の撮像装置131からの監視画像データにおける顔画像の画素値の分布を調べたり、照明による影の変化を調べたりすることにより、顔の起伏を検出して、顔の起伏がほとんど検出できない場合、検出した顔が実際の人の顔ではないと判定するようにしてもよい。また、赤外線サーモグラフィ装置などにより顔の温度分布を検出するようにして、例えば、検出した顔の温度が通常の人の体温より極端に高いあるいは低い場合、または、顔の温度がほとんど変化しない場合、検出した顔が実際の人の顔ではないと判定するようにしてもよい。
なお、看板、ポスター、写真、3次元の模型などを用いて、監視システム11に偽の顔を認識させようとする行為が検出された場合、接近者の不審度を高く設定するようにしてもよい。
また、例えば、レンズにシールなどを添付したり、撮像装置131にカバーなどを被せたりして、撮像装置131を無用化する行為の対策として、監視画像が変化しなくなったり、撮像装置131のオートフォーカスが至近距離で合焦したり、複数の撮像装置131により撮像された画像の間の整合性が取れなくなったり、電波センサ、赤外線センサなどの無線式センサにより検出されたものの動きと監視画像から検出される被写体の動きが矛盾したりする現象が検出された場合、接近者の不審度を高く設定するようにしてもよい。
さらに、監視対象が屋外に設置される場合、気候の変化に対する対策を施すようにしてもよい。例えば、監視対象が車であり、車内に撮像装置131が設置されている場合、雪や霜が車の窓などに付着して監視画像が撮像できなくなるときの対策として、雪や霜の影響を受けにくい電波式の物体センサを用いて、監視領域において不審な人の動きを検出した場合、車のワイパー、電熱ヒータなどを起動して、車の窓などから雪や霜を除去するようにしてもよい。なお、車の窓などから雪や霜を自動的に除去することにより、不審者を威嚇する効果も得られる。さらに、車の窓などから雪や霜が除去された後、ストロボなどの発光手段により、不審者に強い光を照射するようにすると、不審者を威嚇する効果がさらに大きくなる。
また、図6を参照して上述したように、ユーザIDによりユーザ認証する場合、さらに、顔画像による認証を組み合わせて行うことにより、ユーザIDを不正に利用しようとする不審者を検出できるようになる。しかし、一方では、利用許可者として登録されていない人が、ユーザID送信装置171を借りて、ユーザ認証を行おうとした場合、不審者であると判定されてしまう。
この対策として、例えば、ユーザID送信装置171を用いてユーザIDを送信した人が、利用許可者として登録されていないと判定された場合、監視システム11からユーザの端末装置13に、図45に示される情報を送信するようにする。すなわち、利用許可者として登録されていない人が、ユーザIDを用いてユーザ認証を要求していることを通知する。そして、ユーザは、ハイパーリンクが埋め込まれたテキスト851を選択することにより、図46に示されるユーザ認証を要求している人の顔画像852を含む情報を端末装置13に表示させる。ユーザは、顔画像852を確認して、ユーザ認証を許可するか否かを判断する。
ユーザが、ユーザ認証を許可すると判断し、ハイパーリンクが埋め込まれたテキスト853を選択した場合、ユーザ認証の許可を示す情報が、端末装置13から監視システム11に送信され、ユーザ認証が許可される。一方、ユーザが、ユーザ認証を許可しないと判断し、ハイパーリンクが埋め込まれたテキス854を選択した場合、ユーザ認証の不許可を示す情報が、端末装置13から監視システム11に送信され、ユーザ認証が不許可とされる。このように、高いセキュリティを確保しつつ、ユーザID端末装置171の貸し出しによるユーザ認証が容易に行えるようになる。
また、本発明に用いる撮像装置を、撮像素子142に直接レンズを取り付けた構造とするようにしてもよい。これにより、撮像装置を1チップの半導体として実現することができ、監視システムを超小型化することができる。これにより、携帯電話機、腕時計などの小型の機器に監視システムを組み込むことができるようになる。
さらに、短時間に繰り返し現れる不審者または隠蔽不審者を、顔画像だけでなく、監視画像に写っている服装、所持品などの特徴により特定するようにしてもよい。
また、例えば、ユーザが端末装置13を操作することにより、不審者の判定条件の設定を随時変更できるようにしてもよい。
なお、本発明は、車載用の監視システム、家庭用の監視システムなど各種の監視システムに適用することができる。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
図47は、汎用のパーソナルコンピュータ900の内部の構成例を示す図である。CPU(Central Processing Unit)901は、ROM(Read Only Memory)902に記録されているプログラム、または記録部908からRAM(Random Access Memory)903にロードされたプログラムに従って各種の処理を実行する。RAM903にはまた、CPU901が各種の処理を実行する上において必要なデータなども適宜記録される。
CPU901、ROM902、およびRAM903は、バス904を介して相互に接続されている。このバス904にはまた、入出力インタフェース905も接続されている。
入出力インタフェース905には、ボタン、スイッチ、キーボードあるいはマウスなどで構成される入力部906、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などのディスプレイ、並びにスピーカなどで構成される出力部907、ハードディスクなどで構成される記録部908、およびモデムやターミナルアダプタなどで構成される通信部909が接続されている。通信部909は、インターネットを含むネットワークを介して通信処理を行う。
入出力インタフェース905にはまた、必要に応じてドライブ910が接続され、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリなどよりなるリムーバブルメディア911が適宜装着され、そこから読み出されたコンピュータプログラムが、記録部908にインストールされる。
また、入出力インタフェース905には、撮像部101およびセンサ部102が接続されている。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録する記録媒体は、図47に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)(登録商標)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア911により構成されるだけでなく、装置本体にあらかじめ組み込まれた状態でユーザに提供される、プログラムが記録されているROM903または記録部908に含まれるハードディスクなどで構成される。
なお、本明細書において、プログラム格納媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムの用語は、複数の装置、手段などにより構成される全体的な装置を意味するものである。