JP3860412B2 - 3次元距離画像を撮影するための方法及び装置 - Google Patents

3次元距離画像を撮影するための方法及び装置 Download PDF

Info

Publication number
JP3860412B2
JP3860412B2 JP2000526831A JP2000526831A JP3860412B2 JP 3860412 B2 JP3860412 B2 JP 3860412B2 JP 2000526831 A JP2000526831 A JP 2000526831A JP 2000526831 A JP2000526831 A JP 2000526831A JP 3860412 B2 JP3860412 B2 JP 3860412B2
Authority
JP
Japan
Prior art keywords
sensor
light
pixel
time
integration
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2000526831A
Other languages
English (en)
Other versions
JP2002500367A (ja
Inventor
メンゲル ペーター
デーメンス ギュンター
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Siemens AG
Original Assignee
Siemens AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from DE19757595A external-priority patent/DE19757595C2/de
Priority claimed from DE19833207A external-priority patent/DE19833207A1/de
Application filed by Siemens AG filed Critical Siemens AG
Publication of JP2002500367A publication Critical patent/JP2002500367A/ja
Application granted granted Critical
Publication of JP3860412B2 publication Critical patent/JP3860412B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60NSEATS SPECIALLY ADAPTED FOR VEHICLES; VEHICLE PASSENGER ACCOMMODATION NOT OTHERWISE PROVIDED FOR
    • B60N2/00Seats specially adapted for vehicles; Arrangement or mounting of seats in vehicles
    • B60N2/002Seats provided with an occupancy detection means mounted therein or thereon
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/0153Passenger detection systems using field detection presence sensors
    • B60R21/01538Passenger detection systems using field detection presence sensors for image processing, e.g. cameras or sensor arrays
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/04Systems determining the presence of a target
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4802Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/487Extracting wanted echo signals, e.g. pulse detection
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60NSEATS SPECIALLY ADAPTED FOR VEHICLES; VEHICLE PASSENGER ACCOMMODATION NOT OTHERWISE PROVIDED FOR
    • B60N2210/00Sensor types, e.g. for passenger detection systems or for controlling seats
    • B60N2210/10Field detection presence sensors
    • B60N2210/16Electromagnetic waves
    • B60N2210/22Optical; Photoelectric; Lidar [Light Detection and Ranging]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Electromagnetism (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Transportation (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

【0001】
本発明は空間的オブジェクトの3次元距離画像の撮影のための方法及び装置に関する。
【0002】
3次元で撮影し処理するセンサシステムは、産業技術の実に様々な課題設定においてますます重要性を持ちつつある。例えばレーザレーダのような周知の光学的レーダシステムは、レーザパルス伝播時間測定の原理又はオブジェクト距離の導出のために変調されたレーザ光の位相差の測定に基づく。3次元画像供給システムの構成のためには、付加的な機械的スキャン装置が必要である。これは比較的高価な電子的及び機械的コストをもたらす。このコストはこのような3次元システムの使用を数少ない特別な適用に限定する。
【0003】
CCDカメラ(電荷結合素子)を使用する方法が公知であり、この半導体カメラに対してはテレビジョン(TV)規準が使用される。従って、単に比較的長い読み出し時間しか実現されない。
【0004】
本発明の課題は、3次元距離画像を撮影するための方法ならびに装置を提供して、コスト高な機械的装置なしで空間的オブジェクトに対する3次元距離画像を得るための迅速かつコスト的に有利な方法を提供することである。
【0005】
上記課題は請求項1、2乃至は請求項26の特徴部分記載の構成によって解決される。
【0006】
本発明は次のような認識に基づいている。すなわち、画素分解能(ピクセル分解能)を有しかつランダムに読み出し可能であり、さらに積分時間を詳細に調整可能である光電センサを使用することによって、3次元距離画像のきわめて迅速な画像撮影が可能である、という認識に基づいている。このために、オブジェクトは1つ又は複数の非常に短い光パルスで照明され、次いで同じ長さの光パルスがこのオブジェクトから散乱されて戻ってくる。これらの散乱されて戻ってくる光パルスは相応の光学系を介して光電チップに導かれる。センサからの異なるオブジェクト点の異なる距離に基づいて、それぞれの箇所に対応する散乱されて戻ってくる光パルスはそれぞれ異なる時間でセンサに到達する。距離測定に対しては、時間測定窓がオープンされる。この時間測定窓の持続時間は予め設定可能な積分時間に相応する。積分時間は、送信される光パルスの長さ、すなわち反射される光パルスの長さより小さいか又は等しい。従って、積分時間の終了時点には散乱されて戻ってくる光パルスの統一的なカットがセンサにおいて行われることが保障される。画素素子毎に時間遅延して入射する光パルスは後の方でカットされる。この結果、光電センサのラスタにおける異なる電荷に基づいて、異なる伝播時間が異なる電荷差に変換されうる。この電荷差から3次元距離画像が計算される。
【0007】
本発明はまた次のように構成される。すなわち、定められた長さを有する光パルスの代わりに、急勾配のエッジを有する光強度上昇だけを使用し、センサにおいて相応に撮影し評価するように構成される。これによって、測定結果は光パルスの下がりエッジの経過に依存しなくなる。他方で例えばセンサ素子の動作熱により発生される暗電流の影響ならびに周囲光(妨害光)の成分が精確に各画素毎に補償される。全体として3回の連続する測定によってまず最初に暗電流及び周囲光が検出され、その後で露光との関連においてオブジェクトにより反射されセンサで受信された光量がセンサ信号の形式で積分される。これが続いて比較的大きい積分時間で繰り返される。ここから、相応の補間によって各オブジェクト点毎に光の伝播時間がもとめられる。これは伝播時間、すなわちオブジェクトまでの距離を同時に精確に測定することにおいて比較的少ない光出力の使用をもたらす。
【0008】
本発明の有利な実施形態では、非常に長い積分時間によって全ての光パルスをまず最初に記述した測定と同時に、又は、その後で時間シフトしてこれらの全ての光パルスの完全な長さで受信する。これは正規化に利用され、この結果、オブジェクトの反射特性における差異が識別され、補償される。
【0009】
他の実施形態は従属請求項から得られる。
【0010】
本発明の重要な利点は、例えば機械的なシャッタを省略できることである。極端に短い画像撮影時間が実現される。使用される光電センサは一般的にCMOSセンサと呼ばれ、これは半導体構成素子の技術的な名称でしかない。このようなセンサによって50nsecから30nsecまでの最小積分時間が実現される(ジッタはほぼ0.1%よりも小さい)。技術的な発展は積分時間においてさらに前進している。
【0011】
次に概略図に基づいて実施例を記述する。
【0012】
図1はCMOSセンサによる3次元距離画像の検出のための作動原理を示す。
【0013】
図2は積分窓に対して相対的な2つの光パルスの時間的ずれの概略図を示し、これらの2つの光パルスの所属のオブジェクト点はCMOSセンサに対して異なる距離を有する。
【0014】
図3はCMOSセンサによる3次元距離画像及び強度画像乃至はグレースケール値画像を同時に検出するためのセンサの概略図を示す。
【0015】
図4は3次元CMOSセンサによる車両内部空間監視を示す概略図を示す。
【0016】
図5は積分CMOSセンサによる距離測定を示し、送信側のレーザダイオードの信号及び受信側のセンサ信号が図示されている。
【0017】
図6は積分CMOSセンサによる距離測定を示し、図6aではレーザダイオードの送信側の動作が及び図6bではこのセンサにおいて継続される積分により得られるセンサ信号が図示されている。
【0018】
図7は送信側の照明と受信側のレーザパルスの検出との間の関係を時間的相関において示しており、図7に下方に示された測定信号は短い積分時間との関連において及び非常に長い積分時間との関連において図示されている。
【0019】
図8はレーザパルスの送信側及び受信側の図示を時間的相関において示し、センサの照明制御に関連する2つの異なる短い積分時間が設けられている。
【0020】
短時間露出において光電センサによる空間的オブジェクトの強度画像及び3次元距離画像を連続的又は同時的に検出乃至は生成するための方法を記述する。この方法は、3次元オブジェクトから散乱されて戻ってくる光パルスの伝播時間差を短い積分時間内のセンサにおける画素同期(ピクセル同期)検出において利用する。この場合、CMOSセンサが使用される。このセンサは例えば1mLuxの感光性を有する。さらに、このセンサは107までの高い強度ダイナミック特性を有し、個々の画素(ピクセル)へのランダムなアクセスならびに調整可能な積分時間(サンプル・アンド・ホールド)を有する。測定には、個々の画素の露出による電荷量Q(t)が使用される。
【0021】
CCDカメラを使用する方法に比べて、例えば強度画像及び3次元画像のパラレルな検出ならびに明らかにCCDカメラの読み出し時間を下回る短い画像撮影時間の実現のような特別な利点が得られる。さらに、このCMOSはコスト高な機械的シャッタを必要とせず、さらに短時間露出のために出力の高いレーザ光源を使用する必要もない。
【0022】
この方法は、空間監視、例えば車両内部/車両外部監視、クレーン装置の自動化ならびにナビゲーションにおいてとりわけ人物及び運動経過の識別に適している。
【0023】
基本的な動作構成を図1に基づいて説明する。まず最初に検出すべき空間的オブジェクトの照明に対して例えば短い光パルス<100nsが供給される。この照明は例えばパルス制御されるレーザダイオードによるレーザ光によって又は例えばパルス制御されるLEDダイオードのような光源によって行われる。この方法は、照明の角度には依存しない。この照明を一般的な検出方向の中心部にどうしても行う必要はない。よって、例えば同軸的な照明及び検出においてもリング光を使用することが考えられる。図1に図示された装置は動作原理の概略的な説明のためだけに使用される。
【0024】
第1の画像撮影AはCMOSセンサにおける短い積分時間ΔAに結びつけられている。三次元シーンのオブジェクト点Gから散乱されて戻ってくる長さΔL(<100nsec)の光パルス3はCMOSセンサの所属の画素9において調整された短い積分時間ΔA≦ΔL内に検出される。電子的なトリガパルスによってこの場合送信された光パルス2とこのCMOSセンサにおける積分時間窓のオープンとの間には固定的な時間関係が形成される。光の伝播時間のために、オブジェクト距離Rに応じて異なる時間的ずれ
τ=2R/Vc (Vc=光速)
が送信された光パルスとCMOSセンサにおいて検出される光パルスとの間に生じる。画素において積分時間ΔA内に測定される電荷QAはこれによってセンサとオブジェクト点Gとの間の距離Rに依存する。これについては図2を参照のこと。
【0025】
A ∝ I0*ORL−(2R/Vc−tD)) (1)
0 送信された光パルスの強度、
R オブジェクト点Gにおける表面反射係数、
D 送信される光パルスとCMOSセンサにおける積分窓のスタートとの間のトリガ点時間遅延。
【0026】
同一の表面反射係数ORを有する複数のオブジェクト点Gに対しては、これらの距離Rに依存して異なる電荷QAがCMOSセンサの所属の画素で測定される。これにより光パルスの小さい伝播時間差が電荷変化QAに変換され、この結果、積分された電荷はそのそれぞれの距離R(1,...)を有するそれぞれのオブジェクト点Gを代理する。これらはCMOSセンサにおいて非常に感度が良く、高いダイナミック特性によって検出されうる。通常は3次元シーンのオブジェクトは異なる表面反射を有する。
【0027】
従って、距離画像の正規化のためにはさらに第2の画像撮影QBが実施される。この第2の画像撮影QBは3次元シーンのオブジェクトの表面反射にのみ依存する。
【0028】
長い積分時間ΔBを有する第2の画像撮影Bの実施は、3次元シーンの表面反射の正規化に使用され、原理的には従来の強度画像又はグレースケール値画像が使用される。このために第2の画像撮影の際にはCMOSセンサにおいて照明光パルスの長さに比べて非常に大きい積分時間ΔBが調整される;ΔB≫ΔL、例えば1マイクロ秒。今や散乱されて戻ってくる全ての光パルス3はその伝播時間には無関係にその完全な大きさにおいてCMOSセンサにおいて検出される。画素において測定される電荷QB
B ∝ I0・OR・ΔL (2)
である。得られる画像は、照明強度I0、所属のオブジェクト点の表面反射係数OR、ならびに光パルス長ΔLにのみ依存する。
【0029】
2次元距離画像QRの生成は、画像撮影AとB乃至はQAとQBの差及び正規化から計算によって行われる。
【0030】
R=(QA−QB)/QB (3)
式(1)及び(2)からtD=0によって次式
R ∝ −2R/(VcL) (4)
が得られる。この値は読み出し及びデジタル化ならびに全ての画素に対する付加的なスケーリングの後で直接的に距離画像QRとして出力される。トリガ遅延時間tDが0に等しくない場合、距離画像QRの全ての点に一定のオフセット
D=tD/(VcL) (5)
ただしここでRDはtDにおける距離値(電荷オフセット)、
が加算される。
【0031】
強度画像及び3次元画像の同時撮影は強度値及び距離値の局所的に及び時間的にパラレルな検出の実施に関連している。このために、チップ・アーキテクチャ及びピクセル相対積分時間は次のように選択される。すなわち、CMOSセンサ上の図3に相応する直接隣接するピクセルAとピクセルBとは3次元シーンの散乱されて戻ってくる光パルス3を短い積分時間ΔA≦ΔL(ピクセルA) 及びΔB≫ΔL(ピクセルB)で同時に検出するように選択される。チップ上に集積された電子回路によって直接的に割り当てられたピクセルA及びピクセルBの2次元距離画像
R=(QA−QB)/QB (6)
が計算され、出力される。
【0032】
図3は強度画像及び3次元距離画像のパラレルな検出のためのCMOSセンサ上の2つの可能な配置を概略的に示す。これに対して他の変形も可能である。強度画像及び3次元距離画像の同時検出はとりわけ移動する3次元シーンの分析において重要であり、例えば人物の身振り又はオブジェクト追跡の検出である。本発明の他の特別な特徴は、
・ 必要な場合には、周囲光に関する3次元距離画像の付加的な正規化を実施できる。このためにはまず最初に3次元シーン乃至はオブジェクトの照明なしで画素の電荷を短い積分時間及び長い積分時間で検出し、さらに照明によって測定された電荷QA及びQBから引く。続いて距離画像QRの計算が行われる。
【0033】
・ 複数の光パルスの信号の時間的平均化によって、散乱して戻ってくる光強度が小さい場合にノイズに対してこの方法の感度の向上が達成される。
【0034】
・ 距離測定の測定不確定性はCMOSセンサの信号対ノイズ特性に依存する。これが予期される場合、0.1nsの間の伝播時間差がまだ検出されうる。ここから、測定不確実性は距離測定に対して3cmよりも小さいと推論される。
【0035】
ここに記述される方法及び装置の基本的な使用は内部空間の監視、とりわけ体積測定評価方法に結びついた車両の内部空間の監視に関する。車両における光学的な内部空間監視の課題は、例えば人物、チャイルドシート、その他のオブジェクトのような座席占有状態の識別、人物の座席位置の検出及び盗難保護、すなわち、外部からの車両内部への不許可の侵入の検出である。人物及びその座席位置の識別はエアバック(スマート・エアバック)の段階的なトリガに対して安全性に関連して大いに意味があり、これは衝突事故において非常に確実にかつ短い測定時間で行われなければならない。本発明はこれらの要求を車両内部の3次元距離画像の迅速かつ確実な生成によって満たし、体積測定評価方法を使用する。この場合、立体角要素Ωにおける距離値Rから、オブジェクト1により占められる車両内部空間における実効体積成分が、空っぽの車両内部空間における距離値に対する差として測定される(これについては図4参照)。
【0036】
この方法及び装置はさらに別の重要な利点を与える、すなわち、
・ 瞬時の座席占有状態の迅速な大局的な検出がオブジェクトなしの車両内部空間の3次元距離画像(3次元基準画像QRO)と人物又はその他のオブジェクトが座席にいる場合の瞬時に評価すべき3次元距離画像QRPとの差形成によって行われる。この場合、座席占有状態の実効体積VPには次式が成り立つ:
【0037】
【数1】
Figure 0003860412
【0038】
ただしここでR0は人物乃至はその他のオブジェクトなしの距離値であり、RPは人物乃至はその他のオブジェクトが座席にいる場合の距離値であり、dFは微分面積である。
【0039】
・ 車両への人物の乗車の前及び後の相対的な距離変化の計算から座席占有状態をアダプティブに検出することが実施される。回帰的又は確率的評価方法を適用することによって、差検出の確実性がさらに向上する。
【0040】
・ 検出されるオブジェクトのサイズ検出及びオブジェクトの大局的な区別が体積比較クラス(Volumen- Vergleichsklassen)を介して可能である。
【0041】
・ 占有された体積成分の空間的割り当てが可能である。
【0042】
・ エアバックトリガの制御のために内部空間の占有された体積の空間的に最も外側の位置(Extrempositionen)(x、y、z)が決定される。
【0043】
・ 時間的に連続する画像撮影及び差形成における空間内の運動経過の体積測定的追跡。運動分析から人物及び身振りの識別。
【0044】
この積分体積考察は、空間におけるオブジェクト及び位置の大局的な検出を可能にし、さらに例えばオブジェクト識別のために画像における輪郭、角、辺のような特徴の検出に頼る必要がない。評価時間は3次元画像撮影及び体積測定的評価に10msかからない。
【0045】
ここに記述した方法及び装置の適用分野としてはとりわけ車両内部空間が対象になる。この場合、例えば50ns(ナノ秒)のLED光パルスによる3次元画像撮影においてオブジェクトが露出される。CMOSセンサにおける積分時間は画像撮影QAに対して50nsに選択され、画像撮影QBに対して0.5μsに選択される。車両内部の検出すべきシーン・ダイナミック特性は200:1であるべきである。距離値Rは測定不確実性<15cm(光パルスの相応する伝播時間差=1ns)で1.5m(伝播時間10ns)までの測定領域において検出される。
【0046】
これらの装置によってCMOSセンサにおいて(10×200=)2000:1の強度ダイナミック特性が必要となる。3次元距離画像QRのデジタル的検出はこれにより12ビットA/D変換器によって保障される。50×50画素のセンサ局所分解能に対して、短い積分時間を有する画像撮影A及び長い積分時間を有する画像撮影Bには最大104回の読み出し動作が必要不可欠である。この最大104回の読み出し動作は、例えば2MHzの読み出し周波数において最大5msの3次元距離画像の全画像撮影時間をもたらす。2500個の距離値からの差体積の計算は例えば200MHzのペンティアムのような高速プロセッサによってさらに5msで難なく実施可能である。
【0047】
図4には車両内部空間における本発明の適用事例の概略図が図示されている。破線の矢印は人物の座っていない時の座席を表す。直線の矢印は人物の座っている時の座席を表す。大局的オブジェクト識別及び位置測定においては、被覆実効体積成分は人物の座っている時の車両における3次元距離データ及び人物の座っていない時の車両における3次元距離データから決定される。自動車座席の人物又はその他のオブジェクトの実効体積VPは式(7)によって計算される。
【0048】
距離画像を撮影するためのこれまで記述してきた方法は差をもとめる方法に基づいており、伝播時間はT0=UP/UgesAである。ただしここで、
0=光伝播時間、ΔA=積分時間、Uges=ΔBにおける測定信号マイナスΔBにおける暗電流成分、UP=Ugesマイナス(ΔAにおける測定信号成分マイナスΔAにおける暗電流成分)である。
【0049】
本発明のさらに別の重要な解決策は図8に図示されており、センサにおいて受信された測定信号を補間法によって評価する。この場合、光源からオブジェクトを介してセンサまでの光の伝播時間は、暗電流成分の曲線と交差する図8の測定信号の曲線の交点によって得られる。この光伝播時間には
0=2R/Vc
が成り立つ。これから距離値Rが得られる。
【0050】
画像処理の無数の工業的適用事例において必要な3次元画像データ検出はとりわけ空間、例えば自動車内部空間の自動監視にとって必要不可欠である。距離画像/間隔画像の精度にあまりにも高度な要求が課せられるわけではない。ほぼ1000画素を有する距離画像で大抵の場合には空間監視には十分である。通常の三角測量法はこの場合コストの理由からならびに大きな必要不可欠な測定ベースのために除外される。
【0051】
図7に相応する照明形式も図8に相応する照明形式も3次元距離画像の迅速かつコスト的に有利な撮影を実現しうる。補間を介して評価に必要不可欠な光の伝播時間をセンサ4の各画素毎に得る方法は例として図8に図示されている。ここでは、定められた長さを有する光パルスの代わりに、急勾配のエッジを有する光強度上昇だけが評価される。センサで受信されるオブジェクトから反射されたレーザパルスは2つの異なる積分時間によってカットされる。これによって、一方で測定信号は光パルスの下がりエッジの経過には依存しなくなり、さらに他方で例えばセンサの動作熱により生じる暗電流及び周囲光の影響が各画素毎に精確に補償される。
【0052】
図5は積分CMOS画像センサによる距離測定を示している。時間t/センサ電圧Uの線図において、一方で送信側で照射するレーザダイオード乃至はこのレーザダイオードの矩形状に形成された光パルスが図示されている。その下には受信側で測定される測定信号が図示されている。座標系の原点から電圧Udに向かう直線は実施された第1の測定であり、暗電流成分プラス未知の光成分を含んでいる。Udは他の積分時間T1よりも大きい積分時間T2まで測定される。次いでオブジェクト1はレーザダイオードで照明され、この後まず最初に個々の画素において未知の光成分と共に暗電流だけが積分される。光伝播時間T0に基づいて付加的な光がオブジェクト点Gから散乱されて戻ってくる場合、測定信号は時点T0からそれぞれの画素の輝度に相応してより大きく上昇する。所定の積分時間T1の後で全ての画素に対して電圧U1が読み出され格納される。同一の過程が第1の暗電流測定から既知の積分時間T2で繰り返される。T1は例えば30nsであり、T2は例えば60nsである。測定信号が時間T1乃至はT2と交差する箇所において、もっともこれは受信された光パルスをカットすることによっても同じであるが、点U1乃至はU2が得られる。関係式ΔU=U2−U1が成り立つ。光伝播時間T0は図5に示されている公式によって計算される。点U1及びU2を通る直線を延長すると、この直線は下の方へ向かって暗電流を示す直線にこの座標系の原点と電圧UDとの間で交差する。この交点において光伝播時間T0が読みとれる。U1及びU2乃至はΔUに対する全ての値は同様に全ての画素に対して読み出され格納される。比較的大きい暗電流UDであっても、所定の積分時間T1及びT2に関連して各画素毎に格納された電圧UD、U1、U2及びΔUから明確に及び精確に各画素毎に伝播時間T0が計算される。この場合、次式が成り立つ:
0=(U1・ΔT−ΔU・T1)/(UD・ΔT/T2−ΔU)
これは伝播時間の、つまりオブジェクトへの距離の精確な同時測定において比較的小さい光出力の使用をもたらす。
【0053】
有利な実施形態では、コストの理由から大抵の場合クリティカルなレーザ出力の低減のために、上記の過程の複数回の繰り返しを連続して行う。U1、UD及びΔUの得られる値はCMOSセンサの多重露出の最後に初めて読み出され、デジタル化される。これについては図6a及び6bを参照のこと。CMOSセンサにおける多重露出に対するアナログ的な平均値形成は、後で行うデジタル的な平均化の際の比較的長い読み出し時間を回避する。測定値の信号/ノイズ比の最適化に関するオブジェクトのそれぞれの反射率に対するアダプティブな調整は、次のことによって実現される。すなわち、少ないテスト画像において、全体画像の特定の個数の画素において値n(U1+ΔU)の飽和が生じるまで露出の数を増大させることによって実現される。ただしここでn=多重露出の数である。
【0054】
上記のステップによって、暗電流及び周囲光があっても光伝播時間T0を精確に計算することは可能であることが可能になり、CMOSセンサの信号読み出しを多重露出の後で初めて行い、次いでデジタル化が行われることが可能になり、さらに、オブジェクト反射率に相応してアダプティブな調整が行われることが可能になる。これらの手段によってこれまで必要不可欠であったレーザ出力をファクタ10から20までだけ下げることができ、乃至は、精度を高めることができる。
【0055】
画像センサにおいて使用されるセンサ原理は例えばn+-p型フォトダイオードに基づく積分法である。このフォトダイオードは電子的短時間積分器の構成部材であり、この電子的短時間積分器はさらにコンデンサ及び複数のトランジスタを有する。回路構成は次のように行われる。すなわち、例えばこのコンデンサのキャパシタンスがこのフォトダイオードに入射する光に依存して放電されるように行われる。これはいわゆるシャッタ・トランジスタを介して制御される。次いで例えばこのコンデンサに残っている電位が読み出される。同期化された照明を保障するために、この電子的短時間積分器のタイミング制御部は光源を制御するためのいわゆるストロボ信号を発生する。センサ4の各画素素子に対して、このような電子的短時間積分器(電子的シャッタ)が使用される。測定の終了時にコンデンサに残っている電位の代わりに、既に放電されてしまった電位を測定値として使用することもできる。
【0056】
図6aには複数の連続してスイッチングされる送信側の光パルスが図示されている。図6bには例として積分時間T1とそれぞれの電圧U1及び暗電流成分UDとの関係が図示されている。同じことはT2、U2及びUDに対してもプロットできる。各露出乃至は多重露出に対して光伝播時間T0の値が得られる。
【0057】
図7と図8を対比するとわかることだが、図8の補間法の方がより短い照明時間を有する。それぞれ真ん中に図示されている、図8の例えば30ns及び60nsのシャッタ時間及び図7の非常に長いレーザパルス時間と結びつくシャッタ時間60nsがセンサにおける積分時間を決定することになる。図7において上方に送信側の照明とレーザパルスの受信側の入射との間の時間的な関係が図示されている。図5から8においてそれぞれ図示されている実施例はトリガ遅延時間を持たない。これは、受信側でセンサパルスの開始によって測定窓がオープンされることを意味する。これは、図7の図示においては、短時間シャッタ(60ns)が受信されたレーザパルスを、それぞれオブジェクト点乃至は画素点に関して、時間ΔAでカットすることを意味する。このレーザパルスの持続時間は送信側でも受信側でもΔLである。明瞭なことは、様々な光伝播時間に基づいて、センサにおける電子的短時間積分器はそれぞれ電位を測定値として供給し、この伝播時間に依存して時点T0からΔAの終わりまで積分が行われることである。積分時間ΔBは図7の場合にはオブジェクト1における反射率の相違を補償するために使用される。この場合、暗電流及び未知の光成分がもとめられ、この暗電流及び未知の光成分が測定信号から相応に引かれる。
【0058】
図8は図7に相応する図面を示しており、上方の線図は図7のそれと同一である。図8の真ん中には2つの短時間シャッタ時間が図示されている。これらは図7の場合と同じようにセンサ4に入射するレーザパルスをカットするために使用される。従って、比較的短い積分時間T1及び比較的長い積分時間T2が生じる。測定信号は図7及び8において暗電流及び未知の光成分を有する。従って、この測定信号はこの暗電流及び未知の光成分への光電流成分の加算から得られる。言い換えれば、光電流成分は、測定信号からこの暗電流及び未知の光成分を引くことによってもとめられる。光伝播時間T0は、到達する反射光パルスによって測定信号が暗電流成分及び未知の光成分のノーマルな経過から逸脱する時間軸上の箇所において得られる。というのも、光電流成分はもはやゼロではないからである。光伝播時間T0を得る評価は図5との関連において既に記述した。
【0059】
レーザ出力の明瞭な低減のために、測定オブジェクトは連続的に部分的に照明される。照明と評価とは同時に行われる。従って、オブジェクト1は部分的に連続的に照明され、そしてその都度評価される。その都度複数の光源10のうちの1つにオブジェクト1の所定の部分が割り当てられている。さらに光源10の、例えばレーザの強度の上昇時間は明瞭に短縮され、例えば0.1nsに短縮される。
【0060】
図9は概略的に3つの光源10の配置を示し、これら3つの光源10はオブジェクト1をそれぞれ所定の領域11において照明する。センサ4はオブジェクト1の部分的な領域11に相応する反射された光成分を受信し、この光成分を後続処理する。この構成は、例えばレーザを有する照明ユニットのレーザ出力の制限を可能にする。連続的な照明及び検出はコスト的に有利に実現可能であり、所定の規準によって予め設定された最大レーザ出力を問題なく下回る。さらに、これに伴って、レーザ強度の上昇時間も明らかに例えば0.1nsecに短縮される。
【図面の簡単な説明】
【図1】 図1はCMOSセンサによる3次元距離画像の検出のための作動原理を示す。
【図2】 図2は積分窓に対して相対的な2つの光パルスの時間的ずれの概略図を示し、これらの2つの光パルスの所属のオブジェクト点はCMOSセンサに対して異なる距離を有する。
【図3】 図3はCMOSセンサによる3次元距離画像及び強度画像乃至はグレースケール値画像を同時に検出するためのセンサの概略図を示す。
【図4】 図4は3次元CMOSセンサによる車両内部空間監視を示す概略図を示す。
【図5】 図5は積分CMOSセンサによる距離測定を示し、送信側のレーザダイオードの信号及び受信側のセンサ信号が図示されている。
【図6】 図6は積分CMOSセンサによる距離測定を示し、図6aではレーザダイオードの送信側の動作が及び図6bではこのセンサにおいて継続される積分により得られるセンサ信号が図示されている。
【図7】 図7は送信側の照明と受信側のレーザパルスの検出との間の関係を時間的相関において示しており、図7に下方に示された測定信号は短い積分時間との関連において及び非常に長い積分時間との関連において図示されている。
【図8】 図8はレーザパルスの送信側及び受信側の図示を時間的相関において示し、センサの照明制御に関連する2つの異なる短い積分時間が設けられている。
【図9】 図9は3つの光源の配置を概略的に示す。
【符号の説明】
1 オブジェクト
2 光パルス
3 反射された光パルス
4 光電センサ
5 照明装置
6 光学系
7 光学系
8 電子的トリガ発生器
9 画素素子
10 光源
11 オブジェクトの所定の領域

Claims (29)

  1. 各画素素子(9)に存在する電子的短時間積分器を有する画素分解能光電センサ(4)を使用して空間的オブジェクトの3次元距離画像を撮影するための方法において、
    積分時間は調整可能であり、前記方法は次のステップから成る、すなわち、
    前記オブジェクト(1)は予め設定された持続時間Δの少なくとも1つの光パルス(2)によって照明されるステップと、
    オブジェクト点(G)から散乱されて戻ってくる光パルス(3)は前記センサ(4)の所属の画素において予め設定された短い積分時間Δ内に検出され、ただしここでΔ≦Δであり、前記積分時間Δの開始時点は散乱されて戻ってくる最初の光パルス(3)の到達の前であり、該散乱されて戻ってくる最初の光パルス(3)は最も近くにあるオブジェクト点(G)に相応するステップと、
    光パルスの異なる伝播時間に相応して結果的に得られる前記散乱されて戻ってくる光パルス(3)の測定された異なる強度から、距離値がもとめられるステップとから成る、各画素素子(9)に存在する電子的短時間積分器を有する画素分解能光電センサ(4)を使用して空間的オブジェクトの3次元距離画像を撮影するための方法。
  2. 各画素素子(9)に存在する電子的短時間積分器を有する画素分解能光電センサ(4)を使用して空間的オブジェクトの3次元距離画像を撮影するための方法において、
    積分時間は調整可能であり、前記方法は次のステップから成る、すなわち、
    暗電流及び周囲光を表すセンサ信号の測定及び積分はこの測定及び積分の開始から予め設定された積分時間Tまで行われるステップと、
    オブジェクト(1)の露出の開始は照明装置(5)によってセンサ(4)における前記センサ信号の測定及び積分の開始と同時であり、前記センサ(4)において受信される光の光強度上昇の内に積分時間Tまで積分が行われ、ただしここでTはTよりも小さい、ステップと、
    前記オブジェクト(1)の繰り返される露出は前記照明装置(5)によって前記センサ(4)におけるセンサ信号の測定及び積分の開始と同時に行われ、前記センサ(4)において受信される光の光強度上昇の内に積分時間Tまで積分が行われるステップと、
    時点T及びTには全ての画素に対してセンサ信号のそれぞれ積分された値が読み出され格納されるステップと、
    格納された値から各画素毎に前記照明装置(5)から前記オブジェクト(1)を介して前記センサ(4)までの光の伝播時間Tならびに相応する距離値が計算されるステップとから成る、各画素素子(9)に存在する電子的短時間積分器を有する画素分解能光電センサ(4)を使用して空間的オブジェクトの3次元距離画像を撮影するための方法。
  3. 個々の方法ステップはセンサ信号を得るためにそれぞれ複数回繰り返され、これらから結果的に得られる信号は個々の画素毎に積分され、多重露出の後で初めて前記センサ信号の読み出し、格納及び評価が行われる、請求項1又は2記載の方法。
  4. 格納される値はデジタル化される、請求項1から3のうちの1項記載の方法。
  5. オブジェクト(1)のそれぞれの反射率に対するアダプティブな調整は次のことによって行われる、すなわち、
    全体画像の所定の数の画素において積分された強度値がT及びTにおいて飽和に近づくまで、多重露出の数は増大されることによって行われる、請求項3又は4記載の方法。
  6. 全体画像の各画素毎にT及びTにおいて個々の積分された強度値が飽和に近づくまで、多重露出の数又はレーザビームの強度は増大される、請求項5記載の方法。
  7. 積分されたセンサ信号はランダムな画素アクセスにおいて各画素毎に又は画素のセグメント毎に読み出され、1セグメントは光電センサの1行である、請求項5又は6記載の方法。
  8. 空間的オブジェクト(1)は該オブジェクトを部分的に照明する複数の光源(10)によって照明され、これらの光源(10)は連続的に活性化され、評価は相応にそれぞれの照明の際に行われる、請求項1から7のうちの1項記載の方法。
  9. 積分時間は画素毎に調整可能である、請求項1から8のうちの1項記載の方法。
  10. オブジェクト(1)の表面反射の同時的な又は後続の最適化のために、付加的に全ての散乱されて戻ってくる光パルス(3)が長い積分時間Δ≫Δによって完全に検出される、請求項1、3から9のうちの1項記載の方法。
  11. 積分時間Δの開始は、送信パルスに対するトリガパルス遅延に結びつけられている、請求項1、3から10のうちの1項記載の方法。
  12. 積分時間Δは100nsよりも小さい、請求項1、3から11のうちの1項記載の方法。
  13. 積分時間Δはほぼ1μsである、請求項1、3から12のうちの1項記載の方法。
  14. 光パルス長は100nsよりも小さい、請求項1から13のうちの1項記載の方法。
  15. 3次元画像及びグレースケール値画像の同時撮影のために、センサ(4)において行毎に異なる積分時間Δ乃至はΔ又はT乃至はTが調整される、請求項1から14のうちの1項記載の方法。
  16. 3次元画像及びグレースケール値画像の同時撮影のために、センサ(4)において画素毎に異なる積分時間Δ乃至はΔ又はT乃至はTが交互に調整される、請求項1から15のうちの1項記載の方法。
  17. オブジェクト(1)はレーザの光パルス又はパルス制御される発光ダイオードの光パルスによって照明される、請求項1から16のうちの1項記載の方法。
  18. センサ(4)はランダムに読み出し可能である、請求項1から17のうちの1項記載の方法。
  19. センサ(4)はCMOSセンサである、請求項1から18のうちの1項記載の方法。
  20. センサ(4)から少なくとも1つの点までの距離が基準距離として既知である、請求項1から19のうちの1項記載の方法。
  21. 車両における使用の際に、基準点はドアフレームに位置決めされている、請求項20記載の方法。
  22. 静止オブジェクト及び/又は運動経過の識別が行われる、請求項1から21のうちの1項記載の方法。
  23. 空間内又は車両内の対象物又は人物のようなオブジェクトを監視する、請求項22記載の方法。
  24. 車両又はクレーン装置が監視される及び/又はナビゲーションシステムにおける一般的な位置測定が行われる、請求項22記載の方法。
  25. 車両における座席占有状態及び/又は例えば人物の座席位置が識別される、請求項22又は23記載の方法。
  26. 3次元距離画像の撮影のための装置において、該装置は次のものを有する、すなわち、
    照明装置(5)を有し、該照明装置(5)は予め設定された持続時間Δ 光パルス(2)を光学系(6)を介してオブジェクト(1)に送信し、
    前置接続された光学系(7)を有する光電センサ(4)を有し、該光電センサ(4)はオブジェクト点(G)から散乱されて戻ってくる光パルス(3)をセンサ(4)の所属の画素において検出し、前記センサ(4)は多数の画素素子(9)によって画素分解能を有して構成され、ランダムに読み出し可能であり、この結果、散乱されて戻ってくる光パルス(3)は予め設定された短い積分時間Δ 内に検出され、ただしここでΔ ≦Δ であ り、
    前記照明装置(5)と前記センサ(4)との間の時間的調整のためのトリガ装置(8)を有し、前記積分時間Δ の開始時点は散乱されて戻ってくる最初の光パルス(3)の到達の前であり、該散乱されて戻ってくる最初の光パルス(3)は最も近くにあるオブジェクト点(G)に相応し、
    前記センサ(4)の前記画素素子(9)の相応の電荷から3次元画像を計算するための計算ユニットを有し、該計算ユニットは光パルスの異なる伝播時間に相応して結果的に得られる前記散乱されて戻ってくる光パルス(3)の測定された異なる強度から3次元距離画像の距離値をもとめる、3次元距離画像の撮影のための装置。
  27. センサ(4)の画素素子(9)において行毎に又は列毎に交互に短い積分時間Δ乃至はT及び長い積分時間Δ乃至はTが調整される、請求項26記載の装置。
  28. センサ(4)の画素素子(9)において交互に短い及び長い積分時間Δ乃至Δ又はT乃至はTが調整される、請求項26記載の装置。
  29. 計算ユニットはセンサ(4)に設けられている、請求項26から28のうちの1項記載の装置。
JP2000526831A 1997-12-23 1998-11-14 3次元距離画像を撮影するための方法及び装置 Expired - Lifetime JP3860412B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
DE19757595.1 1997-12-23
DE19757595A DE19757595C2 (de) 1997-12-23 1997-12-23 Verfahren und Vorrichtung zur Aufnahme eines dreidimensionalen Abstandsbildes
DE19833207.6 1998-07-23
DE19833207A DE19833207A1 (de) 1998-07-23 1998-07-23 Verfahren und Vorrichtung zur Aufnahme eines dreidimensionalen Abstandsbildes
PCT/DE1998/003344 WO1999034235A1 (de) 1997-12-23 1998-11-14 Verfahren und vorrichtung zur aufnahme eines dreidimensionalen abstandsbildes

Publications (2)

Publication Number Publication Date
JP2002500367A JP2002500367A (ja) 2002-01-08
JP3860412B2 true JP3860412B2 (ja) 2006-12-20

Family

ID=26042787

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000526831A Expired - Lifetime JP3860412B2 (ja) 1997-12-23 1998-11-14 3次元距離画像を撮影するための方法及び装置

Country Status (6)

Country Link
US (1) US6373557B1 (ja)
EP (1) EP1040366B1 (ja)
JP (1) JP3860412B2 (ja)
KR (1) KR100508277B1 (ja)
DE (1) DE59809883D1 (ja)
WO (1) WO1999034235A1 (ja)

Families Citing this family (113)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8152198B2 (en) * 1992-05-05 2012-04-10 Automotive Technologies International, Inc. Vehicular occupant sensing techniques
JP4105801B2 (ja) * 1998-07-02 2008-06-25 ペンタックス株式会社 3次元画像入力装置
DE19908215A1 (de) * 1999-02-25 2000-09-21 Siemens Ag Vorrichtung und Verfahren zum optischen Erfassen eines Objektes oder einer Person im Innenraum eines Fahrzeugs
US6323942B1 (en) * 1999-04-30 2001-11-27 Canesta, Inc. CMOS-compatible three-dimensional image sensor IC
US6822687B1 (en) * 1999-07-08 2004-11-23 Pentax Corporation Three-dimensional image capturing device and its laser emitting device
US6581961B1 (en) 1999-12-17 2003-06-24 Trw Vehicle Safety Systems Inc. Deactivation of second stage of air bag inflator
US6671771B2 (en) * 1999-12-21 2003-12-30 Intel Corporation Hash CAM having a reduced width comparison circuitry and its application
US6961443B2 (en) * 2000-06-15 2005-11-01 Automotive Systems Laboratory, Inc. Occupant sensor
US6810135B1 (en) 2000-06-29 2004-10-26 Trw Inc. Optimized human presence detection through elimination of background interference
DE10051505C2 (de) * 2000-10-17 2002-09-12 Astrium Gmbh Verfahren und Vorrichtung zum Erzeugen von 3D-Entfernungsbildern
WO2002041031A1 (de) * 2000-11-14 2002-05-23 Siemens Aktiengesellschaft Vorrichtung zur bilddatenverarbeitung und verfahren zur bilddatenverarbeitung
US6950135B2 (en) * 2001-01-24 2005-09-27 Hewlett-Packard Development Company, L.P. Method and apparatus for gathering three dimensional data with a digital imaging system
CA2447262A1 (en) * 2001-05-17 2002-11-21 Xenogen Corporation Method and apparatus for determining target depth, brightness and size within a body region
US7298415B2 (en) * 2001-07-13 2007-11-20 Xenogen Corporation Structured light imaging apparatus
WO2003016944A2 (de) * 2001-08-06 2003-02-27 Siemens Aktiengesellschaft Verfahren und vorrichtung zur aufnahme eines dreidimensionalen abstandsbildes
JP2003149717A (ja) * 2001-11-19 2003-05-21 Mitsubishi Heavy Ind Ltd 撮像方法及び撮像装置
DE10163534A1 (de) * 2001-12-21 2003-07-10 Siemens Ag Vorrichtung zur Überwachung von Raumbereichen
DE10213754A1 (de) * 2002-03-18 2003-12-04 Sick Ag Sensor-Maschinen-Interface und Verfahren zu dessen Betrieb
US7599731B2 (en) * 2002-07-16 2009-10-06 Xenogen Corporation Fluorescent light tomography
US7616985B2 (en) * 2002-07-16 2009-11-10 Xenogen Corporation Method and apparatus for 3-D imaging of internal light sources
DE10253437B4 (de) * 2002-11-12 2007-02-15 Iris-Gmbh Infrared & Intelligent Sensors Vorrichtung und Verfahren zum Erfassen einer Topografie in drei Dimensionen
EP1636610B1 (de) * 2003-03-25 2008-12-03 THOMSON Licensing Erfassung elektromagnetischer strahlung
US7242460B2 (en) * 2003-04-18 2007-07-10 Sarnoff Corporation Method and apparatus for automatic registration and visualization of occluded targets using ladar data
JP2005067281A (ja) * 2003-08-20 2005-03-17 Toshiba Corp 距離検出装置、エアバッグ制御装置および距離検出方法
US7274815B1 (en) 2003-10-09 2007-09-25 Sandia Corporation Parallel phase-sensitive three-dimensional imaging camera
GB0324179D0 (en) * 2003-10-15 2003-11-19 Isis Innovation Device for scanning three-dimensional objects
DE10360174B4 (de) * 2003-12-20 2007-03-08 Leuze Lumiflex Gmbh + Co. Kg Vorrichtung zur Überwachung eines Erfassungsbereichs an einem Arbeitsmittel
US7652241B2 (en) * 2004-01-09 2010-01-26 Aptina Imaging Corporation Image acquisition timing system and method
JP4161910B2 (ja) * 2004-01-28 2008-10-08 株式会社デンソー 距離画像データ生成装置及び生成方法,プログラム
US7236235B2 (en) * 2004-07-06 2007-06-26 Dimsdale Engineering, Llc System and method for determining range in 3D imaging systems
US7697748B2 (en) * 2004-07-06 2010-04-13 Dimsdale Engineering, Llc Method and apparatus for high resolution 3D imaging as a function of camera position, camera trajectory and range
JP4466260B2 (ja) * 2004-07-30 2010-05-26 パナソニック電工株式会社 画像処理装置
US7834305B2 (en) * 2004-07-30 2010-11-16 Panasonic Electric Works Co., Ltd. Image processing device
JP4645177B2 (ja) * 2004-11-30 2011-03-09 パナソニック電工株式会社 計測装置
DE102004038302A1 (de) * 2004-08-04 2006-03-16 Iris-Gmbh Infrared & Intelligent Sensors Expertensystem und mobiles Assistenzgerät
DE602005006080T2 (de) * 2004-09-17 2009-05-07 Matsushita Electric Works, Ltd., Kadoma Reichweitenbildsensor
FR2877279B1 (fr) * 2004-11-03 2008-06-27 Faurecia Sieges Automobile Systeme de detection de presence d'un occupant sur un siege de vehicule automobile, siege adapte a ce systeme et vehicule comportant un tel systeme
DE102005016556A1 (de) * 2005-04-11 2006-10-12 Sick Ag Verfahren zum Betrieb eines optoelektronischen Sensors
US8044996B2 (en) * 2005-05-11 2011-10-25 Xenogen Corporation Surface construction using combined photographic and structured light information
US7591583B2 (en) * 2005-05-18 2009-09-22 Federal-Mogul World Wide, Inc. Transient defect detection algorithm
KR100665321B1 (ko) * 2005-06-03 2007-01-09 주식회사 삼성산업 Spc가 피복된 강관의 구조
EP1748304A1 (en) * 2005-07-27 2007-01-31 IEE International Electronics & Engineering S.A.R.L. Method for operating a time-of-flight imager pixel
WO2007031102A1 (de) * 2005-09-15 2007-03-22 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Erfassung optischer strahlung
DE102005046950B3 (de) * 2005-09-30 2006-12-21 Siemens Ag Vorrichtung und Verfahren zur Aufnahme von Abstandsbildern
DE102005056265A1 (de) * 2005-11-14 2007-05-16 Pilz Gmbh & Co Kg Vorrichtung und Verfahren zum Überwachen eines Raumbereichs, insbesondere zum Absichern eines Gefahrenbereichs einer automatisiert arbeitenden Anlage
DE102006016026A1 (de) 2006-04-05 2007-10-11 Sick Ag Distanzmessvorrichtung
DE102006029025A1 (de) * 2006-06-14 2007-12-27 Iris-Gmbh Infrared & Intelligent Sensors Vorrichtung und Verfahren zur Abstandsbestimmung
US10335038B2 (en) 2006-08-24 2019-07-02 Xenogen Corporation Spectral unmixing for in-vivo imaging
US10775308B2 (en) * 2006-08-24 2020-09-15 Xenogen Corporation Apparatus and methods for determining optical tissue properties
JP5073273B2 (ja) * 2006-11-21 2012-11-14 スタンレー電気株式会社 遠近判定方法およびその装置
JP5266636B2 (ja) * 2006-12-12 2013-08-21 株式会社デンソー 光センサ、および距離検出装置
DE102007006566A1 (de) * 2007-02-09 2008-08-14 Siemens Ag Verfahren zur zentralen Überwachung sowie Anordnung zur Aufnahme, Auswertung und selektiven Anzeige von Bildern ruhender Personen
DE102007009244A1 (de) 2007-02-22 2008-08-28 Sick Ag Verfahren zur Überprüfung der Funktionsweise und/oder Justierung einer optoelektronischen Sensoranordnung und optoelektronische Sensoranordnung
JP4831760B2 (ja) * 2007-03-29 2011-12-07 日本放送協会 3次元情報検出方法及びその装置
US7745771B2 (en) * 2007-04-03 2010-06-29 Delphi Technologies, Inc. Synchronous imaging using segmented illumination
JP2009047475A (ja) * 2007-08-15 2009-03-05 Hamamatsu Photonics Kk 固体撮像素子
JP5171158B2 (ja) 2007-08-22 2013-03-27 浜松ホトニクス株式会社 固体撮像装置及び距離画像測定装置
DE102007046562A1 (de) 2007-09-28 2009-04-02 Siemens Ag Verfahren und Vorrichtung zum Bestimmen eines Abstands mittels eines optoelektronischen Bildsensors
KR101367281B1 (ko) 2007-11-13 2014-02-25 삼성전자주식회사 깊이 영상 생성 방법 및 장치
GB0724064D0 (en) * 2007-12-10 2008-01-16 Selex Sensors & Airborne Sys Imaging system
DE102008006449A1 (de) * 2008-01-29 2009-07-30 Kaba Gallenschütz GmbH Verfahren und Vorrichtung zur Überwachung eines Raumvolumens
US7554652B1 (en) 2008-02-29 2009-06-30 Institut National D'optique Light-integrating rangefinding device and method
EP2260325B1 (en) 2008-02-29 2015-08-05 Leddartech Inc. Light-integrating rangefinding device and method
DE102008018718B4 (de) 2008-04-14 2010-02-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Optischer Abstandsmesser und Verfahren zur optischen Abstandsmessung
US8593507B2 (en) * 2008-08-03 2013-11-26 Microsoft International Holdings B.V. Rolling camera system
DE102008045387B4 (de) * 2008-09-02 2017-02-09 Carl Zeiss Ag Vorrichtung und Verfahren zum Vermessen einer Oberfläche
FR2940463B1 (fr) * 2008-12-23 2012-07-27 Thales Sa Systeme d'imagerie passive equipe d'un telemetre
JP5476190B2 (ja) 2010-03-31 2014-04-23 本田技研工業株式会社 固体撮像装置
JP5453230B2 (ja) * 2010-12-15 2014-03-26 本田技研工業株式会社 乗員検知装置
US20120154535A1 (en) * 2010-12-15 2012-06-21 Microsoft Corporation Capturing gated and ungated light in the same frame on the same photosurface
DE102011010102B4 (de) * 2011-02-01 2012-09-13 Diehl Bgt Defence Gmbh & Co. Kg Verfahren zum Messen einer Entfernung und Vorrichtung zur Durchführung des Verfahrens
US8620113B2 (en) * 2011-04-25 2013-12-31 Microsoft Corporation Laser diode modes
TWI575494B (zh) * 2011-08-19 2017-03-21 半導體能源研究所股份有限公司 半導體裝置的驅動方法
JP5781918B2 (ja) * 2011-12-28 2015-09-24 浜松ホトニクス株式会社 距離測定装置
US9723233B2 (en) 2012-04-18 2017-08-01 Brightway Vision Ltd. Controllable gated sensor
US10324033B2 (en) * 2012-07-20 2019-06-18 Samsung Electronics Co., Ltd. Image processing apparatus and method for correcting an error in depth
US9000350B1 (en) * 2012-09-11 2015-04-07 Rockwell Collins, Inc. Time-domain overlap imagery detecting system and method of using same
DE102013003515A1 (de) * 2013-03-04 2014-09-04 Jenoptik Robot Gmbh Verfahren und Vorrichtung zur Geschwindigkeitsmessung von Fahrzeugen mittels einer Lasereinrichtung
DE102013007961B4 (de) * 2013-05-10 2023-06-22 Audi Ag Optisches Messsystem für ein Fahrzeug
WO2014207992A1 (ja) * 2013-06-26 2014-12-31 パナソニックIpマネジメント株式会社 測距撮像装置及びその測距方法
WO2014207983A1 (ja) 2013-06-27 2014-12-31 パナソニックIpマネジメント株式会社 距離測定装置
DE102013108824A1 (de) * 2013-08-14 2015-02-19 Huf Hülsbeck & Fürst Gmbh & Co. Kg Sensoranordnung zur Erfassung von Bediengesten an Fahrzeugen
US9507015B2 (en) * 2013-10-07 2016-11-29 Avaya Inc. Device proximity detection
US10203399B2 (en) 2013-11-12 2019-02-12 Big Sky Financial Corporation Methods and apparatus for array based LiDAR systems with reduced interference
DE102013112553A1 (de) * 2013-11-14 2015-06-03 Odos Imaging Ltd. Beleuchtungsvorrichtung und Verfahren zum Beleuchten eines Objekts
EP4016981A3 (en) 2013-12-24 2022-09-21 Sony Depthsensing Solutions A time-of-flight camera system
US9360554B2 (en) 2014-04-11 2016-06-07 Facet Technology Corp. Methods and apparatus for object detection and identification in a multiple detector lidar array
DE102014013099B4 (de) 2014-09-03 2019-11-14 Basler Aktiengesellschaft Verfahren und Vorrichtung zur vereinfachten Erfassung eines Tiefenbildes
DE102014220322B4 (de) * 2014-10-07 2020-02-13 Conti Temic Microelectronic Gmbh Bilderfassungsvorrichtung und Verfahren zum Erfassen eines optischen Bildes
AT516044B1 (de) * 2014-10-09 2016-02-15 Trumpf Maschinen Austria Gmbh Biegewinkel-Messvorrichtung
DE102014117097B3 (de) 2014-11-21 2016-01-21 Odos Imaging Ltd. Abstandsmessvorrichtung und Verfahren zum Bestimmen eines Abstands
DE102014117705B3 (de) 2014-12-02 2016-02-18 Odos Imaging Ltd. Abstandsmessvorrichtung und Verfahren zum Bestimmen eines Abstands
DE102015201901B4 (de) 2015-02-04 2021-07-22 Volkswagen Aktiengesellschaft Bestimmung einer Position eines fahrzeugfremden Objekts in einem Fahrzeug
US10036801B2 (en) 2015-03-05 2018-07-31 Big Sky Financial Corporation Methods and apparatus for increased precision and improved range in a multiple detector LiDAR array
JP6340477B2 (ja) * 2015-03-26 2018-06-06 富士フイルム株式会社 距離画像取得装置及び距離画像取得方法
US9866816B2 (en) 2016-03-03 2018-01-09 4D Intellectual Properties, Llc Methods and apparatus for an active pulsed 4D camera for image acquisition and analysis
DE102016014851A1 (de) * 2016-12-14 2018-06-14 Alexander Zielbach Umrisspulsmodulationsmessung
DE102017106078B3 (de) 2017-03-21 2018-07-26 Elmos Semiconductor Aktiengesellschaft Vorrichtung zur Signalverzögerung unter Benutzung eines MEMS Oszillators und deren Anwendung in einer TOF-Kamera
DE102017106071B3 (de) 2017-03-21 2018-03-29 Elmos Semiconductor Aktiengesellschaft Verfahren zur Erfassung der Verzögerung zwischen einem Lichtpuls und einem Shutter-an-Signal zur Verbesserung von Verfahren und Vorrichtungen zur Messung der Lichtlaufzeit
DE102017106073B3 (de) 2017-03-21 2018-03-29 Elmos Semiconductor Aktiengesellschaft Verfahren zur Erfassung der Verzögerung zwischen einem Spannungspuls an einem Leuchtmittel und einem Shutter-an-Signal zur Verbesserung von Verfahren und Vorrichtungen zur Messung der Lichtlaufzeit
DE102017106077B3 (de) 2017-03-21 2018-07-26 Elmos Semiconductor Aktiengesellschaft Vorrichtung zur Signalverzögerung unter Benutzung eines Quarz-Oszillators und deren Anwendung in einer TOF-Kamera
DE102017106076B3 (de) 2017-03-21 2018-07-26 Elmos Semiconductor Aktiengesellschaft Vorrichtung zur Signalverzögerung unter Benutzung eines Referenzoszillators und deren Anwendung in einer TOF-Kamera
DE102017106072B3 (de) 2017-03-21 2018-03-29 Elmos Semiconductor Aktiengesellschaft Verfahren zur Erfassung der Verzögerung zwischen einem Strompuls an einem Leuchtmittel und einem Shutter-an-Signal zur Verbesserung von Verfahren und Vorrichtungen zur Messung der Lichtlaufzeit
DE102017207317B4 (de) * 2017-05-02 2022-03-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung zur Ermittlung eines Abstands zu einem Objekt sowie entsprechendes Verfahren
DE102017008666A1 (de) 2017-09-14 2018-03-01 Daimler Ag Verfahren zur Erfassung der Umgebungshelligkeit
US11092678B2 (en) * 2018-06-21 2021-08-17 Analog Devices, Inc. Measuring and removing the corruption of time-of-flight depth images due to internal scattering
EP3640677B1 (en) 2018-10-17 2023-08-02 Trimble Jena GmbH Tracker of a surveying apparatus for tracking a target
EP3640590B1 (en) 2018-10-17 2021-12-01 Trimble Jena GmbH Surveying apparatus for surveying an object
EP3696498A1 (en) 2019-02-15 2020-08-19 Trimble Jena GmbH Surveying instrument and method of calibrating a survey instrument
CN110509055B (zh) * 2019-09-04 2021-04-06 恩坦华汽车零部件(镇江)有限公司 一种汽车玻璃升降器微型直流电机齿轮壳装配方法
DE102020103597A1 (de) 2020-02-12 2021-08-12 Saf-Holland Gmbh Verfahren und System zum Ermitteln einer Ausrichtung eines Anhängers gegenüber einem Zugfahrzeug
DE102021100913A1 (de) 2020-03-10 2021-09-16 Elmos Semiconductor Se Pixel für ein bildgebendes Lichtlaufzeitmesssystem mit einer verbesserten Fertigungsausbeute
WO2021253308A1 (zh) * 2020-06-18 2021-12-23 深圳市汇顶科技股份有限公司 图像采集装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3608547A (en) * 1967-07-29 1971-09-28 Olympus Optical Co Method for determining the distance of an object from an edoscope
DE3404396A1 (de) 1984-02-08 1985-08-14 Dornier Gmbh, 7990 Friedrichshafen Vorrichtung und verfahren zur aufnahme von entfernungsbildern
US5013917A (en) * 1988-07-07 1991-05-07 Kaman Aerospace Corporation Imaging lidar system using non-visible light
DE3839513A1 (de) 1988-11-23 1990-05-31 Messerschmitt Boelkow Blohm Bildsensor
US5056914A (en) * 1990-07-12 1991-10-15 Ball Corporation Charge integration range detector
US5446529A (en) * 1992-03-23 1995-08-29 Advanced Scientific Concepts, Inc. 3D imaging underwater laser radar
US5793034A (en) * 1995-09-18 1998-08-11 Daedalus Enterprises, Inc. Target detection system utilizing multiple optical criteria

Also Published As

Publication number Publication date
KR20010033549A (ko) 2001-04-25
US6373557B1 (en) 2002-04-16
EP1040366B1 (de) 2003-10-08
KR100508277B1 (ko) 2005-08-17
EP1040366A1 (de) 2000-10-04
JP2002500367A (ja) 2002-01-08
DE59809883D1 (de) 2003-11-13
WO1999034235A1 (de) 1999-07-08

Similar Documents

Publication Publication Date Title
JP3860412B2 (ja) 3次元距離画像を撮影するための方法及び装置
EP3789792B1 (en) Method for subtracting background light from an exposure value of a pixel in an imaging array, and pixel for use in same
DE19757595C2 (de) Verfahren und Vorrichtung zur Aufnahme eines dreidimensionalen Abstandsbildes
EP2815251B1 (en) Time of flight camera with stripe illumination
US6535275B2 (en) High resolution 3-D imaging range finder
US7466359B2 (en) Image-pickup apparatus and method having distance measuring function
US7834985B2 (en) Surface profile measurement
EP2074603B1 (en) Sensor for presence detection
JP2004538491A (ja) 三次元距離画像を記録するための方法及び装置
EP1167127A2 (en) Optimized human presence detection through elimination of background interference
WO2009097516A1 (en) Adaptive neighborhood filtering (anf) system and method for 3d time of flight cameras
US7947939B2 (en) Detection of optical radiation using a photodiode structure
Mengel et al. Fast range imaging by CMOS sensor array through multiple double short time integration (MDSI)
EP3543742A1 (en) A 3d imaging system and method of 3d imaging
WO2019050024A1 (ja) 距離測定方法および距離測定装置
CN113597534B (zh) 测距成像系统、测距成像方法和程序
JP7147729B2 (ja) 移動量推定装置、移動量推定方法、移動量推定プログラム、及び移動量推定システム
JP2019158616A (ja) 測距システム、測距方法、車載装置、車両
JP2004012338A (ja) 物体検知装置及び方法
Stevanovic et al. Low-cost high speed CMOS camera for automotive applications
König Optimized distance measurement with 3D-CMOS image sensor and real-time processing of the 3D Data for applications in automotive and safety engineering
JPS6137563B2 (ja)

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20041028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041105

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20050202

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20050209

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060612

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20060731

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060921

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100929

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100929

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110929

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110929

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120929

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130929

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term