JP4649219B2 - 立体画像生成装置 - Google Patents

立体画像生成装置 Download PDF

Info

Publication number
JP4649219B2
JP4649219B2 JP2005024807A JP2005024807A JP4649219B2 JP 4649219 B2 JP4649219 B2 JP 4649219B2 JP 2005024807 A JP2005024807 A JP 2005024807A JP 2005024807 A JP2005024807 A JP 2005024807A JP 4649219 B2 JP4649219 B2 JP 4649219B2
Authority
JP
Japan
Prior art keywords
image
stereoscopic
display
radiation source
transmission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005024807A
Other languages
English (en)
Other versions
JP2006212056A5 (ja
JP2006212056A (ja
Inventor
秀敏 椿
敏行 須藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2005024807A priority Critical patent/JP4649219B2/ja
Priority to US11/342,049 priority patent/US7369641B2/en
Publication of JP2006212056A publication Critical patent/JP2006212056A/ja
Publication of JP2006212056A5 publication Critical patent/JP2006212056A5/ja
Application granted granted Critical
Publication of JP4649219B2 publication Critical patent/JP4649219B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G21NUCLEAR PHYSICS; NUCLEAR ENGINEERING
    • G21KTECHNIQUES FOR HANDLING PARTICLES OR IONISING RADIATION NOT OTHERWISE PROVIDED FOR; IRRADIATION DEVICES; GAMMA RAY OR X-RAY MICROSCOPES
    • G21K4/00Conversion screens for the conversion of the spatial distribution of X-rays or particle radiation into visible images, e.g. fluoroscopic screens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/02Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/022Stereoscopic imaging
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B42/00Obtaining records using waves other than optical waves; Visualisation of such records by using optical means
    • G03B42/02Obtaining records using waves other than optical waves; Visualisation of such records by using optical means using X-rays
    • G03B42/026Obtaining records using waves other than optical waves; Visualisation of such records by using optical means using X-rays for obtaining three-dimensional pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/349Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking
    • H04N13/351Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking for displaying simultaneously

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biomedical Technology (AREA)
  • Optics & Photonics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本発明は、透過投影像(透過画像)の立体表示及びそのコンテンツ撮影についての撮影装置に関し、さらには該透過画像の立体画像を生成する立体画像生成装置に関する。
医療機関の人間ドック、集団検診等で一般に実施されているX線画像(透過画像)撮影は、近年、単に透過画像を撮影するのではなく、観察物体に対して全周から撮影し、撮影された複数の透過画像を再構成して3次元ボクセルデータを取得し、画像レンダリング技術を用いて任意のスライス面における断層像を表示する技術が提案されている。
ところで前者の透過画像は、観察物体を直接撮影した透過画像を医療診断等に用いることができるため、空間解像度の高い画像が得られる一方で、透過画像であることから放射線の透過した観察物体の部位の全ての情報が重畳されてしまい、特定部位(病気部位)の3次元空間上での分布を正確に把握し難いという問題がある。
また、後者の透過画像を用いて任意のスライス面での断層像を表示することで、3次元空間上での特定部位の位置を容易に把握することができるが、透過画像の再構成時にアーティファクト(ノイズ)が混入してしまい、撮影された透過画像の解像度に比べて再構成された透過画像の解像度が低減されてしまう問題がある。
そこで、これらを併せもつ技術(手法)としてステレオ観察が見直されつつある。このステレオ観察は、透過投影像を直接観察するため、解像度の高い像を観察できるとともに、視差を用いた立体視により、特定部位等の注目部位の立体的な奥行き配置を把握し易いという利点がある。
このようなステレオ観察画像の撮影に応用できる撮影方法としては、特許文献1に記載の立体式放射線撮像方法が提案されている。この放射線源を用いた撮像方法は、放射線源が任意形状の面内で移動し、その位置及び放射方向を調整し、時分割でステレオ観察に用いる複数の視点画像(互いに異なる複数の視点からの画像)を撮影する。そして撮影された2枚の画像を立体視することにより、立体像を観察することができる。
しかしながら、直接画像をステレオ立体視することの難易度には個人差があるため、立体表示デバイス(レンチキュラーレンズ、バリアパララックスレンズ等)を用いて立体視を行うことが望ましい(非特許文献1参照)。
以下に、多眼立体ディスプレイを用いた従来技術を説明する。図6(a)は立体像観察の配置関係を示す図である。301は透過像撮影装置の受光面、302は被写体オブジェクト(観察物体)、3031から3035は放射線源もしくはその発光位置である。視点601は、受光面301で撮影された透過画像を表示装置に表示して観察する際の視点の配置関係を(撮影装置との位置関係において)示したものである。602は図6(a)のような配置関係で撮影された透過画像を表示した際に得られる像である。
例えば、水平視差のみを表示可能な立体ディスプレイにおける立体像表示のためには、放射線源を撮像面に対して水平に移動し、複数の放射線源位置において透過画像を撮影した複数の画像を用いて立体像を表示する。この従来技術では、放射線源3031と受光面301の間に被写体オブジェクト301が配置され、放射線源を発光させることで受光面301上に透過画像が撮影される。そして、図6(a)のように放射線源3031等の反対側から覗くような配置関係で得られた透過画像を観察することになる。
特開2000−287958(段落0004〜0008、図1) 「3次元ディスプレイを用いた新しい胸部X線撮影法、著者;萬代奈都子,日本放射線技術学会中部部会、平成12年度中部部会誌,Vol.3 No.1 2001)
しかしながら、透過投影像(透過画像)を立体表示ディスプレイに表示する際、単純な立体画像の配置関係に対応する表示、つまり、撮影された2次元画像を単純に立体表示ディスプレイに応じて表示させるだけでは、カメラ等の撮像装置とは異なる透過投影像特有の歪により、立体画像から得られる注目部位の大きさや位置関係の認識が実物の位置関係とずれてしまうという問題があった。
特に立体表示では、病巣位置の奥行き配置の認識を補助する目的があるが、歪による透過投影像の通常カメラとは違う奥行き特徴(大小関係等)のために、立体表示にした上でもまだ立体像の表裏の判定が困難であり、表裏を逆転して認識してしまうという場合が存在するという問題があった。
そこで、本発明の例示的な目的の1つは、好適な放射線透過投影像の立体像表示が可能な立体画像生成装置を実現することにある。
発明の1つの観点としての立体画像生成装置は、立体視可能な画像を生成する立体画像生成装置であって、線源により照射された物体の透過画像を撮影する撮影手段と、立体視可能な画像を観察するための立体表示デバイスに応じた立体表示パラメータを設定する制御手段と、立体表示パラメータに基づいて撮影手段により撮影された第1の透過画像とは異なる第2の透過画像を生成する画像処理手段とを有し、画像処理手段は、第1の透過画像の画素データに基づいて第2の透過画像を生成し、線源は複数設けられ、制御手段は立体表示パラメータに応じた線源を選択することを特徴とする。
本発明によれば、立体表示デバイスの立体表示パラメータに応じて線源の位置を変更した透過画像を取得するので、透過画像に基づいて提示される立体画像を立体表示デバイスを介して表示する際、透過画像特有の歪がなく、かつ提示された立体画像から得られる注目部位の大きさや位置関係の認識を実際の位置関係と同様に再現すること可能することができる。
さらに、従来、放射線透過投影像の立体表示で問題となっている、観察物体の受光面に近い側が小さく、遠くに存在する側が大きく表示される歪により生じる表裏を逆転して認識してしまう問題を解消することが可能となる。
このため、透過投影立体像の表示部位間の位置関係を確実かつ容易に把握することができ、誤認識を防止することができる。
以下に本発明の実施例について説明する。
以下、本発明の実施例1における立体画像撮影表示装置について説明する。図1は本実施例の立体画像撮影表示装置の構成ブロック図、図2は実施例1の立体画像撮影表示装置の透過画像撮影装置の構成ブロック図である。
201は透過画像撮影装置であり、図2に示すように、受光面(受光素子)301と移動可能な放射線源303〜306から構成される。この放射線源(以下、単に「線源」と記載しても放射線源の意味である)は、平面もしくは2次曲面上に配置された放射線源アレイにより構成してもよい。
また、後述するように、放射線源303〜306及び受光面301との位置関係を制御する制御回路307が設けられている。302は撮影対象となる被写体オブジェクト(観察物体)であり、放射線源301〜306から射出した放射線が被写体オブジェクト301に照射さる。この被写体オブジェクト302を透過した放射線が受光面301上で受光され、(その放射線の強度に対応する電流等が発生することにより)その放射線の強度が検出される。
202は立体画像処理装置である。この装置は、入力された多視点透過投影画像データを、立体画像として表示するために適した画像データに変換し、その変換された画像データを(映像信号として)立体表示ディスプレイ206に出力する。また、立体画像処理装置202は、制御回路307を介して透過画像撮影装置201の制御を行うとともに、後述する立体表示パラメータに好適な個々の放射線源の位置計算も行う。この立体画像処理装置は、例えば汎用のエンジニアリングワークステーション、パーソナルコンピュータにより構成される。なお、他の演算装置を用いて立体画像処理装置を構成してもよい。
203はフロッピー(登録商標)ディスク、MO(登録商標)、ZIP(登録商標) 、CD-ROM、CFカード(登録商標)やスマートメディア(登録商標)等の固定記録メディアに記録されたデータを読み書きする入出力装置で、外部装置等との入出力部として機能し、撮影済みの透過投影画像データや合成した立体画像データを出力したり、以前に撮影した透過投影画像データを入力したりする。また、立体表示パラメータのうち、立体表示デバイス固有の情報である視点数や想定観察距離に関する情報がファイルデータとして与えられる場合には、この入出力装置203から入力する。
また、入出力装置203は、ネットワークに接続されたイーサーネット等のネットワークポート、放送によるデータ配信の受信および、無線交信を行うアンテナおよび受信機、送信機により構成してもよい。そのように構成することで、多視点透過投影画像や立体表示パラメータデータを様々なネットワークを介して取得することも可能となる。
なお、この入出力装置203は、立体表示ディスプレイ206に画像信号を送信するために結線されたケーブルの一部として構成してもよく、このように構成することで、入出力装置203は、立体表示ディスプレイ206のファームウェアデータから立体表示に関する立体表示ディスプレイ(立体表示デバイス)固有の表示パラメータを取り出すことが可能なデータバスとすることができる。
204は立体画像処理装置202の表示部(ディスプレイ)である。対話的に立体画像変換や表示のために必要な情報を取得したり、情報の取得を補助したり、処理状況、メニューや、変換結果である立体画像を構成する多視点透過投影画像群、時分割立体画像等を表示する。
205はマウスまたはキーボード、ジョイスティック等により構成される操作入力部であり、表示部204上に表示されたメニュー画像を見ながら、メニューを選択したり、データを入力したりするのに用いられる。なお、上記表示部204をタッチパネルで構成したり、また音声認識や視線入力等を用いて操作入力部を構成することで、キーボード、マウス、ジョイスティック等の操作入力部を設けずに構成することも可能である。
206は立体表示ディスプレイ(ここでは、立体表示ディスプレイ206は表示装置全体を意味しており、立体表示デバイスは立体表示装置のキーコンポーネントである光線偏向光学素子を指している。例えば画素ごとの光線の輝度変調を液晶表示装置で行うものであれば、液晶表示装置の直後に設置され、空間に射出される光線の方向を偏向するレンチキュラシートが対応する)であり、立体画像処理装置202による透過画像の変換処理後、その変換処理がなされた透過画像データを使って立体視画像を表示する。
立体表示ディスプレイ206については2次元ディスプレイと3次元ディスプレイを動的に変換できるように構成する(特開平10-232665号公報参照)、すなわち立体画像を表示する(立体画像を観察者に見せる)機能と2次元画像を表示する(2次元画像を観察者に見せる)機能とを、1つの立体表示ディスプレイ206に持たせることができる。
この場合、立体画像データとして受信した画像データのみを3次元画像として表示し、立体画像以外のデータ(すなわち2次元画像としての画像データ)は2次元画像として表示するように、立体表示デバイス206の画像表示方法を切り換え可能(立体表示ディスプレイが有するマスク部材の遮光位置を制御したり、立体表示ディスプレイが有するレンチキュラーレンズ等の光学素子を駆動させたりすることによって切り換えを行う)に設定しておくことが望ましい。
207は、立体画像印刷用のプリンタである。このプリンタは、立体画像処理装置202で変換、合成された立体画像を印刷するプリンタであり、紙やフィルム等の通常媒体に印刷する汎用のプリンタに限らず、レンチキュラシートやインテグラルフォトシート、マイクロポールをシート状にしたもの等、立体画像を表示するための偏向光学素子(レンチキュラーシート等)もしくは偏光光学素子に直接印刷するものや、多視点画像をホログラム情報に変換し立体情報として印刷するホログラフィックステレオグラムプリンタなど、立体画像印刷を目的としたプリンタにより構成される。
これら立体画像印刷媒体は、通常、視点数や想定観察距離について立体表示ディスプレイ206と異なる立体表示パラメータを有している。このため、ディスプレイ表示時と違う立体表示パラメータにより立体画像プリントデータを変換合成している。
208はネットワーク上のデータベースである。多視点透過画像データファイルや、各種立体表示ディスプレイに対応する立体表示パラメータデータをキーワードに関連付けて保存している。
次に、立体画像処理装置202の構成を説明する。2021は装置全体の制御を司る中央演算回路(CPU)である。2022は大容量記憶装置であり、入出力装置203等により読み込まれた多視点透過投影画像群を保存したり、多視点透過投影画像から立体像表示のための画像に変換(生成)された立体画像データ群等を保存する記憶装置である。この大容量記憶装置2022はハードディスク等により構成され、同様に立体表示パラメータに関するデータベースとしての役割を有している。
2023はRAM等で構成される主記憶装置である。この主記憶装置は、プログラムや入力された多視点透過投影画像データ、立体表示パラメータを展開したり、変換後の立体画像データを表示、大容量記憶装置2022に記憶、もしくは入出力部203から出力したりする以前に一次記憶する、すなわち変換後の立体画像データを表示、記憶、もしく出力する以前に一次記憶する。
なお、本実施例では、透過画像撮影装置201と立体画像処理装置202と1つの立体画像撮影表示装置として構成しているが、透過画像撮影装置201に設けられた制御回路307を用いて立体画像処理装置202を制御するように構成し、入力又は設定される立体表示パラメータに応じて制御することも可能である。したがって、透過画像撮影装置201の制御回路307、立体画像処理装置202の中央演算回路2021を立体表示パラメータの設定手段として構成している。
次に、本実施例の立体表示パラメータについて説明する。この立体表示パラメータは、立体表示ディスプレイの特性に応じて算出又は決定されるパラメータである。
1)視点数:立体表示ディスプレイ206の有する視点数であり、例えば、静止画像の直接表示の場合、1枚の立体画像を表示するために撮影する線源位置での複数の視点画像の数に対応する。
2)表示サイズ:立体表示ディスプレイ206の表示面における立体像サイズである。言い換えれば、表示される立体像の表示面に水平な方向の表示範囲もしくは視野範囲を示す指標である。
3)想定観察距離:個々の立体表示ディスプレイにおいて想定される、立体画像の観察に好適な観察距離である。該想定観察距離は設計パラメータであり、通常は特性の違う立体表示ディスプレイ間では各々異なるパラメータとなる。なお、想定観察距離での立体像の観察状態が良好となるように、視域等が最適化されている。つまり、観察面内において、立体画像の映像を観察することができる領域(観察領域)が、位置、形状、面積等において最適化されている。
4)観察眼入射画像ステップ数:想定観察距離において立体表示ディスプレイ206に表示された立体像を観察する際、左右の観察眼に入射する視差画像の関係を表すステップ数に関するパラメータである。
3視点分以上の視差のある画像を表示する多眼立体表示ディスプレイでは、想定観察距離における立体像の基線長(基線長とは、観察位置(観察面)において、隣り合う2つの視差画像が表示される各視域の中心位置の間の距離)が人間の両眼間距離よりも短い場合、この立体表示ディスプレイによって隣接する視差画像として表示された画像が左右の観察眼に入射せず、飛び飛びの視点の画像が左右眼に入射する(立体表示ディスプレイが表示する複数視点の画像のうち、視点同士が隣接しない2つの画像が観察者の左右の眼に入射する)場合がある。
例えば、隣接する視点位置の画像に視点1,2,3,4・・・と番号を付した場合、左眼に入射する画像が1番の画像であったとすると、右眼に入射する画像が3番の画像(すなわちステップ数2)若しくは4番の画像(ステップ数3)というように、あるステップ数で観察眼に入射することになる。
図5(a)、図5(b)は、互いに異なる特性を持つ2つの立体表示ディスプレイを用いて同じ想定観察距離で立体画像を観察した際の、観察眼入射画像間隔ステップ数の違いの様子を示している。ここで、観察眼入射画像間隔ステップ数とは、互いに異なる複数の視点から被写体オブジェクトを観察して得られた複数の視差画像のうち、立体表示ディスプレイが表示する複数の視差画像を視点が並ぶ順に並べた際、左眼に入射する視差画像の視点から数えて右眼に入射する視差画像の視点が何番目となるか、を表す数値である。つまり、隣接する2視点からの視差画像を左右の眼で観察する場合には、観察眼入射画像間隔ステップ数は1となる。言い換えると、観察領域(又は観察面)において、左右の眼の間隔が基線長の何倍か、を表す数値である。
通常、立体表示ディスプレイは水平方向、状況によっては水平方向に加えて垂直方向について、(観察領域、又は観察面と実質的に等価な位置において)等基線長間隔で撮影した2枚以上の多視点画像を、立体表示ディスプレイ固有の視点数分並列して表示することで多人数で観察することが可能な立体像を表示することができる。
図5(a)、図5(b)において、501A、501Bは立体表示ディスプレイの表示面、502は観察者の視点、503は視点502の左眼に入射して観察される視差画像の視点番号、504は右眼に入射して観察される視差画像の視点番号である。505A、505Bは立体像の観察距離における表示像の領域分布を説明するマーカーであり、実際には視認されない。そして、図5(a)に示すように、マーカー505のディスプレイ表示面に水平な方向ではある領域では視点番号2の視差画像が見え、表示面501Aに対して水平方向に左側に移動すると視点番号3の視差画像が見えるように切り替わる。
しかし、図5(a)、図5(b)のディスプレイ501A、501Bは同一の想定観察距離が設定されているが、両者は左右の眼に入射させる画像が異なる。つまり、図5(a)の立体表示ディスプレイでは、同一の想定観察距離において、立体像を構成する隣接視点画像(立体表示ディスプレイ206が表示する、互いに異なる複数の視点から被写体オブジェクトを観た画像のうち、隣接する2つの視点から観た画像)が左右の観察眼に入射する。
これに対し、図5(b)に示す立体表示ディスプレイでは、同様に視点1、視点2、・・・視点5の5つの視点を有する多視点画像を空間中に繰り返し表示しているので、図5(a)のディスプレイ501Aと比較して分離幅が狭いため、例えば、左目に入射する画像が視点2の画像、右目に入射する画像が視点5の画像となり、2視点分飛ばした(ステップ数3の)視点画像が左右の眼に入射することになる。言い換えると、立体表示ディスプレイが、互いに異なる視点1〜5の5つの視点(3つ以上の視点であることが望ましい)から観た被写体オブジェクトの画像を表示しており、その5つの視点からの画像のうち、視点が隣接しない2つの画像を左右の眼に導くように構成されている。
このように同一の観察距離において、両観察眼に入射する多視点画像間の関係を観察眼入射画像間隔ステップ数のパラメータにより表している。
具体的には、2つの立体ディスプレイ間で同一の基線長単位によって撮影された多視点画像群により構成される立体画像を表示した場合、両眼に入射する多視点画像間の基線長の関係が異なることから、例えば、図5(a)に比べ図5(b)の立体像の飛び出し量、沈み込み量が3倍となり、より立体感を与えることになる。
このため、同一の画像列から構成される立体画像を同一の幾何配置で観察したとしても、同じ立体感が得られないという問題を生じるが、観察眼入射画像間隔ステップ数を立体表示パラメータとして考慮することにより回避することができる。なお、観察観察眼入射画像ステップ数も設計パラメータであり、特性の違う立体表示ディスプレイ毎に異なる。
また、立体表示ディスプレイがレンチキュラーレンズやインテグラルフォト等の立体表示方式に基づいて構成されている場合、表示面を基準とした観察眼までの観察距離や空間的な位置の変化により、観察眼入射画像間隔ステップ数が変化する。したがって、観察者の視点位置の大きな変動に対応するため、観察眼入射画像間隔ステップ数は、観察視点座標パラメータを引数とする関数もしくはテーブルとして与えられる。ここで、観察視点座標パラメータとは、立体表示ディスプレイに対する観察眼の相対位置に関する値である。
その結果、観察眼入射画像間隔ステップ数を求める副次的なパラメータとしてこの観察視点座標パラメータを用いる必要があるが、方位センサや磁気センサを組み合わせた頭部位置検出センサを用いたり、ビジョンセンサを用いたりして観察視点座標を逐次求め、リアルタイムに観察眼入射画像間隔ステップ数に変化が生じていないかをチェックして、観察眼入射画像間隔ステップ数を算出する。
5)表示立体度限界範囲:表示面上で提示可能な視差量の最大、最小範囲である。つまり、立体像として表示可能な表示面からの最大沈み込み量及び最大飛び出し量である。本来、このような表示視差量の範囲は人間の眼の生理的に決まる融像可能範囲により限定されるべきであるが、通常の立体表示ディスプレイは完全なものではなく、両眼視差と調節の競合、隣接画像間のクロストークなどの要因により人間の融像限界よりも狭い範囲に限定される。この範囲は立体表示ディスプレイの設計パラメータや光線の射出方式に依存し、立体表示ディスプレイごとに異なる。また、この表示立体度限界範囲は、立体像の許容実験の実験データ、評価結果から得られるパラメータである。
ここで、生理的に決まる融像可能範囲とは、まず、最大の飛び出しに対応する視差量が、人間が物体をひとつのものとして認識できる最接近距離である。眼前約15cmに立体像が存在するのに対応する視差量(飛び出し量)であり、次に、最大の沈み込み対応する視差量が無限遠に立体像が存在するのに対応する視差量(沈み込み量)、つまり眼間距離に対応する視差量の範囲である(熊田典明,”3D映像の設計について”,放送技術1992.11、p.p.119-125参照)。より簡単に表現すれば、融像可能範囲とは、人間が2つの視差画像を融合して1つの立体画像として観察することが可能な、最大の飛び出し量、沈み込み量、又は視差量のことを表している。
したがって、融像限界によって制限される視差範囲と表示立体度限界範囲によって制限される視差範囲のどちらか小さい範囲により、表示される視差範囲が限定されることになる。表示立体度限界範囲は表示面、もしくは画像データスケール上で、表示可能な視差の範囲で示される。もしくは、撮影装置の撮影パラメータを考慮した観察眼入射画像間隔ステップ数の値を用いて、隣接する視点画像間の撮像視点の間隔で表すことができ、換算することもできる。
以下に説明するズーム率及び立体度は、立体表示ディスプレイを観察する利用者に応じて調整される任意のパラメータである。
7)ズーム率:ユーザーが領域を選択し立体画像の一部を部分拡大する際の表示の拡大率を表している。なお、ユーザーインターフェースにより撮影した所定の立体画像内において領域をズーム領域として選択し、拡大表示してもよい。
8)立体度:立体感の調節の度合いを示すパラメータであり、この立体度を調整することで立体感を強めたり、弱めたりすることができる。視差像間の立体感を基準状態から強めるためには、基準状態よりもさらにより広い基線長での撮影を行う。より詳細に述べると、左右の眼に入射させる2つの視差画像を撮影する際の2つの視点、すなわち2つの視差画像を撮影する際の撮像装置の間の距離を広げる必要がある。
単に、撮影時の隣接する2視点間の距離(撮影基線長)を広げるようにしてもよい。逆に立体感を弱めるためには、その逆を行えばよく、左右の眼に入射させる2つの視差画像を撮影する際の2つの視点(2つの視差画像を撮影する際の撮像装置の間)の距離を狭めればよい。勿論、単に撮影基線長が狭めても構わない。または、立体表示ディスプレイが水平方向のみの視差変化を表示する場合、立体画像を構成する視差画像間で水平シフトを行い、飛び出し、沈み込みのバランスを調整するように構成することも可能である。
なお、この立体度パラメータは、表示スケールに忠実に自然な立体感を表示する場合には無視することができる。これは調整後の表示立体像の表示視差範囲が表示立体度限界範囲を超える場合に、立体感の度合いもしくは限界範囲のどちらかを優先して立体度を調整する。限界範囲を優先する場合には、立体表示ディスプレイの表示限界範囲となるように表示視差量をスケーリングするように調整する。若しくは視差量のオフセットを増減し、飛び出し、沈み込みのバランスを調整する。
9)被写体オブジェクトの存在範囲:放射線源と受光面の間に配置した被写体オブジェクトの光源面と受光面を結ぶ方向の存在領域範囲である。パラメータとして値を設定、入力するか、もしくはビジョンセンサを用いて被写体オブジェクトの占有領域を検知して設定する。表示立体度限界範囲の非常に狭い立体表示ディスプレイにより、表示視差範囲の広い立体像を表示する場合に見易い不快感のない立体像を表示するためには必要なパラメータとなる。
次に、本実施例の立体画像撮影表示装置における動作フローを図3を用いて説明する。
<立体表示パラメータの取得・変更処理(ステップ401)>
まず、ステップ401では、立体画像処理装置202は、立体表示ディスプレイ206の立体表示パラメータを取得する。この立体表示パラメータは、1枚もしくは複数の立体画像を表示するために透過投影像を撮影する際の放射線源の発光回数、発光位置及び間隔、発光方向を決定するために用いられる。
立体表示パラメータは表示部(ディスプレイ)204の画面に表示された既定値を参照したり、立体表示ディスプレイ206に表示された立体画像を観察しながら操作入力部205を操作して変更する新たな値を入力したり、入出力装置203より立体表示パラメータを含むデータ入力することにより立体表示パラメータを取得する。
また、立体表示ディスプレイデバイスの切り替え、ズーミング観察視野の移動やズーミングパラメータの変化、立体度パラメータの調整、被写体オブジェクトの存在範囲の変化やユーザーインターフェースよりパラメータ変更の要請等をCPU2021が常に監視し、パラメータ変更に応じて最新の立体表示パラメータの取得・変更・更新の処理を行う。
さらには、このステップ401での立体表示パラメータの取得・変更処理では、立体表示パラメータをディスプレイ204、若しくは立体表示ディスプレイ206に表示されたGUIを用いて操作入力部205から入力したり、入出力装置203から入力されるデータファイルを用いて、立体表示パラメータを取得する。
なお、動的に変化する被写体オブジェクト302の存在範囲は、例えば、透過画像撮影装置201の放射線源301〜306と受光面301の間をモニタするセンサーを設けて取得する。全ての立体表示パラメータが未取得である場合は、全立体表示パラメータの取得を行うが、2回目以降はステップ401の立体表示パラメータの変更が検出された項目のみ、立体表示パラメータ取得・変更処理が行われる。
<表示モード選択処理(ステップ402)>
次に、表示部204又は立体表示ディスプレイ206に表示されたGUIメニューから表示モードを選択する。
この表示モードとは、立体画像を構成する多線源位置放射線透過画像の撮影時の被写体オブジェクトに対する位置(撮影時の撮像面の被写体オブジェクトに対する位置)と、該立体画像を立体表示ディスプレイ206に表示した際の立体画像と視点との位置関係に関連するものである。表示モード(被写体オブジェクトに対する、立体画像を表示する際の仮想的な視点位置との位置関係)には、従来例も含め図6に示す次の3種類があり、これら3つの表示モードのうち1つをGUIから選択する。
図6(a)は従来の放射線透過画像と同様な視点である(表示モードA)。放射線源303と受光面301間に被写体オブジェクト301を配置し、放射線源303を発光させ、受光面301上で透過画像を取得する。図6(a)では、放射線源303に対して受光面301が対向する位置、つまり、受光面301の反対側から覗くような配置で得られた透過画像を観察することになる。そして、得られた透過画像を立体画像を構成する多線源位置放射線透過画像として立体画像生成処理に用いることになる。
図6(b)は、図6(a)と同様に放射線源303と受光面301の間に被写体オブジェクト301を配置し、放射線源を発光させ、受光面上で透過画像を得る従来の視点位置関係である(表示モードB)。そして、得られた透過画像に対して、左右反転処理を施す。この結果、線源位置と受光面301の幾何関係から左右反転した透過画像は、線源位置をピンホール位置として、実際の受光面とは反対側に受光面を設置して得られるピンホールカメラで得られる像と同様となる。つまり、線源側に視点を移し、被写体オブジェクト302をピンホールカメラにより撮影した像から構成される立体画像と等価な像が得られることになる。
図6(c)は、本実施例の特徴的な立体画像に対する視点位置関係を示すものである(表示モードC)。まず、放射線源303を受光面301に平行な面内で移動させ、立体画像を構成する多線源位置透過画像群を撮影する。そして、線源303を反対側の線源位置、すなわち反対側の視点位置を設定し、対応する仮想の受光面中の各画素と相対位置関係とを用いて、既に線源303位置で撮影された多線源位置画像群の画像データから仮想線源位置画像を構成する画素データを取得して、透過画像を生成する。これにより、受光面301に対して観察視点と同じ側に放射線源が位置するような透過画像を得ることができる。
このように表示モードCでは、被写体位置を変化させることなく、受光面301に対する観察視点位置と放射線源の位置関係を変化させた仮想的な画像へと表示を切り替えることが可能となり、様々な視点画像を提供することができるようになる。
<線源数・線源位置・照射方向決定処理(ステップ403)>
ステップ403では線源の位置及び方向の変更処理を行う。ステップ401で入力した立体表示パラメータとステップ402で表示選択された表示モードとを用いて、好適な立体感を得ることのできる立体画像を生成するために、複数の放射線源位置に対応する透過画像を撮影する際の放射線源の発光回数、位置及び方向を決定(設定)する。以下に、表示モード及び立体表示パラメータを考慮した放射線源の位置・方向の設定方法について説明する。
表示モードA(図6(a))では、立体表示パラメータの視点数パラメータにより、放射線源数を決定する。発光回数は立体表示パラメータの視点数と同じである。次に、放射線源の間隔を決定する。まず、想定観察距離上に2つの放射線源のみを想定し、全ての放射線源間の間隔を決定するために基準となる、すなわち想定観察距離において左右眼に入射する画像を構成する2つの放射線源の間隔を決定する。放射線源列において、想定観察距離で観察する場合に観察眼に入射する画像ステップ数分離れた2つの放射線源がこの2つの放射線源に対応する。
なお、想定観察距離、表示サイズに合わせて、放射線源間隔以外にも、放射線源と受光面の距離、場合によっては受光面の受光サイズを調整してもよく、受光面サイズを変更する代わりに撮像した視差画像を表示時に縮小・拡大させてもよい。
図4は立体表示パラメータ設定の幾何関係を説明する図である。図4(a)は撮影時のパラメータ関係であり、放射線源アレイ、被写体オブジェクト及び受光面の関係を示している。放射線源間隔をΔx、放射線源と受光面の間の距離をL、受光面サイズをWとする。
図4(b)は立体画像表示時のパラメータ関係を示しており、3眼表示を行う立体表示ディスプレイを例として、観察眼との関係を示している。表示サイズをW、想定観察距離をLi、観察基線長をKとする。自然な立体感の立体画像を表示するためには、
Figure 0004649219
の関係を保つように、放射線源と受光面の間の距離、受光面サイズを調整する。
放射線源と受光面の間の距離は、放射線源と被写体オブジェクト間の距離であるべきであるが、被写体オブジェクトは受光面にほぼ密着していると考えられるので、放射線源と受光面の間の距離に近似できる。受光面サイズとは立体表示ディスプレイに表示される視野に対応する受光面上でのサイズであり、線源と受光面との間の距離とは放射線源と受光面との間の投影距離である。つまり、立体表示パラメータのズーム率が変化する場合には受光面サイズが変化する。そして、立体度パラメータや表示立体度限界範囲を考慮して線源間隔を決定する場合には、数式1の関係から外れるように放射線源間隔を算出する。
Figure 0004649219
なお、立体度係数は表示立体度限界範囲を考慮しない場合、立体度パラメータを表わす係数であり、係数=1の場合が自然な立体感に対応する。係数>1とすると同様な想定観察距離、表示面サイズで観察し、線源と受光面との距離、受光面サイズを変化させない場合、結果として放射線源間隔を増大させることになり、提示視差量が大きくなり、立体感が強調される。逆に、同様な条件で係数<1とすると、放射線源間隔を狭めることになり、立体感が弱められる。
表示立体度限界範囲を考慮する場合、表示立体度限界範囲、つまり立体表示ディスプレイの提示可能な視差の限界を超えないように線源間隔を算出する。人間の目の融像限界により制限される許容量に比べ、従来の立体表示ディスプレイは表示立体度限界範囲が非常に狭いため、多くの場合はこの限界範囲により放射線源の間隔、つまり表示する立体像の立体感が制限される。表示立体度限界範囲パラメータを考慮するための係数を立体度制限係数とすると、
Figure 0004649219
表示立体度限界範囲パラメータは基本的に、立体表示ディスプレイに表示可能な最大の飛び出し量、沈み込み量に対応する表示面上の視差量により表される。また、表示立体度限界範囲パラメータが最大の飛び出し、沈み込みを表示する際の立体画像の隣接視点画像間の視差量の形式で表される場合も可能である。
この場合には、想定観察距離で観察する際に観察眼に入射する画像ステップ数パラメータを用いて、想定観察距離における左右眼に入射する視差像に対応する視差量から、隣接画像間の関係に対応する値に変換することができる。さらには、想定観察距離で観察する際に観察眼に入射する画像ステップ数パラメータ、表示サイズと受光面サイズのパラメータの関係を用いて、任意に想定された2つの放射線源と受光面により撮影して得られる視差画像間の視差量の値の形式に変換することも可能である。
そして、立体度パラメータを考慮して算出された放射線源と受光面の距離、受光面サイズ、線源間隔を用いて、被写体オブジェクト存在範囲に対して算出される表示視差量の範囲もしくは放射線源位置と受光面により得られる視差画像間の視差量範囲が上記で算出された視差量を超えないようにするように立体度制限係数が決定される。
このときの提示視差量は次のように求められる。図7は撮影装置において被写体オブジェクトを撮影した際に得られる受光面上での視差量を説明する図である。1201は想定する2つの放射線源、301は受光面、302は被写体オブジェクトである。
次式は受光面距離Lにおける視差量Δdを算出する式である。Zは放射線源から被写体オブジェクトを構成する空間点までの受光面に垂直な距離である。
Figure 0004649219
このように放射線源間隔Δx、放射線源と受光面の距離L、及び距離Zの幾何関係から求められる。なお、受光面サイズは上述のように実際の受光面のサイズではなく、立体表示に用いられる像が撮影される受光面のサイズを表している。
また、被写体オブジェクト存在範囲に対して算出される表示視差量の範囲は放射線源と受光面の距離と受光面サイズの関係を画像シフトと変倍処理により調整することにより変更することができる。次式は線源からの距離Zoffに仮想の受光面を設定した際に得られる視差画像の視差量である。
Figure 0004649219
また、視差画像に対し、線源からの距離Zoffの空間点に対応する距離Lの受光面上の視差量Δd(Zoff)を0にする画像シフトを加え、Zoff/Lの変倍を加えることによって得られた画像間の視差量Δd´は、上記数式3に対し、
Figure 0004649219
の関係となる。このように、画像にシフト処理及び変倍を加えることにより、放射線源と受光面の距離と受光面サイズの関係を変化させた際の視差画像間で得られる視差量が得られるようになる。このように視差画像間での画像シフトと変倍は提示視差量の範囲を効率的に表示立体度限界範囲に抑えるためには有用な処理となる。
次に、全ての放射線源の間隔を決定する。想定観察距離において左右眼に入射する視差画像に対応する2つの放射線源間で算出した線源間隔、また想定観察距離で観察する場合に観察眼に入射する画像ステップ数の関係より、等間隔な場合の間隔が算出できる。通常は等間隔に間隔を設定する。ただし、輻輳視を模して立体表示する場合には幾何学的関係を考慮して不等間隔で間隔を算出する。
視差量を得た後に、最後に放射線源の位置と放射方向を決定する。放射線源位置の変化に応じて、被写体オブジェクトに効率的に放射線を照射し、効率よく受光面に受光させるように放射線源位置及び放射方向を決定する。言い換えれば、例えば被写体オブジェクトの重心位置に輻輳中心を位置させるように放射方向を設定し、被写体オブジェクトに正対するように放射線源位置を設定するとよい。
また撮影時には、放射線源の発光位置について被写体オブジェクトを軸に対称に、受光面を水平にシフトしてもよい。つまり被写体オブジェクトを全ての視差画像で効率的に撮影するように、放射方向の中心軸を被写体オブジェクトの注目位置で交差させるように放射方向を決定し、効率的に被写体オブジェクトからの透過光を受光するように受光面をシフトさせてもよい。そして、立体表示パラメータに変更が生じた場合には放射線源の発光数、発光位置や発光間隔、方向を変更する。
次に、表示モードB(図6(b))の立体表示パラメータを考慮した放射線源位置・方向の決定を行う。表示モードBは表示モードAを左右反転処理した画像であり、提示視差量の変化はない。したがって表示モードBにおいては、表示モードAと同様にして、表示パラメータから光源の放射線源位置・方向の決定を行う。
次に、表示モードCの際の表示パラメータを考慮した立体像を生成するための透過画像撮影時の放射線源位置の決定の方法を説明する。ここでは表示する立体表示ディスプレイの特性が予め分かっており、該立体表示ディスプレイの好ましい観察距離である想定観察距離において観察する場合であって、自然な立体感が得られるような、反対視点の立体像を構成する仮想視点画像の基線長を算出する方法と、その仮想視点画像を生成するための撮影時の放射線源位置の最適な間隔及び範囲の算出について説明する。
なお、立体表示ディスプレイに表示される自然な立体像とは、表示面におけるコンテンツ物体の表示サイズと物体についての視差による飛び出し・沈み込み量との比が、実物体のそれと同じ立体像であることを示す。
また、説明の簡略化のため、立体表示ディスプレイのアスペクト比と撮像面のアスペクト比が等しく等倍で、撮影画像に対してズーム・切り出し等の画角の変更にかかわる処理を行わずに全領域をそのまま表示するものとする。実際には、これらの立体表示パラメータに相違・変化があるときに自然な立体像を得ようとする場合、仮想視点画像の基線長の計算において、表示モードAと同様に受光面サイズ、もしくは表示面サイズの調節を行って撮像面と受光面のサイズの比の関係を考慮して仮想視点画像の基線長を計算する。また、仮想視点画像の解像度に対し、撮影される透過投影像の解像度が十分高いものとする。
まず、自然な立体像を観察するための、仮想視点画像の基線長の算出について説明する。図8は撮影された透過画像と立体表示ディスプレイの表示立体像の幾何関係に基づいて、図4(a)の透過画像撮影装置と、図4(b)の立体画像表示装置における前出のズーム、表示・受光面間の関係等価の条件に従い、配置した関係にある図である。
図8において立体表示パラメータを設定する。立体表示ディスプレイの想定観察距離をLs、水平表示面サイズをWsとする。その結果水平表示画角はφs=Ws/Lsと表せる。
次に、水平撮像面サイズWi及び放射線源と受光面との間の距離である観察距離Liから水平撮影画角はφiと表せる。ここでは水平画角を用いたが、垂直もしくは対角画角を用いてもよい。
想定観察距離Ls、水平表示面サイズWs及び水平撮像面サイズWiが固定な場合、歪みのない自然な立体像を表示するためには、単純に仮想観察画角φiが表示画角φsと等しくなるように仮想観察距離Liを調整する。もしくは、撮影基線長を調整することにより可能となる。観察眼入射画像ステップが1(つまり隣接画像が観察眼に入射)とすると、φsとφiが等しい場合には、仮想視点基線長Δx′は撮像基線長、つまり眼間距離Δx´=K=65[mm]となる。その結果、自然な立体感を得るための画角と基線長の幾何学的関係から放射線源の間隔は、
Figure 0004649219
と求められる。通常、観察眼入射画像ステップは1とは限らないので、観察眼入射画像ステップ数をsとすると、自然な立体像を生成するための隣接仮想視点画像間の基線長はΔx´=K/sとなり、同様に、表示と撮像の画角関係と、観察眼入射ステップ数を考慮した隣接する放射線源間の間隔は、
Figure 0004649219
で表される。このように仮想視点における基線長での仮想視点位置を取得し、全ての受光面上の画素を介して他の仮想視点位置からの光線と交わるような理想的な放射線源と受光面の距離Li=idealは、
Figure 0004649219
で表される。そして、理想的な放射線源と受光面の距離を設けることができる場合、図9に示すように、複数の仮想視点位置からある任意の画素の画素データを取得しようとする際、同一の放射線源位置の画像から画素データを取得できる。
図8、9において、図中のP面は実際の放射線源の位置、Q面は受光面、R面は仮想視点位置であり、上式の関係により、P面上の放射線源の間隔が決定され、Q面上の画素間隔に従ってLiが適切に設定される。また、幾何学的関係に基づいて、設定した全てのR面上の仮想視点から射出された線源からの光線が全てのQ面上の画素を通り、P面上にていずれかの放射線源位置に交わるようになる。
しかしながら、放射線源と受光面間の距離である仮想観察距離はあまり調節幅を確保できないため、Liは調節可能な放射線源と受光面の距離の中で、最も近いLiに設定する。最も近いLiの値は、概略値として距離Li’を用いて対応する次数を、
Figure 0004649219
により求め、n=nint又はn=nint+1のどちらかを満たすLを選択する。ここでINT()は()内の実数値を0に近い整数値に丸める関数である。
そして、数式10の幾何学的な関係により設定されたLi に対し、放射線源の基線長は、
Figure 0004649219
で算出される。これにより、適切な放射線源の基線長が算出される。
線源(光源)範囲は図10に示すように、仮想視点と撮像面の最外角を通る範囲を放射線源間隔で放射線源位置を並べるように設定する。図10のような撮像面と仮想視点の関係の場合、中心軸から最外角仮想視点位置までの距離をxとし、仮想観察距離Ls、撮像面と放射線源との間隔Li、水平撮像面サイズWi、光源範囲をyとすると、
Figure 0004649219
という形で、光源範囲yを求めることができる。また、垂直方向の光源範囲も同様に求めることができ、光源範囲yの範囲に放射線源間隔Δxで放射線源発光位置を設定し、元データとなる放射線透過画像を撮影するための光源範囲を決めることができる。以上によりP面上の放射線源間隔及び範囲を決定できる。
<撮影処理(ステップ404)>
このステップ404では、表示モード及び立体表示パラメータに基づいて決定された放射線源位置及び方向に応じて、放射線源を算出された回数分発光させ、被写体オブジェクトの透過画像を受光素子により時分割で順次撮影する。また、撮影動作に伴う階調変換処理、鮮鋭化処理等の基本的な画像処理を撮影された画像に施している。
<画像データ保存処理(ステップ405)>
このステップ405では、ステップ404で撮影した多放射線源位置画像を大容量記憶装置2022等の固定記憶メディアに記憶する。記憶された多放射線源位置画像群は立体画像生成に用いられたり、通常の2次元の放射線透過画像として観察したり、任意視点画像生成に関連する目的にも用いられる。なお、この保存処理では、多放射線源位置画像の保存確認を行ってから処理するように構成してもよい。
<画像変換処理(ステップ40)>
次に、ステップ404で撮影された多放射線源位置画像群に対して、ステップ402で設定された表示モード(及びステップ401で取得された立体表示パラメータ)に応じた画像(視点)変換処理を行う。

まず、表示モードAでは、透過画像の視点変換処理を行わずに、多放射線源位置画像群から後述するような立体画像を生成する。そして、表示モードBの場合には、撮像した透過画像に対して左右反転処理を行うが、表示モードAと同様に視点変換処理は行わない。
続いて、表示モードCでは、撮影された多放射線源位置画像群に対して、以下に示す視点変換処理を実施する。
以下、(c)の表示モードにおいて、撮像された多放射線源位置画像群を入力とし、立体ディスプレイに立体像を表示するために必要な、受光面の画角を撮影画角として放射線源とは反対側の視点から撮影したような多視点画像を生成する変換処理について述べる。ステップ404の光源位置・方向変更ステップにて決定済みの仮想視点位置における画像の生成を行う。また立体感の強調もしくは減衰を行う場合には仮想視点位置を基線長が変化するように更に変更する。
また、図10は放射線源701と受光面702、視点変換処理により生成される画像の仮想視点位置を表す模式図であり、撮影装置703と被写体オブジェクト704の関係を示している。
まず、順次放射線源位置を移動させ、受光面位置において取得した多放射線源位置画像群の情報を用いて、仮想視点位置における仮想視点画像を生成する。生成される仮想視点画像の画角は図11に示すように仮想視点位置から受光面を見込む画角と同じであるとする。また説明を簡略化するために、ここではその注視点は受光面位置の中心であり、歪み補正された位置関係とする。図10中では、水平方向に3つの仮想視点を取り、多放射線源画像群から3枚の仮想視点画像を生成する例である。
なお、変換処理により生成される仮想視点画像と、立体表示ディスプレイの表示画像との間でアスペクト比が同じで、更に立体表示ディスプレイの表示画像の切り出しや余剰領域の付加を行って想定した観察画角を変化させないものとする。変換画像生成時に想定した画角から表示時の画角(観察画角:表示サイズと観察距離の関係)を変化させると、立体感が変化してしまうことになるからである。
放射線源701の移動平面をP面、受光面702をQ面、生成される仮想視点画像およびその視点位置を示す撮影装置をカメラ703とし、視点位置が存在する平面をR面とする。
まず、図8のように変換処理にかかわるパラメータを設定する。仮想視点数をn、仮想視点と受光面の距離をLi、仮想視点間の基線長をΔx′、放射線源と受光面との距離をL、受光面のサイズをW、受光面の画素ピッチをΔdとする。また、仮想視点画像からR面上の視点位置を通して受光面に投影した際の仮想視点画像の画素ピッチをΔd′、同様に投影した画像サイズをW′とする。なお、上述のように受光面と仮想視点画像を仮想視点を通して受光面位置に投影した際の画像のサイズおよびアスペクト比が同じで(W=W′)、画素ピッチも同じ(Δd=Δd′)である。
図12(b)は図12(a)と同様にR(x1,y1)を仮想視点とし、画素データの抽出を順次行ったときのある画素Q(il,jr)(但し、1≦l≦w,1≦rh)のデータを抽出する際の説明図である。そして、図12(a)の場合と同様に、仮想視点R(x1,y1)から射出し、仮想視点画像の画素Q(il,jr)を通る光線を考え、これを延長してP面と交差する点P(x´,y´)を放射線源位置とする放射線投影画像から画素データを抽出する。
図12中では、P(x´,y´)を放射線源位置とする、放射線投影画像中のQ(il,jr)位置の画素データを仮想視点画像中の当該画素Q(il,jr)の画素データとして抽出する。順次画素データの抽出を行い、R(x1,y1)を仮想視点とする仮想視点画像の全画素データを抽出することができたならば、次の仮想視点位置R(x2,y2)に対応する仮想視点画像を生成する。
図12(c)は、次の仮想視点位置802、R(x2,y2)に対応する仮想視点画像を構成するある画素Q(i1,j1)を多放射線源位置画像群の画素データから抽出する図である。仮想視点R(x2,y2)から射出し、Q(i1,j1)を通る光線を考える。このQ(i1,j1)は図12(a)で抽出した画素位置と同一位置の場合、これを延長すると、P面と交差する点P(x”,y”)を通る。
しかしながら、P(x”,y”)はP(x,y)とは異なる位置となり、放射線源位置を異にする別の放射線画像の画素データを抽出する。R(x2,y2)を視点とする仮想視点画像を構成する残りの画素についても同様に順次画素データの抽出を行い、仮想視点画像を生成する。そして、残りの視点位置R(x2,y2),・・・,R(x,y)に対応する仮想視点画像についても同様に生成していく。
該放射線源位置の算出においては、例えば、図13のような座標系を設定し、仮想視点R(x,y)、画素位置Q(i,j)から、放射線源位置を算出する。図13のような座標系を設定した場合、
Figure 0004649219
次に、図12を用いて、視点変換処理により生成される仮想視点801における画像の生成手順を説明する。
図12(a)はR面上のR(x1,y1) を仮想視点とする仮想視点画像を構成する画素Q(i1,j1)のデータを抽出する図である。仮想視点R(x1,y1) から射出し、Q(i1,j1)を通る光線を考え、これを延長すると、P面と交差する点P(x,y)を通る。幾何関係よりこの点P(x,y)を放射線源位置とする放射線投影画像中の画素Q(i1,j1)を、R(x1,y1) を仮想視点とする仮想視点画像中の画素Q(i1,j1)の画素データとして抽出する。上記のような画素抽出処理をR(x1,y1) を仮想視点とする仮想視点画像の全画素について、Q(i1,j1),Q(i2,j1),・・・・Q(i,j),・・・・Q(i,j)という形で順次行っていく。そして、該当する放射線源位置を幾何学的に一意に算出する。
図13(a)はP面、Q面、R面における座標軸の設定と仮想視点R(x,y)及び抽出画素位置Q(i,j)と対応する放射線源位置R(x,y)の関係を表す図である。図13(b)はQ面をR面側から見た図であり、光軸位置の画素が座標原点となり、画素サイズはΔdとなる。
画素データの抽出時に対応する放射線源位置P(x,y)の放射線透過画像が存在しない場合には、最も近くに放射線源位置を持つ透過画像に該当する画素の画素データを利用するか、或いは複数の近傍に放射線源位置を持つ放射線透過画像の該当画素位置の画素データによる補間を行い、画素データを得る。
この変換処理では、画角(表示画面サイズ/観察距離)、基線長を考慮して処理を行う。この画角(表示画面サイズ/観察距離)、基線長のパラメータは、立体表示ディスプレイにおいて自然な立体感を表現するために考慮すべきパラメータである。立体表示ディスプレイの表示画像と透過画像の画素数の関係、若しくは立体表示ディスプレイの表示面サイズと放射線透過画像の受光面サイズに差がある場合、仮想視点画像の視点位置を規定する際に考慮する。
画素データの抽出時に補間処理を行わない場合、つまり数式9により求められる適切な受光面と放射線源間の距離を設けることができる場合は、高画質な画像生成が可能になる。仮想視点位置の情報に合わせて、全ての表示面画像上の画素を通る光線が放射線源位置と交わるように放射線源位置を設定することで可能となる。
図9がこれらの関係を示している。Pが放射線源を配置する放射線源面、R面が仮想視点を配置する仮想視点面を表している。P面側のQ面が受光面、R面側のQ面が表示面を表し、ここでは受光面サイズと画像面サイズは同一で、各画素サイズも同一とする。図9では撮影距離、想定観察距離が等しい関係を示している。
Q面上のA、B、Cは画素の位置を表している。R面上のa′、b′、c′の仮想視点位置を決定することにより、想定観察距離(R面とQ面の間隔)、撮影距離(P面とQ面の間隔)、表示画像サイズと撮像画像サイズの比を考慮し、撮像面画素間隔が表示面画素間隔に比して十分狭ければ、図9のように幾何学的関係から補間することなく視点変換処理を行うことを可能でなる。このため、P面上の放射線源位置a、b、c、d、eを決定することができる。
したがって、ステップ403の線源位置・方向変更処理において、このような放射線源位置を設定すれば、R面上の任意の視点位置を有する視点変換像の任意の画素データの抽出時に対応する全ての画素データが撮影された放射線透過画像の画素データとして存在するため、基本的に高度な補間処理を行うことなく、平滑化等の単純な処理を付加するのみで高画質な画像を生成することが可能になる。
なお、立体像表示時の立体感を強めたい場合は、仮想視点画像の仮想視点間の距離(基線長)を広げ、立体像表示時の立体感を弱めたい場合は、仮想視点間の距離(基線長)を狭めればよい。
<立体画像生成処理(ステップ407)>
次に、多放射線源位置画像群とステップ406において視点変換処理が施されて生成された透過画像群を入力データとして、立体表示ディスプレイの特性、言い換えれば、立体表示ディスプレイの画素配列に応じた立体画像を生成する。この立体画像生成処理では、各々の視点画像から画素をサンプリングするマルチプレックス処理により合成して立体画像を生成(特開2003−209858号公報参照)しているが、立体表示を行う立体表示ディスプレイの特性に応じた立体画像生成(合成)処理を行えばよい。
<表示処理(ステップ408)>
次に、ステップ407で生成された透過画像に基づく立体画像を立体表示ディスプレイに表示する。また、この表示処理においては、立体表示ディスプレイ206に画像を表示する代わりに、プリンタ207を用いて印刷物として出力してもよい。
印刷物として出力する場合には、レンチキュラ、IPのような光学素子に直接印字する場合、もしくはこれら光学素子に組み合わせて立体像を提示する印刷媒体に印字する場合のいずれの場合であっても、上記光学素子に適合した立体表示パラメータを設定するために新たにステップ401以降の処理を行い、立体画像を生成する。このように処理することにより、立体表示ディスプレイに好適な立体表示パラメータに応じて生成した立体画像を直接印刷するよりも良好な立体画像が得られる。
このように本実施例の透過画像撮影装置201は、立体表示ディスプレイ206の立体表示パラメータに応じて線源の位置を変更して透過画像の撮影を行うので、透過画像から生成された立体画像(立体視可能な画像)を立体表示ディスプレイ206を介して表示する際、透過画像特有の歪がなく、かつ立体画像から得られる注目部位の大きさや位置関係の認識を実際の位置関係と同様に再現することが可能することができる。
言い換えれば、従来、透過画像であることから放射線の透過した観察物体の部位の全ての情報が重畳されてしまい、特定部位(病気部位)の3次元空間上での分布を正確に把握し難いという問題を解消することができるため、透過画像における立体配置の知覚が容易になり、観察者の意図に応じた立体画像を提供することが可能となる。
また、本実施例の立体画像撮影表示装置は、撮影された複数の線源位置における透過画像に対して、立体表示パラメータに応じた視点変換処理を行うことで、実際に仮想的な線源位置、つまり仮想的な視点位置からの透過画像を取得しているので、放射線透過画像の立体表示で問題となる、撮影物体の受光面に近い側が小さく、遠くに存在する側が大きく表示される歪による誤知覚等を起こすことのない好適な透過画像による立体画像を生成し、表示することができる。
このため、読影者が透過画像の立体像の観察において、表示部位間の位置関係を把握する際に凹凸逆転して認識してしまうことを無くすことができ、間違いのない読影環境を実現することができる。
以上、上記実施例では、立体画像撮影表示装置を一例に説明したが、透過画像撮影装置201、立体画像処理装置202、立体表示ディスプレイ206等を個別に組み合わせた立体画像撮影表示システムとして構成することも可能である。
本発明の実施例1に係る立体画像撮影表示装置の概略図。 本発明の実施例1に係る放射線透過画像撮影装置を示す構成ブロック図。 本発明の実施例1に係る立体画像撮影表示装置のフローチャート図。 本発明の実施例1に係る立体表示パラメータ設定の幾何関係説明図。 本発明の実施例1に係る立体表示パラメータの観察眼入射画像間隔ステップ数の説明図。 図6(a)、図6(b)は従来の透過画像の撮影方法及び表示形態を説明する図、図6(c)は本発明の実施例1に係る透過画像の表示形態(表示モード)示す図。 本発明の実施例1に係る立体画像撮影表示装置の受光面上での視差量を説明する図。 本発明の実施例1に係る立体画像撮影表示装置の画像変換処理に関連する立体表示パラメータの関係を説明する図。 本発明の実施例1に係る透過画像と視点変換処理後の透過画像との関係を説明する図。 本発明の実施例1に係る線源位置と仮想視点画像の仮想視点との関係を説明する図。 本発明の実施例1に係る受光面と仮想視点画像の仮想画像面との関係を説明する図。 本発明の実施例1に係る画像変換処理を示す模式図。 本発明の実施例1に係る画像変換処理における座標系を説明する図。
符号の説明
201 透過画像撮影装置
202 立体画像処理装置
206 立体表示ディスプレイ
301 受光面、
302 被写体オブジェクト
303〜306 放射線源
307 制御回路

Claims (5)

  1. 立体視可能な画像を生成する立体画像生成装置であって、
    線源により照射された物体の透過画像を撮影する撮影手段と、
    前記立体視可能な画像を観察するための立体表示デバイスに応じた立体表示パラメータを設定する制御手段と、
    前記立体表示パラメータに基づいて、前記撮影手段により撮影された第1の透過画像とは異なる第2の透過画像を生成する画像処理手段とを有し、
    前記画像処理手段は、前記第1の透過画像の画素データに基づいて前記第2の透過画像を生成し、
    前記線源は複数設けられ、前記制御手段は前記立体表示パラメータに応じた前記線源を選択することを特徴とする立体画像生成装置。
  2. 前記画像処理手段は、前記第1の透過画像とは異なる視点位置に対応する前記第2の透過画像を生成することを特徴とする請求項に記載の立体画像生成装置。
  3. 前記画像処理手段は、前記第1の透過画像を左右反転処理することにより前記第2の透過画像を生成することを特徴とする請求項1又は2に記載の立体画像生成装置。
  4. 前記制御手段は、前記立体表示パラメータに基づいて、前記線源の位置を変更することを特徴する請求項からのいずれか1つに記載の立体画像生成装置。
  5. 立体視可能な画像を生成する立体画像生成装置であって、
    線源により照射された物体の透過画像を撮影する撮影手段と、
    前記立体視可能な画像を観察するための立体表示デバイスに応じた立体表示パラメータを設定する制御手段と、
    前記立体表示パラメータに基づいて、前記撮影手段により撮影された第1の透過画像とは異なる第2の透過画像を生成する画像処理手段とを有し、
    前記画像処理手段は、前記第1の透過画像を左右反転処理することにより前記第2の透過画像を生成することを特徴とする立体画像生成装置。
JP2005024807A 2005-02-01 2005-02-01 立体画像生成装置 Expired - Fee Related JP4649219B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005024807A JP4649219B2 (ja) 2005-02-01 2005-02-01 立体画像生成装置
US11/342,049 US7369641B2 (en) 2005-02-01 2006-01-27 Photographing apparatus and three-dimensional image generating apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005024807A JP4649219B2 (ja) 2005-02-01 2005-02-01 立体画像生成装置

Publications (3)

Publication Number Publication Date
JP2006212056A JP2006212056A (ja) 2006-08-17
JP2006212056A5 JP2006212056A5 (ja) 2008-03-21
JP4649219B2 true JP4649219B2 (ja) 2011-03-09

Family

ID=36756004

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005024807A Expired - Fee Related JP4649219B2 (ja) 2005-02-01 2005-02-01 立体画像生成装置

Country Status (2)

Country Link
US (1) US7369641B2 (ja)
JP (1) JP4649219B2 (ja)

Families Citing this family (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4652727B2 (ja) * 2004-06-14 2011-03-16 キヤノン株式会社 立体画像生成システムおよびその制御方法
US7440540B2 (en) * 2006-10-05 2008-10-21 Bassel Kano Stereoscopic x-ray system and method
CN101358936B (zh) 2007-08-02 2011-03-16 同方威视技术股份有限公司 一种利用双视角多能量透射图像进行材料识别的方法及系统
TWI378329B (en) * 2008-02-12 2012-12-01 Shenzhen China Star Optoelect Method for controlling angle of display and self-adjusting display device
CN102112055B (zh) * 2008-08-04 2016-06-22 皇家飞利浦电子股份有限公司 介入性成像和数据处理
JP2010130495A (ja) * 2008-11-28 2010-06-10 Toshiba Corp 立体情報出力装置及び立体情報出力方法
JP2010187916A (ja) * 2009-02-18 2010-09-02 Fujifilm Corp 画像処理装置、画像処理システム及びプログラム
US20110181587A1 (en) * 2010-01-22 2011-07-28 Sony Corporation Image display device having imaging device
US20110202845A1 (en) * 2010-02-17 2011-08-18 Anthony Jon Mountjoy System and method for generating and distributing three dimensional interactive content
JP5587640B2 (ja) * 2010-03-10 2014-09-10 富士フイルム株式会社 放射線画像撮影システム及び放射線画像の表示方法
EP2562581A4 (en) * 2010-04-21 2014-11-12 Panasonic Ip Corp America 3D VIDEO DISPLAY AND 3D VIDEO DISPLAY
JP2012024519A (ja) * 2010-07-28 2012-02-09 Fujifilm Corp 放射線画像撮影表示方法および装置
JP5002047B2 (ja) * 2010-11-05 2012-08-15 シャープ株式会社 立体画像データ再生装置
CN101984670B (zh) * 2010-11-16 2013-01-23 深圳超多维光电子有限公司 一种立体显示方法、跟踪式立体显示器及图像处理装置
JP5050094B2 (ja) * 2010-12-21 2012-10-17 株式会社東芝 映像処理装置及び映像処理方法
JP2012152511A (ja) * 2011-01-28 2012-08-16 Fujifilm Corp 放射線画像表示装置および方法
JP2012157550A (ja) * 2011-02-01 2012-08-23 Fujifilm Corp 放射線画像撮影装置および方法
WO2012105188A1 (ja) * 2011-02-01 2012-08-09 富士フイルム株式会社 立体視画像表示装置および方法並びにプログラム
WO2012108406A1 (ja) * 2011-02-08 2012-08-16 富士フイルム株式会社 立体画像印画装置及び立体画像印画方法
JP2012213583A (ja) * 2011-03-31 2012-11-08 Fujifilm Corp 立体視表示装置
JP5666967B2 (ja) * 2011-04-08 2015-02-12 株式会社東芝 医用画像処理システム、医用画像処理装置、医用画像診断装置、医用画像処理方法および医用画像処理プログラム
JP5835980B2 (ja) * 2011-07-21 2015-12-24 株式会社東芝 画像処理システム、装置、方法及び医用画像診断装置
JP2013038602A (ja) * 2011-08-08 2013-02-21 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
WO2013024578A1 (ja) * 2011-08-12 2013-02-21 富士フイルム株式会社 画像再生システムおよび画像ファイル生成装置
CN102427542B (zh) * 2011-09-28 2014-07-30 深圳超多维光电子有限公司 一种立体图像处理方法、图像处理装置和相应的终端设备
JP5840022B2 (ja) * 2012-02-17 2016-01-06 キヤノン株式会社 立体画像処理装置、立体画像撮像装置、立体画像表示装置
JP5762998B2 (ja) * 2012-03-07 2015-08-12 株式会社ジャパンディスプレイ 表示装置および電子機器
EP2831902B1 (en) * 2012-03-26 2018-01-31 Koninklijke Philips N.V. Simulated spatial live viewing of an object from variable view-points
US8855393B2 (en) * 2012-05-02 2014-10-07 Jonathan D. Bultema Three-dimensional X-ray imaging techniques and devices
CN103764033B (zh) 2012-06-28 2017-03-08 东芝医疗系统株式会社 X射线诊断装置
US20150043712A1 (en) * 2013-08-07 2015-02-12 Carestream Health, Inc. Imaging system and method for portable stereoscopic tomography
CN104567758B (zh) * 2013-10-29 2017-11-17 同方威视技术股份有限公司 立体成像系统及其方法
JP6296553B2 (ja) * 2014-09-30 2018-03-20 富士フイルム株式会社 放射線画像撮影装置および放射線画像撮影装置の作動方法
US9974525B2 (en) 2014-10-31 2018-05-22 Covidien Lp Computed tomography enhanced fluoroscopic system, device, and method of utilizing the same
US10265911B1 (en) * 2015-05-13 2019-04-23 Marvell International Ltd. Image-based monitoring and feedback system for three-dimensional printing
US10674982B2 (en) 2015-08-06 2020-06-09 Covidien Lp System and method for local three dimensional volume reconstruction using a standard fluoroscope
US10716525B2 (en) 2015-08-06 2020-07-21 Covidien Lp System and method for navigating to target and performing procedure on target utilizing fluoroscopic-based local three dimensional volume reconstruction
US10702226B2 (en) 2015-08-06 2020-07-07 Covidien Lp System and method for local three dimensional volume reconstruction using a standard fluoroscope
US11172895B2 (en) 2015-12-07 2021-11-16 Covidien Lp Visualization, navigation, and planning with electromagnetic navigation bronchoscopy and cone beam computed tomography integrated
US11051886B2 (en) 2016-09-27 2021-07-06 Covidien Lp Systems and methods for performing a surgical navigation procedure
US10699448B2 (en) 2017-06-29 2020-06-30 Covidien Lp System and method for identifying, marking and navigating to a target using real time two dimensional fluoroscopic data
EP3694412A4 (en) 2017-10-10 2021-08-18 Covidien LP SYSTEM AND METHOD FOR IDENTIFYING AND MARKING A TARGET IN A THREE-DIMENSIONAL FLUOROSCOPIC RECONSTRUCTION
US10905498B2 (en) 2018-02-08 2021-02-02 Covidien Lp System and method for catheter detection in fluoroscopic images and updating displayed position of catheter
CN112689088A (zh) * 2020-12-21 2021-04-20 维沃移动通信(杭州)有限公司 图像显示方法、装置和电子设备

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003245274A (ja) * 2002-02-27 2003-09-02 Canon Inc 放射線撮影装置、放射線撮影方法、放射線画像表示装置、及び放射線画像表示方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08126635A (ja) * 1994-10-31 1996-05-21 Shimadzu Corp デジタル画像表示装置
JPH10232665A (ja) 1997-02-20 1998-09-02 Canon Inc 表示制御装置及び方法
JPH1080418A (ja) * 1996-09-11 1998-03-31 Toshiba Corp X線診断装置
US6256372B1 (en) 1999-03-16 2001-07-03 General Electric Company Apparatus and methods for stereo radiography
US6608884B1 (en) * 1999-07-20 2003-08-19 Lunar Corporation Fluoroscopy machine with head mounted display
US6862364B1 (en) * 1999-10-27 2005-03-01 Canon Kabushiki Kaisha Stereo image processing for radiography
JP2002052018A (ja) * 2000-08-11 2002-02-19 Canon Inc 画像表示装置、画像表示方法および記憶媒体
US6764217B2 (en) * 2000-10-30 2004-07-20 Kabushiki Kaisha Toshiba X-ray diagnosis apparatus
US6873866B2 (en) * 2003-06-04 2005-03-29 Segami Corporation Stereoscopic visualization of beating heart
US7209538B2 (en) * 2003-08-07 2007-04-24 Xoran Technologies, Inc. Intraoperative stereo imaging system
US7035371B2 (en) * 2004-03-22 2006-04-25 Siemens Aktiengesellschaft Method and device for medical imaging

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003245274A (ja) * 2002-02-27 2003-09-02 Canon Inc 放射線撮影装置、放射線撮影方法、放射線画像表示装置、及び放射線画像表示方法

Also Published As

Publication number Publication date
US7369641B2 (en) 2008-05-06
JP2006212056A (ja) 2006-08-17
US20060170674A1 (en) 2006-08-03

Similar Documents

Publication Publication Date Title
JP4649219B2 (ja) 立体画像生成装置
JP4652727B2 (ja) 立体画像生成システムおよびその制御方法
EP1704730B1 (en) Method and apparatus for generating a stereoscopic image
JP4440066B2 (ja) 立体画像生成プログラム、立体画像生成システムおよび立体画像生成方法
EP2536156B1 (en) Image processing system, image processing apparatus, and image processing method
JP2003209858A (ja) 立体画像生成方法及び記録媒体
US20130016256A1 (en) Image recording apparatus and image processing method
JP6491477B2 (ja) ライブ3dx線観視
JP2012160039A (ja) 画像処理装置、立体画像印刷システム、画像処理方法およびプログラム
JP5840022B2 (ja) 立体画像処理装置、立体画像撮像装置、立体画像表示装置
JP2017011520A (ja) 立体像奥行き変換装置およびそのプログラム
Tam et al. Stereoscopic image rendering based on depth maps created from blur and edge information
US20140125779A1 (en) Capturing and visualization of images and video for autostereoscopic display
JP2006013851A (ja) 撮像表示装置および撮像表示方法
JP2012213583A (ja) 立体視表示装置
US20120249533A1 (en) Stereoscopic display apparatus
JP2012105172A (ja) 画像生成装置、画像生成方法、コンピュータプログラムおよび記録媒体
KR101192121B1 (ko) 양안시차 및 깊이 정보를 이용한 애너그리프 영상 생성 방법 및 장치
JP2001218231A (ja) 立体画像を表示する装置および方法
US9020219B2 (en) Medical image processing apparatus
JP2011176823A (ja) 画像処理装置、立体表示装置及び画像処理方法
JP5891554B2 (ja) 立体感提示装置および方法ならびにぼけ画像生成処理装置,方法およびプログラム
JP2012160058A (ja) 画像処理装置、立体画像印刷システム、画像処理方法およびプログラム
JP2011102993A (ja) 立体画像表示装置および方法並びにプログラム
JP6179282B2 (ja) 3次元画像表示装置及び3次元画像表示方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080201

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080201

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20081023

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20081201

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100921

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101213

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131217

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees