Japanese / English

DLPプロジェクタによる高速度構造化光投影を利用した高速度アクティブビジョン

[Click to open a movie] [Click to open a movie] [Click to open a movie] [Click to open a movie]

アクティブビジョンシステムでは,光の強さを時間的・空間的に制御できる光源が必要です. 我々は,DLP(Digital Light Processing)プロジェクタを光源として利用する, 高速度アクティブビジョンシステムを提案しています. DLPプロジェクタは,内部にあるDMD(Digital Micromirror-array Device)と呼ばれる半導体チップで光を変調します.DMDは,プロジェクタ 投影像の各画素に対応する,微小鏡面の集合で構成されています. 各鏡面は独立に方向を変化させることができ,反射光を 高速度で(106/s)でON-OFFすることによって投影光の強さを制御しています. 高速で変化する2進パターンを,人間の視覚や低速度の画像センサ(~102/s)で撮影すると, 各時間フレームにおける輝度変化が積分され,滑らかな階調をもつ画像として観測されます. われわれは,DLPプロジェクタによって生成された2進パターン光を,高速度カメラを用いて計測し, アクティブビジョンシステムの動的光源として利用できることを示しました. 提案する方法は様々な計測手法の高速化に応用可能です. ここでは,(a)構造化光を用いた形状計測, (b)照度差ステレオ,(c)光源分離,(d)画像の動きボケ除去,(e)表面反射光の直接・間接成分分離, の5つの代表的な手法を,100倍から1000倍程度高速化した結果を示します. 全ての実験において,市販の安価なDLPプロジェクタと, 高速度カメラあるいはスチルカメラのみを利用しています. また,プロジェクタには単一の画像を投影像として与えています.

発表資料

Srinivasa G. Narasimhan, Sanjeev J. Koppal, and Shuntaro Yamazaki,
Temporal Dithering of Illumination for Fast Active Vision”,
Proc. European Conference on Computer Vision, pp.830-844,
Oct. 2008.

[予稿] [Movie] [プレゼンテーション] [BibTex]

超高速度で形状を計測するためのプロジェクタカメラシステム ”,
ポスター発表,産総研オープンラボ,他
2008年10月.

高速度3D計測システム ”,
ポスター発表,TXテクノロジー・ショーケースin筑波,他
2009年1月.

[Click to open a PDF]

“3D計測,100万円切る”,
日経産業新聞,1面,
2009年2月19日.

補足資料

DLPプロジェクタ

DLP (Digital Light Processing)プロジェクタは,光源から発せられた光をDMD (Digital Micromirror-array Device)を用いてスクリーンに反射することによって,映像を表示するシステムです.( 画像 はTexas Instruments 社の資料より抜粋)

DMDは多数の微小鏡面を平面に配列した表示素子です. 各微小鏡面は軸周りに± 12度傾斜でき, 光源からの光を外部(スクリーン)に反射するか,内部の吸収体に反射するかを選択することによって光の投射を制御しています.( 画像 はTexas Instruments 社の資料より抜粋)

構造化光を用いた高速度形状計測

この図は,構造化光を用いた,プロジェクタとカメラ間の三角測量に基づく形状計測システムを示しています. 高速度カメラにPHOTRON社製 Fastcam 1024-PCI,プロジェクタに Infocus社製の IN38 DLPプロジェクタを利用しています. カメラとプロジェクタの相対位置,射影パラメータはあらかじめ校正しておきます. この例ではカメラとプロジェクタを鉛直直線上に配置しています.

プロジェクタによる構造化光を利用した3D計測システムは, 異なるパターン投影像を複数回計測する時間コード化法と, 色情報を利用して単一の計測画像から形状を復元する空間コード化法に大別されます. われわれのシステムは,時間コード化法に分類されます. ただし既存のシステムと異なり,プロジェクタからは単一のカラーパターン画像を投影します. また,計測画像の色情報は利用していないため,物体表面の模様や色に対して,比較的頑健に計測を行う事が出来ます. この写真は,投影像を60Hz(低速度)のカメラで計測した画像です.

この動画は DLPプロジェクタで単一のパターン光を投影し3000Hzの高速度カメラで撮影した映像 です. パターン画像中の異なる色(輝度)を合成するために,プロジェクタ内部の光源からの反射光が,DMDによって高速にON-OFFされている様子が分かります. パターン画像中の各色が,DMDによってどのような2進パターン列に分解されるかをあらかじめ調べておくことにより, 計測画像の各画素が対応する,パターン画像中の画素位置を一意に決定できます.

The correspondences between projector and camera pixels are estimated by finding the best match of the intensity profiles in temporal domain. The intensity profiles of a projector pixels are captured from the right edge of the acquired images where stripe pattern is projected on a plane located at a known distance. This alleviates the synchronization issue between the projector and the camera.

The shape of a statue object is recovered using 25 continuous images acquired by a high-speed camera at 3kHz. The background region is eliminated by thresholding out the pixels which have large error in the stripe matching.

We reconstructed a human hand using 20 continuous images acquired by a high-speed camera at 3kHz. In the following results, each data set has six movies: the acquired images replayed at actual and 1/300 speeds, and the recovered shapes visualized by mesh rendering from front and side views at actual and 1/10 speeds, respectively.
  • Acquired images: actual and 1/300 speeds.
  • Reconstructed shape (front view): actual and 1/10 speeds.
  • Reconstructed shape (side view): actual and 1/10 speeds.
The shape of a hand spinning a pen is also reconstructed using 10 continuous images acquired at 3kHz.
  • Acquired images: actual and 1/300 speeds.
  • Reconstructed shape (front view): actual and 1/10 speeds.
  • Reconstructed shape (side view): actual and 1/10 speeds.
Another object is the face of a speaking person which is reconstructed from 20 continuous images acquired at 3kHz.
  • Acquired images: actual and 1/300 speeds.
  • Reconstructed shape (front view): actual and 1/10 speeds.
  • Reconstructed shape (side view): actual and 1/10 speeds.
We reconstructed a person putting his tongue out using 10 continuous images acquired at 3kHz.
  • Acquired images: actual and 1/300 speeds.
  • Reconstructed shape (front view): actual and 1/10 speeds.
  • Reconstructed shape (side view): actual and 1/10 speeds.
A cloth waving is reconstructed using 10 continuous images acquired at 3kHz.
  • Acquired images: actual and 1/300 speeds.
  • Reconstructed shape (front view): actual and 1/10 speeds.
  • Reconstructed shape (side view): actual and 1/10 speeds.

高速度光源分離

We capture the appearances of a dynamic scene illuminated from multiple lighting directions using multiple DLP projectors. We draw upon the idea of illumination de-multiplexing, where the images of the scene are simultaneously captured from multiple source directions and de-multiplexed in software to obtain the desired images under each lighting direction. A mirror sphere is placed in the scene to measure the dithering intensities from the three projectors.

De-multiplexing illumination from three projectors to create appearances under each lighting direction. The scene consists of a wiry polyhedral ball falling vertically, and illuminated by three DLP projectors simultaneously. We can separate the illumination and obtain three sequences of images illuminated by either 1st, 2nd, or 3rd projector.

高速度照度差ステレオ

Three DLP projectors simultaneously illuminate a fast moving flag and the camera operates at 3kHz. The projectors and camera are far enough away from the scene to assume orthographic viewing and distant lighting. The surface normal at a point on the object is computed by photometric stereo using three de-multiplexed illumination images.

画像の動きボケ除去

When the photograph of a dancer is acquired under a DLP illumination, we see multiple copies of the body that moves simultaneously in multiple directions.

When a brick with the writing “ECCV08” falling vertically is illuminated by a fluorescent source, the resulting motion-blur appears like a smear across the image. On the other hand, when the scene is illuminated using a DLP projector, we see distinct copies of the text that are translated downward. Thus, the DLP illumination preserves more high frequencies in the motion-blurred image.

表面反射光の直接・間接成分分離

The DLP projector and the camera are co-located using a beam splitter. A single checker pattern with two intensities 113 and 116 are input to the projector.

The DLP projector emits complementary checker patterns onto the scene (movie) that are used to separate the direct and global components (movie).

その他

See how DLP® technology works at the official page by Texas Instruments.

See also another project page at Carnegie Mellon University.