tks_yoshinagaの日記

KinectやLeap motion, VRやARなどの技術を使ってやったことのメモとか

HoloLensとKinectやMyoを組み合わせてみた

単体でもかなり遊べるHoloLensですが、他のセンサデバイスとの連携したらもっと楽しめそうだと思い、いくつか試してみたのでご紹介します。

1. Kinectとの組み合わせ

Kinectで取得した空間の3次元情報(Point Cloud)をリアルタイムにHoloLensで表示してStar Warsっぽくしてみようというもの。KinectからのPoint Cloudを一旦PCで取得し、HoloLensに送っています。もちろん遠隔地へ送ることも可能。ちなみに自分の好みでシアンで表示していますがフルカラー表示もできます。


また、事前にPCに記録しておいたデータを呼び出して表示するということも可能なので、3次元的なビデオレターのような使い方もできそうです。

 

 2.Myo Gesture Control Armbandとの組み合わせ。

HoloLensで認識可能なジェスチャの数に物足りなさを感じ、腕の筋肉の動きを計測できるウェアラブルバイス、Myoを併用してみました。このコンテンツでは、親指と中指をトントンと2回動かすと恐竜が走り出し、手を曲げると向きが変わります。また、HoloLensのSpatial Mappingによって空間がメッシュ化されているので、恐竜がテーブルの上を走ったり床に落ちたりします。

 上の動画ではわざとメッシュを表示させていますが、これを消すとさらに恐竜の存在感が増します。また実際は、Myoが筋肉の動きを認識できれば良いのでAirTapのようにわざわざ手を上げなくても入力可能です。ただ現状はHoloLensとの連携のために専用のプログラムを書いているので利用が面倒。今後、HoloLens対応の入力デバイスなんかが出てくると有難いところです。


おまけ. 鏡との組み合わせ

こちらはセンサデバイスとの連携ではないのですが、やってみたら意外と楽しかったので紹介。HoloLensの空間認識を鏡に向けて行うと、鏡の奥に部屋があると誤認識します。そこで、鏡の中からキャラクターが出てくるようなコンテンツを試作しました。なんとなくエンターテイメントで使えそうな気がします。(ネタ募集中!)


いずれもとりあえず試した程度ですが、他のセンサデバイスと連携することでHoloLensの用途はかなり広がりそうだと実感しました。今後もいろいろなデバイスと連携したコンテンツを試作していこうと思います。もし一緒に取り組んでくれる方がいれば是非、一緒に何かやりましょう。