ドワンゴが地味だけどスゴイ技術を開発！リアルタイム演奏データからの「運指再現技術」をバーチャルキ…

2018年9月18日

ドワンゴおよびバーチャルキャストは、電子楽器用の信号を判別してバーチャルキャラクターの手先の動きに反映する「運指再現技術」を独自開発し、公式生放送での運用に成功したと発表した。

ドワンゴはこれまで“ネットとリアルの融合”をコンセプトに、バーチャルキャラクターを現実空間に出現・出演させる技術の開発に継続的に取り組んできた。先日は、バーチャルキャラクターをAR合成し、屋外など場所を問わずに出演することができる生放送を可能にしたAR撮影システムを開発し、米・ロサンゼルスで開催されたE3会場から「電脳少女シロ」による現地レポート生放送に初成功するなど、これまでの経験や知見を活用した新たなシステム・取り組みを提供している。

■演奏とVR上の鍵盤の動きを自然に見えるように同期させる地味だけどスゴイ技術
このたび開発した「運指再現技術」は、現実の環境で叩かれた鍵盤から出たMIDI（電子楽器用信号）データを認識し、その音の対象となるバーチャルキャラクターの指の動きをほぼリアルタイムで反映させる技術。これにより、バーチャル空間での楽器演奏などにおいて、いままで不可能だったキャラクターの手先の動きを実際の人物の動きのように再現・反映することが可能になった。

9月8日（土）には本技術を初めて採用した番組として、バーチャルアイドル・ときのそらのニコニコ生放送デビュー1周年記念番組を放送。ときのそらがバーチャル空間に設置されたキーボードを演奏することに成功した。手元をフォローした映像では、鍵盤を叩く指1本ずつの動きが映像に反映されている。

この技術により、キーボードなどに限らない楽器の演奏など、バーチャルキャラクターのより高度な表現を可能にしました。ドワンゴおよびバーチャルキャストでは、これからもバーチャルキャラクターの表現力を高める技術の開発を進めていくとのことだ。

■ニコニコ生放送実施概要
番組名：「ときのそら」デビュー1周年超おめでとう記念公式生放送〜えーちゃんもいるしリサイタルもあるよ〜
放送日時：2018年9月8日（土）　
視聴URL: http://live.nicovideo.jp/watch/lv314826144
※9月15日（土）23:59　までタイムシフト視聴が可能。
概要：バーチャルアイドル・ときのそらのニコニコ生放送デビュー1周年を記念し1年間の足跡を振り返った生放送。番組の目玉企画として「弾き語りリサイタル」を披露し、いままで実現不可能だった、本人の手元（指先）までの動作を反映させたピアノ演奏を披露した。

■「ときのそら」デビュー1周年超おめでとう記念公式生放送〜えーちゃんもいるしリサイタルもあるよ〜

■ITライフハック
■ITライフハック Twitter
■ITライフハック Facebook

■niconicoに関連した記事を読む
・人気声優・吉野裕行がニコニコチャンネルを開設。「ラジオ　よっちんの今夜ウチこいよ！」がスタート
・「狼と香辛料」VRアニメ化記念で「狼と香辛料」と「狼と香辛料 II」全13話をニコ生で一挙放送
・開催決定！GA文庫ライトノベルのアニメ作品7タイトル全話無料配信「GA文庫秋祭り」
・TVアニメ「涼宮ハルヒの憂鬱」シリーズ「エンドレスエイト」長門有希の疑似体験企画、第8話が出現
・香川県丸亀市でニコニコ町会議を開催！アニメ・サザエさんの磯野波平役などで知られる声優・茶風林も出演