そもそもフェイシャルトラッキング、アイトラッキングって何?
フルトラはフルボディトラッキングの略称で、一般的な用途としては、体全身のトラッキングすることを言います。VRChatでは一般的に体のトラッキングのことをフルトラと呼びます。対して、目や顔の表情は、トラッキングせず、コントローラーで操作するのが一般的です。VRChatのフルトラでは、フェイシャルトラッキングとアイトラッキングは含まれません。
市販のアバターもフルボディトラッキングには対応していますが、アイトラッキングとフェイシャルトラッキングに対応しているのは少ないです。
今回「アイトラッキング、フェイシャルトラッキング対応」と言っているのは、「顔のトラッキング」(フェイシャルトラッキング)と「目のトラッキング」(アイトラッキング)をアバターに追加し、フェイシャルトラッキングとアイトラッキングに対応したアバターを作りつつも
従来のフルボディトラッキングのみではなく
→フルボディトラッキング+アイトラッキング+フェイシャルトラッキング
を追加しようという話になります。
顔の動きや目の動きもトラッキングさせようという内容になります。
フェイシャルトラッキング、フェイストラッキング(顔トラ)の対応方法を紹介しますが、顔トラの対応方法や設定方法含めて、先人の方々が実践済みですので、この記事ではボクがトライした一連の流れについてだけ、説明していきます。
おおまかな設定方法
現在、フェイシャルトラッキング、アイトラッキングを使うためにはいくつかの専用デバイスを購入する必要があります。入手は、簡単なものから、生産中止のものまで記載していますが、生産中止したものについては、どれも入手自体が難しい状況です。今回は、各デバイスを紹介しつつ、導入方法を紹介します。おおまかな設定方法は以下になります
①各ハードを買ってそろえて、ソフトを調整する(各ハード毎に記載)
②アバターを調整もしくは、市販のアバターを買って、顔周りの調整ツール(下記記載)を買って調整後、動かす
アイトラ+フェイシャルトラッキングになるのに必要なハード
フルトラもできること前提で考えて、公式品での対応の場合、現状4パターンが有名です。①②は終売です。入手できれば、②が手軽でお勧めです。
①「Vive Pro eye」+「VIVEフェイシャルトラッカー」【ともに終売】
② XR Elite+専用フェイシャルトラッカー
③ Focus Vision+専用フェイシャルトラッカー
④ QuestPro【終売】
それぞれのパターンを紹介していきます。
【終売】VIVEフェイシャルトラッカー編(フェイシャルトラッキングのみ)
アイトラに対応しているVIVE PROEyeにVIVEフェイシャルトラッカーを着けることで、アイトラとフェイシャルトラッキングを可能にする方法です。アイトラがないValve Indexに非公式対応でつけることができ、フェイシャルトラッキングのみが可能になります。
フェイシャルトラッカー自体は、ドライバ自体認識させることができれば、動作しますが、メーカー公表のもの以外での対応は、非公式利用である点ご注意ください。以下、アイトラがないValve Indexに非公式対応でつける方法を紹介していきます。
VIVEフェイシャルトラッカーって何?
VIVEフェイシャルトラッカーは、カメラで認識するタイプのトラッキングデバイスです。
直近にわかったことなのですが、フェイシャルトラッカーが、終売とのことです。残念。しょぼーん。
顔トラを極めるのならこの一択ってことで当サイトもやってきましたが、QuestProでしばらくやらないといけないみたいですね。
あと、トナさんのフォローお勧めします。いつも有益な情報を教えてくださいます。
何をそろえればいいのか?(ハード&ドライバ導入編)
ハードでそろえるものは、VIVEフェイシャルトラッカーと自分の場合、Valve Indexだったので
固定用のものを用意します。ボクはねむちゃんの記事を参考にしました。
https://note.com/nemchan_nel/n/nb39ffd9ebef2
VIVE Facial Tracker
この記事の内容通りにやれば、ハードあたりは問題ありません。
【ハード編】①フェイシャルトラッカー、HMDに合わせた接続アタッチメントを購入
①フェイシャルトラッカー
②同人ホルダー(Indexの場合)
③USB変換(IndexだとUSB C→Aのもの)
が必要です。USB変換は、USBCがついているHMDだったら不要です。
先ほどのねむちゃんの記事は主にNeos用なので、VRchat用にする必要があります。
なお、公式から重大な注意点があります。USBC変換した場合は自己責任でお願いします。
2 免責事項:
1. Pro でのみパフォーマンスを保証できます。それは、最初に認識をトレーニングした正確な位置だからです。
2. USB A (m) ~ C (f) は、実際には USB-IF 仕様に反しています。これらのアダプターには準拠する仕様がないため、自己責任で試してください。
Shen氏のツイート内容より翻訳
【ドライバー編】②フェイシャルトラッカーが動作するドライバー
ドライバの場所については、AkaneFacialOSCさんのところに書いてありますが
公式のものからインストールしてください。
何をそろえればいいのか?(ソフト編)
次にですが、アバターの設定やソフトの導入が必要になります。
アバターをBlenderで作れるよって人は、こちらを参照してください。
BlenderとUnityバリバリの人は、この動画前編と後編見れば、それでいけます。
【アバター編】アバターをパーフェクトシンク対応させる必要あり
ただ、前編はBlenderも普通にこなせちゃう人の話なので、パーフェクトシンク対応のアバターをボクは導入しました。ボクは、こちらのお店で購入しました。
https://endof.booth.pm/items/4276261
で、購入したものを、次の後編の動画を見て、導入しました。(なお、QuestPro編で一般アバターに対応させる方法もあります。
店の対応ツールを購入する際に、ソフトが対応しているかご確認ください)
といっても、一から作るのはかなり面倒だったので、下記ソフト入れて、対応しました。
【ソフト編】VRCFacialOSCAvatarTool、AkaneFacialOSCを入れる
VRCFacialOSCAvatarTool
https://booth.pm/ja/items/3718123
AkaneFacialOSC
https://azw.booth.pm/items/3686598
で、ゆたにぃ CH.さんの動画を見ながら、フェイシャルトラッキング対応の仕方を学んでいきました。
(この方法でうまくいかない場合は、QuestPro導入編で紹介しているVRCFaceTrackingを試してみてください)
Unityではどうすればいいのか?
VRCFacialOSCAvatarToolと白ちゃん(アバター)をUnity上にいれます。
で、VRCFacialOSCAvatarToolを使い、表情を入れていきます。
その後、ゆたにぃ CH.さんの動画で言っているのですが、大事なのが、「animation」「アニメーター」あたりの名前をそろえることです。
VRCFacialOSCAvatarToolを使って、変換すると、名前がそろっていないため、ここで揃えます。(10:20~12分あたりです)
あとは、VRchat側の設定の話になるのですが、10:20~を見ていただければ、アップロードから口が動くまでの全体的な
流れがわかります。
そうすると、一応、口が動くようにはなります。
以上がフェイシャルトラッキング対応の仕方になります。
忘備録用に作成したので、追記や修正をしていく予定です。
XR Elite編
何をそろえればいいのか?(XR Elite編 ハード&ドライバ導入編)
微妙なHMDなのでお勧めしていませんが、方法についてはこちらを参照ください。
本体を購入し、専用フェイシャルトラッカーを買います。専用品なのでご注意ください
自分の周りの購入者の話ですが、設定やトラブルが多すぎてオプション品含めて買ったにもかかわらず、1日もたたずQuestProの購入に舵を切り替えた人や、壊れやすくVR睡眠に全然向いていない等の理由で切り替えた人を知っています。
Focus Vision編
何をそろえればいいのか?(Focus Vision編 ハード&ドライバ導入編)
Facialtrackerと本体が必要です。
https://www.vive.com/jp/accessory/facial-tracker-for-vive-focus-series/
動作例はこちら
【終売】QuestPro編(フェイシャル+アイトラッキング編)
みんなのアイドル、西井りいさんがQuestProを購入して、フェイシャルトラッキングを実践されたそうです。なお、この方法はアバターに対しての
QuestProでもできるのは知っていたのですが、リアアリスの場合は、顔が動くツール関連も売っているとのこと。顔の表情などはこちらを参考に導入されたそうです。西井さんさすがです。さすがです。
VRchatで有名なアバターも下記のようにやっていけば、簡単に導入できそうです。
リアアリスに限らず、西井さんの場合の全体の流れとしては以下の流れです。
①QuestProを買う(ハード)
②リアアリス(今回の対応アバター類)を買う
③顔周りの調整ツール(下記記載)を買う
④VRCFaceTrackingを導入する
⑤VRC上で設定する
⑥動作確認する
一式そろえた後はセッティングをしていきます。まずは、QuestPro→VRchatでやるまでの対応方法です。
②リアアリス他市販アバターに簡単に導入する方法
まずは①ハードや購入するソフト一式をそろえましょう。
ここでは②まで完了して、③顔周りの調整ツールを買うところから始めます。
西井さんのお勧めはこちら
こちらのサイトには、リアアリスちゃんの他、真冬ちゃんのもの等販売しています。
https://shopyk.booth.pm/items/5100830
その他のアバター用のものも販売しています。
有名な方だとechothenekoさん
https://echotheneko.booth.pm/
とJerry’s Face Trackingさんが有名です。
これらのショップで販売している対応アバターのツールは、マヌカちゃん、桔梗ちゃん、萌ちゃん、まめひなたちゃん、狐雪ちゃん、幽狐族のお姉様ちゃん、ロポリこんちゃん、カリンちゃん、ラスクちゃん、シフォンちゃん、シアンちゃん等豊富にありますので、一回ご確認をお願いします。動きもショップごとに特徴があるので、必ず動画で動きを確認されることをお勧めします。
④VRCFaceTrackingを導入する
次に、④下記設定を見ながらVRCFaceTrackingを導入する。
https://qiita.com/Kazu_Sack/items/14460dac1dd149bf1ff5
自分も導入してみました。VirtualDesktopで2時間ほどで完了しました。
うまくいかないときは再起動するなどするとうまくいきます。この方法は、VRCFaceTracking対応のデバイスなら可能です。(VIVE PRO Eye等の場合、ドライバとの関係でできない場合があります)
QuestProのフェイシャルトラッキング対応完了しました。対応アバターでトライした映像がこちら。
片目閉じたり、口開けたりしゃべらずにやっています。後はアバター側の調整のみとなります。
⑤VRC上で設定する
アバターは、②③で事前に購入したリアアリスをアップロードしたのち
顔周りの調整ツールの手順通りに実施するだけです。こちらも1時間ほどで完了しました。
VRchat上でリアアリスがアップロードされるため、エクスプレッションメニューの
フェイシャルトラッカーおよびアイトラッキングをONにしてください。
そうするとできます。
別のアバターでも下記のショップのようにフェイストラッキング用のツールを販売しているところが
いくつかありますので、ぜひ。摩耶ちゃんやセレスティアちゃんなど結構最近有名なアバターは複数販売されています。
https://fermat.booth.pm/items
⑥動作確認する
今回、リアアリスでQuestProのフェイシャルトラッキング+アイトラのテストでわかったことは
目をつぶる動作、ウインク、ほっぺぷく、まぶたなどの動作ができることを確認。VIVEのフェイシャルトラッカーは終売&飲み物等が非常にのみずらいため、軽くて非常に使い勝手がいいので、おすすめ
真冬ちゃんもちゃんと動作しました。
https://shopyk.booth.pm/items/5151544
【VRoidなどに導入したい場合】
Vroidなどのユーザーはこちらを参照してください。
何をそろえればいいのか?導入する方法(QuestPro編)
動画がありましたので、紹介します。
もしPCスペックが足りない場合
アイトラッキングとフェイシャルトラッキングは、カメラを使っているタイプが非常に多いため、処理能力が求められます。ケースによっては、PCのスペックアップも必要になります。写真を撮った際に、VRChat毎落ちてしまう現象が発生したときはスペック不足のことが多いです。こちらにフルトラ+アイトラ+フェイシャルになるまでの流れを紹介していますので、ご参照ください。自分の場合は、メモリの増設とグラフィックボードの増設対応が必要でした。
顔も体もトラッキングしたい!! 究極の無線HMD+指トラ+11点フルトラ+フェイシャル+アイトラッキングになるまでの流れを紹介!【無線フルトラ+アイトラ+顔トラ】【2024年8月版】
動作比較編
QuestProとVive Pro eye【終売】の場合の動作の違い
QuestProができない点がいくつかあります。
・舌トラッキングの描写が正確でない、うまくいかない。
などです。トラッキング性能だけでしたら、VIVE Pro eye+フェイシャルトラッカーがいいでしょう。入手性を考えると、QuestProのほうがいいかと思います
QuestProとVive Pro eye(Update後)の場合の動作の違い
入手状況について
2025年5月10日時点で、入手困難品と新品で購入可能品は以下のとおり。
終売のため、入手困難(中古等探す必要あり)
・VIVE Pro eye、VIVEフェイシャルトラッカー、QuestPro
新品で入手可能
・XR Elite、Focus Vision
今後のアイトラ関連販売予定【2025年5月10日確認】
Bigscreen beyond2e
まずは、Bigscreen beyond2eにアイトラッキング機能が搭載される予定です。詳細は公式HPなどをご確認下さい。
出荷予定時期は、2025年8月です。現時点では、AMDのRadeonにも対応する記載がありますが、この辺り、公式が動作確認していただけると助かりますね。。直近だとRadeonユーザー増えていますので。
「Bigscreen Beyond 2e」のアイトラッキング機構
フラッグシップモデルである「Beyond 2e」には、砂粒ほど小さいイメージセンサーによる世界最小クラスのアイトラッキング機構が搭載されており、最先端のAI&コンピュータービジョン技術で処理されます。具体的には、イメージセンサーによって取得された画像はAMDやNVIDIAのGPUに送られ、NVIDIA社のCUDAによって学習&構築された瞳孔位置推定モデルによって処理されます。他社のVRヘッドセットには見られないこの斬新なアプローチで、プライバシーを守りつつ精確かつ低遅延なアイトラッキングが実現しました。Bigscreen Beyondのローンチ以来のポリシー「1グラムでも減らせ」に準拠すべく、「Beyond 2e」モデルは「Beyond 2」に比べて、たった1.05グラムしか重くありません。さらに、カメラと瞳孔の位置にアクセスできるAPIの提供により、ハードウェア開発者やMOD制作のコミュニティもサポートします。アイトラッキング機能はBigscreen社製のソフトウェアによって動作しますが、サードパーティ製のソフトウェアや、EyetrackVR(ETVR)のようなオープンソースのMODもサポートします。SteamVR、OpenXRやVRChatのような主要アプリをサポートするBigscreen社製のアイトラッキングソフトウェアのパブリックベータ版は、2025年夏の配布開始を予定しています。
製品スペック
対角線視野角:116度
本体重量:107グラム
瞳孔間距離:48mm~75mmで調節可能(物理的には55mm~70mm)
解像度:片眼2,560 x 2,560 ピクセル
リフレッシュレート:90Hz、75Hz
6DoFトラッキング方式:SteamVRトラッキング
トラッキングに必要なもの:BaseStation1.0もしくは2.0(同梱されていません)
アイトラッキング:「Beyond 2e」にのみ搭載
フルボディトラッキング:VIVEトラッカーやTundra Trackerに対応(同梱されていません)
コントローラー:Valve IndexなどのSteamVR対応の各種コントローラーに対応(同梱されていません)
音声入力:デュアルマイクアレイ
音声出力:純正オーディオストラップでのオンイヤーイヤフォン(同梱されていません)
アクセサリ用ポート:USB-C 1口
PCとの接続:5m光ファイバーケーブルと専用リンクボックス
パソコンの最低動作スペック
GPU:NVIDIA RTX2070もしくはAMD RX5700XT以上 (DisplayPort1.4とDSC必須)
CPU:Quad Core IntelもしくはAMD
ポート:DP1.4ポート1口、USB3.0ポート2口
OS:Windows10もしくはWindows11
上記引用は、公式情報より:https://prtimes.jp/main/html/rd/p/000000021.000045966.html
注意事項
国内のメーカ及び同人で一部、Questシリーズなどに後付けできるタイプ等の発表がありましたが、5/10時点で今後の生産や予定が、非常に不透明なため、当サイトでは、記載できません。今後の状況を注視して、確認していきます。
国内の後付けタイプは、今後が未定なことから、当サイトでは、今後、新品を購入したい人は、Bigscreen beyond2eを待つことをお勧めいたします。
QuestProの実物写真はこちら
HMDは、アイトラッキング+フェイシャルトラッキング対応機種が限られます。詳細はこちら
今回は、VRChatでVRモードの際によく使われるVRゴーグル5種類(HMD:ヘッドマウントディスプレイ)の違いと大きさの比較を実物で紹介し、実際使った感想、フルトラ(フルボディトラッキング)時の動き…
Indexコントローラーの実物写真はこちら
コントローラーは、ハンドトラッキング対応機種が限られます。詳細はこちら
VRChatをVRでやっているとき、「VRだとどのコントローラが一番いいのかわからない」と思うことありませんか?VR機材は、ヘッドマウントディスプレイだけでなく、コントローラも、没入感を得たり、ゲーム…