查看原文
其他

VR手部交互阶段观察:研发投入手势交互、外设精细化和轻量化、触觉反馈成为关注方向 |「游戏技术应用与产业进化」

东西游戏 东西游戏 2023-10-16


期,Meta、索尼、Pico陆续更新旗下头显设备的信息。新一代VR头显在光学方案、显示方案、交互方式上,都呈现出较明显的进展,一些方向正在显现。


在交互方式上,新一代VR设备普遍配备了手部交互、眼动交互功能。如最新发布的Pico 4新一代头也对手部交互进行了更新,手柄采用宽频线性马达提升振动反馈体验感,并推出“裸手交互”功能。


手部交互被认为是更自然的VR交互方式之一。从早期基于手柄实现的手部追踪和交互,到近来日渐成熟的基于计算机视觉路线的裸手手势交互,手部交互方式也呈现出技术路线分化的趋势,科技巨头与专业化外设厂商也正在探索或已提出各自的解决方案。


现阶段主流的手部交互方案可以分为手柄、手套等外设交互方案,和基于计算机视觉的手势交互方案。


应用方面,VR手柄近期更多在原有基础上进行调整和改进,以求实现更准确的手部定位;VR手套由于对追踪精确度要求较高,硬件复杂程度和成本也相应提高,目前更多应用在B端,如电影和动画的手部动作捕捉。个别消费级VR手套,如bHaptics选择折中方案,削减手套传感器,靠头显的摄像头提供手部追踪,从而压低成本,以最低299美元的售价打入消费级市场。


手势交互领域,VR大厂主要采取自研方案。如Meta的Reality Labs为Oculus头显提供手势交互算法等技术支持;Quest 2还在4月对手部追踪功能进行了更新,大幅提高了手部追踪的稳定性,并改善了手势识别功能。


此外,腾讯投资的手部追踪与触觉反馈技术公司Ultraleap也拥有Leap Motion Controller、Stereo IR 170等硬件模块,以及软件Gemini,为VR头显提供手部追踪方案,并且在汽车驾驶、无接触点餐等场景得到广泛应用。


在技术和应用趋势方面,手部交互呈现出外设精细化和轻量化、应用进一步适配的趋势。苹果、谷歌等大厂在智能指环领域有专利布局,有望为VR提供更精细化的手指追踪和手势识别。


越来越多VR游戏正在进行手势交互适配,还有专门以手部追踪为核心机制的游戏即将推出,手部追踪和手势识别的技术进步有望助推VR游戏诞生新品类,为玩家提供不同的游戏体验。


从近期资本动向和大厂布局来看,触觉反馈也将成为手部交互领域值得关注的方向。




VR手柄交互:相对成熟的主流交互方案,研发注重性能优化与佩戴体验


现阶段主流手部交互方案可以分为使用手柄、手套等的外设交互方案,和基于计算机视觉的手势交互方案。


外设交互方案中,消费端VR主要采用手柄,靠手柄内置的传感器、红外LED等实现大框架内的手部定位和移动追踪,通过按键方式实现交互。


其中,主流的手柄大多采用感应圆环设计。如Quest 2的手柄采用了感应圆环和inside-out追踪方案实现对手柄的追踪;PSVR2也从PS Move的圆球转向通用的感应圆环设计;刚刚发布的Pico 4继续采用并扩大了感应圆环。


圆环中设有若干红外LED,向外发射红外光,由头显上的红外摄像头接收并实现定位。由于红外摄像头下红外LED灯组呈现出星空般的效果,这套主动红外光定位方案也被称为“星座”定位系统。


而在感应圆环设计的基础上,目前大部分硬件和技术厂商的手柄交互方案相差不大。但随着部分厂商已经或即将推出新一代头显,手柄交互方案也在优化,并出现一定的技术路线分化。以pico、Meta和索尼为例:


Pico:手柄交互注重改善佩戴体验


新一代VR一体机Pico 4,对比上一代neo 3,在手部交互方面有了较大的提升。在手柄交互上,改进主要体现在设备佩戴体验方面,从此前通用的环状感应圆环设计改为带状缠绕式的“星环弧柱设计”,避免在使用过程中手柄之间互相磕碰;此外手柄还搭载宽频线性马达,提升振动反馈的体验。



Meta:去“感应圆环”,自研inside-out传感器


根据外网流出的拆箱视频显示,还未正式发布的Quest Pro去掉了感应圆环,采用了自研的inside-out传感器,使其在头显摄像头捕捉范围外也能工作。



索尼:手柄加入触觉反馈,加强反馈交互


PSVR凭借与其主机适配的游戏生态,在当前VR一体机占主导的市场中依然保有一定份额。PSVR没有专用的手柄,而是将PS Move手柄与其适配,手柄通过顶部圆球实现定位,并提供振动反馈功能。而在最新披露的PSVR2信息中显示,新一代手柄将采用通用的感应圆环设计,通过按键进行交互。同时,PSVR2手柄还将提供触觉反馈功能,据先行体验过的外网博主表示,能够提供更真实的游戏体验。




VR手势交互:头部厂商加速布局,当前较为早期,应用程度不一


相比较为成熟的手柄交互,以手套为代表的外设交互,以及不依赖外设的手势交互还相对早期。整体呈现出大厂自研与创新公司并存,应用程度不一的格局。


其中,手势交互方案无需外设,主要依靠头显上的摄像头捕捉手部图像,并结合计算机算法(如SLAM)实现对手部的骨骼建模、移动追踪、手势识别和交互。手势交互相关技术需求算法基础叠加大量数据的训练,目前头部VR公司更倾向于在标配手柄的基础上进行自研,或投资相关技术供应商,加速布局。


  • Meta:入局时间早,自研推进手势交互方案


2020年,Quest就投入使用了无控制器手部追踪功能,并于2022年4月对手部追踪功能进行了重大升级,解决了以往手部追踪中双手接触或遮挡会导致虚拟手显示不稳定的问题。这次更新还改善了手势识别功能,用户可以通过特定手势与系统进行交互。


Meta的手势交互方案由Reality Labs提供技术支持,例如RL曾在其网站上公开了Quest基于四颗黑白摄像头的手势识别算法原理。


  • Pico:自研手柄,手势交互方案正由外部支持转向自研


在手势交互方面,Pico正在由外部支持转向自研的探索。Pico 4支持裸手交互,相比前代neo 3有了较大的提升,此前neo 3需要依靠Ultraleap提供的手部追踪套件实现手势交互功能。根据官方演示视频显示,Pico 4的裸手交互目前可以实现简单的交互操作,如呼出菜单、点击、拖拽等。


  • 索尼:手势识别与交互相关技术已在电视、汽车等业务应用,逐步覆盖AR等领域


手势交互技术方面,索尼的手势识别和交互技术目前更多应用在其电视和汽车业务中;近期推出了用于AR的3D手势识别软件工具包“ToF AR”。目前已披露的PSVR2信息中并未提及手势交互功能。


  • 腾讯:VR领域新变量,已投资手势交互技术公司


今年6月腾讯确认成立XR(扩展现实)部门,腾讯对VR的布局也将成为新变量。值得注意的是,2021年11月,腾讯、招银国际等资方以6000万英镑投资投资手势交互和空气触觉领域的头部公司Ultraleap。后者产品包括手势追踪组件Leap Motion Controller、Stereo IR 170、Ultraleap 3Di,空气触觉设备STRATOS Inspire,以及手部追踪软件Gemini。


Ultraleap以摄像头组件的形式为Pico neo 3 pro/pro eye、Oculus Rift和HTC Vive提供手势交互。Ultraleap的手势识别方案基于红外传感,Stereo IR 170和Leap Motion Controller均内置红外LED和红外摄像头,LED发出红外光照到双手,反射光线可被红外摄像头识别到,进而实现基于光学数据的手势识别。这套红外识别方案的优势在于不易受到光照条件影响,可以用于工厂、户外等光照条件不同的场景,因此在B端VR中也有广泛的应用,如Varjo XR-3和VR-3、Lynx R-1、XTAL VR等。



在疫情下,Ultraleap的技术和产品在非接触式公共场所应用领域(如无接触点餐)获得了机会。在VR领域,Ultraleap为Pico的neo 3 pro/pro eye提供手部追踪套件;Leap Motion Controller也支持Oculus Rift和HTC Vive头显。




VR手套等交互外设:

创业机会更多,应用领域相对广泛


相对于已在消费市场中普及的VR手柄,VR手套还处在由B端向C端的应用拓展过程中,更多应用在B端场景,如企业培训、影视、医疗康复等,且已出现一批专业化外设厂商(主要是手套)。代表公司包括:


Haptx


HaptX是一家生产用于VR和机器人场景的触觉手套的触觉技术公司。产品包括HaptX Gloves DK2,面向企业和专业人士等B端客户,采用“基于硅胶的微流体触觉反馈层压板”和“气动控制架构”,为用户提供触觉反馈。同时可以实现每只手40磅的模拟力反馈,以及亚毫米精度的运动追踪。公司成立于2012年,目前有50名员工,近期融资2300万美元用于加速下一代触觉技术的开发,计划在明年将员工规模翻一番。


bHaptics


bHaptics是一家专注于消费级VR触觉设备的韩国公司,拥有可以提供震动反馈的衣服、手镯、手套、面罩等产品,消费级触觉手套产品“TactGlove”售价299美元,可在Quest 2、HoloLens 2等头显上实现手部追踪和触觉反馈功能。


bHaptics能提供VR手套领域较少见的消费级产品。Tactglove手套通过指尖的小型LRA电机实现触觉反馈,并通过折中的方案来实现消费级定位。相比于其他VR手套,Tactglove没有集成传感器,而是要依靠头显的摄像头来实现手部追踪。



Manus


旗下Quantum Metagloves采用亚毫米级精确的指尖追踪传感器,可以提供高保真、高精确度的手指捕捉数据。其产品被迪士尼、EA、Netflix采用,用于游戏、动漫、影视的专业制作。


作为在B端已有较成熟应用的一类外设,VR手套开始得到VR大厂的关注和布局。如Meta就已公布一项触觉手套的研究成果,结合了软体机器人、微流体、手部追踪等技术,为用户还原虚拟世界中的触觉。




手部交互趋势:外设精细化和轻量化、应用进一步适配、触觉反馈成为关注方向


在VR手部交互的技术和应用趋势方面,呈现出外设精细化和轻量化、应用进一步适配的趋势。


  1. 外设精细化和轻量化


尽管苹果MR头显的面世时间仍没有明确消息,但近来苹果公布了多项VR/AR相关专利,其中就有两项与VR指环相关的专利。其中一项智能指环专利涉及一种新的基于自混合干涉测量(SMI)传感器的手势输入系统,专利文件中显示,智能指环可以被单独或成对使用,可搭配Apple Pencil,用于AR、VR和MR应用。如在MR应用场景中,佩戴在用户拇指和食指上的指环可以用来识别手势,如捏合、缩放、旋转等。


不只苹果,谷歌近两年也公布了两项智能指环专利,还在2020年领投了智能指环公司Oura。


国内VR企业也对VR指环有所关注。NOLO在去年底公布了自研的6DoF VR指环演示视频,使用者可以通过指环来玩VR游戏《Beat Saber》,中途停下来喝水时也无需摘下戒指。


指环这一外设形态目前在AR+车载娱乐场景的应用推进更快一步,已有产品落地。如蔚来汽车推出的车载AR眼镜NIO Air AR Glasses,就搭配了NIOAirRing智能指环作为控制器,可以实现3DoF定位,对AR内容及车辆座舱功能进行控制和交互。



2.应用进一步适配


自4月Quest 2对手势追踪功能进行更新后,有更多VR游戏对手势交互功能做出了适配。


烹饪游戏《Clash of Chefs》对手势交互进行了适配和优化。此前该游戏就因为有趣的交互如向别人扔盘子、扔洋葱等,受到玩家的好评,这些简单、趣味性的交互方式就很适合与手势交互相结合。适配手势交互后,玩家不再需要按动手柄扳机,只需要做出抓取、投掷等自然手势就可以实现游戏交互。


在今年的Gamescom上,VR游戏工作室Panoptes展示了将于2023年发布的解谜游戏《Silhouette》,游戏以手部追踪作为核心解谜机制,玩家需要用手的影子来破解谜题,比如用手影来创建桥梁、阻挡水流,又或是用手比出手枪的影子,用以射击清除障碍物。


随着手部追踪和手势识别的技术进步,VR游戏也有望诞生新品类,为玩家提供更丰富、新颖的游戏体验。


3.触觉反馈成为关注方向


在融资方面,2022年至今有2起手部交互领域融资并购事件发生,两家公司的主要领域均为触觉反馈。


9月2日,Meta收购了柏林的触觉反馈初创公司Lofelt,收购价格未公开。Lofelt成立于2014年,此前有被称为“可穿戴式低音炮”的Basslet腕带产品,为用户提供与音乐匹配的触觉效果;Lofelt还推出了开发者工具Lofelt Studio,让开发者能够为智能手机应用和游戏控制器创建精细的触觉效果。雷蛇的Nari Ultimate游戏耳机中也采用了Lofelt的触觉技术,能为音乐增加触觉效果。



9月15日,触觉手套技术公司HaptX筹集了 2300 万美元,由AIS Global和Crescent Cove Advisors领投,Verizon Ventures、Mason Avenue Investments和Taylor Frigon Capital Partners参投。


触觉反馈技术此前在VR手柄中已有应用,新一代VR头显如PSVR2也更加重视触觉反馈功能,在手柄和头显上都提供了触觉反馈,以求为玩家提供更身临其境的体验。Meta也在自研触觉反馈手套,曾在去年底公布过触觉手套的演示视频。


近期也有触觉手套新项目开启,日本VR设备公司Diver-X宣布将于9月下旬开启VR触觉手套“Contact Glove”的众筹,手套将配备形状记忆合金制成的压力触觉反馈模块,食指一侧配备3个磁性传感器以实现按钮输入和滑动输入。Diver-X此前产品有可以躺着使用的VR头显设备HalfDive。


结合VR大厂布局和近期资本动向,触觉反馈将成为手部交互领域一个值得关注的方向,有望提升VR体验的沉浸感。



近期东西游戏相关内容









您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存