视算通模拟器的真实双手

VisionOS 模拟器手部

此项目旨在向 Vision OS 模拟器中注入“真实”手部。

Untitled-1.mov

工作原理

它使用了 2 个东西:

  1. 具有 bonjour 服务的 macOS helper 应用
  2. Swift 类,连接到 bonjour 服务的 VisionOS 项目

当前状态

这是一个概念验证。因为它我不再有时间维护它的 OSS!请当它未维护。

此代码并非在操作系统级别注入手部,因此请不要指望它能够控制原生内容,如捏合手势、移动窗口和与 VsionOS 交互。目前无法实现这一点。

相反,此项目对于想要测试手部如何与其他 3D 元素交互的人以及希望开始从事自定义手势工作的人(例如在 HappyBeam 示例项目中看到的手势)的人来说很有用。

macOS Helper 应用

helper 应用使用 Google MediaPipes 进行 3D 手部跟踪。这是一个非常基本的设置——它使用 WKWebView 运行 Google 示例代码,并将手部数据作为 JSON 传递给原生 Swift。

然后,Swift 代码通过 Bonjour 服务吐出 JSON。

VisionOS 代码

这基本上是一个寻找 Bonjour 服务并摄取数据的文件。它会为每个找到的手创建一个 Hand 对象,其中包含类似于 RealityKit 的属性。

GitHub

点击跳转