苹果一直在研究如何让 “Apple Glass “风格的头显进行色度抠像,或者用苹果 AR 图像替换纯色背景。一项名为”低延迟色度键控嵌入头戴式显示器,用于混合现实”的苹果美国专利申请,于 2020 年 2 月提交,但本周才披露。我们现在都很熟悉用其他图像,如徽标或海滩场景来取代办公室和家庭的背景。我们也很熟悉这些东西很少有好的效果,特别是当发言人移动时。
这在一定程度上是因为即使做得不是很有效,这种背景替换也需要大量的处理能力。在 2020 年 7 月的更新之前,微软 Skype iOS 版本甚至不能像 Mac 或 PC 版本那样模糊背景。这种模糊是一个复杂的过程,但其中一部分涉及确定一个人的头部结束和背景开始的位置。Chroma key 让这一过程变得非常简单,因为人物被放置在一个单一的纯色背景前。这和电影中使用的绿屏或蓝屏过程是一样的。
当视频会议画面的哪一部分是说话的人,哪一部分是他们的背景非常明显时,像 Zoom 或 Skype 这样的系统可以更容易地替换背景。不过那些都是 2D 系统,而 “苹果眼镜 “的目标是用 3D 的方式来实现,这样当佩戴者四处走动时,背景就可以被替换掉,而不是仅仅看着一个平面屏幕。因此,苹果的专利申请同时涉及到为苹果 AR 制作 3D 立体版背景替换,以及让它的工作速度足够快。其中一部分与头显处理能力有关,但也与将数据返回用户视野的速度有关。苹果表示,需要一个可穿戴式沉浸式头显(HMD),利用嵌入式立体 RGB 摄像头捕捉环境,做实时的颜色键控,还有一个显示系统来显示增强了虚拟内容的真实世界图像。该系统以高帧率(通常为 75 帧/秒或更多)运行,通过捕捉图像并将其格式化以在头显本身中显示,它实现了小于一帧的延迟。
所以,苹果的提案所说的是,头显拥有相机传感器,在混合现实环境中执行 Chroma key,并且要在对佩戴者来说最小延迟情况下完成。低延迟是通过在头显本身嵌入处理来实现的,具体来说,就是将摄像头图像格式化,检测所选颜色范围,并与虚拟内容进行合成。该专利申请并没有解决替换图像来自哪里的问题。在 Zoom 或 Skype 会议中,这将由演讲者自己进行选择。