这是全球首份AR报告 2万字告诉你它为什么比VR还酷

AR硬件发展的驱动力源于计算机处理器、显示技术、传感器、移动网络速率、电池续航等多个领域的技术进步。

目前能够确定的AR硬件类型有以下几种：

• 手持设备（Handheld Devices）

• 固定式AR系统（Stationary AR Systems）

• 空间增强现实（SAR）系统（Spatial Augmented Reality Systems）

• 头戴式显示器（Head-mounted Displays ，即HMD）

• 智能眼镜（Smart Glasses）

• 智能透镜（Smart Lenses）

手持设备

智能手机正是手持设备的代表。我们正经历着智能手机、平板电脑等手持设备的大爆炸时代，这将会促进AR的普及。这些设备正在变得越来越好——显示器分辨率越来越高，处理器越来越强，相机成像质量越来越好，传感器越来越多，提供着加速计、GPS、罗盘等等功能……这些成为了天然的AR平台。尽管手持设备是消费者接触AR应用最为方便的形式，但由于大部分手持设备不具备可穿戴功能，因此用户无法获得双手解放的AR体验。

固定式AR系统

俄罗斯一家Topshop内的固定式AR衣橱

固定式AR系统适用于固定场所中需要更大显示屏或更高分辨率的场景。与移动AR设备不同的是，这些极少移动的系统可以搭载更加先进的相机系统，因此能够更加精确地识别人物和场景。此外，显示单元往往能呈现出更加真实的画面，而且受阳光或照明等环境因素影响较小。

空间增强现实（SAR）系统

大众公司的SAR系统

与其它所有系统不同的是，空间增强现实（SAR）系统的虚拟内容直接投影在现实世界中。SAR系统往往固定在自然中。任何物理表面，如墙、桌、泡沫、木块甚至是人体都可以成为可交互的显示屏。随着投影设备尺寸、成本、功耗的降低以及3D投影的不断进步，各种全新的交互及显示形式正在不断涌现。SAR系统最大的优点在于，现实世界的反射在这里更加精确，即虚拟信息能够以实际的比例和大小呈现在眼前。此外在观看人数较多时，内容也能看清，这个案例可以用来实现同步办公。

头戴式显示器（HMD）

佳能的混合现实头戴设备

HMD代表着另一种快速发展的AR硬件类型。HMD由一个头戴装置（如头盔），以及与之搭配的一块或多块（微型）显示屏组成。HMD将现实世界和虚拟物体的画面重叠显示在用户视野中。换而言之，用户不会直接看到现实，看到的是现实的增强视频画面。如果显示屏只覆盖用户的一只眼睛，这样的HMD称为单眼HMD，另一种是两只眼睛都看显示屏的双眼HMD。先进的HMD通常能够搭载具有很高自由度的传感器，用户可以在前后、上下、左右、俯仰、偏转和滚动六个方向自由移动头部。该系统因此能够实现虚拟信息与现实世界的贴合，并根据用户头部移动作做相应的画面调整。

智能眼镜

Vuzix M100智能眼镜

消费电子行业的许多公司认为，智能眼镜将会成为智能手机后下一大全球热卖消费产品。这些AR设备实际上是带有屏幕、相机和话筒的眼镜。根据这一概念，用户的现实世界视角被AR设备截取，增强后的画面重新显示在用户视野中。AR画面透过眼镜镜片，或者通过眼镜镜片反射，从而进入眼球。智能眼镜技术最为突出的例子是谷歌眼镜和Vuzix M100。不过，目前开发中的最令人激动的智能眼镜要数Atheer One——该智能眼镜配有3D景深传感器，用户可以实际控制眼前显示的虚拟内容。

智能透镜

华盛顿大学开发的透镜中含有金属电路结构

智能眼镜绝不是故事的结局。越来越多的研究投入到能显示AR画面的智能透镜上；微软、谷歌等公司也正忙于宣布自己的智能透镜项目。

智能透镜的理念是在传统透镜中集成控制电路、通信电路、微型天线、LED及其它光电组件，从而形成一套功能系统。未来或许可以用成千上万颗LED直接在眼前形成画面，从而让透镜变成显示屏。然而，还必须克服一系列难题，比如说如何给透镜供电，如何保证人眼不受伤害等等。

在这一章的最后，我们简单看下AR技术会应用到哪些领域：

考古：在古代遗迹上显示遗迹原本的样子。

艺术：跟踪眼球移动并将这些移动显示在屏幕上，帮助残疾人进行艺术创作。

商业：显示产品的多种定制选项或者补充信息。

教育：将文本、图像、视频和音频叠加到学生周围的实时环境中。

时尚：显示不同的妆容和发型用在一个人身上的效果。

游戏：运用真实世界环境让用户在游戏中进行互动，获得不同的体验。

医药：通过虚拟X光将病人的内脏器官投射到他们的皮肤上。

军事：使用AR眼镜向士兵展示战场中出现的人和物体，并附上相关信息，以帮助士兵避开潜在的危险。

导航：将道路和街道的名字跟其他相关信息一起标记到现实地图中，或者在挡风玻璃上显示目的地方向、天气、地形、路况、交通信息，提示潜在危险。

体育：显示橄榄球场的得分线、高尔夫球的飞行路线和冰球移动的轨迹。

电视：在天气预报中显示天气视觉效果和图像。

以下为AR报告第二章：AR的工作原理

AR介于VR和真实世界之间，VR创造逼真的虚拟世界，AR则将图形、声音、触感和气味添加到真实的世界中。

在介绍AR的工作原理之前，我们先通过一个例子，让大家有一个简单的认识。

在2009年2月的TED大会上，帕蒂•梅斯（Pattie Maes）和普拉纳夫•米斯特莱（Pranav Mistry）展示了他们研发的AR系统。该系统属于麻省理工学院媒体实验室流体界面小组的研究成果之，他们称之为SixthSense（第六感）。它依靠众多AR系统中常见的一些基本元件来工作：摄像头、小型投影仪、智能手机和镜子。

 

 

 

 

这些元件通过一根类似绳索的仪器串连起来，然后戴在佩戴者的脖子上。用户还会在手指上戴上四个不同颜色的特殊指套，这些指套可以用来操纵投影仪投射的图像。

SixthSense设备利用简单的、现成的元件来组成AR系统，它的投影仪可以将任何平面变成一个互动的显示屏。SixthSense设备利用摄像头和镜子来捕捉周围的环境，然后将这种图片传给手机（手机处理这种图片，获得GPS坐标以及从互联网上搜索相关信息），然后将这些信息从投影仪投射到用户面前的任何平面上，不管这种平面是一个手腕，一面墙，还是一个人。由于用户将摄像头佩戴在胸前，因此SixthSense设备能够增强他所看到的一切。例如，如果他在一个杂货店里挑选了一罐汤，SixthSense设备将能够搜索这罐汤的相关信息，例如成分、价格和营养价值甚或用户评论，然后将它们投射到平面上。

利用手指上的指套，用户可以在投射的信息上执行各种操作，这些操作将会被摄像头捕捉到，然后通过手机来处理。如果他希望了解这罐汤的更多信息，例如与之竞争的同类产品，那么他可以用手指与投射画面进行互动，从而获取更多的信息。SixthSense设备还能够识别一些复杂的手势，例如你在手腕上画一个圆圈，SixthSense设备就能够投射一款手表来显示当前的时间。

AR的系统结构

 

 

 

 

一个典型的AR系统结构

一个典型的AR系统结构由虚拟场景生成单元、透射式头盔显示器、头部跟踪设备和交互设备构成。其中虚拟场景生成单元负责虚拟场景的建模、管理、绘制和其它外设的管理；透射式头盔显示器负责显示虚拟和现实融合后的信号；头部跟踪设备跟踪用户视线变化；交互设备用于实现感官信号及环境控制操作信号的输入输出。

首先透射式头盔显示器采集真实场景的视频或者图像，传入后台的处理单元对其进行分析和重构，并结合头部跟踪设备的数据来分析虚拟场景和真实场景的相对位置，实现坐标系的对齐并进行虚拟场景的融合计算；交互设备采集外部控制信号，实现对虚实结合场景的交互操作。系统融合后的信息会实时地显示在头盔显示器中，展现在人的视野中。

AR的关键技术

目前AR技术的技术难点在于：精确场景的理解、重构和高清晰度、大视场的显示技术。

1、对现实场景的理解和重构

在增强现实系统中，首先要解决“是什么”的问题，也就是要理解、知道场景中存在什么样的对象和目标。第二要解决“在哪里”的问题，也就是要对场景结构进行分析，实现跟踪定位和场景重构。

物体的检测和识别技术

 

 

物体检测和识别

物体检测和识别的目的是发现并找到场景中的目标，这是场景理解中的关键一环。广义的物体检测和识别技术是基于图像的基本信息（各类型特征）和先验知识模型（物体信息表示），通过相关的算法实现对场景内容分析的过程。在增强现实领域，常见的检测和识别任务有，人脸检测、行人检测、车辆检测、手势识别、生物识别、情感识别、自然场景识别等。

目前，通用的物体检测和识别技术，根据不同的思路可以分为两种：一种是从分类和检测的角度出发，通过机器学习算法训练得到某一类对象的一般性特征，从而生成数据模型。这种方法检测或者识别出的目标不是某一个具体的个体，而是一类对象，如汽车、人脸、植物等。这种识别由于是语义上的检测和识别，所以并不存在精确的几何关系，也更适用于强调增强辅助信息，不强调位置的应用场景中。如检测人脸后显示年龄、性别等。另外一种识别是从图像匹配的角度出发，数据库中保存了图像的特征以及对应的标注信息，在实际使用过程中，通过图像匹配的方法找到最相关的图像，从而定位环境中的目标，进一步得到识别图像和目标图像的精确位置，这种识别适用于需要对环境进行精确跟踪的应用场景。

就现阶段而言，识别检测技术的难点之一是技术的碎片化。这一方面是由于每一类对象都会有其独有的特征，而不同特征的提取和处理都需要实现一一对应，这对识别检测是一个巨大的挑战。另一方面，图像本身还受到噪声、尺度、旋转、光照、姿态等因素的影响。近几年来，随着深度学习技术的不断成熟，检测和识别方法也越来越统一，而性能也在不断提高中。

跟踪定位技术

跟踪技术的方法可以分为基于硬件和基于视觉两大类。基于硬件设备的三维跟踪定位方法在实现跟踪定位的过程中使用了一些特殊的测量仪器或设备。常用的设备包括机械式跟踪器、电磁式跟踪器、超声波跟踪器、惯性跟踪器以及光学跟踪等。光学跟踪和惯性跟踪是比较常用的两种硬件跟踪方式，HTC Vive就是采用了光学跟踪和惯性跟踪两种硬件来定位头部的位置。使用硬件设备构成的跟踪系统大多是开环系统，跟踪精确取决于硬件设备自身的性能，其算法的扩展性要差一些，且成本相对较高。

 

 

 

 

HTC Vive 采用光学和惯性跟踪设备

视觉跟踪方法具备更强的扩展性，其系统多为闭环系统，更依赖于优化算法来解决跟踪精度问题。相比于上述基于硬件设备的跟踪方法，计算机视觉跟踪方法提供了一种非接触式的、精确的、低成本的解决方法，但是基于视觉的方法受限于图像本身，噪声、尺度、旋转、光照、姿态变化等因素都会对跟踪精度造成较大的影响，因此更好地处理这些影响因素，研发鲁棒性强的算法就成为下一步AR技术的研究重点。

根据数据的生成方式，视觉跟踪技术的算法可以分为两种，一种是基于模板匹配的方式，预先对需要跟踪的target进行训练，在跟踪阶段通过不断的跟预存训练数据进行比对解算当前的位姿。这类方法的好处是速度较快、数据量小、系统简单，适用于一些特定的场景，但不适用于大范围的场景。

另外一种是SLAM方法，也就是即时定位和地图构建技术。这类技术不需要预存场景信息，而是在运行阶段完成对于场景的构建以及跟踪。其优点是不需要预存场景，可以跟踪较大范围，适用面广，在跟踪的同时也可以完成对于场景结构的重建。但目前这类技术计算速度慢、数据量大、算法复杂度高，对于系统的要求也较高。Hololens和Magic Leap的宣传视频中都展现了这方面技术，而亮风台对相应的技术也在研发当中。

 

 

 

 

SLAM跟踪技术

为了弥补不同跟踪技术的缺点，许多研究者采用硬件和视觉混合跟踪的方法来取长补短，以满足增强现实系统高精度跟踪定位的要求。

2、增强现实的显示技术

透射式头盔显示器

 

 

 

 

透射式头盔显示器 Hololens

目前大多数的AR系统采用透视式头盔显示器实现虚拟环境与真实环境的融合。根据真实环境的表现形式划分，主要有视频透视式头盔显示器和光学透视式头盔显示器两种形式。

视频透视式头盔显示器通过安装在头盔上的微型摄像头获取外部真实环境的图像，也就是通过摄像头来采集真实场景的图像进行传递。计算机通过场景理解和分析将所要添加的信息和图像信号叠加在摄像机的视频信号上，将计算机生成的虚拟场景与真实场景进行融合，最后通过类似于浸没式头盔显示器的显示系统呈现给用户。

虽然视频透射式头盔在显示上不受强光的干扰，具有比较大的视场，但由于真实环境的数据来自于摄像头，因此会造成显示分辨率较低的不利因素。另一方面，一旦摄像机与用户视点不能保持完全重合，用户看到的视频景象与真实景象将会存在偏差，因此会造成在某些领域（特别是工业、军事等领域）出现一些安全隐患。

光学原理的透视式头盔显示器的基本原理则是通过安装在眼前的一对半反半透镜融合呈现出真实场景和虚拟场景。与视频透射式不同的是，光学透视式的“实”来自于真实的光源，经过透视光学系统直接进入眼睛，计算机生成的“虚”则经过光学系统放大后反射进入眼睛，最后两部分信息汇聚到视网膜上从而形成虚实融合的成像效果。

光学透视式头盔相对来说结构简单，分辨率更高，因其能够直接看到外部，真实感和安全性也更强。其缺点是，在室外强光条件下显示效果会受影响。目前Hololens以及亮风台的HiAR Glasses都采用了光学透射式的成像方案。

不难看出，两种方案各有优缺点，如何选择最优方案，目前来看，还应基于实际应用场景来进行判断。

由于光学透射式头盔跟实际场景结合更紧密，真实感更强，大多数厂家会选择这种方案。对于透射式头盔显示器来说，单纯的强调厚薄或者视场大小并没有任何实际意义。这是由于厚度和视场是矛盾的，要做得较薄，方便用户使用佩戴，视场就必然变小；想要拥有大视场，则其厚度就必然增大，设备就目前来说也会显得比较笨重，不易佩戴。因此在目前技术依旧存在障碍的情况下，大家都会采取一些折中的方案。

数字光场显示

 

 

 

 

Magic leap 光场显示

随着Magic Leap的宣传视频，数字光场这个概念也变得广为人知。这种不采用屏幕来做载体的显示方式，通过记录并复现光场来完成虚拟物体的显示。通过呈现不同深度的图像，使用户在观察近景或远景时，可以实现主动的对焦，这也是光场显示的一大优点。

同样，光场显示也有不同的显示方案，一种方案是采用多层的显示器，如光场立体镜。如Magic Leap采用的是光导纤维投影仪。这套方案的优势是可以做到很大的视场角，显示更加符合人的真实感受。但这一方案同时也具有比较大的挑战性，光场的显示需要比较大的计算量，并且需要有相应的手段记录或者生成想要叠加的虚拟对象相应位置的光源信息，同时还要精细地控制投影的内容和位置，目前这些技术还都处于研究阶段。

尽管存在比较多的挑战，光场显示技术仍旧是非常值得期待的一种成像方式。

以下为AR报告第三章：布局

从目前来看，绝大多数巨头和创业公司更愿意选择在VR领域开疆拓土，但这并不意味着AR无人问津。

苹果

种种迹象显示，苹果可能和微软一样瞄准了AR领域，并非时下最热的VR。

 

 

苹果已经在AR领域进行过一些并购交易。2015年5月，苹果收购了一家名为Metaio的德国AR公司。该公司主要开发基于智能手机的AR应用软件，比如其曾经开发一款让家具视觉化呈现的工具。该公司被收购之后，实体被注销，人员融入了苹果的开发团队。

 

 

 

 

2014年年底，苹果收购了一家从事脸部视觉识别的公司——FaceShift，该公司的技术能够利用摄像头对用户脸部图像进行实时捕捉，甚至可以生成虚拟的头像。

据悉，电影《星球大战：原力觉醒》的特效团队曾经使用了上述公司的技术，让外星人的脸部形象更加栩栩如生。

 

 

 

 

此外，苹果还曾经收购了以色列的硬件公司PrimeSense，该公司主要为微软的Xbox游戏机制造Kinect动感捕捉摄像头。

该公司具备了先进的手势动作识别技术。在AR领域，用户一般不会使用手持控制器，因此识别手部动作十分重要，这一技术也能够用于AR头盔中。

除了各种并购之外，苹果也储备了一些和AR有关的技术专利。这些专利并不意味着苹果一定会开发某种技术或者硬件，但是可能披露了苹果未来产品开发的某些思路。

2015年2月，苹果获得一个技术专利，主要用于让智能手机连接AR和VR头盔。专利描述文字和谷歌(微博)、微软、三星电子和Facebook近些年推出过的产品十分相似。

不过迄今为止，苹果从未对外宣布过开发AR硬件、软件等产品的计划。苹果向来并不喜欢做新技术的第一批尝鲜者，而是善于在市面已有的产品门类中拿出用户体验十分优秀的产品，依靠苹果的品牌力大规模占领市场。因此在AR领域，苹果也会选择一个相对成熟的时机再进入市场。

微软

微软应该算是布局AR比较超前的巨头公司，其在2015年就推出了AR头盔HoloLens，开发者版已经开启预订，售价为3000美元。

我们之所以能够看到物体，是因为光线被这些物体反弹，最后射入我们的眼中。而我们的大脑需要对这些光进行复杂运算，最后重现你眼睛所看到物体的图像。HoloLens实际上就是欺骗大脑，将光线以全息图的方式发射到你眼睛中，就好像物体真的存在于现实世界中一样。

就像下面这幅图，HoloLens可以将屏幕投射到墙上。当用户四处走动时，屏幕依然会留在原地，就好像那是一面真实存在的镜子。HoloLens可在正确角度向你的眼中发射光线，让你觉得屏幕真的出现在墙上。

 

 

 

 

HoloLens本身就是一台独立电脑，拥有自己的CPU和GPU，以及微软所谓的全息处理单元，负责支持创造全息图必须的全部必要计算。

在消费者方面，HoloLens拥有巨大潜力，你可能再无需购买60英寸电视，HoloLens允许用户将电视屏幕发射到墙上，屏幕大小可随意调节。如果未来版的HoloLens足够紧凑，你可以想象到有人边开车边接受导航，但司机的实现不再局限于屏幕上，而是可看到前方道路的全息图。当然，游戏可能是HoloLens的重要卖点。

在企业方面，HoloLens最明显的应用就是实现3D模型或设计的可视化。HoloLens也可被用于视频会议等场合。此外，它的另一个用途可能是支持在线零售店，允许HoloLens用户看到其产品全息图。在你购买家具前，你就可以看到家具被摆放在室内的虚拟图。

由于HoloLens运行Windows 10操作系统，通用应用将可在其上顺利运行。这些应用将被投射到用户面前，可被便捷操作。对于微软来说，吸引开发者非常重要，因为这款设备最吸引人的应用可能还未出现。尽管HoloLens的硬件设施令人印象深刻，但其依然需要好的应用为消费者和企业提供最好的服务。

微软手中可能正握着一款革命性产品。在错失了移动大潮之后，微软将复兴的希望押在HoloLens身上，尽管在HoloLens成为大众设备前，它可能需要数次迭代，但对于微软来说，这将是改变游戏规则的良机。

谷歌

谷歌当前在VR领域比较活跃，如推出硬件产品 Cardboard头盔，YouTube上线360度全景视频功能，还提供Tilt Brush、Jump和Assembler等VR小应用，方便帮助开发者创新新的VR体验，但这并不意味着谷歌放弃了AR市场。

谷歌和联想合作，推出Project Tango项目。该项目旨在赋予智能手机3D绘图和创造AR体验的能力。Tango智能手机将于今年年终发货，相当于是一个完整功能的AR设备。

除了自身开发AR项目，谷歌还投资了AR创业公司Magic Leap。Magic Leap专注于AR技术的研发，其最终产品很可能是一款头盔，可将电脑生成的图像投射到人眼上，最终在现实图像上叠加一个虚拟图像。有关Magic Leap的情况，将在下文进行详细说明。

Magic Leap

Magic Leap算是知名度很高的AR创业公司。今年2月，Magic Leap在新一轮融资中获得7.935亿美元的投资，阿里、谷歌都参与了本轮融资。据估测， Magic Leap的估值至少达到45亿美元，这比两年前Facebook收购Oculus的价格高出了两倍。

Magic Leap研发的技术依然处于半透明状态，没有任何产品出现，我们目前只知道它主要研发方向就是将三维图像投射到人的视野中。

Magic Leap CEO鲁尼• 阿伯维兹曾公开表达过自己公司的定位：“你可以将我们看作是科技生物学（Techno-biology），我们认为它是计算机的未来。”

具体来说，Magic Leap制作图像的方法与人眼的工作方式相同。Magic Leap利用弯曲的光场制作图像，而不像其他平台那样利用立体图像欺骗眼球。利用其他3D图像投影方式，如果用户闭上一只眼睛，3D图像就会消失。在现实生活中，用户即使闭上一只眼睛，依然能够看到3D图像。Magic Leap便采用这种更为实用的图像制作方式。

以下为AR报告第四章：AR市场潜力

尽管过去一年里媒体开始大肆报道AR技术，我们目前了解到的大部分AR解决方案仍处于开发之中。只有少数硬件解决方案得到了大规模生产并能够买到。

2011年，全球AR营收仅为1.81亿美元，而且当时AR往往被人们视作一种营销噱头：一种还在摸索实用应用的技术。很少有人认识到AR的潜力，开发相关应用大多也是用来快速打响名声，或者这些应用的价值仅限于添加视频效果这样的博眼球之举而已。

 

 

 

 

然而最新预测指出，到2017年，AR市场将增长至52亿美元，年增长率竟逼近100%。随着大量资金注入AR项目及AR创业公司，尤其是随着谷歌(微博)、佳能、高通、微软等大公司的入场，我们已经看到第一批消费级AR产品的涌现。随着实际商业利益的出现， AR将成为消费、医疗、移动、汽车以及制造市场中的“下一件大事”。

AR比VR更具增长潜力

 

 

 

 

市场调研公司Digi-Capital给出的一组数据很值得研究：到2020年，AR的市场规模将达到1200亿美元，远高于VR的300亿美元。

VR对于游戏与3D电影来说是一项非常棒的技术，甚至可以说这项技术可谓是专门为此而设计的。但这项技术的体验主要是在客厅、办公室或者座位上展开的，因为如果你戴着一个完全封闭的头戴式显示器走在路上，随时都可能撞到路边的东西。

虽然AR技术应用在游戏也非常有趣，但在需要真正沉浸式体验的时候，其所带来的乐趣或许不如VR技术那么多，这就像是移动游戏与主机游戏之间的差距。但是，AR技术在游戏玩家眼中的这个缺点，恰恰是让它可以同智能手机一样，在数以亿计用户的现实生活中发挥重要作用的优势。人们可以戴着它四处活动，做任何事情。

AR的软件与服务拥有可与如今的移动市场相媲美的经济效应，它们都可以利用现有的其他产品的市场，并不断扩张它们。AR庞大的用户基础将会成为电视电影、广告以及Facebook的用户应用程序甚至《部落冲突》等游戏的主要收入来源。

换句话说，AR技术有可能触及到更多的人，因为它是对人们日常生活的无缝补充，而不是像VR那样在现实世界之外营造出一个完全虚拟的世界。

《增强现实：指向增强现实的一种新技术》一书的作者格里格·基佩尔（Greg Kipper）在书中写到：“增强现实将具备更多的实际应用价值，因为在现实中，与真实世界中的事物互动的人更多一些。”

在增强现实技术的帮助下，人们通过专用头盔看见的三维全息图像可以为真实世界提供一种有益的补充。当你走过一个杂货店的走道，你也许会在眼前的虚拟屏幕上看到制作意大利饭所需的食材和配料清单。又或者，当你在阅读一本有关天文学的书籍时，你周围可能会出现一幅太阳系的图像。

但是戴上虚拟现实头盔之后，你与周遭世界的联系就被人为隔断了。你被投影到一个不同的世界中，就像恐龙冲过一片丛林，或者像站在一幢100层的摩天大楼的楼顶上俯瞰着脚下的大街一样。这跟主题乐园的游历过程有些相似，就连虚拟现实头盔戴久了会让你感到恶心或者头晕也跟你在主题乐园中呆久了的感觉很相似。

Meta是硅谷的一家小公司，员工人数大约为100人。按计划它将在今年夏天交付第二代AR头盔，它的头盔是作为开发者工具套装的一部分出售的，整个套装售价949美元，主要用来帮助开发商为新头盔设计出更多的三维、互动应用。

Meta CEO梅隆·格里贝茨预计，有朝一日，人们再也不用一边在笨拙的键盘上敲敲打打，一边紧盯着显示屏的屏幕，人们可以在漂浮在眼前的全息图像之间随意切换和浏览，只需用手碰一碰就可以完成各种操作。当然还有虚拟键盘，人们可以利用它输入数据。

人们可以进入他们的全息影像屏幕，提取出人的解剖图，然后剔除骨骼进行研究。人们也可以通过透视去检查自己打算购买的鞋子的内部做工。到那个时候，打电话将会变成一种很奇怪的行为，因为所有人都可以在全息影像中进行对话。

格里贝茨说：“VR很酷，但它只是通向增强现实的一块垫脚石。我们将开发出比Mac电脑好用一百倍且强大一百倍的产品。”

以下为AR报告第五章：AR面临的挑战

对于AR而言，解决注册任务是最核心的问题。注册对精度的要求极为严格：由于AR应以实时、六个自由度的形式将虚拟信息和现实信息相融合，即便是轻微的注册失准都会造成组合视图难以容忍的失真。因此，移动AR存在两大难点：注册必须极为精准，注册对计算能力和内存的利用必须极为高效。

这个问题是AR面向大众部署所面临的终极挑战。我们断言，目前大部分已知的注册任务解决方案其实并不适用于智能手机——尽管看上去能用。因此，所有的AR研究人员都应该为智能手机AR的大空间应用问题开发专门的解决方案。

智能手机是AR大众市场最具前景的平台。智能手机生态系统为面向大众部署AR的纯软件解决方案提供了一切要素。然而不应忽视的是，尽管技术和逻辑取得了种种进步，但是AR应用在智能手机上的大规模部署仍然存在着下列重大障碍：

1、相机质量与成像处理。智能手机通常配备的相机传感器在弱光条件下表现糟糕：图像模糊，开始出现明显色差。相机传感器硬件通常禁止低层级访问。API只提供了相机传感器的高层级访问，无法控制曝光、光圈及焦距。小型CCD传感器导致相机采样噪点增加，进而严重影响后续CV算法的发挥。图像获取过程中的质量损失很难通过后期处理步骤补偿。

2、电量消耗。电池电量近年来并没有显著提升。相机传感器在以高帧率持续运行时耗电量很大，其主要原因是目前手机的设计用途仍然是拍照，而不是摄影。另外，传感器和网络接口也是耗电大户。运行功能强大的AR应用会让电池迅速耗干。因此，AR应用必须只能设计成供短时间使用，而不是一种“常开”功能。

3、网络依赖性。远程访问大量数据受到几个因素的影响。首先，网络延迟会导致令人不爽的延迟，拖累AR应用的瞬时表现。其次，访问远程数据仅在开了流量套餐时才有可能做到，而流量套餐可能过于昂贵或者无法开通。最后，某些地区的网络覆盖可能不满足条件。于是完全独立的AR应用成为了唯一的可行选择，这就意味着需要在设备上占用大量的存储空间。

4、可视化与交互的可能性。智能手机的外形因素在购买决策中发挥着重要作用。实际上，可接受最大设备的尺寸严格制约了显示屏的大小。交互技术同样存在着类似的限制。多点触控界面或许是最为先进的交互机制，但它在某些特定任务——如像素级的选取上表现糟糕。

理论上讲，针对AR改进未来智能手机需从哪些方面入手已是众所周知。在实践中，AR应用的开发者却要看硬件厂商和服务供应商的脸色，后者做出硬件发展决策的依据是市场预测，而其中可能不含对AR的需求。不过，硬件总体是朝着正确的方向发展的，尤其在移动游戏或移动导航系统的驱动下——而这两者与AR在技术需求方面存在许多共通之处。此外，研究人员意识到目前相机控制方面存在限制，更好的相机API也会因此诞生，比如Frankencamera项目。

尽管平板电脑作为一种流行移动平台也在不断壮大，但它属于放大版的智能手机平台。由于尺寸放大，可视化与交互的限制有了些许放松，但这些设备的尺寸和重量同时也制约着它们在AR领域的应用，原因是拿起来更加累人（比如说，把设备举起来较长时间可能需要两只手，反过来制约了交互的可能性）。除此之外，目前的平板电脑存在着与智能手机相同的问题。对于不同的AR应用而言，智能手机和平板电脑可能前者更适合，也可能后者更适合。

计算机视觉面临的挑战

智能手机的一大优势在于，定位不必单单依赖于相机传感器，也可以利用其它任意可用的传感器，如GPS，指南针，加速度计和陀螺仪。尽管其它传感器的使用在核心CV社区中往往被视为“作弊”，但这些传感器能够对开发实验室外快速、健壮的定位功能做出重大贡献。即便在结合了多种传感器的帮助下，基于CV的定位仍然非常困难，一系列原因列举如下：

纹理结构。大多数方法依赖于兴趣点外形上的自然特征，要求环境中各区域纹理足够清晰。兴趣点的主要问题在于，纹理的呈现形式至关重要。尤其在室内场景中，常常会有白墙出现，使得基于自然特征的定位方法很难发挥作用。

光照和天气条件。尽管自然特征描述器通常被设计为不受光照影响，但这一假设只有在描述实际物理特征的观测研究中成立。不幸的是，室外环境中大量以自然画面呈现的特征与实际物理特征并不相关。场景中物体投射的阴影会造成斑点、边角、线条的出现，还会随着光照或天气条件变化而动态移动。因此，存在着大量的会对定位质量产生严重影响的异常因素和不匹配因素，这与匹配算法的选择并无关系。

数据库规模大、易变化。对于室外环境而言，在定位之前必须采集大量数据并处理生成初始模型。利用昂贵设备的实时方法能够处理这一问题：然而，无法访问的区域仍然会造成最终模型中的孔洞（即未能构建地图的区域）。此外，得到的模型仅代表某个时间点的静态快照。环境中的任何变动，如商店橱窗的翻新，咖啡店遮阳伞的开闭，停车场汽车的去留，都会让数据采集生成的模型瞬间过时。另一个重要方面是通信通道（可能是移动网络）中最终模型的分发方式。由于这些模型通常体积颇大，整体还是拆分传输都会带来技术难题。

失准及丢失的传感信息。在室外定位中，GPS和指南针提供了关于设备大致位置和方向的极具价值的绝对信息。不幸的是，传感器并不健壮：在不同的地点，传感信息的准确度可能会有天壤之别。尤其是在狭窄的城市峡谷里，GPS信息可能会偏差100米，甚至会不可用。类似的是，磁干扰会严重影响电子指南针的读数，而磁干扰在人造环境中是不可避免的。

精准定位是AR亟待解决的最为重要的任务。但正如上面所述，仍然存在着一些重大挑战，仍需针对这些挑战寻找真正切实有效的解决方案。近来平板电脑AR的SLAM实施证明，如果上述条件（即纹理结构清晰）达到，就能充分实现小规模环境的定位注3。然而，大规模环境的定位仅存在于概念证明研究中。相关问题似乎难以攻克，因此只能等待技术的缓慢进步了。

其他挑战

除了实现算法研究成果的精度和可扩展性这样的学术目标外，还存在着一系列严重影响AR体验实用性的实际问题。这些因素仅与AR的实际应用相关，因此在科学文献中讨论较少。这或许会造成“这些问题不难解决或者与AR的成功不相关”的错误认识。下面列举了一些与智能手机有关、同时也与AR一般用途有关的问题：

实际的硬件发展与“AR心愿清单”的矛盾：目前智能手机中相机及其它传感器的质量不足以满足AR的高要求。硬件进步——如立体相机，CPU/GPU的统一随机寻址，WiFi三角定位——能够让AR应用的开发者极大受益。不幸的是，在AR尚未气候成熟时，期待手机会针对AR优化纯属幻想。硬件配置的任何变动会增加数百万美元的开发成本，倘若之后无法满足市场预期，搭上的钱还会更多。目前，消费者购买手机主要是为了语音通讯，游戏和网页浏览。这些市场将会驱动近期到中期的手机功能革新。我们必须说服设备厂家AR是手机应用的新兴市场，这样才能为AR争取到更先进的硬件。幸运的是，如今AR的关注度已成规模，因此不久的将来，手机针对AR的优化或将成为现实。

动态场景与AR真实感的矛盾。目前的AR应用假设场景中的一切事物都是静态的。然而，现实恰好与之相反。尤其在室外场景中，几乎所有物体都在变化：行人，光照和天气条件，甚至是建筑物每隔几年也会刷上新的颜色。定位会因此受到严重影响。在动态场景中，大多数算法的基本假设从一开始就是错误的。比如说你正在对一个建筑立面进行增强，行人路过挡住了部分视野。由于算法缺少阻挡推理，就算增强内容的视觉效果再好，未来硬件平台的性能再强大，也会出现碍眼的错误。动态物体与虚拟内容之间交互的缺失绝对会损害AR应用的真实感。因此，目前CV研究成果中物体动态检测与跟踪技术的加入是未来实现高质量AR的关键。

内容创作与注册的矛盾：AR之所以让人兴奋，很大程度上源于终端用户参与内容创作的发展前景。个人内容创作是促使用户积极参与而非被动观察的关键所在。然而，目前仍然没有实现这一概念的基本机制。尽管手机的交互方法得到了极大改进，但在没有精准全局环境模型的条件下，如何使用2D界面方便、精准地注册6自由度内容，这个问题仍未得到解答。就拿增强建筑物里面的一扇窗户举例，目前的方法甚至都无法搞定简单的标记任务。尚没有在开放空间内输入任意3D位置的机制，更别说明确指出方向了。目前决定标签的做法通常利用的是用户（不精准的）GPS位置，而不是兴趣物体本身。对于终端用户创作真实、理想的内容而言，在用户附近对任意位置进行精准注册一定要简单而健壮——然而，这又是一个超出CV基本范畴的研究难题。

以下为AR报告第六章：顺应AR潮流

近些年，AR引起了市场营销人员的注意，因为它可能改变消费者的购物体验，例如寻找新产品以及决定购买哪个产品。AR技术可以通过HoloLens 或谷歌(微博)眼镜或通过智能手机上的摄像头来将虚拟的元素（例如信息和图片）叠加在真实的物理环境之上。

但是，要发挥AR的潜力，公司应该克制草率开发AR应用程序的冲动，而把注意力放到深入理解消费者与AR技术互动的方式上来。设计和执行有价值的AR应用程序必须遵守以下几点：

·深入理解消费者如何使用AR技术；

·加强电脑专家、设计师和市场营销人员之间的合作；

·在消费者现有购物体验中整合AR应用程序。

AR技术的独特性

首先，任何公司必须理解AR技术与其他数字技术的区别。虽然它们在某些方面很相似（例如，它们的应用程序都可以在智能手机上使用，内容由文字或图片组成以及应用程序通常具有很强的互动性），但是AR技术也有自己内在的独特性：它能够将虚拟内容叠加在真实的物理环境中，并让这两者实现实时互动。

曾有一项实验来调查AR如何影响消费者的反应。这个实验总共有60个受试者参加，在这个实验中，受试者需要寻找他们喜爱的太阳镜或家具，他们要么通过（宜家家居或雷朋眼镜）AR应用程序来查找，要么通过那些可以搜索产品但无AR功能的应用程序来查找。实验结果发现，当受试者发现现实环境被实时增强时（例如，看到太阳镜模拟戴在他们脸上的样子，或看到一把椅子摆在虚拟办公室中的情景），他们就会产生一种身临其境的感觉。这种感觉比只看到网络上的太阳镜照片或家居照片要强烈得多。

这种增强现实体验会让消费者对AR应用程序产生好感，并愿意再次使用这种应用程序以及与别人谈论这种应用程序。但是，这种好感似乎并不能延伸到产品或品牌上。

应用AR的目的是让消费者对产品产生好感

但是，另一项研究表明这种情况是可以改变的，只要巧妙地将AR应用程序整合到消费者的实际购物体验中，实验使用的应用程序可以让消费者涂抹虚拟口红或画虚拟眼影。

在店里使用这种AR技术可以帮助消费者决定购买什么产品。大多数消费者觉得它很好玩，可以让他们尝试实际化妆难以达到的妆容效果。更为重要的是，当AR应用程序整合进类似的虚拟零售店环境的时候，消费者不仅对这种AR技术产生了好感，而且对于产品也产生了好感。现在，他们更可能购买这些产品，并将AR应用程序看做是购物的便利工具，而不仅仅是用来娱乐的工具。

另一项研究表明，当受试者频繁在其手机上使用AR化妆应用程序的时候，他们也会对AR技术和产品同时产生好感。他们认为，AR应用程序不仅好玩，而且很方便用来购买化妆品。这种好感往往会促使他们购买他们试用过的化妆品。

总的说来，如果AR体验是一次性的，那么它可能只会把消费者的注意力引向这种技术本身。但是，如果它能够很好地整合到消费者的购物环境或购物过程中，那么它就能够积极地影响消费者的购买行为。

值得指出的是，由于在实验中售货员邀请了消费者来使用AR设备，并教了他们如何使用它，因此现在我们尚不清楚如果没有售货员的帮助消费者是否就会得到不一样的体验。

应用AR的关键在于给消费者创造价值

市场营销人员应该记住，AR并没有创造全新的虚拟现实；它只是在现实情境中添加了一些虚拟的元素。当这些虚拟的元素与实际环境完全契合和互动的时候，AR的神奇效果就出现了。与虚拟现实（例如Oculus Rift）让你完全沉浸在不一样的世界中不同，AR只会在特定情境的现实环境中添加必要的虚拟元素（最新的例子就是HoloLens的全息传送功能）。这就是人们喜爱阅后即焚照片应用Snapchat新推的AR功能的原因之一。它的AR功能可让用户利用不同视觉效果将普通的视频转变成可以分享的信息。

AR体验的关键在于这种技术是否能够给消费者创造价值。简单地将虚拟的信息叠加在手机屏幕上并不能给它加分，而且这使得它看起来就像一个花哨无用的噱头。扫描某品牌的商标，然后你的智能手机屏幕上就会弹出相关的广告信息。这样体验在一开始可能会让消费者觉得好玩，但很快会让他们感到厌烦。同样的，当你把手机摄像头对准街道上的不同店面或商店里的不同产品时，AR应用程序就会把相关信息和促销活动呈现在你的手机屏幕上。这听起来似乎很有用，但是市场营销人员需要问问自己：消费者真的会高举着平板电脑或智能手机逛街吗？他们真的想通过扫描的方式来购买任何产品吗？

现在，这个问题的答案是否定的。人们只有觉得在早已饱和的数字空间里叠加虚拟信息是值得的，他们才会愿意这样做。因此，多想想他们愿意这样做的情境吧：例如，参加某个文化活动，参观某个城市景点或历史遗址；或深入了解他们真正喜欢的某个奢侈品或品牌。

AR技术商业化的真正使命是整合AR技术提高消费者体验，让他们的购物过程更轻松、更有趣以及更便利。我们并不想生活在一个完全用虚拟环境取代了真实环境的世界中。谷歌眼镜Google Glass失败的真正原因就在于我们不想走在大街上看到一切现实环境都被增强了。（微软的全息眼镜HoloLens则是另一码事，因为它设计的目的是为了用到特殊的场合，例如会议室或工作间）。因此，我们不是要想方设法地给尽可能多的地方提供虚拟内容，而是要弄明白哪些情境下的虚拟叠加信息可以给消费者创造价值。

以下为AR报告第七章：AR应用案例

在这一章中，我们将探索AR这一新兴技术目前在不同领域的运用情况，并预测有可能成为未来主流的最佳实践。我们选取了一定数量的AR创新案例，归纳成四种功能类别；每一种都会在个人或公司使用AR应用时为其带来显著益处。

情境敏感式信息——在恰当的事件地点出现的信息

第一类是情境敏感式信息，涵盖能够根据特定情境轻松获取互联网已有静态数据的各种应用。

 

 

Wikitude和Metaio公司的Junaio（魔眼）是AR浏览器两个最有名的例子，它们提供的情境敏感式信息软件能够识别场所或物体，并将数字信息与现实世界的场景连接起来。智能手机都可以运行这一软件，用户可以通过手机摄像头的视角看到周围的数字信息。

这些数字信息可以是附近感兴趣的地方，比如博物馆、商店、餐馆或者前往下一个公交站的步行路线。该软件通过GPS、WiFi和3D建模实现图像识别和用户定位功能。

 

 

语言翻译是AR应用中最具发展前景的领域之一。现有的一款应用Word Lens兼容于几乎所有智能手机，能够将文本同步翻译成另一种语言。打开应用后，用户只要将设备对准外国文字即可。设备就会将此信息翻译成用户母语并显示出来。而且翻译后的文本是同样的字体，印在同一面墙上——就跟原始文本一样。

 

 

面部检测和AR的结合则是在现实生活特定情境中轻松获取互联网信息的另一个例子。Infinity是一款AR应用，它可以分析一张面孔，将其与社交网络（如Facebook）上的头像进行比对匹配，匹配目标在社交网络中发布的信息就会显示在用户视野中。

这项功能在消费应用领域非常实用的技术也会受到执法部门的欢迎（如扫描人群，寻找通缉犯）。但不难理解，这款应用已经引发了许多人对隐私的担忧。

 

 

大众公司开发的MARTA系统是汽车领域中在恰当地点提供恰当信息的极具可行性的最佳实践解决方案。

该系统在汽车运转失常时派上用场，帮助用户进行汽车维修及维护。它能通过物体识别技术识别出汽车零部件，实时详细地将所有必需的维修、维护步骤描述并图示出来，并配有需要用到哪些设备的信息。这款应用可以在多种移动设备上运行。目前，该系统为大众服务独家使用，不过可以想象，未来消费者都会用上类似的系统，不太了解汽车机械的人都能修好自己的汽车。

增强感知——成为人类2.0

即便是今天，AR应用所能提供的也远不止是随时检索互联网信息这么简单。下面讲述的几个AR用例通过主要由设备传感器收集的数据生成新的信息，实现增强现实。这一系列设备能够增强我们的感知，延伸人类能力，超越目前我们所能取得的成就。

 

 

 

 

已经问世的Recon Jet是一套用于休闲活动的AR系统。该设备便于运动的平视显示器（HUD）可以与蓝牙、WiFi等第三方传感器连接，提供导航和天气信息，访问社交网络，显示实时的状态信息。例如，跑步者可以看到自己的速度，到终点线的距离，目前的海拔提升高度以及心率。目前已有上述功能的Recon Jet计划未来针对在危险环境中工作或从事体力劳动人群开发可穿戴AR设备，监测他们的生命体征和周围环境。

 

 

 

 

再举一个平视显示器的例子，某些型号的宝马汽车能够在挡风玻璃上投影行驶速度等传感信息。这种增强感知功能自从2004年以来被汽车公司所采用，宝马正在不断增加新功能，持续改进其HUD系统。

宝马目前的ConnectedDrive HUD系统的增强方式是在外部环境真实物体上叠加虚拟标记。这样导航信息或者驾驶助手系统的信息可以显示在司机前方道路视野的精确位置上。导航指示可以层叠在道路上，其它汽车或安全相关的物体可以根据情况高亮显示或标记出来。宝马夜视系统提供的可视化信息正是HUD应用的绝佳例证。

 

 

屡获殊荣的iOnRoad应用是一个类似于宝马HUD的增强驾驶助手系统，只不过面向平民大众市场，也没那么先进。该应用仅使用智能手机相机和一些视觉算法，提供了诸如碰撞预警、出口监测、道路出界预警以及事故后能派上用场的黑匣子录像功能。

 

 

Liver Explorer是AR应用在另一个截然不同的领域中的例证。外科医生可以通过Fraunhofer MEVIS公司开发的Liver Explorer应用增强感知。该应用能够为执业医生提供实时的AR向导和辅助。设备通过摄像头捕捉肝脏影像，利用AR技术将手术计划的数据叠加到器官上。

另外，该软件还能实时响应（如根据系统持续追踪的血管运动状态及时更新手术计划）。这些功能超越了MARTA系统对于情境敏感式信息的定义。如果该应用能得到积极评价的话，未来很可能会改造推广到更多的手术领域中。

 

 

在危险情况下，随时掌握关键信息尤为重要。正因为如此，军方成为了AR应用最大的投资者之一。Q-Warrior Helmet是一款军事应用。该AR项目希望能为士兵们提供“保持警惕，视野开阔，手搭扳机”的场景意识，以及敌我识别、夜视影像和远程协调小分队的增强功能。该头盔会将每个佩戴者的具体位置信息提供给其他人，军事组织可以通过它在战斗或侦查行动中集结、行军、分享信息与位置。不难想象，未来类似的系统会出现在其他工作环境危险的职业中（如消防员、执法人员）。

混合现实模拟——在现实中探索虚拟

上述案例以提供静态数字信息的方式为我们展示了增强现实的应用，然而接下来这一类的AR实践相比之下更进了一步。通过这些所谓的混合现实模拟，用户可以在现实环境中动态地更换或调整虚拟物体。

 

 

最新的宜家应用Ikea Catalog就是其中最为突出的一个例子。借助于这个由Metaio公司开发的AR应用，消费者可以使用移动设备把所选的数字版宜家家具“放置&