高通杜志敏:移动行业发展加速虚拟现实产业爆发

电科技袁创09-26 12:04

 9月26日,2016中国VR生态峰会将在杭州梦想小镇盛大开幕,本次峰会由中国图象图形学学会指导,电科技网(www.diankeji.com)和传媒梦工场主办。本次大会聚集了来自全球500多名高层代表、200多家虚拟现实产业链的优秀公司和十多家知名投资团队等。

2016中国VR生态峰会以“感知·连接”为主题,旨在为全球VR领域精英人物、领军企业、知名机构及普通创业者搭建专业化的交流分享平台,共同探讨VR产业现状及发展趋势,共享VR发展成果。

近期,国务院在正式印发的《“十三五”国家科技创新规划》中指出,研发新一代互联网技术发展自然人机交互技术,重点是智能感知与认知、虚实融合与自然交互。随着虚拟现实(VR)技术被国务院再一次提及之时,工信部和发改委也在近日联合制定的《智能硬件产业创新发展专项行动》中表示,要将VR、AR列为发展重点。

高通无线通信技术(中国)有限公司主任工程师杜志敏认为,随着移动VR体验技术的发展,视网膜投影也会在不久的未来成为可能。因此移动VR将是推动应用普及的突破口。高通将于2016年第四季度开始提供的VR820虚拟现实参考平台,作为一个芯片提供商和技术提供商,高通骁龙TM820/821处理器及未来的处理器里,会助力移动VR产业完美实现移动虚拟现实。

IMG_2114.jpg

以下为杜志敏演讲全文:

谢谢主持人的介绍,也谢谢组委会的邀请,很荣幸到现场给大家介绍一下我们公司对移动VR的理解。和上一位演讲人不一样的是,上一位演讲人强调的是基于PC的VR相关技术,我的演讲讲的是移动VR。我今天演讲的题目是《移动VR-技术、产品和标准》,我的演讲分四个部分:第一,介绍一下移动VR的体征,主要强调移动VR让用户更自由,完全可以沉浸式体验虚拟现实的业务;第二,移动VR是很多最领先技术的集大成者,第二块我会结合移动VR的技术基础和骁龙技术;第三,移动VR的生态基础和产品形态;第四,VR标准化的工作。

虚拟现实是提供终级沉浸式体验,让用户有一种身临其境的感觉。在这里面我们需要有高清,也要让用户有非常直观的交互方式。

我们这边强调的是移动VR,我们认为移动VR就像通信一样,就是说从移动的通信方式到移动通信方式的发展,和我们的电脑从PC向笔记本电脑、Pad的发展方向一样,我们认为PC从移动VR发展也是一种不可替代的趋势。用户希望摆脱电脑的限制,他希望在任何地方,比如说在客厅、休息室里面都能够随时享受VR的服务。

实际上刚才潘主任也介绍了,VR的概念在上世纪90年代就被提出,当时的观点也是正确,愿景也是非常好。但是我们回头看过去20多年,VR也没有活起来,原因是在20年前,很多的技术不足以支撑VR的发展,就是说不足以支撑这个理念,因为当时无论是做图象处理技术、多媒体处理技术还是芯片的集成工艺,它无法让我们真正感受VR呈现的世界,让人们接受它,认为它是一个实际的存在。但是现在过了20年,我们现在来看,VR实际上是一个现实,就是因为我们有足够的技术,包括我们的多媒体声音、视频的编解码技术,包括像我们公司的芯片技术,就是这种硬件技术的支撑,使得VR产业有一个很好的基础。

我首先会介绍一下移动VR的基础技术。基础的话,我们想强调三个方面:一个是多媒体技术。因为我们要让用户感觉到虚拟的现实存在,需要让用户感受一个实际的视频环境,然后要有完全仿佛就是在亲临现场的声场;另外的话,要有很准确、精确的传感器检测技术,然后要有很方便便捷的用户交互;第三个方面,对VR来说非常重要的是我们需要控制功耗,需要控制发热,因为对于VR来说,很多的设备特征实际上是一个头戴式的,用户的大脑会对升温非常敏感,如果功耗控制不好,升温比较明显的话,用户会有非常差的体验。

我们首先讲一下刚才我们提到的这些技术的基础,是结合我们的高通820处理器。大家知道高通820处理器,已经是现在基本上智能机的主流选择,现在高通820已经有超过150款的旗舰机选择用它,有高端移动设备使用它。820的产品里面,有使用了高通自主架构的专门基于GPU,也有高通64位多合CPU,我们在这上面支持4K、360度、60祯/秒的编解码,我们在CPU里面集成的数字处理器,集成了自己的DSP。在音频上,它支持的是3D环绕,而且支持定位的音场效果,就是根据用户的头部移动进行准确的调整。另外一个方面,为了能够提供更好的用户交互式体验,在高通的820芯片里面,我们可以支持双摄像头ISP的视频图象处理,对用户的活动进行更准确的追踪。

这边我就刚才提到的GPU、音频编解码器和交互式,谈一下高通的特有解决方案。第一个解决方案,相比于PC来说,我们移动VR会在面前需求的同时,尽量减少理论计算,尽量优化功耗。我们人类的视野集中到某一个地方的时候,它的集中区域有最优的分辨率,但如果超过20度的视角范围之外的区域,实际上就类似与数码相机的大光圈效果一样,它的分辨率会降低,所以这个对20度以外的视角区域,我们并不需要做高清晰度的渲染呈现。所以高通开发了一个技术,我们会在视角20度范围内做高清的视角渲染,超过20度范围内做一个比较减少资源的视觉喧扰,通过差异化的视觉处理,让用户有最优的体验,但是节省功耗。

第二个技术是音频,我们在做移动VR的时候,当用户戴头盔去运动的时候,看到的音频和音场,它能够通过移动做实时准确的变化。对于声音来说,我们知道有3D环绕立体声,实际上现在还需要定位式的音场效果。比如说当我们看到眼前有一个车,它从我们左边经过的时候,我们的左耳实际上应该先听到,而且左耳的效果应该是声音更大的效果。当一个车由远到近的时候,这个时候我们两个耳朵听到的声音也会做相应的调整。在这个上面,高通有自己的一些处理方式,我们就是基于头部相关传输函数,我们会根据实际场景的变化去调整,让用户得到3D定位式的音频听觉效果。在这个方面,高通支持声道式,也支持场景式,也支持对象式,主要看音频的文件怎么样封装。在这方面,高通在自己的音频处理器方面有自己的处理方式,对游戏开发商,可能他们希望有软件实现的音频渲染,也希望能有高效的第三方的运行方面,这方面我们占有优势。

在第三个上,我想强调的是对于移动VR的业务来说,要让用户不眩晕,就是视野内清晰,还有就是它需要对用户的动作做灵敏的回应。普通的只是检出头部在X轴、Y轴、Z轴的旋转,然后去对视场做相应的反旋转的处理。但实际上我们提出除了角度的变化,还应该会有一种位移的变化,特别是位移移动VR的变化。位移的话,我们不仅要检测角度,还要检测用户头戴设备随着X、Y、Z轴的实际情况,我们把它叫66F,也就是说我们支持6个纬度的检测,我们高通的处理器集成了很多的传感器,而且我们的传感器会做统一的处理。另外的话,我们会对传感器的检测的数据做预算,对用户下一步可能的位移,就是三个方向的上旋转做一个准确的预测,来保证最后用户看到的视频能够跟随用户的移动,做准确的追随处理。这个是强调为了减少用户的眩晕感,我们就需要减少移动到图象的延迟,它要小于20毫秒,要不然用户会感觉看到的场景已经不真实了,它已经跟自己的移动效果不同的。为了要做到这个事情,我们要做很多的优化,一个优化是需要有非常准确、及时的低迟延的运动检测,这个检测需要有高性能的传感器,也需要有先进的运动算法。另外还需要高效的视频处理,特别是需要高分辨率的真率,也需要低迟延的显示技术。第三个就是需要图象,包括图象校正,还有我们需要尽量减少实验,就是我们要减少图象的集数,尽量避免缓存的时间。现在基于我们的骁龙820的很多产品,它的时延实际上能做到低于18毫秒。

为了方便终端厂家开发自己的应用,也为了方便移动VR的应用、程序的开发,我们推出了高通骁龙VRSDK,统一的SDK的提出,就可以让移动应用的开发可以跨平台、跨厂家实现通用,而且很多SDK的就能可以方便应用开发源做简单的调用,实现很多简单的功能。比如说我们会用VR分层的实现,还有异步时间扭曲的功能,可以根据头部的运动趋势,可以对头像进行扭曲的处理,让用户减少感知。另外我们能够把SDK里面的传感器优化、预测做了集成,也使应用开发的人可以非常简单的调用传感器。这些目标就是为了简化VR的开发,尽可能提供好的性能,还要就是优化功耗,减少发热。

这是刚才主持人介绍的,就是我们在上个月宣布高通推出了基于820的移动VR的参考平台,这个参考平台并不面对消费者,而是做移动厂家和做移动VR开发的公司和开发源。之所以做移动VR的参考设计的原因,就是为了把很多的高通移动VR 820的元素去集成体现出来,给终端厂家做一个参考。在这个里面我们实现了一些很先进的功能,包括利用双摄像头、双SP,我们能够对用户的头部甚至是眼睛,我们对用户眼球视野的变化做精确追踪,根据这个追踪调整VR视觉体现。另外我们对很多传感器做视觉集成,我们有高达800Hz的全方位六自由度实现平滑的单眼运动追踪。通过VR的参考设计,最后大家在做开发的时候,可以更方便、更容易。它将于2016年的这个季度开始提供。

IMG_2127.jpg

前面我们更多强调的是多媒体传感器技术,实际上我们是做移动通信起家的,也就是说我们在移动通信有更加强的技术积累。现在VR的业务对通信类的需求,可能相对还比较低,但是我们看到随着移动VR、混合VR和以后AR的业务发展,移动通信的需求也会变得越来越强。在这边,对5G的研发,会有一个技术的支撑,而它会通信变得更加快。

这是我演讲的第三部分,就是说移动VR有一个非常好的产业基础。大家知道在移动通信产业有非常领先的厂家,他们有非常快速的产品迭代周期,而且它有明显的生态系统的支撑。做移动VR,我们随着移动手机厂家的大规模进入,我们相信会有更好的爆发。因为移动通信和移动互联网的技术的结合,它也会让用户更加喜爱,去加速这样的普及,就像我刚才讲的移动化是很多业务的趋势。

这是介绍一下VR产品的形态。在PC上,VR产品的典型代表有两个,一个是索尼的PSDR,一个是HTC的。在移动VR产品上,它从大家比较熟知的谷歌Cardboard,实际上很多设备是依托于手机,依托于智能终端。从这种相对低成本,但是用户更快能够接受的方式的话,它会向一体机,比如说现在有很多移动终端厂家正在开发的完全一体化的移动VR设备。像这种时尚的头戴式设备,以及我们预测可能会出现的通过向我们的视网膜投影,而不需要去戴一个显示器的更高级的形态,甚至还包括通过对我们的视神经或者是头部神经系统发射信号,未来会往这方面前进。

这是我演讲的第四部分,介绍一下移动VR标准化的情况。相比于产品、技术来说,实际上这一次在标准化上有点后知后觉,很多标准化的研究工作刚刚开始。我在这边提几个组织,一个是MPEG,一个设立了两个特色组,一个是VR特色组,正在开展质量需求、技术需求和标准化需求的研究,它也是为业界制定关于多媒体编解码方面的标准路标,会指导整个MPEG在VR标准化上的规则。第二个是叫应用格式的特色组,有一个标准化项目正在启动,据我们所知道是业内针对VR的国际标准,这个标准是要做全象式的媒体格式,主要做页面编解码分光的规范。它有面向产业界的需求调研,这边提供的就是两个网址,一个是中文的,一个是英文的,大家如果有时间、有兴趣可以看一下,它里面提到了很多技术点,如果大家希望对标准化要有所了解的话,可以去回答这个调研。

移动VR标准化,现在有FS-VR研究报告。现在有一个研究项目在研究手机上做移动VR的可行性。这个研究项目目前完成了将近百分之五六十的情况,将近在明年结束,在研究结束之后会启动相关的业务。这个研究,会对VR业务各种形态做定义和区分,包括移动VR、MR等,它的重点还是放在移动VR,它会对交互时延做定义,然后寻找解决方案,最后指导未来的标准实践。

这是国内的情况,现在实际上有两个组织在开展相关的工作,虽然也相对早期一点。一个是中国通信口上的,叫做CCSA,中国通信标准化协会有计划要成立专门的工作组、工作委员会,这个工作委员会会对移动VR的技术、移动VR的设备、移动VR的应用服务会做标准化的定义。第二个组织是中国的TC-28,做相关的国家标准,另外一个就是CVSA,它主要针对消费电子类的VR设备的相关标准,目前主要有三个项目,一个是HMD,就是消费者头戴设备,还有一个是数字化手套,还有一个叫3D虚拟编解码,好像是有这三个标准。

这个是我今天演讲的最后一页,就是想总结一下。移动虚拟VR已经到来,整个移动行业正在帮助和加快虚拟现实应用的发展。然后作为一个芯片提供商和技术提供商,高通820/821以及未来的处理器里,会助力移动VR产业完美实现移动虚拟现实。我们还会通过持续的技术创新、持续的产品推出,会去保证移动VR的可持续的继续发展。谢谢大家!

电科技(www.diankeji.com)是一家专注于全球TMT行业的领先资讯媒体。

作为今日头条青云计划、百家号百+计划获得者,2019百度数码年度作者、百家号科技领域最具人气作者、2019搜狗科技文化作者、2021百家号季度影响力创作者,曾荣获2013搜狐最佳行业媒体人、2015中国新媒体创业大赛北京赛季军、 2015年度光芒体验大奖、2015中国新媒体创业大赛总决赛季军、2018百度动态年度实力红人等诸多大奖。

投稿、商务合作请联络微信公众号

声明:本站原创文章文字版权归电科技所有,转载务必注明作者和出处;本站转载文章仅仅代表原作者观点,不代表电科技立场,图文版权归原作者所有。如有侵权,请联系我们删除。

//59087780b049bbb54ef4ba547ea51910