TA们在搞一种很新的综艺…

想与元住民一起先享元宇宙乐趣?
文末有彩(chou)蛋(jiang),不要错过哦
正在爱奇艺热播的首个虚拟现实游戏闯关真人秀《元音大冒险》,将一众炫酷科技带到了真人秀的节目制作中,让嘉宾得以登上虚拟世界——元音大陆,开启了一场奇趣爆笑的闯关冒险之旅,也为观众带来了全新的观综体验。
骁龙作为《元音大冒险》节目的特约元宇宙技术伙伴,将自身在AI、影像、XR、音频、无线连接等构建元宇宙所必需的基础技术创新深度应用于节目之中,让嘉宾和节目观众领略到了元宇宙的乐趣。
下面让我们跟随《元音大冒险》节目的总导演,以及在本次节目制作中与骁龙紧密配合的伙伴们,共同为大家揭秘这一大胆创新的综艺形式幕后的科技故事。

问:节目创作的灵感来源是什么?节目中有哪些新的科技和尝试?
《元音大冒险》节目总导演 陈伟:其实整个节目从2020年就开始策划。我们看到未来互联网将会向虚拟互联网方向发展,虚拟现实、增强现实等技术也将越来越走进大众。那么我们未来的生活、娱乐体验将会变成什么样子?我们觉得想再多都没有用,不如去用一档综艺真人秀节目来替大家尝试这个全新的体验,于是我们就策划了《元音大冒险》这一虚拟现实游戏闯关节目。
《元音大冒险》运用到了非常多在传统节目制作当中从未涉及的技术,包括动作和面部捕捉技术、动画合成和渲染技术、虚拟现实技术等等。将虚拟制作作为最主要的制作手段,打造一个完全非脚本的真人秀节目是一次极具挑战的尝试。
动作捕捉是国内外电影制作经常使用的技术。说到虚拟制作,我曾经跟我的团队讲过,动作捕捉的灵魂其实是面捕。即便我们的动作捕捉再精准,节目设计再有趣,都需要第一时间准确地通过人的表情特写来表达情感,这对影视创作非常重要。
真人秀创作是没有脚本的,需要实时记录真实发生的事情,这带来了极大的技术挑战。如果系统中途出现故障,节目制作就失败了,真人秀是无法重拍的。所有的技术处理,需要能够满足一天十几、二十个小时不间断的多人多机位动态录制,这是检验技术成熟度、可靠性和性能的极大挑战。
我们的技术合作伙伴——骁龙和骁龙的小伙伴们,经受住了这个前所未有的考验,这让我们感到非常自豪。相信我们在这次节目制作中使用的创新技术和制作方式,能够为未来的综艺节目制作和消费者的虚拟体验积累经验。我们也希望我们的冒险精神,能让更多人拥抱未来的创新和未知。
问:骁龙的炫酷科技在节目中发挥了哪些作用?
高通产品市场总监 刘晓光:《元音大冒险》的节目制作需要对嘉宾的面部和动作数据进行实时捕捉处理,并要做到高度精准,以打造栩栩如生的画面效果,满足节目的专业需求。此外,节目嘉宾需要佩戴面捕设备完成很多高难度动作,这对面捕设备的舒适度和便携度也提出了很高的要求。
以往电影制作中使用的面捕技术方案通常设备昂贵,且不适合用于实时处理。我们针对《元音大冒险》节目的需求,与技术合作伙伴一起进行专业优化,首次在综艺节目中利用搭载骁龙8系移动平台的Android旗舰手机实现了高精度实时AI面捕,不仅生成精准的面捕数据,运行也非常稳定高效,且支持长时间佩戴,十分便携。
想要在智能手机上精确高效地追踪和识别人类表情,需要手机芯片平台强大的底层算力以及神经网络算法支撑。骁龙8系移动平台搭载高通AI引擎,具备行业领先的终端侧AI性能和能效比,可以支持基于300个人脸特征点的检测。我们充分利用了高通AI引擎中专有的神经网络硬件加速单元,以支持高精度、低功耗的实时面部数据采集。骁龙强大的终端侧AI性能和能效为这次突破性的虚拟现实真人秀节目制作提供了非常有力的支持和保障,也极大地降低了制作节目的技术门槛和成本。
另一个跟元宇宙息息相关的技术就是XR。搭载骁龙XR平台的奇遇VR设备,作为登录元音大陆的入口,让观众能够在元音大陆中自由探索,实现身临其境的体验。
此外,我们也带来了Snapdragon Sound骁龙畅听技术支持的沉浸式音频体验,让观众获得听、说、唱、玩兼具的沉浸式观综体验。

问:据说这是相芯第一次将技术成果应用到娱乐场景,与以往的技术实现场景有什么不同?
相芯科技 发言人:相芯公司以往主要是提供手机终端的底层技术,现在首次以专业方案的形式应用在娱乐综艺节目中,有很多有趣的挑战与突破。首先,以往的底层交付我们对接的都是技术人员,而娱乐综艺中我们对接的是专业影视制作团队和演员,这就要求我们的技术做得足够简单易用、智能稳健。
例如,艺人在唱歌时,由于话筒非常接近面部,会对面捕造成较严重的遮挡,我们在技术设计上也考虑到了这一点,实现了即便嘴部部分遮挡,也能稳定捕捉嘴部动作,保持虚拟形象的面部稳定性、避免出现“抽搐、抖动”等影响现场效果的情况。
娱乐综艺的现场拍摄往往需要非常长时间的连续工作,连续拍摄中为了不错过每一个画面,我们的面部捕捉手机会一直工作,如何避免长时间拍摄中的发热卡顿是一个挑战。我们利用骁龙神经网络处理引擎(SNPE)软件开发包,对我们的技术进行了全面优化,结合高通AI引擎强大的底层算力和能效支持,使面部捕捉可以连续4至5小时稳定流畅地以60FPS帧率运行,实现精确的实时AI面捕和超过50种表情识别,为表演嘉宾带来栩栩如生的虚拟化身。
问:XR设备被认为是用户进入元宇宙的主要入口之一,奇遇为《元音大冒险》带来了哪些高科技?
奇遇VR高级产品总监 王斌:奇遇是元音大陆的VR入口。节目现场观众需要佩戴奇遇VR设备观看演出,我们专门为节目定制了一款观看演出的VR应用,真实还原演出大厅,观众不仅可以通过它在元音世界里观看虚拟制作的演出,获得自己的虚拟形象化身,还能够在大厅中与其他的观众互动,为演出进行投票等。

高通和奇遇双方保持着长期的合作伙伴关系。过去几年,奇遇已经推出了多款搭载骁龙平台的XR设备。本次节目中,嘉宾佩戴的奇遇Dream Pro和奇遇MIX搭载了骁龙XR2平台。如果没有骁龙XR平台的支持,想要打造完美的VR体验其实很难。以显示为例,屏幕如果无法达到双目4K的水准,用户的视觉纱窗感、颗粒感会比较严重。
目前只有骁龙XR2平台能够支持4K的屏幕显示分辨率,同时实现90FPS的显示刷新率。再以另一项对沉浸感影响很大的听觉来说,骁龙平台在音频编解码上的功能也很强大,可以把音效、全景声完美的展现出来。
骁龙XR平台赋能奇遇VR面向消费者市场不断推出创新的VR终端,赋能了丰富的影音娱乐场景和沉浸式的VR畅玩体验。《元音大冒险》也是双方基于技术的发展和成熟,对于全新娱乐体验的大胆尝试。

点击下方小程序
了解骁龙技术如何赋能元音大陆
与元住民一起 开启你的元音大冒险体验
还能抽奖赢取爱奇艺季卡会员和元住民签名照


[广告]赞助链接:
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

随时掌握互联网精彩
- AtomUI 企业级跨平台控件库
- 在看 | 网曝:国内某APP利用漏洞提权窃取用户数据、逃避监管、无法卸载
- 美国前总统特朗普亦在泄露名单之中,黑客在线兜售四亿推特用户数据
- 专场直播|【又拍云明眸】AI 视频处理降本新体验
- 网安强中强 | 腾讯安全杨育斌:零信任办公安全实践
- 砸入近 30 亿美元后,马斯克拒绝加入 Twitter 董事会!
- 中国开发者数量全球第二,C 语言一跌再跌!GitHub 年度报告重磅发布
- 49 元「盲盒」开出 AJ、iPhone 12 ?!整篇都是福利
- 又一非法采集人脸信息企业被查处!人脸信息保护刻不容缓
- 译文 | 在制定最佳实践之前,需要实施的6个最低安全实践
- CSR文件生成工具集合
- Qualcomm创投丨携手创新科技公司,助力智能互联