如今,“追剧”、看电影已经成为大众最为日常的休闲娱乐方式之一,在影视作品走入千家万户的同时,人们的审美水平和视觉要求也越来越高。除了需要满足剧情饱满、情节引人入胜外,观众对视觉效果及视觉冲击力的评价也成为影视作品好坏的重要衡量。因此,广播电视行业在影视图像处理和视觉特效处理上的复杂度也不断提升,为传统电脑特效制作带来了新的挑战:视觉特效工作者需要在有限的时间内,更快、更轻松地打造各种复杂、逼真的视觉特效。
正是看到这种趋势,在日前举办的BIRTV(北京国际广播电影电视展览会)2020线上展,NVIDIA携新奥特、博采传媒、当虹科技等众多合作伙伴亮相并演示了其在广播电视行业的产品和解决方案。在线上媒体沟通环节,NVIDIA着重介绍了其Quadro RTX GPU和RTX平台如何让实时8K录制变为现实、如何实现AI在影视剧创作中的应用,以及NVIDIA RTX服务器的实时离线渲染、加速桌面渲染在合作伙伴创作上的实际案例。NVIDIA专业可视化亚太区业务主管沈威在致辞中表示:“目前广播电视行业已进入特效时代,NVIDIA领先的专业图像解决方案能够助力影视内容制作、广播电视等传媒娱乐领域的专业工作者以更低的时间成本打造更佳的视觉效果,大力提升工作流程的整体效率和行业竞争力。”
特效升级带来数字内容处理复杂度提升
作为BIRTV展的常客,NVIDIA中国区高级技术市场经理施澄秋介绍在多年参展的基础上,NVIDIA发现如今后期制作已成为影视作品不可或缺的环节,影视后期产业要从前期剧本创作加工环节开始介入,并贯穿影片制作的全过程,呈现出以下特点:
1.高品质画质的快速迭代。国内许多家庭4K电视已经普及,包括爱奇艺、腾讯、优酷在内的影音播放软件正在向不同用户、不同形式设备以流媒体方式输送4K内容,并且开始往8K过渡。特别是在5G技术的逐渐完善过程中,高速率的传播方式正成为高品质画质的有效载体,整个市场都在致力于为观众带来更加丰富、高质量的内容。
2.AI技术的融入应用。疫情期间,居家观影的人可能会发现有很多经典电影采用人工智能技术对画质进行修复,达到4K的标准后进行重映。此外,在许多综艺、游戏赛事和演唱会环节,虚拟人物形象的出现增加了与观众的互动,这些角色需要利用AI技术进行边缘反锯齿和超采样处理,才能为用户提供更栩栩如生、逼真的效果。
3.传统工作流程正在被颠覆。传统的素材采编线性流程往往占用了较长的制作周期,在进行调整的时候更是费时费力。而借助实时引擎展现等手段,制片初期即可生成高质量图像,不同团队创建的资源会彼此兼容,使制作人(包括部门主管)以协作方式快速对视觉细节进行实时迭代,而不是将所有决定推迟到最后阶段。
值得一提的是,施澄秋还表示整个广播影视行业的OTT(Over The Top,指通过互联网向用户提供各种应用服务)市场正在走向SVOD(订阅型视频点播),基于2025年OTT市场将达到3300亿美金市场规模的预测下,可以看出通过数字技术加速内容制作和内容再创作,提升影片拍摄制作的效率和性价比,已经成为广电行业的发展趋势。
无处不在的RTX颠覆影视剧创作流程
“一直以来,NVIDIA致力于为广电行业用户提供非凡的图形和计算性能,为专业化的工作流程注入人工智能、虚拟现实和照片级写实的画质,以适应观众的严苛要求。”施澄秋介绍NVIDIA GPU一直在3D建模、3D图形图像电视广电素材片源制作中扮演着重要角色。以广为人知的RTX(光线追踪技术)为例,通过RTX 5000 Turing架构的Quadro GPU,用户可以快速在各种制作软件中进行实时影像的协同处理,包括实景场景深度填充、色彩调整、补光和修饰等,预先计算影视特效和其他交互式可视化中的纹理在特定环境下的呈现效果。
在数据中心层面,NVIDIA RTX服务器(包括可用于Optix RTX渲染、游戏、VR和AR以及专业可视化应用的完全优化型软件堆栈)可借助RTX光线追踪进一步提升逼真图形渲染效果。而且,与相同性能下的基于CPU的渲染集群相比,其成本也将大大降低。
除了基于NVIDIA RTX GPU和服务器实现实时光线追踪和内容创作加速外,施澄秋还介绍了NVIDIA针对广播影视行业一些新场景的创新赋能:
“无中生有”的NGX:通过包含已有的深度神经网络发挥人工智能应用效果,制作者可以利用NVIDIA GPU实现画面的修补、美化和降噪。例如某些珍贵的素材、胶片和影片由于长时间保存导致“残缺像素”,NVIDIA NGX可以自动生成和自动补充,将画面重塑出栩栩如生的效果。
SUPER-RES(超级分辨率)应用:超级分辨率能够以更高、更细腻的分辨率渲染特效,在高清屏幕上为观众提供4K画质。施澄秋表示由于过往影视行业受限于摄影机质量导致不符合4K/8K要求,而NVIDIA通过SUPER-RES应用后清晰度、位度将大幅度增加。比如在慢动作特效中,是以超高帧率(240帧/秒)的摄像机捕捉下来的画面再以帧速播放(30帧/秒),而面对突发新闻等原因使拍摄设备分辨率有限时,NVIDIA可以基于AI实现缺损帧数的自动生成,让慢动作应用播放自然、逼真。
当然,上述应用只是RTX在影视剧创作中的冰山一角,其它诸如帮助播主(如B站、抖音等UP主)进行从电脑端到移动端的视频自动切割、4K/8K摄像机的成像模拟、8K原声分辨率的实时解码等诸多领域,RTX都有着成熟的应用案例。“从台式机RTX 4000~8000系列以及笔记本、工作站到RTX数据中心,NVIDIA RTX的强大功能无处不在,它能够帮助用户以前所未有的速度打造更丰富、更具沉浸感的娱乐内容。”施澄秋总结道。
Mellanox Rivermax打破视频传输瓶颈
随着影视行业在内容创作上的不断丰富,视频传输带宽也在急速膨胀。与以往1080P分辨率传输不同,4K/8K超过清视频业务给SDI传输模式带来了巨大挑战。NVIDIA Mellanox高级市场开发经理陈龙介绍如果按照传统模式,4K的传输带宽大概需要8~9G,因此必须包含4根3GSDI线达到12G的传输带宽,或者采用12G的SDI传输模式。前者会带来传输线路和组网成本的大幅度增加,而后者由于高速信号在SDI铜缆中传输距离跟速率是成反比的,在从1080P到4K乃至8K的画质升级过程中根本无法满足传输距离的要求。
这也促使在视频行业的传输模式正在由SDI走向IP,高性能硬件成为迈向超高清视频的必经之路。对此,NVIDIA推出了基于Mellanox的Rivermax高清视频转发方案。陈龙表示Rivermax在通过IP满足SDI传输上,包含4大特性:
· Packet Pacing,精确保证数据流速。
为了能够让IP平滑承接SDI应用,Packet Pacing符合SMPTE ST 2110-21:2017(2110-21N或2110-21NL)标准,而不依赖于CPU强度、中断级别或应用程序,使标准网卡中任何分辨率比特率的数据包步调一致。
· Kernel Bypass,释放视频数据流处理潜能。
对于影视行业许多场景,CPU的网络处理速度有可能不够,这时候通过将数据包处理卸载到NIC,使应用程序保持在框架级别,可以有效节省CPU资源,去进行后端的视频处理。
· Packet Aggregate,数据包聚合。
通过专业面向影视行业的易于使用的API设计,可以实现媒体数据包的零拷贝发送(例如RTP),支持Linux和Windows的跨平台应用。
· Cloud Ready,云端就绪。
Rivermax支持通过VMWare ESXi VM进行IP流传输,在每个VM通过SRIOV时拥有一个ConnectX-5/6 NIC实例并且在VM上保持SMPTE 2110-21/30/40规范合规性。
“借助在高带宽场景多年的技术积累,Rivermax解决方案突破了软件视频方案的瓶颈,帮助客户跨过超高清传输的鸿沟。”陈龙总结Mellanox的Rivermax方案使数据包步调可精确保证数据流速,释放视频数据流处理的潜能,且能大幅节约CPU资源。同时面向主流云应用,包括VMWare、Linux和Windows guest OS等等。
携手合作伙伴实现多场景下的应用落地
如今,NVIDIA已经连续十多年为斩获奖项的视觉效果提供动力支持。与此同时,NVIDIA也积极与全球范围内的业界领先公司合作,将先进的技术与传媒娱乐等领域的前沿应用需求紧密结合,共同打造数字艺术的盛宴。
Epic Games:虚拟引擎跑出光线追踪渲染“加速度”
Epic Games是一家领先的互动娱乐公司和3D引擎技术提供商。由Epic Games开发的虚幻引擎(Unreal Engine)是全球最开放、最先进的实时3D创作平台。Epic Games China商务发展经理徐良安介绍NVIDIA RTX系列显卡是虚幻引擎实现实时光线追踪渲染的必备硬件,而光线追踪算法也革命性地提升了虚幻引擎渲染效果,使之越来越接近传统离线光线追踪渲染的画质。
此外,徐良安还介绍了Epic Games最新推出的虚幻引擎5如何优化影视创作流程。以Virtual Production(虚拟拍摄)的制作流程为例,通过以实时交互式的方式进行电影摄制,创建电影数字虚拟世界的过程,虚拟制作消除了影视制作和视觉特效之间的障碍,使他们可以同时进行而不是分开进行,电影制作中长期以来困扰制作人的非实时、创意实现难度高等难题似乎得到了完美的解决。以迪士尼新剧《曼达洛人》为例,徐良安介绍其中大量场景都应用到NIVIDIA In-Camera VFX技术,实现多台设备、多用户同时进行影片制作与检测。
新奥特:基于NVIDIA实现高清4K/8K支持
新奥特(北京)视频技术有限公司始终致力于在数字媒体领域提供领先的内容生产及运营的技术与服务。新奥特产品总监王宁介绍通过采用NVIDIA Quadro系列的专业显卡,将其应用在石墨超高清在线展示平台系统当中,为新奥特在高清、4K/8K图形、图像渲染、色彩空间变换、虚拟演播和HDR等专业领域中提供了强大的性能和显示处理能力。8K超高清视频转播车中就采用了新奥特的8K多通道采集系统、8K慢动作回放系统以及石墨8K在线展示平台系统。借助NVIDIA GPU的强大处理能力,这些系统均能输出8K HDR 10BIT的高质量画面。
博采传媒:NVIDIA Quadro驱动巨型屏幕颠覆拍摄流程
博采传媒以广告创意和影视制作见长,在创意、影视拍摄、后期制作、技术研发等方面有着丰富的经验。博采传媒前期部总监沈辰奇和副总监陈磊介绍博采传媒采用NVIDIA Quadro RTX 8000 实时驱动巨型LED屏,博采传媒“Volume Plus”巨型屏幕,占地800平米,由nDisplay渲染集群提供强大算力,实时驱动1亿8千万个像素点,确保摄影机取景范围拥有8K分辨率,为影视拍摄流程带来了颠覆性的变革。
当虹科技:NVIDIA Quadro深度学习实现视频技术创新突破
杭州当虹科技股份有限公司(简称当虹科技)是定位于大视频领域、提供智能视频解决方案与视频云服务的国家高新技术企业。当虹科技离线超分视频增强产品基于NVIDIA Quadro RTX 8000的深度学习并调用Tensor RT加速,分别运用在图像的超分上变换、视频智能插帧、深度去噪、去雾化等场景,助力当虹在视频深度学习领域的技术创新与突破,同时也推动了基于媒体应用的智能生态圈发展。
强氧科技:借助NVIDIA GPU实现高质量内容制作
北京强氧新科信息技术有限公司是国内知名的数字影像专业解决方案提供商。强氧HDR后期制作解决方案是在同一个工具中将专业8K剪辑、调色、视觉特效和音频后期制作融于一身的解决方案,其中大部分计算内容都会由GPU来处理。通过让GPU参与到编解码运算中,配合RAW优秀的现代编解码格式,能够实现更高质量的内容制作。NVIDIA GPU强大的性能可以助力越来越丰富的4K HDR内容以及后续的8K HDR、HFR,甚至12K的内容制作。同时还能提升用户的使用体验,减少时间成本并提升工作效率。
小结
作为全球视觉计算技术的行业领袖,NVIDIA 始终致力于为广播影视行业用户提供非凡的图形和计算性能,为专业合作伙伴提供强大性能的GPU和RTX技术,助力高质量的内容制作,并通过引入AI技术为广播电视行业中的实时分析、内容分级和实况转播带来工作流程的变革。未来,NVIDIA也将持续与国内外行业领导者进行合作,将先进的技术与广播电视行业的需求紧密结合,为用户带来更优质的广播电视内容,助力整个行业生态蓬勃发展。