Loading [MathJax]/jax/output/CommonHTML/config.js
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >西瓜视频是如何实现“端到端HDR”的 | Q推荐

西瓜视频是如何实现“端到端HDR”的 | Q推荐

作者头像
深度学习与Python
发布于 2023-04-01 08:28:22
发布于 2023-04-01 08:28:22
8580
举报

今年 6 月,西瓜视频宣布全面支持 HDR 视频功能,成为首个 HDR 技术覆盖全形态(手机、PC 和平板)、打通全环节(拍摄、编辑和消费)的视频平台。

HDR(High Dynamic Range,高动态范围 ) 视频,相比普通 SDR 视频拥有更高的色深、更广的动态范围和更强的色彩表现力,能显著提升视频画质。当西瓜用户拍摄、编辑、预览、上传和观看 HDR 视频时,字节跳动旗下火山引擎多媒体实验室的“端到端 HDR 视频解决方案”发挥了重要作用,该方案也已逐步开放给火山引擎的企业级客户。

近几年,众多厂商纷纷在不同终端设备上提供 HDR 技术,包括拍摄、播放的能力支持等。但是,HDR 技术的运营并不是单一的某个环节,而是从内容制作到传输再到设备显示的端到端技术。为了有效转码处理 HDR 格式相关视频内容,并在终端设备上完美呈现 HDR 的画面,火山引擎多媒体实验室打造了一套完整的解决方案,支持多种不同格式 HDR 视频内容从上传、转码、分发,最终到终端适配播放的能力。

为了提升用户体验,该方案在端到端的不同环节采用了以下独特技术:

一、为丰富 HDR 视频来源,设计独特的逆色调映射 (Inverse Tone Mapping) 算法,最大程度地实现了对现有 SDR 节目的 HDR“还原”及向上兼容;

二、为提升普通 SDR 设备上的用户观看体验,设计特有的色调映射(tone mapping)算法,在 SDR 设备上获得与 HDR 尽可能接近的播放效果;

三、播放端高色彩还原渲染及低功耗解决方案,可支持高达 4K 分辨率和 60fpsHDR 视频流畅播放;

四、为安卓平台提供了国内首个通用 HDR 亮度管理方案,确保不同安卓机型都能有相对稳定的 HDR 观看体验。

火山引擎多媒体实验室“端到端 HDR 视频解决方案”流程图如下:

下文将详细介绍该方案在 HDR 转码和播放环节的技术特点。

1HDR 转码

对不同格式 HDR 源的转码支持

HDR 的标准经过多年的发展,分化出了多种标准,如 HDR10、HDR10+、Dolby Vision 及 HLG,而西瓜视频等产品用户上传的 HDR 视频还涉及不同的编码位深(8bit,10bit,12bit)和多种视频编码器标准,目前的转码工作流能够准确识别和兼容已知的所有 HDR 视频格式

为了更好地处理 HDR 这种高动态视频,字节跳动自研编码器 BVC 也做了大量针对性优化,包括但不限于 SIMD 实现,编码优化算法等,在计算复杂度和编码效率方面取得了一个较高的平衡。

由 SDR 生成 HDR 视频的算法处理

HDR 内容最早由电影节和广播电视公司生产,第一批 4K HDR 电影在 2015 年由福克斯电影公司推出,同年 Sony 在 SMPTE 会议上展示了他们的 HLG 视频,HDR 渲染在电子游戏领域的应用则要更早。直到最近几年,消费侧的 HDR 播放功能才开始慢慢普及开来,而在此之前,为了兼容主流播放设备,HDR 内容都不得不被转换为 SDR 进行传播。

因此,网络上存在大量原本是 HDR 格式的 SDR 内容,如电影片段、游戏画面,专业摄影作品等。对于这部分内容,技术团队利用算法对其进行了重制,使用了 inverse tone mapping 技术,将这些 SDR 视频还原为了原有的 HDR 格式,在用户的 HDR 设备上焕发了新生。

图:西瓜视频 SDR 及 HDR 效果对比

对于非 HDR 设备的兼容支持

当 HDR 视频在 SDR 设备上播放时,会发生黑屏(解码器不支持)或者色彩异常(播放器不支持)等诸多兼容性问题。为了保证还在使用 SDR 设备的用户体验,服务端必须进行向下兼容的转码处理,对于 HDR 源视频,技术团队使用了 tone mapping 算法,转换出相应的 SDR 版本并下发给这部分用户。

HDR 到 SDR 视频的转换,经历了亮度动态范围和色彩空间的压缩(BT.2020 到 BT.709)以及光电转换函数 EOTF 的变化,同时信号位深也由 10bit 降低到 8bit,视频信号可用的色阶数量减少了 75%(1024 到 256 个)。为了最大限度保留 HDR 视频中的暗部和亮部细节,同时保证色彩不失真,技术团队通过分析视频图像的亮度和色域分布等图像特征,动态调整不同场景下的转换参数,充分利用 8bit 信号的 256 个色阶来表现原本的 HDR 内容,保证 HDR 源视频中的画面能够尽量准确完好地呈现给 SDR 设备的用户。

考虑到传统的 SDR 标准基于 100nit 的最大亮度设计,而如今的智能手机屏幕亮度普遍高于这个数值。为了充分利用手机屏幕的亮度范围,在用户设备上呈现最佳的显示效果,需要给画面暗部细节分配更多的色阶,同时需要更高的画面整体对比度。因此在转换处理中,技术团队基于消费端的播放环境重新设计了 tone mapping 算法的参数,使得转换后的视频在普通 SDR 设备上也能呈现出与 HDR 尽可能接近的播放效果。

图:普通 SDR 设备播放 HDR 视频的效果(右图应用了 Tone Mapping 算法)

2HDR 播放

兼容性及高性能优化

西瓜视频等产品使用字节跳动自研播放器,在 AndroidiOS 上均支持 HDR10/HLG 等多种 HDR 格式,通过机型数据探测出具备 HDR 播放能力的设备,并进行分发、播放支持,在不同机型上都能有稳定的 HDR 画质表现。

值得一提的是,该播放器在 Android 上还具备 HDR 回退 SDR 的渲染能力,在不支持真 HDR 的 Android 机型上,可使用 Tone Mapping 将 HDR 转到 SDR 渲染,保证用户终端播放画质的最优显示。在 iOS 端则使用异步初始化技术,极大地缩短了 HDR 视频的起播时长,进一步提升视频播放体验。

在保证极致色彩体验及低功耗的情况下,字节播放器可支持高达 4K 分辨率和 60fps 流畅播放。

HDR 亮度自适应方案

为了给用户充分展现 HDR 内容,西瓜视频在移动端播放视频时,需要充分利用设备屏幕的高动态范围。根据动态范围的定义,屏幕的动态范围由最大亮度和最低亮度(黑位)的比值决定。当人们在一块 OLED 屏幕上观看 HDR 视频时,由于其黑位是固定值,视频的动态范围完全由屏幕的最大亮度决定。因此,为了让用户观看 HDR 内容时感受到比 SDR 视频更高的动态范围,需要调高屏幕亮度来做到这一点。

目前主流的安卓设备厂商缺乏统一的亮度管理方案。为此,火山引擎多媒体实验室提出了国内首个安卓端通用 HDR 亮度管理方案,在实验室测定了不同初始亮度下的最佳 HDR 观看亮度曲线,并集成到了西瓜视频安卓端 APP,在不同机型和不同初始亮度下播放 HDR 视频时自适应地调整当前屏幕亮度,保证了不同安卓机型都能够有相对稳定的 HDR 观看环境,进而提升用户的观看体验。

关于火山引擎多媒体实验室

实验室致力于研究、探索多媒体领域的前沿技术,参与国际、国内多媒体方向的标准化工作,为多媒体内容分析、处理、压缩、传输、创新交互等领域提供软硬件解决方案。目前多媒体实验室所提供的众多创新算法已经广泛应用在了抖音、西瓜视频等产品的点播直播、实时通信、图片等多媒体业务,并向火山引擎的企业级客户提供技术服务。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2021-08-20,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 InfoQ 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
HDR技术趋势浅析
在5G+AI的大时代背景下,超高清(UHD)视频将取得更快的发展,不单是在传统的广播电视领域,而且在互联网视频、OTT领域也会有越来越多应用上线。超高清视频不仅在分辨率、帧率上有提升,更重要的是体现在高动态范围(HDR)和宽色域(WCG)上。与传统的SDR视频相比,HDR视频具有更高的亮度范围、更宽的色域范围、更深的位深(10bit/12bit)。
LiveVideoStack
2022/02/11
2.9K0
HDR技术趋势浅析
HDR关键技术:HEVC/H.265编码优化
与传统标准动态范围(SDR)视频相比,高动态范围(HDR)视频由于比特深度的增加提供了更加丰富的亮区细节和暗区细节。最新的显示技术通过清晰地再现HDR视频内容使得为用户提供身临其境的观看体验成为可能。面对目前日益增长的HDR视频消费需求,研究现有的压缩工具或引入新的技术来高效压缩HDR视频变得十分迫切。本文将介绍有关MPEG及VCEG针对HDR视频压缩的研究进展。
用户1324186
2018/08/08
5.5K0
HDR关键技术:HEVC/H.265编码优化
不要再浪费你的HDR显示器:SDR转HDR技术漫谈
腾讯多媒体技术专栏 随着HDR(High Dynamic Range)相关技术的发展,越来越多的视频平台和设备厂商持续推动HDR内容的制作与传播。HDR可以提供更丰富的细节,更宽广的色域和更自然的色彩过渡。为呈现更高的图像品质,给体验者带来更具沉浸式的感受,腾讯多媒体实验室也对这一技术投入研究并推广落地。 本文主要介绍实验室在视频动态范围扩展这一视频增强技术方面的研究进展。在介绍相关算法的同时,文章简要分析和讨论扩展过程中需要解决的主要问题、可能的解决方案和存在的问题。 一、背景介绍 多媒体软硬
腾讯多媒体实验室
2021/02/01
11.7K2
HDR关键技术:逆色调映射(一)
HDR技术近年来发展迅猛,在未来将会成为图像与视频领域的主流。当前HDR内容非常短缺,限制了HDR视听节目的广泛应用。逆色调映射(Inverse Tone Mapping)应运而生,它是一种用来将SDR源信号转换为HDR源信号的技术,可以应用于生产端或终端设备,在一定程度上实现对现有SDR节目的HDR“还原”及向上兼容。本系列中,我们将会详细分类介绍逆色调映射算法。分为两个部分:(一)逆色调映射概述及一些经典算法,包括全局算法,分类算法以及拓展映射算法;(二)介绍最近的研究趋势,特别是基于机器学习的逆色调映射算法。Let's go for the first part!
用户1324186
2018/07/26
10.9K0
HDR关键技术:逆色调映射(一)
HDR in depth
尽管 SDR(标准动态范围)存在诸多弊端和过时的技术流程,但 SDR 格式的视频内容在当今媒体市场中仍处于领先地位, 而 HDR(高动态范围)格式才刚刚开始扩展。在本文中,主要介绍了每种 HDR 格式的最相关信息。所描述的标记使您可以快速深入到 HDR 领域,识别、整合 HDR 内容并解决可能出现的问题。
用户1324186
2021/09/17
2.6K0
HDR关键技术:质量评价技术(续)
在上一篇HDR质量评价帖中,我们列举了业内常见的HDR质量评估算法,然而不同算法有不同的应用领域。本文将结合重要的HDR技术,进一步描述HDR质量评价技术。本文评价对象将包括色调映射技术,逆色调映射技术,视频压缩与编码技术。
用户1324186
2018/09/21
4.2K0
HDR关键技术:质量评价技术(续)
微博HDR视频的落地实践
大家好,我是刘文。目前负责微博客户端播放器的研发。今天我演讲的主题是微博HDR视频的落地实践。
LiveVideoStack
2022/01/05
1.2K0
微博HDR视频的落地实践
HDR关键技术:主要标准介绍
HDR是UHD技术中最重要维度之一,带来新的视觉呈现体验。HDR技术涉及到采集、加工、传输、呈现等视频流程上的多个环节,需要定义出互联互通的产业标准,以支持规模化应用和部署。本文整理当前HDR应用中的一些代表性的国际标准。
用户1324186
2018/08/23
6.5K0
HDR关键技术:主要标准介绍
HDR的主要标准有哪些?
HDR ( High-Dynamic Range ) 高动态范围技术是一种在图像处理和显示领域中常用的技术,旨在提供更广泛的亮度范围和更丰富的色彩细节,通过在图像中捕捉和显示更多的亮度级别来提高图像的质量,让电影、图片、游戏画面都能呈现出极佳的效果,使用户在观影、玩游戏时感受更接近真实世界中的视觉体验。
微帧Visionular
2024/10/30
5760
HDR的主要标准有哪些?
航拍 HDR 视频的 VVC 和 AV1 编码
视频产业现在处于一个十字路口,巨大的视频服务行业每年价值约 2000 亿美元。视频占互联网所有流量的 80%,这个比例还在增长。而在这 80% 的流量中,80% 是由 H.264 比特流组成的 -- 这是当今主流的视频编解码器。但 H.264 是在 2003 年实现标准化的,整整 18 年了,现在时机已经成熟,需要一个更新、更强大的编解码器来取代它。
用户1324186
2021/11/15
2.3K0
2017 HDR技术动态
2017年是HDR发展突飞猛进的一年,这一年里,HDR不仅仅在技术层面取得了巨大的进步,在消费市场也取得了极大的成功,在其他相关领域中也得到了广泛的应用。 在消费市场上,具备HDR功能的电视无疑已经成为当下的热点,几乎每个主要的电视生产商都推出了数款HDR电视,并且覆盖了多个价位以供消费者选择。事实上,因为HDR技术的不断成熟以及用户对高品质图像显示设备的需求,现在已经很难找到不兼容HDR模式的4K电视了。 随着HDR电视在不断普及,性能评价标准也变得多样了起来,但主要的评价目标仍然是色彩容量。色彩容量
用户1324186
2018/03/05
2.3K0
2017 HDR技术动态
HDR关键技术:主要标准介绍(续)
前文我们已经对HEVC的HDR编码优化技术和HDR/WCG相关的整体编码方案做了介绍,本文总结几种具有代表性的技术方案,对业内常用的几个HDR分发标准做简要梳理。
用户1324186
2018/08/23
4.3K0
HDR关键技术:主要标准介绍(续)
HDR关键技术:HEVC/H.265编码方案
前文我们对HEVC的HDR编码优化技术做了介绍,侧重编码性能的提升。本章主要阐述HEVC中HDR/WCG相关的整体编码方案,包括不同应用场景下的HEVC扩展编码技术。
用户1324186
2018/08/08
7.5K0
HDR关键技术:HEVC/H.265编码方案
显示器中的HDR10、HDR400、HDR600有什么区别?
HDR10和HDR400、HDR500、HDR600、HDR1000等看似是类似的概念,都是HDR后面带了一个数字,但实际意义却相差甚远。
微帧Visionular
2024/11/13
12K0
显示器中的HDR10、HDR400、HDR600有什么区别?
HDR标准术语解读
UHD4K的布道师Yoeri Geutskens撰文对各种HDR标准进行了解释,如果你被眼花缭乱的HDR标准搞得一头雾水,本文将会对你有所帮助。 文 / Yoeri Geutskens 译 / 蒋默
LiveVideoStack
2019/09/17
1.7K0
HDR标准术语解读
全球首家!B站上线“杜比视界”给UP主用,“观众眼睛要被养刁了”
金磊 萧箫 发自 凹非寺 量子位 报道 | 公众号 QbitAI 嗯?什么情况? 我关注的摄影区大UP主(Linksphotograph),把一年前的视频又发了一遍…… 点进去看了下弹幕: 卧槽这画质,和上次的完全不一样啊! 这效果,感觉links就在我眼前;雪晃得眼睛疼,就像真的看到一样。 居然可以拍出星星? 多谢links让我知道,原来我iPad/安卓/苹果的屏幕这么厉害…… 仔细一看,弹幕的字里行间,似乎都少不了这几个字:「杜比视界」。 芜湖~~~不得了!这竟然是杜比视界画质的视频,而且B站竟
量子位
2023/03/10
6940
全球首家!B站上线“杜比视界”给UP主用,“观众眼睛要被养刁了”
HDR:为用户打造的视觉盛宴
随着时代的发展,人们越来越不满足于屏幕画面有限的色彩,开始研究如何让画面与现实世界更加相似。本次LiveVideoStackCon 2021上海站大会我们邀请到了快手音视频技术部的章佳杰。他以几个小故事作为引子,来分析照片无法完美重现现实世界的原因,并分享关于HDR高动态范围视频干货。
LiveVideoStack
2021/07/12
1K0
HDR:为用户打造的视觉盛宴
HDR
LDR SDR HDR简介相机里的HDR视频行业的HDRHDR标准体验真正的HDR参考链接
瓜大三哥
2020/06/09
1.4K0
WWDC 2022 音视频相关 Session 概览(EDR 相关)丨音视频工程示例
这个公众号会路线图式的遍历分享音视频技术:音视频基础(完成) → 音视频工具(完成) → 音视频工程示例(进行中) → 音视频工业实战(准备)。关注一下成本不高,错过干货损失不小 ↓↓↓
关键帧
2022/11/29
2.8K0
WWDC 2022 音视频相关 Session 概览(EDR 相关)丨音视频工程示例
视频要不要开hdr_hdr在什么情况下使用
最近两年HDR这个概念可谓是铺天盖地而来,手机也好PC也好电视也好,都拼命往自己头上扣HDR的帽子。而在某些发烧友眼中,如果看片子不带HDR,堪比步兵变骑兵,一下子变得索然无味。然而,新事物往往也伴随着众多新坑,特别是在软硬件环境复杂的PC平台,稍有不慎就会摔得脸青鼻肿,播HDR的效果甚至不如播普通的片子。
全栈程序员站长
2022/10/05
1.3K0
视频要不要开hdr_hdr在什么情况下使用
相关推荐
HDR技术趋势浅析
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档