首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >基于腾讯云存储网关 CSG 实现视频在线转码分发

基于腾讯云存储网关 CSG 实现视频在线转码分发

原创
作者头像
云存储
修改于 2021-01-15 07:49:23
修改于 2021-01-15 07:49:23
6.2K00
代码可运行
举报
文章被收录于专栏:腾讯云存储腾讯云存储
运行总次数:0
代码可运行

一、背景

随着越来越多的传统业务云化和云端业务发展,数据上云和云端数据处理领域的需求爆发式增长。腾讯云存储网关CSG提供一键部署开箱即用的便捷模式,深度结合COS对象存储生态,为用户提供方便快捷的数据上云通道,有效满足业务数据备份、数据上云和云上数据处理的需求。

腾讯云存储网关CSG提供文件语义到对象存储语义的转换,依托COS对象存储的海量存储能力,使用户通过本地文件协议即可读写云端COS数据,无需对现有业务做任何侵入式开发,即可使业务获得接近无限容量的文件系统使用能力,借助CSG热数据缓存能力,业务数据上云后业务侧还能够高效对COS里的业务数据进行后续加工处理。

二、业务场景

下文将以视频转码分发业务场景为例,带您了解CSG在该场景的应用。

业务侧生产出原始视频流H264文件,通过CSG将H264文件素材同步到COS,同步后再将H264文件作为输入继续转码成TS视频文件,最终将TS文件的COS访问链接发布到客户端侧,供各类客户端访问。

业务架构示意图:

1、依据业务规模部署存储网关CSG,通过腾讯云存储网关控制台一键部署或者通过腾讯云COS控制台一键部署。

  • CSG控制台一键部署网关
  • COS控制台一键部署网关

2、业务服务器中挂载CSG文件系统。

  • 使用下列命令实现 NFS v4.0 挂载
代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
sudo mount -t nfs -o vers=4 <挂载点IP>:/share/nfs/<文件系统名称即bucket名称> <待挂载目标目录>

3、业务上传原始h264视频文件到CSG文件系统素材目录。

4、业务通过CSG文件系统,直接对素材目录中的文件执行转码操作,输出新文件到转码输出目录。通过CSG执行转码操作和本地磁盘执行转码操作在默认情况下性能接近,当使用自定义SSD机型的CSG时,将获得比本地普通磁盘更高的IO性能,单台CSG吞吐量可达1GB/s

5、原始素材和转码后的文件均通过CSG同步到COS存储桶,实现素材和输出文件同步到云端COS。

6、通过SCF云函数感知COS存储桶转码目录路径中的对象创建事件,将对象创建事件发布到业务指定CMQ消息队列

  • SCF云函数示例

7、业务服务通过业务指定CMQ消息队列进行消费,获取转码文件已成功上传到COS的事件信息,将对应文件的COS加速域名发布到客户端服务,使客户端能够通过COS加速域名下载浏览最终文件。

三、结语

存储网关CSG依托COS对象存储生态,为业务提供接近无限容量文件系统的使用能力。

通过存储网关的热数据缓存能力,业务能够对流程中前一步上传的文件进行高效加工处理,直接在CSG生产出后续业务流程所需的数据,并通过CSG将这些数据自动同步至COS。

整个数据上云和数据处理过程,均通过本地文件系统接口来操作,无需业务做侵入式改造,即可使业务数据上云并对数据进行加工处理,并可直接在云端生产出最终结果数据,结合后续SCF云函数和CMQ消息队列的腾讯云平台能力,可轻松和业务服务联动将云端COS数据链接分发至用户业务客户端。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
腾讯云存储网关提供混合云存储服务,实现数据分层存储!
​存储网关(Cloud Storage Gateway,CSG)是腾讯云提供的混合云存储服务。您可以通过 CSG 使用标准文件共享协议访问位于对象存储 COS 中的数据,无缝接入公有云,实现数据的实时共享和冷热分层。腾讯云 CSG 可以根据您的业务需求灵活地部署在云上或者本地,让您更轻松地进行数据的云上处理、备份归档以及灾难恢复。
云存储
2021/07/29
24.4K0
混合云存储打开的正确姿势——腾讯云存储网关 CSG
近年来,随着云计算的发展,越来越多的企业选择将IT系统基础设施转移到云上,上云有助于推动企业加快信息化、数字化、智能化的转型,但是很多企业对传统的业务系统依赖程度较高,短时间内将业务迁移上云将会面临很多风险。
云存储
2020/12/08
15.4K0
【云存储小海曝】对象存储COS通过CSG支持文件访问,平滑接入企业应用场景。
某广电客户遇到技术挑战:如何能及时编辑已归档的媒资素材? COS归档支持高带宽及时回热,问题似乎迎刃而解,但深层问题暴露出来,客户编辑软件仅支持文件接口语义,不支持对象接口语义,不能直接读写COS的数据。 该需求“COS支持文件接口语义”有代表性。对象接口语义是互联网新兴技术,很多线下应用暂不支持对象接口语义;另外,对象接口语义面向互联网分发场景所设计,缺失线下文件接口语义的稳定低时延、强一致性、稀疏写等功能。 ----  COS通过存储网关CSG支持文件接口语义 腾讯云对象存储COS团队收到客
云存储
2020/08/07
1.7K0
腾讯云功能介绍和使用示范-存储网关CSG-混合云部署型
存储网关(Cloud Storage Gateway,CSG)是腾讯云提供的混合云存储服务。您可以通过 CSG 使用标准文件共享协议访问位于 对象存储 COS 中的数据,无缝接入公有云,实现数据的实时共享和冷热分层。腾讯云 CSG 可以根据您的业务需求灵活地部署在云上或者本地,让您更轻松地进行数据的云上处理、备份归档以及灾难恢复。腾讯云 CSG 旨在让您更加专注于自有业务的发展,而不受存储技术门槛以及成本的困扰。
root0day
2021/03/05
3.6K0
腾讯云功能介绍和使用示范-存储网关CSG-混合云部署型
存储网关CSG助力企业上云
随着近几年的云服务发展和普及,公有云的优势得到了越来越多开发者的认可,无需任何的硬件投入,就可以实现内容全球分发,十一个9的数据安全性以及服务的高可用性。 但是对于很多企业来说,直接采用公有云,仍会面临以下问题: 现有的服务架构难以直接整体迁移到公有云上; 既有代码难以进行大范围的改动以适配全新的接口; 而存储网关可以协助您实现公有云和私有云的无缝衔接,让您更加平滑地将业务迁移上云。 一、存储网关 CSG 的基本原理 用户可以直接利用熟悉的 NAS 协议将数据写入 CSG 中的缓存,而
云存储
2020/07/16
3.8K0
年终回顾丨不可错过的 2020 腾讯云存储大事件
2020 年伊始,一场突如其来的新冠疫情改变了人们的生活和工作方式,越来越多的服务进一步云化。远程办公、视频会议、在线教育等业务迎来了爆发性地增长。
云存储
2021/02/11
1.2K0
年终回顾丨不可错过的 2020 腾讯云存储大事件
2021. 腾讯全球生态大会 | 分布式云存储板块内容回顾
上周由腾讯主办的2021腾讯全球生态大会已经完美落幕,大会为大家带来了科技界最重磅、最前沿的产品! 接下来让我们一起重温一下大会现场。 本次大会我们有幸邀请到了众多重磅嘉宾来给我们带来干货分享,由小编一一介绍给大家。 腾讯云计算产品研发副总监李德铠,和我们分享从中心到边缘、从公有到私有,算力无处不在。 英特尔嘉宾,为我们分享了《英特尔 XPU,全芯、全栈、全能》。 AMD 中国企业与商用事业部高级技术支持周俊杰,给我们带来了 AMD EPYC 树立数据中心全新标准。 NVIDIA 中国区 RTX/
云存储
2021/11/15
9730
使用 Serverless 云函数 + ffmpeg 实现音视频转码服务
Serverless 已经成为近期热度越来越高的技术,众所周知,Serverless 的核心是帮用户屏蔽了底层的资源、提供按需请求、按需使用、按需付费的一种全新服务,像腾讯云的云函数(SCF)和对象存储等都是 Serverless 化的服务。基于 Serverless 云函数,用户可以快速构建各种功能性的 REST API 服务,如 WEB 服务后台、APP 应用后台、小游戏的聊天服务、图片处理、音视频转码等。本文就以 API网关 + 云函数 + 对象存储等云产品,分享如何快速实现自定义的音视频转码服务。
Mason-Serverless
2020/07/22
5.7K1
使用 Serverless 云函数 + ffmpeg 实现音视频转码服务
腾讯云 Serverless 支撑「新东方」核心业务算力资源
谈起 Serverless 计算,在技术圈热度很高 —— 所有人都在说 Serverless,大家都声称在做 Serverless,但每个 Serverless 又不一样。我们不禁想问,Serverless 是不是只是一个炒热度的空洞热门词 ? 其实不然,Serverless 作为一种更易用、低成本、免运维的通用计算服务,已经在互联网核心业务中承担重要的算力角色,适用于各种计算应用场景。也正是因为其作为通用计算支撑,场景众多,业内使用 Serverless 计算的场景覆盖广泛,随处可见。 纵观国内 Se
腾讯云serverless团队
2020/08/05
1.7K0
存储网关CSG 全新发布 | 企业如何才能快速上云?
关注腾讯云大学,了解行业最新技术动态 企业上云会面临应用架构改造耗时耗力、技术难度大、成本投入大等种种难题,如何才能快速上云?存储网关 CSG 使用标准文件共享协议访问位于对象存储 COS 中的数据,无缝接入公有云,实现数据的实时共享和冷热分层。用户可以根据业务需求灵活地部署在云上或者本地,更轻松地进行数据的云上处理、备份归档以及灾难恢复。 今天晚上19:00 存储网关 CSG 全新上线发布会,产品经理将为您深入解读存储网关如何助力企业上云,实现云端赋能。 戳【阅读原文】或识别【二维码】预约直播
腾讯产业互联网学堂1
2023/05/29
8580
存储网关CSG 全新发布 | 企业如何才能快速上云?
腾讯云深度归档让数据从磁带走向云端
在数字化转型浪潮中,如何存储和利用好数据,是企业面临的首要问题。相比于传统互联网全面拥抱云,产业互联网在数字化转型过程中,通常第一步是利用云存储来归档数据。
云存储
2020/11/27
3.8K0
腾讯云深度归档让数据从磁带走向云端
发布更新|腾讯云 Serverless 产品动态 20200723
一 、腾讯云云函数 SCF 支持 CFS 文件系统 发布时间: 2020 年 7 月 22 日 产品介绍: 腾讯云云函数 SCF 本地文件系统是实例独享的,无共享存储空间,512 MB 存储空间较小且无法持久存储。云函数 SCF 支持与 CFS 无缝集成,只需进行相关配置,函数即可轻松访问存储在 CFS 文件系统中的文件。 CFS 符合标准的 NFS 文件系统访问协议,为多个计算节点提供共享的数据源,支持弹性容量和性能的扩展,现有应用无需修改即可挂载使用,是一种高可用、高可靠的分布式文件系统。 产品功能:
腾讯云serverless团队
2020/07/24
1.4K0
【腾讯云&IDC混合云】构建云上COS对象存储灾备解决方案分享
近期有接到许多朋友咨询迁移上云和本地IDC备份扩容,如何快速构建一个私有化的备份解决方案,背景也就是,一些传统企业,IDC业务快速增长,服务器及存储容量暴涨,导致本地IDC超融合服务器等瓶颈。物理扩展周期长,费用昂贵,加之近期受国外芯片封锁,导致国内外服务器硬件价格暴涨,听说之前信创服务器,被哄抬价格“天价”,因此,许多企业智慧选择更为实惠的公有云,但有些重要的客户,希望资料提供私有化,不想全部业务数据上云,那么如何解决【企业数据本地化】又能解决IDC扩容【存储上云备份】呢?
TCS-F
2022/03/22
4.4K0
【腾讯云&IDC混合云】构建云上COS对象存储灾备解决方案分享
腾讯云 CFS 文件存储给云函数 SCF 带来的业务新场景
查看完整直播回放:https://cloud.tencent.com/edu/learning/live-2952 云函数 SCF 存储的局限
可可爱爱没有脑袋
2020/10/16
2.9K0
发布更新|腾讯云 Serverless 产品动态 20200714
一 : SCF VS Code 插件发布 2.0 版本 6 月 12 日正式上线 产品介绍: Tencent Serverless Toolkit for VS Code 是腾讯云 Serverless 产品的 VS Code(Visual Studio Code)IDE 的插件。该插件可以让您更好地在本地进行 Serverless 项目开发和代码调试,并且轻松将项目部署到云端。VS Code 插件升级 2.0 版本,提供了基于 Serverless Framework yaml 的配置文件格式支持、新增
腾讯云serverless团队
2020/07/15
1.4K0
回顾|腾讯云 CFS 文件存储给 Serverless 云函数带来的业务新场景
云函数 SCF 存储空间使用背景 目前 Serverless 架构已经在很多场景中落地,无论是使用 API 网关+ 云函数 SCF 实现 API 服务和 Web 服务,还是通过对象存储 COS 触发函数运行,进行文件上传事件的传递和文件的处理,或者通过消息队列中的消息触发函数,进行消息的过滤转储;Serverless 依靠其快速开发上线,无需复杂运维的特性,正逐步进入到更多的业务场景中。 在实际的使用过程中,云函数作为计算形态的产品,提供了计算高度的弹性扩缩容。在云函数运行时,运行环境中的文件系统为只读,
腾讯云serverless团队
2020/09/01
2K0
卢萌凯:玩转SCF与COS的结合应用
大家好。我是腾讯云中间件及无服务器云函数架构师。我今天介绍分四部分:第一,对象存储COS简介。第二,比较实用的一部分,SCF与COS结合使用的应用场景。第三,比较有意思,人脸识别Demo。调用AI的接口,用几行代码就把人脸识别的Demo就实现了。最后一部分是最佳实践。其实主要是来看一下在COS使用过程当中有哪些需要注意的地方。
腾讯云开发者社区技术沙龙
2018/08/29
2.2K0
Serverless无服务器架构详解
Serverless: 无服务器架构,即在无需管理服务器等底层资源的情况下完成应用的开发和运行,是云原生架构的核心组成部分。
zhayujie
2020/08/03
5.1K0
Serverless无服务器架构详解
腾讯云对象存储 COS 荣获对象存储领导力奖!!!
亚太内容分发大会暨 CDN 峰会一直致力于推动 CDN 产业深度融合发展和市场普及,现已成为亚太地区影响力最大的内容分发网络盛会。十年来,在以腾讯云、阿里云、网宿科技等亚太 CDN 产业联盟成员孜孜不辍的努力下,CDN 产业已经成为基础性设施网络,以坚定的基石之姿,支撑起中国成为世界最大的互联网市场。
云存储
2021/06/21
6.9K0
腾讯云对象存储 COS 荣获对象存储领导力奖!!!
Serverless 音视频转码 —— 芒果 TV 落地实践(下)
在《Serverless 音视频转码 —— 芒果 TV 落地实践(上)》中,我们回顾了芒果 TV 吴坚强老师在 techo 大会的精彩分享,芒果TV 音视频编解码业务团队通过使用腾讯云 Serverless 音视频转码服务,成本降低 45% 以上,引起大家的广泛关注,小伙伴们都跃跃欲试! 本文我们将带领大家一起使用云函数 + COS + CLS + FFmpeg 构建高可用、并行处理、实时日志、高度自定义的视频转码服务。我们在此提供了两种方案,您可以直接用转码应用,一键部署,也可以通过 用函数的长运行方案
腾讯云serverless团队
2021/01/12
1.4K0
推荐阅读
相关推荐
腾讯云存储网关提供混合云存储服务,实现数据分层存储!
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档