AWS的S3, 阿里云的OSS, 腾讯云的COS, 都是常见的对象存储服务。对象存储服务面向非结构化数据,支持通过HTTP/HTTPS协议访问,支持存入文本、图片、视频等多种类型的数据。
2021年4月25-26日,ArchSummit 全球架构师峰会 2021(上海站)将在上海·宝华万豪酒店举办,本次峰会设置了云原生容器化、业务架构、Flutter 一线实战、网关系统实践等 17 大专场。其中,由腾讯云高级工程师程力老师演讲的“存算分离架构下的数据湖架构”专题,已经开始报名啦!
日前,腾讯云高级工程师程力老师在 ArchSummit 全球架构师峰会上分享了存算分离架构下的数据湖架构。
开局先来一张礼品清单~ 5月26日(本周三)下午,腾讯云知识分享季公开课又要开播啦~ 这一次,我们邀请到了腾讯云存储团队的两位大牛和科技媒体TechSugar的媒体编辑,给大家带来一场干货满满的主题分享以及圆桌对话。 数据湖是能够把各种数据进行集中存储并进行分析的系统。在存算分离架构趋势下, 以对象存储作为底座的存储技术进行了哪些架构调整演进,提供了什么样的方案, 来满足数据湖上的各种计算分析应用? 作为网络内容的运营者,如何杜绝各种场景下的敏感信息,给企业审核带来的巨大挑战?互联网企业要如何做好
这一次,腾讯云存储团队的两位大牛和科技媒体 TechSugar 的媒体编辑,将给大家带来一场干货满满的主题分享以及圆桌对话。
“传统的IT存储厂商,‘存’是其核心关注点;而互联网企业,不仅要做好‘存’,还要做强‘用’。”
由中国信息通信研究院、工信部新闻宣传中心联合主办,开放数据中心委员会(ODCC)、《人民邮电》报、风向Talks联合组织的“2021数据中心高质量发展大会”,于5月13日在国家会议中心召开,在2021年世界电信和信息社会日即将来临之际,共襄数据中心行业高质量发展。
日前,腾讯云专家工程师严俊明老师,在云+社区技术沙龙「云原生」专场,分享了基于对象存储的云原生数据湖最新技术突破,包括云原生数据湖业务场景以及技术架构。
腾讯云存储团队两位技术大牛,围绕“数据湖”、“内容安全”、“存算分离”等热门话题展开演讲,下面让我们一起回顾下两位老师的精彩演讲内容。
数据是企业的核心资产,随着数据规模的快速增长,企业对存储功能和性能的要求也在不断增加。对云厂商和企业用户来说,如何在提升业务性能的同时降低成本是一巨大挑战。11月26日在QCon大会上,腾讯云数据湖存储研发负责人严俊明和技术专家程力受邀分享了数据湖存储的关键技术,并分享了数据湖存储在大数据及自动驾驶场景下的落地实践,助力用户业务降本增效。 下面,让我们一起回顾下两位老师的精彩演讲内容👇 数据湖是一种可拓展的技术架构,将数据存储、计算、分析、AI等能力集成整合为一款多元化的解决方案,从数据中挖掘价值;支持
导语 | 云原生数据湖架构以低成本优势推动客户上云,同时云上客户得以低成本撬动更多结构化和非结构化数据的价值,是一场云厂商的自我革命。本文由腾讯大数据专家工程师于华丽在 Techo TVP开发者峰会「数据的冰与火之歌——从在线数据库技术,到海量数据分析技术」的《云原生数据湖新一代数据架构》演讲分享整理而成,为大家详尽介绍云原生数据湖的价值和背景,云原生数据湖架构原则和挑战,同时分析腾讯云数据湖产品,展望腾讯云数据湖解决方案。 点击可观看精彩演讲视频 一、云原生数据湖架构的价值 今天分四个阶段来为大家
作者 | 腾讯游戏公共数据平台部基础数据平台团队 开源运动旗手 Eric S. Raymond 在《大教堂和集市》中说,一个项目若想成功,“要将用户当做合作者”。这也一直是 StarRocks 社区的理念。对于 StarRocks 社区,腾讯游戏公共数据平台部既是 StarRocks 社区的用户,也是合作者。他们为腾讯数百款游戏提供基础的数据平台支撑,业务环境复杂,技术组件多样。 他们在数据分析加速项目中,经过多方的技术栈选型,引入 StarRocks 作为数据分析平台的引擎底座。同时,在和
日志领域是Elasticsearch(ES)最重要也是规模最大的应用场景之一。这得益于 ES 有高性能倒排索引、灵活的 schema、易用的分布式架构,支持高吞吐写入、高性能查询,同时有强大的数据治理生态、端到端的完整解决方案。但原生 ES 在高吞吐写入、低成本存储、高性能查询等方面还有非常大的优化空间,本文重点剖析腾讯云大数据 ES 团队在这三个方面的内核增强优化。
2023年3月10日,由百易传媒(DOIT)主办,上海市计算机学会与上海交通大学支持的第六届分布式存储高峰论坛成功召开。腾讯云存储团队产品负责人崔剑受邀分享“下一代云原生存储的探索与落地”;腾讯云首席存储技术专家温涛受邀分享“腾讯云智能监控解决方案及实践”。论坛期间大奖榜单正式发布,腾讯云荣获2023对象存储服务金奖。 下面,让我们来一起回顾下两位老师的精彩演讲。 腾讯云存储团队多年服务国内以及海外市场,不难看出云原生时代下存储市场大致会往四个需求方向进行演进:海量弹性、稳定可靠、高性价比、挖掘数据价值。
企业数字化转型过程中,数据价值被显著放大,大数据应用成为不少企业探索的重点。 从技术上看,大数据业务由于数据体量大,且数据量很多时候呈急速膨胀状态;在进行大数据计算分析时,对资源的需求呈现浪涌式特征,又偶有突发性,因此通过上云充分发挥资源按需使用按需付费的优势,成为了不少企业在探索大数据应用时的常见模式。 这其中,企业在综合考量数据安全性、可扩展、可管理和成本效益等因素后,混合云部署的方式就成为了企业的主流选择。 近日,腾讯云存储高级产品经理贺永红在混合云主题论坛上发表演讲,详解了大数据应用上云的新
腾讯云存储业务中心副总监-刘金明,在云+未来峰会上做了主题为《腾讯云 EB 级对象存储架构深度剖析及实践》的分享,以下内容整理自演讲。
日志领域是 ES 最重要也是规模最大的应用场景之一。这得益于 ES 有高性能倒排索引、灵活的 schema、易用的分布式架构,支持高吞吐写入、高性能查询,同时有强大的数据治理生态、端到端的完整解决方案。但原生 ES 在高吞吐写入、低成本存储、高性能查询等方面还有非常大的优化空间,本文重点剖析腾讯云大数据 ES 团队在这三个方面的内核增强优化。
2022年,搜狐智能媒体完成了迁移腾讯云的弹性计算项目,其中大数据业务整体都迁移了腾讯云,上云之后的整体服务性能、成本控制、运维效率等方面都取得了不错的效果,达到了预期的降本增效目标。
2022年11月30日,腾讯全球数字生态大会上,发布了和知名分析机构IDC合作的《IDC 2022年云上产品演进趋势白皮书》。大数据作为重点赛道之一,在白皮书里面也传递了腾讯云对这个赛道发展趋势的判断:云原生,数据治理,数智融合,隐私计算。
自建开源大数据平台会随着企业数据的增长遇到:性能慢、扩容周期长、平台稳定性差、运维难、投入成本高等问题。在这里我们将从 EMR 的简介、EMR与自建Hadoop对比优势、自建迁移上云的实践案例来介绍 EMR 是如何解决这些问题的。
RocketMQ 最早诞生于淘宝的在线电商交易场景,经过了历年双十一大促流量洪峰的打磨,2016年捐献给 Apache 社区,成为 Apache 社区的顶级项目,并在国内外电商,金融,互联网等各行各业的广大客户落地验证,得到广泛认可。
摘要 日前,腾讯云大数据数据湖计算 DLC 与国内两家知名云厂商的数据湖产品进行了性能对比,其中腾讯云 DLC 在三款产品中SQL平均执行查询时间短,性能表现优。腾讯云大数据 DLC 在存算分离和大数据量查询场景下,海量查询性能较 A 厂商 产品提升 248%,较 B 厂商产品提升36%。 在存算分离大数据量查询场景下,腾讯云大数据 DLC 较 A 厂商 、B 厂商表现更优,同时在较大任务上的任务执行成功率更高,所有任务均成功执行。结合性能、性价比、使用体验等因素,腾讯云 DLC 在云原生数据湖选择上整体上
对于很多站长朋友来说,网站数据是非常重要的,所以一定要勤备份,以防服务器出问题,数据不至于丢失无法还原。
2022 导语 伴随数字经济市场稳步扩张, AI和富媒体融合的场景式体验、营销模式、分享渠道已经成为数字商业中不可或缺的部分。12月1日,在2022腾讯全球数字生态大会存储专场,腾讯云数据万象发布产品更新,与腾讯云对象存储COS共同打造智能存储生态,提供各类开箱即用的智能数据处理能力,帮助各行业用户挖掘数据价值,提高云上存储效能,释放内容生产潜能。 作为一站式存+管+数据处理生产力平台,腾讯云数据万象聚焦云上内容生产场景,实现存用联动,为用户提供API、SDK、控制台、卡片式工具箱多种调用方式,提升用户体验
导语 | 云原生数据湖致力于扩大公有云市场总量:一方面以低成本优势推动客户上云,另一方面云上客户得以低成本撬动更多结构化和非结构化数据的价值,是一场云厂商的自我革命,本文将为大家洞悉云原生数据湖的神秘面纱,并且首次推出腾讯云的云原生数据湖产品。文章作者:于华丽,腾讯TEG数据平台部研发工程师。 一、云上架构大数据平台的挑战和机遇 选择 Cloud 还是 Local 的诸多讨论和实践中,成本一直是绕不开的话题。“公有云太贵了,一年机器就够托管三五年了”,这基本上是刚开始接触公有云的企业,在进行了详细价格
为了分享过去一年云原生产业联盟(CNIA)在标准建设、评估测试、技术研究、实践合作等方面的工作成果、探索行业最新趋势动态,云原生产业联盟于2023年1月9日举办了2022年度线上年会,发布了“大数据云原生能力成熟度模型”,并进行了标准解读。 云原生时代,数据系统的技术架构正在多样化用户需求的驱动下快速演进。容器、Serverless、CI/CD、Kubernetes等云原生技术与大数据系统的深度融合,可以有效应对海量、异构、实时的用户数据处理请求。充分利用云原生平台能力实现大数据系统的“云原生”转型升级,已
数字经济发展日新月异,企业走向数字化,诞生了海量的软件和服务。软件行业高数据规模,高自动化、高迭代速度的要求,给传统软件行业带来了挑战。为推动软件架构更加健全,管理更加高效,云原生的概念应运而生,强调云技术架构中的弹性能力、自愈能力、可复制能力,进一步解放数字化行业生产力,赋能业务创新。 存储服务是云原生体系中的关键环节。云原生场景下,用户在云存储基本能力之上又提出了效率、弹性、自治、稳定、应用低耦合、安全等方面的新诉求。腾讯云存储团队与中国信通院及业界同仁一起将经验量化为标准,参与了《云原生存储能力要求》
导语 | 随着技术和数据业务的快速发展,新硬件不断迭代更新,使得成本和性能的均衡——降本提效成为可能。今天,我们特邀 英特尔数据库及大数据资深首席工程师、腾讯云 TVP 程从超老师 为我们带来《新硬件赋能创新——数据发展趋势》的解读,他将带我们了解整个数据处理架构的趋势,一起洞见 NoSQL 数字时代发展的新机遇。
关于 ArchSummit ArchSummit 全球架构师峰会是 InfoQ 中国团队推出的面向高端技术管理者、架构师的技术大会,54%参会者拥有8年以上工作经验。 2021年 ArchSummit 全球架构师峰会于4月 25-26日在上海宝华万豪酒店举行,此次会议的主题是“云原生”。 此次峰会由腾讯云担任“云原生技术应用”专题的出品方。腾讯云5位技术专家参与了 ArchSummit 全球架构师峰会的专题演讲,与开发者分享云原生、大数据计算与负载均衡等话题。 在会场外的特装展区,也展示了容器、中间
导语 | 随着企业大数据规模和应用的增长和发展,计算与存储分离的架构渐渐成为主流,它解决了计算量和存储量不匹配问题, 实现了算力的按需使用,但也引来了一些新的问题。腾讯云EMR团队与Alluxio社区合作,探索出了开箱即用的计算存储分离优化版本,大幅优化网络带宽,带宽削峰20%-50%,节省总带宽10%-50%,同时能在IO密集型场景提升性能5%-40%,下面就让我们来一探究竟。 一、当前大数据挑战 近年来,随着大数据规模的增长,以及大数据应用的发展,大数据技术的架构也在持续演进。早期的技术架构是计
【技思广益 · 腾讯技术人原创集】是腾讯云开发者社区为腾讯技术人与广泛开发者打造的分享交流窗口。栏目邀约腾讯技术人分享原创的技术积淀,与广泛开发者互启迪共成长。
近年来,随着大数据规模的增长,以及大数据应用的发展,大数据技术的架构也在持续演进。早期的技术架构是计算资源和存储资源高度融合,计算和存储资源一体化存在以下明显的挑战:
|导语 随着企业大数据规模和应用的增长和发展,计算与存储分离的架构渐渐成为主流,它解决了计算量和存储量不匹配问题, 实现了算力的按需使用,但也引来了一些新的问题。腾讯云EMR团队与Alluxio社区合作,探索出了开箱即用的计算存储分离优化版本,大幅优化网络带宽,带宽削峰20%-50%,节省总带宽10%-50%,同时能在IO密集型场景提升性能5%-40%,下面就让我们来一探究竟。 一、当前大数据挑战 近年来,随着大数据规模的增长,以及大数据应用的发展,大数据技术的架构也在持续演进。早期的技术架构
ArchSummit全球架构师峰会 ArchSummit 聚焦业界强大的技术成果,秉承“实践第一、案例为主”的原则,展示先进技术在行业中的典型实践,以及技术在企业转型、发展中的推动作用。旨在帮助技术管理者、CTO、架构师做好技术选型、技术团队组建与管理,并确立技术对于产品和业务的关键作用。 “腾讯云原生,让用云更简单”,4月25、26日,腾讯云5位技术专家现身ArchSummit全球架构师峰会上海站与广大开发者聚焦高效低成本业务架构实践、构建运行可弹性扩展云原生技术应用、微内核弹性与微服务技术架构
当时买存储服务器的速度,根本赶不上用户增长,所以用户每天最多上传 800 万张图片。
引言 是否遇到过,一个简单的业务统计需求却让数据工程师们抓耳挠腮? 是否遇到过,业务峰值周期明显,要么资源大量闲置, 要么线上疯狂告警? 是否遇到过,大数据集群运维复杂,需要投入大量技术工程师? 针对以上痛点, 腾讯云发布云原生数据湖计算服务,协同腾讯云端数据湖体系,帮助企业高效构建云端数据湖架构、降低数据计算成本,提升数据分析敏捷性、激发数据应用价值,助力企业数字化决策。 本文作者:ericshhxie 一、数据湖的前世今生 2010年 Pentaho 公司的创始人兼首席技术官詹姆斯·狄克逊(Jame
针对以上痛点, 腾讯云发布云原生数据湖计算服务,协同腾讯云端数据湖体系,帮助企业高效构建云端数据湖架构、降低数据计算成本,提升数据分析敏捷性、激发数据应用价值,助力企业数字化决策。
2022 导语 随着数据价值被越来越多企业认可,数据湖存储已成为企业级存储的首选和新一代提升生产力的服务。12月1日,在2022腾讯数字生态大会存储专场,腾讯云升级了云原生数据湖产品能力,并详细阐释了其设计理念,对其在多个行业的应用进行了案例分享,为更多企业提供降低存储成本、提升存储性能的实践参考。 当下,数据的生产、存储和消费模式日新月异,随着数据的爆发式增长,在数据存储和处理方面的降本增效成为企业亟待解决的问题。 腾讯云存储高级产品经理林楠认为,“市场需要一个更大、更快、更全能、更低成本的存储服务。数据
引言 是否遇到过,一个简单的业务统计需求却让数据工程师们抓耳挠腮? 是否遇到过,业务峰值周期明显,要么资源大量闲置, 要么线上疯狂告警? 是否遇到过,大数据集群运维复杂,需要投入大量技术工程师? 针对以上痛点, 腾讯云发布云原生数据湖计算服务,协同腾讯云端数据湖体系,帮助企业高效构建云端数据湖架构、降低数据计算成本,提升数据分析敏捷性、激发数据应用价值,助力企业数字化决策。 本文作者:ericshhxie 一、数据湖的前世今生 2010年 Pentaho 公司的创始人兼首席技术官詹姆斯·狄克逊(James
云原生Clickhouse 优势概述 以Clickhouse为基础,借鉴Snowflake等系统的设计思路,打造一款高性能的云原生OLAP系统,为用户提供多场景下的一站式的数据分析平台。 简单、易维护:集群管理、统一共享分布式调度服务 高可用、可扩展:支持500万以上的Table 低成本:存储成本至少降低了50% 兼容开源,复用超高性能:兼容协议、语法、数据库存储格式 Clickhouse是一款性能十分强悍的OLAP引擎,凭借优秀的性能在用户行为分析、ABTest、在线报表等多个领域大放异彩,但是目前C
2010年 Pentaho 公司的创始人兼首席技术官詹姆斯·狄克逊(James Dixon)首次提出数据湖的概念。把数据湖中的数据比作原生态的水——它是未经处理的,原汁原味的。数据湖中的水从源头流入湖中,各种用户都可以来湖里获取、蒸馏提纯这些水(数据)。此时, 大家对于数据湖的理解主要是当作一个集中式的存储系统,允许存储任意规模的结构化和非结构化数据。
明敏 发自 凹非寺 量子位 | 公众号 QbitAI 没想到,就在大家争相发大模型的时候,鹅厂另辟蹊径在算力上下手了。 刚刚,腾讯云最新一代HCC(High-Performance Computing Cluster)高性能计算集群,来了! 面向大模型训练,采用最新一代腾讯云星星海自研服务器,搭载了NVIDIA H800 Tensor Core GPU,可提供业界目前最高的3.2T超高互联带宽。 实测结果显示,腾讯云新一代集群的算力性能较前代提升高达3倍。 以训练自家大模型效果为例——万亿参数的混元NLP大
我们在使用COSBrowser来管理腾讯云存储的文件时,目前我们大家所熟知的上传/下载方式,主要有以下三种:
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。您可通过新手入门全面的了解COS,学习产品的基础知识,掌握控制台、API、SDK、工具等操作,助力高效便捷地管理您的业务。
本文介绍了腾讯云与百迈客生物科技达成战略合作,并发布了生物基因解决方案,包括提供云计算、存储、人工智能等IT能力,帮助生物基因行业发展,同时通过腾讯云双螺旋PaaS平台,快速基于云计算开展科研工作,推动精准医疗落地,普惠社会。
今天,中国信息通信研究院“原生聚力,云数赋能”第四届云原生产业大会首日活动取得圆满成功。作为云原生领域盛会,本次大会将邀请云原生业界顶级专家代表共探云原生产业发展方向,见证云原生发展阶段性成果,分享云原生应用先进经验。 腾讯云数据库专家团携顶尖云原生数据库TDSQL-C亮相,腾讯云数据库技术负责人程彬在主论坛分享了云原生时代数据库的技术沿革,四位鹅厂专家在下午的《云原生数据库架构探索与实践》专场中详细剖析了腾讯云在云原生数据库领域的技术演进历程、架构探索、问题解决思路和发展方向。 此外,凭借创新技术和领先实
领取专属 10元无门槛券
手把手带您无忧上云