多模态智能数据湖 TCLake 中,每个腾讯云账号在每个地域拥有独立的元数据空间,元数据对象采用统一的三级命名空间 Catalog.Schema.Object,对表、数据卷、模型等所有实体资源生效。
数据目录(Catalog) 是三级命名空间的最上层逻辑实体,采用层级化结构组织元数据资源,适用于不同业务、不同用户之间的元数据隔离与权限管控。本文为您介绍数据目录(Catalog)的基本操作。
数据目录层级模型
第一级:Catalog
数据目录用于组织不同形式的数据资产,目前腾讯云多模态智能数据湖 TCLake 中数据目录分为以下类型。
大类 | 小类 | 功能 |
内置数据目录 | LakeHouse Catalog | 结构化数据目录,内置 TCIceberg 批流一体开放表格式托管。 |
| Volume Catalog | 面向非结构化数据的数据卷(Volume)目录,可将对象存储等文件系统中的图片、视频、音频关联到 Volume 中,实现对非结构化数据的元信息统一管理。 |
| Model Catalog | 面向 ML 模型文件的内置数据目录,可将 MLflow 等 MLOps 框架中训练好的 ML 模型注册到 Catalog 中,实现 ML 模型文件的全生命周期管理(尚未开放)。 |
外部数据目录 | MySQL、EMR、DLC、TCHouse 等 | 指通过 JDBC 等方式建立与如 MySQL 等外部数据源的连接,实时获取到该数据源的元数据信息。 |
第二级:Schema
Schema(也可称为架构)是数据目录下的二级实体,是比数据目录更细粒度的逻辑分组。根据所在数据目录的类型,Schema 下可包含表、视图、数据卷、模型、函数等实体资源。
第三级:具体数据资源
数据目录模型的第三级,承载具象化的实体数据资源,类型由所在数据目录类型决定。
表(Table)/ 视图(View)
表是托管到 TCLake 服务中、按行和列组织数据集合的具体库表,支持 TCIceberg、Lance 等多种开放表格式。视图是针对一个或多个表保存的查询。
说明:
表与视图仅可在类型为 LakeHouse 的数据目录中创建。
数据卷(Volume)
数据卷(Volume) 是 TCLake 提供的非结构化数据组织单元,将一组文件按目录树形式组织在统一的命名空间下,并以三级命名空间挂载到
Catalog.Schema.Volume。计算引擎、Python 应用、训练框架无需感知底层对象存储路径,即可通过统一的虚拟路径访问 Volume 中的文件。说明:
数据卷(Volume)仅可在类型为 Volume 的数据目录中创建。
新建数据目录
1. 登录 多模态智能数据湖 TCLake 服务控制台 。
2. 在数据目录列表页面,使用在 TCLake 中拥有 Admin 角色的用户,单击创建数据目录。
3. 在弹出对话框中输入以下内容:
配置项 | 说明 |
目录名称 | 必须,唯一标识,不可重名。只能包含字母、数字、下划线,且长度为1-64个字符 |
描述 | 可选 |
存储类型 | 目前仅支持标准存储 |
开启多 AZ 冗余 | 说明: 默认不开启。开启后,数据将存储在同地域内的不同可用区(AZ),提供同城容灾功能。 多 AZ 冗余开启后不可关闭,提供更高数据可靠性的同时,存储容量费用也会有所增加,建议在数据有更高可靠性要求的情况下开启。 |
4. 阅读并勾选计费说明,创建数据目录。
说明:
查看数据目录
在服务左侧菜单栏,选择数据目录,在树状数据目录浏览器可选择对应数据目录以及旗下如 Schema、Table 等层级进行查看。
编辑数据目录
1. 在数据目录列表页面,找到需要修改的数据目录,在右侧操作选项中选择编辑。
2. 在弹出对话框中修改对应数据目录的设置信息。
删除数据目录
在数据目录列表页面,找到需要修改的数据目录,在右侧操作选项中选择删除。
注意:
为避免数据误删,对于数据托管存储在 TCLake 中的数据目录类型(Lakehouse、Volume、Model),需提前手动删除 Default Schema 以外所有元数据资源,才可删除数据目录。