腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
提取
BigQuery
分区表
有没有一种方法可以用一条命令
提取
完整的
BigQuery
分区表
,以便将每个分区的数据
提取
到一个单独的文件夹中,格式为part_col=date_yyyy-mm-dd 既然
Bigquery
分区表
可以从hive类型的分区目录中读取文件,那么是否有一种方法可以以类似的方式
提取
数据。我可以单独
提取
每个分区,但是当我
提取
大量分区时,这是非常麻烦的
浏览 25
提问于2019-07-02
得票数 5
回答已采纳
1
回答
如何在
BigQuery
的不同地域之间迁移摄取时间
分区表
?
我想将我的摄取时间
分区表
从一个区域迁移到另一个区域(使用自定义Python脚本),但是当我
提取
和加载它们时,它们都落入今天的分区中,因为它们就是摄取到表中的分区。
浏览 0
提问于2020-08-28
得票数 0
1
回答
为什么在
BigQuery
中复制
分区表
要花费比非
分区表
更长的时间?
我们已经开始迁移到使用
BigQuery
中的
分区表
。我们注意到复制
分区表
比非
分区表
花费的时间要长得多--在任何情况下都是如此。我相信这是有一个很好的理由的,例如因为
BigQuery
的底层体系结构&
分区表
。例如(在同一个项目中复制和复制到相同的数据集): 大小:15GB,87M行(与上面的表相
浏览 6
提问于2017-04-04
得票数 2
回答已采纳
1
回答
如何在
BigQuery
中创建未分区的表。以及在
BigQuery
中导出表的表SQL?
、
我正在开发
BigQuery
,而且我还是个新手。使用其中的_partitiontime字段创建新的未
分区表
。从具有精确结构的
分区表
from
BigQuery
.Create 导出表结构(日期上的已
分区表
)。 将这个问题标记到java以获得更多的可见性。
浏览 1
提问于2016-09-22
得票数 0
1
回答
BigQuery
分区表
如何在
BigQuery
WebUI中创建
Bigquery
分区表
。我知道我们可以从gcloud和api创建。我搜索了WebUI,但没有找到从webUI创建
分区表
的任何选项。 谢谢,
浏览 4
提问于2016-09-11
得票数 1
1
回答
BigQuery
:将日期
分区表
更改为摄取时间
分区表
我有一个
BigQuery
日期
分区表
,我想将该表转换为摄取时间
分区表
(在_PARTITIONTIME上进行分区),使用当前的日期分区将其输入_PARTITIONTIME。我该怎么做? 为什么?,因为只有摄入
分区表
才能增量加载到使用
BigQuery
的预定查询功能(通过使用@rundate参数作为分区装饰器)
浏览 3
提问于2018-10-17
得票数 2
1
回答
如何在
BigQuery
中从
分区表
中删除列
、
、
在
BigQuery
中,不能对
分区表
使用create or replace table语句。我可以将表导出到GCS,但是
BigQuery
会生成多个无法一次性导入到表中的JSON文件。有没有一种从
分区表
中删除列的安全方法?我使用
BigQuery
的web界面。
浏览 1
提问于2020-09-23
得票数 0
1
回答
如何将数据从一个大的非
分区表
导出到作为日期分区文件?
、
我希望将
bigquery
非
分区表
(2TB)中的数据作为日期分区文件导出到。因此,我可以轻松地将大的非
分区表
转换为
分区表
。
浏览 2
提问于2017-07-10
得票数 1
回答已采纳
1
回答
如何用python将云函数中的数据帧加载到
BigQuery
分区表
中
、
、
我有以下模式和设置: job_config =
bigquery
.LoadJobConfig(schema = [
bigquery
.SchemaField("Timestamp", "TIMESTAMP"),
bigquery
.Sch
浏览 10
提问于2019-12-21
得票数 0
回答已采纳
1
回答
BigQuery
+ Athena + Presto:分区和列数量的限制
、
基于Google
BigQuery
文档,
BigQuery
有以下限制():每个
分区表
的最大分区数- 20,000 谢谢!
浏览 2
提问于2020-05-25
得票数 2
2
回答
流到BQ
分区表
中
、
我正在尝试使用数据流来流到BQ
分区表
中。文件说: 在将行插入日期
分区表
中时,我可以看到这种情况。是否有一种方法可以设置要插入的行的分区时间,以便
BigQuery
可以推断正确的分区?
浏览 1
提问于2016-07-28
得票数 1
回答已采纳
1
回答
无法使用bq.py cli获取群集表定义
、
我有一个Google
BigQuery
集群
分区表
。我正在尝试使用bq.py cli工具来获取谷歌
BigQuery
集群
分区表
的定义。我得到了json输出,但它没有集群信息。% bq version --schema \ uk-kingdom
浏览 13
提问于2021-06-10
得票数 1
回答已采纳
1
回答
bigquery
中日期/时间戳
分区表
允许的范围
在google文档中,我可以看到关于
分区表
的以下几点:流到
分区表
中您可以将数据流到在过去5年和未来1年之间的日期或时间戳列上分区的表中。超出此范围的数据将被拒绝。https://cloud.google.com/
bigquery
/streaming-data-into-
bigquery
在一个地方写着:你可以在过去的1年到未来的6个月之间流式传输数据。https://cloud.google.com/
bigquery
/docs
浏览 16
提问于2020-09-16
得票数 0
回答已采纳
1
回答
Google :复制日期
分区表
所需的分区规范
我正在尝试将一天的数据从一个日期
分区表
复制到一个我还没有创建的新的日期
分区表
中。我希望
BigQuery
能够像通常对非日期分区的情况一样,为我创建日期分区的目标表。使用
BigQuery
CLI,下面是我的命令:下面是该命令的输出: cp操作中的
BigQuery
错误:错误处理作业‘myproject:bqjob_bqjob’:为了创建
分区表
,必须提供分区
浏览 7
提问于2017-06-16
得票数 5
回答已采纳
1
回答
从另一列
提取
用于分区的日期
、
、
、
有一个名为filename的列,其格式为:sales_2021-09-09T21-27-05_010555Z type_=
bigquery
.TimePartitioningType.DAY,expiration_ms=7776000000, # 90 days.
浏览 3
提问于2022-11-16
得票数 0
3
回答
如何在GBQ中创建日期
分区表
?你会用蟒蛇吗?
、
我本来希望我可以用Python来转换它,然后从脚本中直接使用GBQ来完成这个任务,但是在阅读了这个,特别是之后,创建日期
分区表
似乎不那么直接。我在找一只方向正确的牛。下面是我所做的实验:import osfrom google.cloud.
bigquery
import SchemaFieldfrom google.clou
浏览 7
提问于2017-09-26
得票数 3
回答已采纳
1
回答
在谷歌云平台的
BigQuery
服务中使用数据流加载配置单元
分区表
?
、
、
配置单元
分区表
具有以分区日期作为文件夹的文件夹结构。我已经探索了将外部
分区表
直接加载到
bigquery
的可能性。我想知道的是,在将数据加载到dataflow之前,我将使用dataflow运行一些功能转换,因此是否可以使用
bigquery
实现此功能。我发现,如果我将分区日期添加为列,则使用partitioning is possible,但我正在寻找一种直接方法,该方法不会在转换期间添加列,而是在将数据加载到
bigquery
时直接添加。
浏览 12
提问于2019-12-05
得票数 0
2
回答
将大容量数据加载到具有不同分区数据的
BigQuery
分区表
中。
我想要将CSV数据加载到包含不同分区
BigQuery
的table.My CSV文件中,我可以将整个CSV文件加载到
BigQuery
分区表
中,以便将特定的csv分区数据分配到
BigQuery
中的各个分区。
浏览 5
提问于2017-04-17
得票数 0
回答已采纳
1
回答
使用
BigQuery
在
分区表
中自动添加新行
、
我使用partitioned和Date列创建了一个新的
分区表
,以减少执行时间和成本。但是,我也需要每天用新的数据自动更新
分区表
。这应如何实施?我是
Bigquery
的新手,因此需要帮助。
浏览 2
提问于2022-08-19
得票数 0
2
回答
使用python用
bigquery
表中的数据替换
bigquery
分区
、
、
在
bigquery
的每日
分区表
中,我有30天的数据。我有一个更大的桌子,每天都有5年的数据分区。我需要从stage表中进行选择,并在我的暂存表中的30天内替换大表中现有分区的全部内容。我的首选是使用Python来完成这项工作,而不是先将数据
提取
到csv中,然后再将其加载回BQ (如果可以避免的话)。有什么建议吗?提前谢谢。
浏览 1
提问于2018-11-17
得票数 0
回答已采纳
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
腾讯会议
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券