我的工作是创建数据管道,它从各种常规数据库和CSV文件中提取数据,.It将使用pyspark进行预处理,然后将结果数据写入BigQuery表。我已经将jar文件gs://spark-lib/bigquery/spark-bigquery-with-dependencies_2.12-0.23.1.jar复制到$SPARK_HOME/jars文件夹中occurred while call
我正在尝试使用pandas和pyspark从BigQuery中读取数据。我能够获得数据,但不知何故得到以下错误,同时转换为火花DataFrame。(AbstractManagedChannelImplBuilder.java:444)
at com.google.cloud.spark.bigquery.repackaged.com.google.api.gax.grpc.InstantiatingGrpcChannelProvider.cre