发布
社区首页 >问答首页 >在Databricks中将变量从Scala传递到Python

在Databricks中将变量从Scala传递到Python
EN

Stack Overflow用户
提问于 2017-08-25 23:29:50
回答 2查看 7.2K关注 0票数 9

我正在使用Databricks,并试图在同一个Scala笔记本中将一个数据帧从Scala传递到Python。我使用以下命令从Python向Spark传递了一个数据帧:

代码语言:javascript
代码运行次数:0
复制
%python
python_df.registerTempTable("temp_table")


val scalaDF = table("temp_table")

我如何反向做同样的事情呢?非常感谢!

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2017-08-26 02:22:01

反之亦然。在Scala中:

代码语言:javascript
代码运行次数:0
复制
scalaDF.registerTempTable("some_table")

在Python中:

代码语言:javascript
代码运行次数:0
复制
spark.table("some_table")

如果你使用最新的Spark版本,你应该用createOrReplaceTempView代替registerTempTable

票数 11
EN

Stack Overflow用户

发布于 2020-11-21 21:25:38

您可以使用.createOrReplaceTempView()方法或sql()。

下面是一个示例,将数据帧从scala、python传递到sql,并在...and返回scala的过程中进行修改。

代码语言:javascript
代码运行次数:0
复制
%scala 
var df = spark.range(0,10).selectExpr("*","'scala' language_origin")
df.createOrReplaceTempView("tableName")
display(df)

%python
df = sql("select * from tableName")
df2 = df.selectExpr("*","'python' language_added")
df2.createOrReplaceTempView("tableName")
display(df2)

%sql
create or replace temp view tableName as
select *, 'sql' language_added from tableName;
select * from tableName

%scala
df = sql("select * from tableName")
display(df)
票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/45884823

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档