腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
pyspark
读取
hdfs
文件
-
无
此类
文件
或
目录
错误
、
我正在使用
pyspark
在
hdfs
中处理一个文本
文件
。如果我使用简单的
hdfs
命令,比如"
hdfs
dfs -cat
hdfs
:///data/msd/tasteprofile/mismatches/sid_matches_manually_accepted.txt但是如果我像下面这样使用
pyspark
命令,它会一直返回"Errno 2没有这样的
文件
或</
浏览 42
提问于2021-05-23
得票数 1
1
回答
hdfs
% ls on directory返回
无
此类
文件
或
目录
错误
、
、
HDFS
% ls在以下两个
目录
上返回
无
此类
文件
或
目录
错误
。[mybox]$
hdfs
dfs -ls /data/tdc/dv1/corp/base/dpp/raw/load_date=2018-05-01/ | grep Tenant查看
错误
: [mybox]$ <e
浏览 0
提问于2018-06-05
得票数 1
3
回答
Java ProcessBuilder开始在Linux中顺序执行多个命令
、
我希望使用ProcessBuilder类通过我的Java Application顺序执行2个
或
更多命令。我已经尝试了其他回复/论坛中建议的多个选项,但没有成功。以下是我尝试过的方法:出现以下
错误
:
错误
: ls:;:
无
此类
文件
或
目录
<e
浏览 5
提问于2012-09-05
得票数 21
1
回答
Pyspark
在纱线集群模式下将
文件
写入本地
、
、
、
我正在尝试运行我的
pyspark
代码。我的目标
目录
是本地
目录
。我用来提交spark-submit命令的用户是超级用户,并且拥有从
hdfs
读取
文件
并将
文件
写入本地的所有权限。作业正在运行,没有任何
错误
,但没有创建输出
目录
或
文件
。有人能帮帮忙吗?
浏览 12
提问于2019-07-16
得票数 2
2
回答
tomcat7中的发布
错误
、
(
无
此类
文件
或
目录
) /usr /share/tomcat7/backup/Catina.policy(
无
此类
文件
或
目录
)将
文件
复制到/usr/share/tomcat7/backup/catalina.properties:时出错/usr/share/tomcat7
浏览 1
提问于2012-01-14
得票数 4
2
回答
星星之火:无法从
HDFS
加载拼板
文件
,直到将它们“放入”
hdfs
中。
、
、
、
、
如果我使用scp将
文件
复制到安装了
HDFS
客户端的目标计算机上,然后"
hdfs
将该
文件
放入“
HDFS
中,那么spark可以正确地
读取
该
文件
。如果我使用curl对webhdf服务直接从客户端应用程序将该
文件
上传到
HDFS
,则在尝试
读取
parquet
文件
时从Spark获得以下
错误
: df = "/usr/hdp/current
浏览 0
提问于2018-12-04
得票数 0
1
回答
如何使用python在spark中加载sql
文件
、
、
我的
pySpark
版本是2.4,python版本是2.7。我有多行sql
文件
,需要在spark中运行。与逐行运行不同的是,是否可以将sql
文件
保存在python (初始化spark)中,并使用submit执行它?我正在尝试用python编写一个通用脚本,以便以后只需要从
hdfs
文件
夹中替换sql
文件
。import sysimport
pyspark
.sql.functions
浏览 8
提问于2022-02-10
得票数 -3
1
回答
statBuffer出错
使用代码打开一个
目录
,
读取
其内容,并打印出有关每个
文件
的信息。它检查命令行,如果没有提供参数,将打印出指定
目录
或
当前
目录
的内容。下面的代码与用于打印当前
目录
的代码几乎完全相同。下面的代码命中while循环中的第一个if语句(在我将result设置为等于当前
文件
之后),然后对
目录
中的每个
文件
执行 加载statBuffer::
无
此类
文件
或
目录
浏览 1
提问于2013-05-02
得票数 0
1
回答
pyspark
一次
读取
多个csv
文件
、
、
我正在使用SPARK
读取
hdfs
中的
文件
。有一个场景,我们以csv格式从遗留系统中获取
文件
块。ID1_FILENAMEA_3.csvID2_FILENAMEA_1.csvID2_FILENAMEA_3.csv 此
文件
使用现在,我正在逐个处理这些
文件
。这需要很长时间。 我想让这个过程更快。
文件
将以GB为单位。 是否有任何方法可以同时
读取
所有FILENAMEA
文件<
浏览 228
提问于2021-09-27
得票数 1
回答已采纳
1
回答
FileInputStream
错误
无
此类
文件
或
目录
问题是,当我在Android Studio中运行我的程序时,FileInputStream无法找到c:\poi-test.xls
文件
。FileInputStream(file); e.printStackTrace();在Android Studio中,我单步执行并创建了
文件
对象,但是当我单步执行FileInputStream时,我得到了以下
错误
: C:\poi-test.xls:打开失败: ENOENT (没有这样的
文件
或</
浏览 12
提问于2017-04-15
得票数 2
1
回答
跨平台应用程序IBM Worklight
、
、
文件
时出现问题(没有这样的
文件
或
目录
)嵌套异常: /Users/ipcmac/Documents/workspace_IndigoNew/MYNew/apps/NewApp/iphone/native/MYNewNewAppIphone-Info.plist (没有这样的
文件
或
目录
) 2012-11-30 18:32:20安卓构建失败: com.worklight.bui
浏览 5
提问于2012-11-30
得票数 1
回答已采纳
2
回答
在oozie失败的情况下提交的
Pyspark
操作:“[Errno 2]没有
此类
文件
或
目录
”
、
、
、
、
我试图通过oozie工作流在hadoop集群上提交对纱线的基本火花操作,并得到以下
错误
(来自纱线应用程序日志):EDIT3: 参见下面的堆栈跟踪。Diagnostics: File does not exist:
hdfs
://
hdfs
/path/user&
浏览 8
提问于2017-09-01
得票数 0
1
回答
MinTTY Unicode支持和构建
错误
、
、
、
当我试图下载源代码并构建它时,我会得到无法解决的构建
错误
: Makefile:117: charset.d:
无
此类
文件
或
目录
Makefile:117: child.d.d:
无
此类
文件
或
目录
Makefile:117: config.d:
无
此类
文件
或
目录
Makefile:117: ctrls.d:
无</em
浏览 6
提问于2011-06-18
得票数 0
回答已采纳
1
回答
FFmpeg
错误
(
无
此类
文件
或
目录
错误
)
、
、
我正在尝试转换多个视频在一个
目录
与ffmpeg。命令可以正常运行,但出现的
错误
是不存在这样的
文件
或
目录
。而该
文件
存在于同一
目录
中。“%a in ('dir /B *.avi') do ffmpeg -i "%a.avi”"%a.mp4“ 我的
文件
名类似于(我的视频file.avi),这会导致
错误
。名称不带空格的
文件
(file1.avi,file2.avi )工作正常。
浏览 27
提问于2020-04-07
得票数 1
回答已采纳
1
回答
Apache Tika无法解析
HDFS
文件
、
、
、
我使用的代码如下:import urllib3在linux上,如果我给出一个本地路径,tika可以解析,但是对于
hdfs
路径,我得到一个 Spark I/O error: No such file
浏览 0
提问于2018-03-13
得票数 1
1
回答
使用
Pyspark
将
文件
从一个
目录
移动到
HDFS
中的另一个
目录
、
、
、
我试图从一个
目录
中
读取
所有JSON
文件
,并使用下面的代码将它们存储在中。(效果很好) 但是,当我尝试用多个
文件
保存DataFrame时,使用下面的代
浏览 1
提问于2021-01-18
得票数 0
回答已采纳
2
回答
从
hdfs
将avro
文件
加载到
pyspark
数据格式中
、
、
、
、
我已经构建了一个小的数据管道,它将一些虚构的测试数据从本地
目录
(json-格式)移动到
hdfs
(avro格式)。这似乎是正确的(没有由水槽显示的
错误
),但
错误
可能已经存在于这里。现在让我解释一下我是如何做到的,这样您就可以看到我可能失败的地方了:我的目标是将json数据从本地
目录
推送到
HDFS
,这样我就可以使用
pySpark
=avro_event agent.sinks.
浏览 1
提问于2018-09-03
得票数 1
3
回答
Spark local vs
hdfs
permormance
、
、
我在同一台机器上有一个Spark集群和一个
Hdfs
。我已经在每台机器的本地
文件
系统和
hdfs
分布式
文件
系统上复制了一个大约3G字节的文本
文件
。为什么?我所期望的结果正好相反。在sgvd的请求后添加:Spark Standalone,<e
浏览 0
提问于2016-01-13
得票数 5
2
回答
在
HDFS
中处理总大小为100 in的多个小
文件
、
我的项目中有一个使用.txt处理多个
PySpark
消息
文件
的要求。
文件
从本地dir移动到
HDFS
路径(
hdfs
://messageDir/..)使用批处理和每批处理,我可以看到几千个.txt
文件
,它们的总大小约为100 is。几乎所有的
文件
都小于1MB。我可以知道
HDFS
如何存储这些
文件
并执行拆分吗?因为每个
文件
都小于1MB(小于64/128 MB的
HDFS
块
浏览 2
提问于2018-10-21
得票数 0
回答已采纳
1
回答
tkinter返回“
无
此类
文件
或
目录
”
错误
。
、
、
logoLabel = Label(root, image=logoImage, bg='dodgerblue3')图像与项目位于同一个
目录
中实际上,当我用cmd
或
Python打开它时,它可以工作。但是,当我使用VS代码
或
将其转换为.exe
文件
时,它将显示以下
错误
: File "c:\Users\Simo\OneDrive\
浏览 2
提问于2022-01-27
得票数 -1
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
云直播
腾讯会议
实时音视频
活动推荐
运营活动
广告
关闭
领券