首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Github项目推荐 | cuDF:加快数据处理流程的DataFrame库

cuDF 是一个基于 Apache Arrow 列内存格式的数据帧库,它是一个 GPU DataFrame 库,可以进行加载,连接,聚合,过滤等数据操作。...cuDF 提供了类似 pandas 的 API,数据工程师和数据科学家都很熟悉它们,他们可以使用它轻松地加快工作流程,而无需深入了解 CUDA 编程的细节。...API 文档(https://rapidsai.github.io/projects/cudf/en/latest/index.html),或查看更详细的说明(https://github.com/rapidsai...安装 conda cuDF 可以通过渠道安装 conda(miniconda,或完整的 Anaconda 发行版) rapidsai: # for CUDA 9.2 conda install -c nvidia...cudf-cuda100==0.6 注意:只有 Linux 系统支持 cuDF,并且 Python 的版本必须是 3.6 或 3.7 版本。

3.3K20

nvidia-rapids︱cuDF与pandas一样的DataFrame库

cuDF(https://github.com/rapidsai/cudf)是一个基于Python的GPU DataFrame库,用于处理数据,包括加载、连接、聚合和过滤数据。...---- 官方文档: 1 Docs » API Reference 2 rapidsai/cudf 相关参考: nvidia-rapids︱cuDF与pandas一样的DataFrame库 NVIDIA...cuDF 0.10版本的一些新功能包括 groupby.quantile()、Series.isin()、从远程/云文件系统(例如hdfs、gcs、s3)读取、Series和DataFrame isna...cuDF继续改进其Pandas API兼容性和Dask DataFrame互操作性,使我们的用户可以最大程度地无缝使用cuDF。 在幕后,libcudf的内部架构正在经历一次重大的重新设计。...0.10版本加入了最新的cudf :: column和cudf :: table类,这些类大大提高了内存所有权控制的强健性,并为将来支持可变大小数据类型(包括字符串列、数组和结构)奠定了基础。

2.3K10
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    再见Pandas,又一数据处理神器!

    cuDF介绍 cuDF是一个基于Apache Arrow列内存格式的Python GPU DataFrame库,用于加载、连接、聚合、过滤和其他数据操作。cuDF还提供了类似于pandas的API。...: cuDF是一个Python GPU DataFrame库,它基于Apache Arrow的列式内存格式,用于加载、连接、聚合、过滤和以类似pandas的DataFrame风格API操纵表格数据。...Dask-cuDF: Dask-cuDF在需要的情况下扩展Dask,以允许其DataFrame分区使用cuDF GPU DataFrame而不是Pandas DataFrame进行处理。...以下是cuDF和Pandas之间的相似之处和差异的对比: 支持的操作: cuDF支持许多与Pandas相同的数据结构和操作,包括Series、DataFrame、Index等,以及它们的一元和二元操作、...数据类型: cuDF支持Pandas中常用的数据类型,包括数值、日期时间、时间戳、字符串和分类数据类型。此外,cuDF还支持用于十进制、列表和“结构”值的特殊数据类型。

    28110

    cuDF,能取代 Pandas 吗?

    cuDF介绍 cuDF是一个基于Apache Arrow列内存格式的Python GPU DataFrame库,用于加载、连接、聚合、过滤和其他数据操作。cuDF还提供了类似于pandas的API。...: cuDF是一个Python GPU DataFrame库,它基于Apache Arrow的列式内存格式,用于加载、连接、聚合、过滤和以类似pandas的DataFrame风格API操纵表格数据。...Dask-cuDF: Dask-cuDF在需要的情况下扩展Dask,以允许其DataFrame分区使用cuDF GPU DataFrame而不是Pandas DataFrame进行处理。...以下是cuDF和Pandas之间的相似之处和差异的对比: 支持的操作: cuDF支持许多与Pandas相同的数据结构和操作,包括Series、DataFrame、Index等,以及它们的一元和二元操作、...数据类型: cuDF支持Pandas中常用的数据类型,包括数值、日期时间、时间戳、字符串和分类数据类型。此外,cuDF还支持用于十进制、列表和“结构”值的特殊数据类型。

    45412

    再见Pandas,又一数据处理神器!

    cuDF介绍 cuDF是一个基于Apache Arrow列内存格式的Python GPU DataFrame库,用于加载、连接、聚合、过滤和其他数据操作。cuDF还提供了类似于pandas的API。...: cuDF是一个Python GPU DataFrame库,它基于Apache Arrow的列式内存格式,用于加载、连接、聚合、过滤和以类似pandas的DataFrame风格API操纵表格数据。...Dask-cuDF: Dask-cuDF在需要的情况下扩展Dask,以允许其DataFrame分区使用cuDF GPU DataFrame而不是Pandas DataFrame进行处理。...以下是cuDF和Pandas之间的相似之处和差异的对比: 支持的操作: cuDF支持许多与Pandas相同的数据结构和操作,包括Series、DataFrame、Index等,以及它们的一元和二元操作、...数据类型: cuDF支持Pandas中常用的数据类型,包括数值、日期时间、时间戳、字符串和分类数据类型。此外,cuDF还支持用于十进制、列表和“结构”值的特殊数据类型。

    32310

    Pandas 加速150倍!

    Pandas Pandas是Python中一个强大的数据处理和分析库,特别适用于结构化数据。它提供了易于使用的数据结构和数据分析工具,使得处理和分析数据变得更加便捷和高效。...Pandas 开源库中包含 DataFrame,它是类似二维数组的数据表,其中每一列包含一个变量的值,每一行包含每列的一组值。...熟悉用于统计计算的 R 编程语言的数据科学家和程序员都知道,DataFrame 是一种在易于概览的网格中存储数据的方法,这意味着 Pandas 主要以 DataFrame 的形式用于机器学习。...cuDF RAPIDS是一套英伟达开源的 GPU 加速 Python 库,旨在改进数据科学和分析流程。...它是一个 GPU DataFrame 库,提供类似 pandas 的 API 用于加载、连接、聚合、过滤和以其他方式操作数据,无需深入了解 CUDA 编程的细节。

    15110

    使用cuDF在GPU加速Pandas

    cuDF cuDF(https://github.com/rapidsai/cudf)是一个基于Python的GPU DataFrame库,用于处理数据,包括加载、连接、聚合和过滤数据。...这使得数据科学家、分析师和工程师很容易将其集成到他们的工作中。 那么,你所需做的是把你的Pandas DataFrame转换成cuDF。...cuDF支持Pandas大多数常见的DataFrame操作,因此无需太多学习成本你就可以加速许多常规的Pandas代码。 我们首先安装库文件: ?...= cudf.DataFrame.from_pandas(pandas_df) 在我们的第一个测试中,让我计算一下 Pandas VS cuDF数据中a变量的平均值需要多长时间。...我们得到了将近16倍的加速! 现在,做一些更复杂的事情,比如做一个大合并。将Dataframe本身合并到数据Dataframe的b列上。

    8.8K10

    NVIDIA的python-GPU算法生态 ︱ RAPIDS 0.10

    关联文章: nvidia-rapids︱cuDF与pandas一样的DataFrame库 NVIDIA的python-GPU算法生态 ︱ RAPIDS 0.10 nvidia-rapids︱cuML...通过BlazingSQL实现的结构化查询语言(SQL)。...cuDF继续改进其Pandas API兼容性和Dask DataFrame互操作性,使我们的用户可以最大程度地无缝使用cuDF。 在幕后,libcudf的内部架构正在经历一次重大的重新设计。...0.10版本加入了最新的cudf :: column和cudf :: table类,这些类大大提高了内存所有权控制的强健性,并为将来支持可变大小数据类型(包括字符串列、数组和结构)奠定了基础。...这组运行时刻包括Dask DataFrame到CSR的转换、PageRank执行以及从CSR返回到DataFrame的结果转换。

    3K31

    RAPIDS cuDF,让数据处理飞起来~

    后来出现了Polars,提供了类似Pandas的结构和功能,Polars对CPU的利用更彻底,可以进行并行处理,而且支持惰性计算,性能可达Pandas速度的10倍之多,这样就大大加快了数据处理的速度。...RAPIDS拥有cuML、cuGraph、cuDF等众多核心组件库,cuDF专门负责数据处理,它是一个DataFrame库,类似Pandas,但cuDF运行在GPU上,所以它能提供高效的数据帧操作,支持数据加载...import cudf # 创建一个 GPU DataFrame df = cudf.DataFrame({'a': [1, 2, 3], 'b': [4, 5, 6]}) 其他代码 第二种是加载cudf.pandas...如果你想对现成的Pandas或者Polars项目进行GPU加速,也不用更改任何的代码,cuDF能无缝集成,一键实现,这真的非常方便。 如何使用RAPIDS cuDF实现 GPU 加速的数据科学?...、连接、函数应用等操作,cuDF速度都是Pandas的几十倍,优势非常的明显。

    10300
    领券