首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

数据科学的原理与技巧 三、处理表格数据

对于每一个特定年份和性别,找到最常见的名字。 几乎总是有一种更好的替代方法,用于遍历pandas DataFrame。特别是,遍历DataFrame的特定值,通常应该替换为分组。...1920 1940 1960 1980 2000 多个列的分组 我们在 Data8 中看到,我们可以按照多个列分组,基于唯一值来获取分组。...现在让我们使用多列分组,来计算每年和每个性别的最流行的名称。 由于数据已按照年和性别的递减顺序排序,因此我们可以定义一个聚合函数,该函数返回每个序列中的第一个值。...通过在pandas文档中查看绘图,我们了解到pandas将DataFrame的一行中的列绘制为一组条形,并将每列显示为不同颜色的条形。 这意味着letter_dist表的透视版本将具有正确的格式。..._subplots.AxesSubplot at 0x1a18194b70> 总结 我们可以看到几乎所有以'p'结尾的名字都是男性,以'a'结尾的名字都是女性!

4.6K10

Python数据分析实战之数据获取三大招

在本期Python数据分析实战学习中,将从常见的数据获取方法入手,对常用的数据获取方式进行详细的介绍: Open( ) 函数读取数据 Pandas 库读取数据 Numpy 库读取数据 ---- 第一招...如果该文件不存在,创建新文件进行写入。 ab+ 以二进制格式打开一个文件用于追加。如果该文件已存在,文件指针将会放在文件的结尾。如果该文件不存在,创建新文件用于读写。.../test.csv', parse_dates=[3]) 将特定的日期列解析为日期格式; 2, 先使用默认值file = pd.read_csv('./test.csv'),再对特定的列进行格式转换。...重写此值以接收unicode数组, 并将字符串作为输入传递给转换器。如果没有设置, 使用系统默认值。默认值是"bytes"。...如果"fix_imports", 如果是True, pickle将尝试将旧的python2名称映射到新名称在python3中使用。

6.6K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    pandas 入门 1 :数据集的创建和绘制

    如果发现任何问题,我们将不得不决定如何处理这些记录。 分析数据- 我们将简单地找到特定年份中最受欢迎的名称。 现有数据- 通过表格数据和图表,清楚地向最终用户显示特定年份中最受欢迎的姓名。...#导入本教程所需的所有库#导入库中特定函数的一般语法: ## from(library)import(特定库函数) from pandas import DataFrame , read_csv import...此时的名称列无关紧要,因为它很可能只是由字母数字字符串(婴儿名称)组成。本专栏中可能存在不良数据,但在此分析时我们不会担心这一点。在出生栏应该只包含代表出生在一个特定年份具有特定名称的婴儿数目的整数。...将此列的数据类型设置为float是没有意义的。在此分析中,我不担心任何可能的异常值。 要意识到除了我们在“名称”列中所做的检查之外,简要地查看数据框内的数据应该是我们在游戏的这个阶段所需要的。...与该表一起,最终用户清楚地了解Mel是数据集中最受欢迎的婴儿名称。plot()是一个方便的属性,pandas可以让您轻松地在数据框中绘制数据。我们学习了如何在上一节中找到Births列的最大值。

    6.1K10

    Python数据分析实战之数据获取三大招

    在本期Python数据分析实战学习中,将从常见的数据获取方法入手,对常用的数据获取方式进行详细的介绍: Open( ) 函数读取数据 Pandas 库读取数据 Numpy 库读取数据 ---- 第一招...如果该文件不存在,创建新文件进行写入。 ab+ 以二进制格式打开一个文件用于追加。如果该文件已存在,文件指针将会放在文件的结尾。如果该文件不存在,创建新文件用于读写。.../test.csv', parse_dates=[3]) 将特定的日期列解析为日期格式; 2, 先使用默认值file = pd.read_csv('./test.csv'),再对特定的列进行格式转换。...重写此值以接收unicode数组, 并将字符串作为输入传递给转换器。如果没有设置, 使用系统默认值。默认值是"bytes"。...如果"fix_imports", 如果是True, pickle将尝试将旧的python2名称映射到新名称在python3中使用。

    6.1K20

    数据导入与预处理-第4章-pandas数据获取

    本章主要为大家介绍如何从多个渠道中获取数据,为预处理做好数据准备。...header:表示指定文件中的哪一行数据作为DataFrame类对象的列索引。 names:表示DataFrame类对象的列索引列表。...用于解析时间数据,如果为True,则将选定带有以下的datelike列名称标签: it ends with '_at',以_at结尾 it ends with '_time',以_time...如果“推断”,则使用gzip、bz2、zip或xz,如果path\u或\u buf是以“”结尾的字符串。gz','。bz2’,”。zip”或“xz”,否则不进行解压缩。...index_col:表示将数据表中的列标题作为DataFrame的行索引。。 coerce_float:表示是否将非字符串、非数字对象的值转换为浮点值(可能会导致精度损失),默认为True。

    4.1K31

    Python自动化:Python操作Excel的多种方式Pandas+openpyxl+xlrd

    读取Excel文件(read_excel) pandas的read_excel函数用于读取Excel文件(.xls或.xlsx),并将其内容加载到DataFrame对象中。...sheet_name: 指定要读取的工作表名称或索引。可以是字符串、整数、字符串列表或None。如果是None,则返回字典,其中包含所有工作表。 header: 指定作为列名的行,默认为0(第一行)。...它提供了丰富的接口来操作 Excel 文件,包括读取、修改和写入数据,以及设置样式等。下面我将详细解释如何使用 openpyxl 操作 Excel,并给出案例代码和进阶案例。...你可以通过工作表名称或索引来访问特定的工作表。...sheet_name: 工作表的名称(字符串)。

    46010

    如何用 Python 执行常见的 Excel 和 SQL 任务

    这是一个更具技术性的解释,详细说明如何使用 Python 代码来获取 HTML 表格。 你可以将上面的代码复制粘贴到你自己的 Anaconda 中,如果你用一些 Python 代码运行,可以迭代它!...每个括号内的列表都代表了我们 dataframe 中的一行,每列都以 key 表示:我们正在处理一个国家的排名,人均 GDP(以美元表示)及其名称(用「国家」)。...如果要查看特定数量的行,还可以在 head() 方法中插入行数。 ? ? 我们得到的输出是人均 GDP 数据集的前五行(head 方法的默认值),我们可以看到它们整齐地排列成三列以及索引列。...请注意,Python 索引从0开始,而不是1,这样,如果要调用 dataframe 中的第一个值,则使用0而不是1!你可以通过在圆括号内添加你选择的数字来更改显示的行数。试试看!...有关数据可视化选项的综合的教程 - 我最喜欢的是这个 Github readme document (全部在文本中),它解释了如何在 Seaborn 中构建概率分布和各种各样的图。

    10.8K60

    30 个小例子帮你快速掌握Pandas

    inplace参数设置为True以保存更改。我们删除了4列,因此列数从14减少到10。 2.读取时选择特定的列 我们只打算读取csv文件中的某些列。读取时,列列表将传递给usecols参数。...我们可以使用特定值,聚合函数(例如均值)或上一个或下一个值。 对于Geography列,我将使用最常见的值。 ?...第一个参数是位置的索引,第二个参数是列的名称,第三个参数是值。 19.where函数 它用于根据条件替换行或列中的值。默认替换值是NaN,但我们也可以指定要替换的值。...method参数指定如何处理具有相同值的行。first表示根据它们在数组(即列)中的顺序对其进行排名。 21.列中唯一值的数量 使用分类变量时,它很方便。我们可能需要检查唯一类别的数量。...29.根据字符串过滤 我们可能需要根据文本数据(例如客户名称)过滤观察结果(行)。我已经将虚构名称添加到df_new DataFrame中。 ? 让我们选择客户名称以Mi开头的行。

    10.8K10

    pandas入门教程

    关于这一点,请自行在网络上搜索获取方法。 关于如何获取pandas请参阅官网上的说明:pandas Installation。 通常情况下,我们可以通过pip来执行安装: ?...我已经将本文的源码和测试数据放到Github上: pandas_tutorial ,读者可以前往获取。 另外,pandas常常和NumPy一起使用,本文中的源码中也会用到NumPy。...索引未必一定需要是整数,可以是任何类型的数据,例如字符串。例如我们以七个字母来映射七个音符。索引的目的是可以通过它来获取对应的数据,例如下面这样: ? 这段代码输出如下: ?...请注意: DataFrame的不同列可以是不同的数据类型 如果以Series数组来创建DataFrame,每个Series将成为一行,而不是一列 例如: ? df4的输出如下: ?...为了便于操作,在填充之前,我们可以先通过rename方法修改行和列的名称: ? 这段代码输出如下: ? 处理字符串 数据中常常牵涉到字符串的处理,接下来我们就看看pandas对于字符串操作。

    2.2K20

    用Python执行SQL、Excel常见任务?10个方法全搞定!

    在 Python 中,不需要知道很多关于正则表达式的知识,但它们是一个强大的工具,可用于匹配和替换某些字符串或子字符串。如果你想了解更多,请参考以下内容。 ?...每个括号内的列表都代表了我们 dataframe 中的一行,每列都以 key 表示:我们正在处理一个国家的排名,人均 GDP(以美元表示)及其名称(用「国家」)。...如果要查看特定数量的行,还可以在 head() 方法中插入行数。 ? ? 我们得到的输出是人均 GDP 数据集的前五行(head 方法的默认值),我们可以看到它们整齐地排列成三列以及索引列。...请注意,Python 索引从0开始,而不是1,这样,如果要调用 dataframe 中的第一个值,则使用0而不是1!你可以通过在圆括号内添加你选择的数字来更改显示的行数。试试看!...有关数据可视化选项的综合的教程 – 我最喜欢的是这个 Github readme document (全部在文本中),它解释了如何在 Seaborn 中构建概率分布和各种各样的图。

    8.3K20

    Pandas 2.2 中文官方教程和指南(一)

    您可以在此文档中找到有关 pandas 的简单安装说明。 从源代码安装 请参阅贡献指南以获取有关从 git 源代码树构建的完整说明。此外,如果您希望创建 pandas 开发环境,请参阅创建开发环境。...如何从DataFrame中选择特定的行和列? 我对 35 岁以上的乘客姓名感兴趣。...如何从DataFrame中选择特定列? 我对泰坦尼克号乘客的年龄感兴趣。...请记住,DataFrame是二维的,具有行和列两个维度。 转到用户指南 有关索引的基本信息,请参阅用户指南中关于索引和选择数据的部分。 如何从DataFrame中筛选特定行?...如何从DataFrame中选择特定的行和列? 我对年龄大于 35 岁的乘客的姓名感兴趣。

    96410

    Python科学计算之Pandas

    类似于head,我们只需要调用tail函数并传入我们想获取的行数。需要注意的是,Pandas不是从dataframe的结尾处开始倒着输出数据,而是按照它们在dataframe中固有的顺序输出给你。...在Pandas中,一个条目等同于一行,所以我们可以通过len方法获取数据的行数,即条目数。 ? 这将给你一个整数告诉你数据的行数。在我的数据集中,我有33行。...好,我们也可以在Pandas中做同样的事。 ? 上述代码将范围一个布尔值的dataframe,其中,如果9、10月的降雨量低于1000毫米,则对应的布尔值为‘True’,反之,则为’False’。...如果你想要多个索引,你可以简单地在列表中增加另一个列名。 ? 在上面这个例子中,我们把我们的索引值全部设置为了字符串。这意味着我们不可以使用iloc索引这些列了。这种情况该如何?我们使用loc。...这个pivot创造了许多空的或值为NaN的条目。我个人觉得我的dataframe被乱七八糟的NaN分散了注意力,所以使用了fillna(‘’)将他们变成了空字符串。

    2.9K00

    盘点66个Pandas函数,轻松搞定“数据清洗”!

    大家好,我是小五 之前黄同学曾经总结过一些Pandas函数,主要是针对字符串进行一系列的操作。在此基础上我又扩展了几倍,全文较长,建议先收藏。...df.sample(3) 输出: 如果要检查数据中各列的数据类型,可以使用.dtypes;如果想要值查看所有的列名,可以使用.columns。...此外,isnull().any()会判断哪些”列”存在缺失值,isnull().sum()用于将列中为空的个数统计出来。...函数方法 用法释义 cat 字符串的拼接 contains 判断某个字符串是否包含给定字符 startswith/endswith 判断某个字符串是否以...开头/结尾 get 获取指定位置的字符串 len...如果想直接筛选包含特定字符的字符串,可以使用contains()这个方法。 例如,筛选户籍地址列中包含“黑龙江”这个字符的所有行。

    3.8K11

    数据分析与数据挖掘 - 07数据处理

    Pandas是基于NumPy构建的,让以NumPy为中心的应用变得更加的简单,它专注于数据处理,这个库可以帮助数据分析、数据挖掘、算法等工程师岗位的人员轻松快速的解决处理预处理的问题。...(obj) # 字典的key就是Series对象中的索引值,字典中的value就是Series对象中的值 print(obj['a']) # 访问到索引值为a的对象的值 2 DataFrame类型...DataFrame 是一个表格型的数据结构,它含有一组有序的列,每列可以是不同值的类型,数值、字符串、布尔值都可以。...在刚刚我们学习过访问一列的数据,现在我们来思考一下,如果我想按照行来访问数据怎么办呢?...日期格式的数据是我们在进行数据处理的时候经常遇到的一种格式,让我来看一下在Excel中的日期类的数据我们该如何处理?

    2.7K20

    pandas处理字符串方法汇总

    Pandas中字符串处理 字符串是一种常见的数据类型,我们遇到的文本、json数据等都是属于字符串的范畴。Python内置了很多处理字符串的方法,这些方法为我们处理和清洗数据提供了很大的便利。...向量化操作字符串 使用字符串的str属性 Pandas中内置了等效python的字符串操作方法:str属性 df = pd.DataFrame(["Python Gudio 1991","Java Gosling...1 Java Gosling 1990 检查字符串是否以指定元素结尾: df["Language"].str.endswith("8") # 是否以8结束 0 False 1 False...Mckinney 2008 指定最大列属性值:n=1表示分割split之后的最大列索引值为1: df["Language"].str.split(" ", expand=True, n=1)...str.len:计算字符串长度 str.strip:去除字符串开头和结尾处的空格(默认) str.lstrip:去除字符串左边的空格(默认)或者指定字符 str.rtrip:去除字符串结尾处的空格(默认

    46120

    用过Excel,就会获取pandas数据框架中的值、行和列

    df.columns 提供列(标题)名称的列表。 df.shape 显示数据框架的维度,在本例中为4行5列。 图3 使用pandas获取列 有几种方法可以在pandas中获取列。...每种方法都有其优点和缺点,因此应根据具体情况使用不同的方法。 点符号 可以键入“df.国家”以获得“国家”列,这是一种快速而简单的获取列的方法。但是,如果列名包含空格,那么这种方法行不通。...因为我们用引号将字符串(列名)括起来,所以这里也允许使用带空格的名称。 图5 获取多列 方括号表示法使获得多列变得容易。语法类似,但我们将字符串列表传递到方括号中。...获取1行 图7 获取多行 我们必须使用索引/切片来获取多行。在pandas中,这类似于如何索引/切片Python列表。...要获取前三行,可以执行以下操作: 图8 使用pandas获取单元格值 要获取单个单元格值,我们需要使用行和列的交集。

    19.2K60

    Pandas入门教程

    Pandas入门 本文主要详细介绍了pandas的各种基础操作,源文件为zlJob.csv,可以私我进行获取,下图是原始数据部分一览。...如果您在连接轴没有有意义的索引信息的情况下连接对象,这将非常有用。请注意,其他轴上的索引值在连接中仍然有效。 keys: 序列,默认无。使用传递的键作为最外层构建分层索引。...如果通过了多个级别,则应包含元组。 levels: 序列列表,默认无。用于构建 MultiIndex 的特定级别(唯一值)。否则,它们将从密钥中推断出来。 names: 列表,默认无。...可以是列名称、索引级别名称或长度等于 DataFrame 或 Series 长度的数组;right_on:来自正确 DataFrame 或 Series 的列或索引级别用作键。...可以是列名称、索引级别名称或长度等于 DataFrame 或 Series 长度的数组 left_index:如果True,则使用左侧 DataFrame 或 Series 中的索引(行标签)作为其连接键

    1.1K30

    通宵翻译Pandas官方文档,写了这份Excel万字肝货操作!

    如果您不熟悉 Pandas,您可能需要先阅读 10 Minutes的官方文档,以熟悉该库。...索引值也是持久的,所以如果你对 DataFrame 中的行重新排序,特定行的标签不会改变。 5. 副本与就地操作 大多数 Pandas 操作返回 Series/DataFrame 的副本。...在 Pandas 中,您需要更多地考虑控制 DataFrame 的显示方式。 默认情况下,pandas 会截断大型 DataFrame 的输出以显示第一行和最后一行。...列操作 在电子表格中,公式通常在单个单元格中创建,然后拖入其他单元格以计算其他列的公式。在 Pandas 中,您可以直接对整列进行操作。...pandas 通过在 DataFrame 中指定单个系列来提供矢量化操作。可以以相同的方式分配新列。DataFrame.drop() 方法从 DataFrame 中删除一列。

    19.6K20
    领券