一、前言 前几天在J哥的Python群【Z】问了一个Pandas数据处理的问题，一起来看看吧。 各位群友，打扰了。能否咨询个pandas的处理问题？...左边一列id代表个体/记录，右边是这些个体/记录属性的布尔值。我想做个处理，返回每个个体/记录中属性为1的列标签集合。...二、实现过程 这里【Jin】大佬给了一个答案，使用迭代的方法进行，如下图所示： 如此顺利地解决了粉丝的问题。...后来他粉丝自己的朋友也提供了一个更好的方法，如下所示： 方法还是很多的，不过还得是apply最为Pythonic！ 三、总结 大家好，我是皮皮。...这篇文章主要盘点了一个Pandas数据处理问题，文中针对该问题，给出了具体的解析和代码实现，帮助粉丝顺利解决了问题。
本文的Pandas知识点包括： 1、合并数据集 2、重塑和轴向旋转 3、数据转换 4、数据聚合 1、合并数据集 Pandas中合并数据集有多种方式，这里我们来逐一介绍 1.1 数据库风格合并 数据库风格的合并指根据索引或某一列的值是否相等进行合并的方式...，在pandas中，这种合并使用merge以及join函数实现。...上面两个表有两列重复的列，如果只根据一列进行合并，则会多出一列重复列，重复列名的处理我们一般使用merge的suffixes属性,可以帮我们指定重复列合并后的列名: pd.merge(left,right...，通过需要排列的轴的长度调用permutation，可产生一个表示新顺序的整数数组,最后使用pandas的take函数返回指定大小的数据即可实现采样。...4、数据聚合 4.1 数据分组 pandas中的数据分组使用groupby方法，返回的是一个GroupBy对象，对分组之后的数据，我们可以使用一些聚合函数进行聚合，比如求平均值mean： df = pd.DataFrame
['w'] #选择表格中的'w'列，使用类字典属性,返回的是Series类型 data.w #选择表格中的'w'列，使用点属性,返回的是Series类型 data[['w']] #选择表格中的...'w'列，返回的是DataFrame类型 data[['w','z']] #选择表格中的'w'、'z'列 #---2 利用序号寻找列--------- data.icol(0) #取data的第一列...) =R=apply(df,2,mean) #df中的pop，按列求均值，skipna代表是否跳过均值 这个跟apply很像，返回的是按列求平均。...Out[210]: A bar 3 foo 5 Name: C, dtype: int64 2、Apply 函数 在向数据框的每一行或每一列传递指定函数后，Apply 函数会返回相应的值...cut使用方式有以下几种（来源：pandas 数据规整）: （1）按序列划分，序列：按序列的元素间隔划分 x，返回 x 各个元素的分组情况 >>> bins = [0,3,6,9] >>> ser
最直接的办法是使用loc函数并传递::-1，跟Python中列表反转时使用的切片符号一致： drinks.loc[::-1].head() 如果你还想重置索引使得它从0开始呢？...()会自动检测每一列的正确的数据类型： df.dtypes Column A int64 Column B float64 Column C object dtype: object...':[[10, 40], [20, 50], [30, 60]]}) df 这里有两列，第二列包含了Python中的由整数元素组成的列表。...如果我们想要将第二列扩展成DataFrame，我们可以对那一列使用apply()函数并传递给Series constructor: df_new = df.col_two.apply(pd.Series...它会返回一个互动的HTML报告： 第一部分为该数据集的总览，以及该数据集可能出现的问题列表； 第二部分为每一列的总结。
需要注意的是 loc 函数的第一个参数不能直接传入整数，可以考虑送个列表进去 DataFrame.iloc[]访问 使用方法与 loc 相似，主要区别是该函数在使用时对列的索引可以用列索引号。...) 缺失值补充 df.isnull().T.any() == True返回缺失值所在行的索引 也可以使用 pandas.DataFrame.fillna()方法进行常量填补（） 输入字典来指定每一列的填补值...） df.join()方法适用于那些 index 相似或者相同且没有重复列的 dfs,默认使用行索引匹配也支持一个 df 的行索引英语另一个 df 的列索引 join 起来 left1 = pd.DataFrame...(),这个是用来将多列转化一列： pd.melt(df, id_vars=['key'], value_vars=['A', 'B']) 该函数最后返回的是一个以id_vars列作为索引,以value_vars...传入一个函数名组成的列表，则会将每一个函数的函数名作为返回值的列名,如果不希望使用函数名作为列名，可以将列表中的元素写成类似’(column_name,function)'的元组形式来指定列名为name
for 循环遍历每一行/列 使用 for 循环可以遍历 DataFrame 中的每一行或每一列。需要使用 iterrows() 方法遍历每一行，或者使用 iteritems() 方法遍历每一列。...() 方法可以应用一个函数到 DataFrame 中的每一个元素，返回一个新的 DataFrame。...其中，iterrows方法返回一个迭代器，可以逐行遍历DataFrame，返回每一行数据的索引和值。...它返回一个迭代器，其中每个元素都是一个元组，元组中包含列标签和对应列的 Pandas Series。...Pandas DataFrame，应该尽量避免使用循环遍历，而是使用 Pandas 内置的方法，如 apply() 和 applymap() 等。
二者与Python基本的数据结构List也很相近，其区别是：List中的元素可以是不同的数据类型，而Array和Series中则只允许存储相同的数据类型，这样可以更有效的使用内存，提高运算效率。...或者以数据库进行类比，DataFrame中的每一行是一个记录，名称为Index的一个元素，而每一列则为一个字段，是这个记录的一个属性。...从列表的字典构建DataFrame，其中嵌套的每个列表（List）代表的是一个列，字典的名字则是列标签。这里要注意的是每个列表中的元素数量应该相同。...中的List元素对应。...DataFrame的每一列，这里使用的是匿名lambda函数，与R中apply函数类似 设置索引 df.set_index('one') 重命名列 df.rename(columns={u'one':'
Series、Numpy中的一维Array、Python基本数据结构List区别：List中的元素可以是不同的数据类型，而Array和Series中则只允许存储相同的数据类型，这样可以更有效的使用内存，...，只要有一个索引数组或列表即可。...函数应用和映射 numpy的ufuncs（元素级数组方法） DataFrame的apply方法 对象的applymap方法（因为Series有一个应用于元素级的map方法） # -*- coding:...，它在修正数据，用一个DataFrame来填补前面的DataFrame中NAN的数据 Merge, join, and concatenate官方文档说明：http://pandas.pydata.org.../pandas-docs/stable/merging.html 通过apply进行数据预处理 df['A'] = df['A'].apply(str.upper) 通过去重进行数据清洗 查看一列唯一值
： 类型 描述 二维ndarray 数据矩阵，还可以传入行标和列标 由数组、列表或元组组成的字典 每个序列会变成DataFrame的一列。...如果没有显式指定索引，则各Series的索引会被合并成结果的行索引 由字典组成的字典 各内层字典会成为一列。...字典键或Series索引的并集将会成为DataFrame的列标 由列表或元组组成的列表 类似于“二维ndarray" 另一个DataFrame 该DataFrame的索引将会被沿用，除非显式指定了其他索引...i处，并得到新的Index is_monotonic 当各元素均大于等于前一个元素时，返回True is_unique 当Index没有重复值时，返回True unique 计算Ilndex中唯一值的数组...向[ ]传递单一的元素或列表，就可选择列。
该方法中几个重要的参数如下所示： 参数 描述 header 默认第一行为columns，如果指定header=None，则表明没有索引行，第一行就是数据 index_col 默认作为索引的为第一列，可以设为...2、DataFrame轴的概念 在DataFrame的处理中经常会遇到轴的概念，这里先给大家一个直观的印象，我们所说的axis=0即表示沿着每一列或行标签\索引值向下执行方法，axis=1即表示沿着每一行或者列标签模向执行对应的方法...3、DataFrame一些性质 索引、切片 我们可以根据列名来选取一列，返回一个Series: frame2['year'] #输出 one 2000 two 2001 three...Utah 8 9 10 11 New York 12 13 14 15 pandas提供了专门的用于索引DataFrame的方法，即使用ix方法进行索引,不过ix在最新的版本中已经被废弃了...2 Colorado 6 Utah 10 Name: three, dtype: int64 修改数据 可以使用一个标量修改DataFrame中的某一列，此时这个标量会广播到DataFrame
，就像map一样，但它通过比较每个元素和布尔过滤规则来返回原始列表的一个子集。...---- 在Pandas中，删除一列或在NumPy矩阵中求和值时，可能会遇到Axis。...我们用删除一列（行）的例子： 1df.drop('Column A', axis=1) 2df.drop('Row A', axis=0) 如果你想处理列，将Axis设置为1，如果你想要处理行，将其设置为...如果你想在Python中对其进行索引，则行数下标为0，列数下标为1，这很像我们如何声明轴值。...使用Apply，可以将DataFrame列（是一个Series）的值进行格式设置和操作，不用循环，非常有用！
，就像map一样，但它通过比较每个元素和布尔过滤规则来返回原始列表的一个子集。...在Pandas中，删除一列或在NumPy矩阵中求和值时，可能会遇到Axis。...我们用删除一列（行）的例子： df.drop( Column A , axis=1) df.drop( Row A , axis=0) 如果你想处理列，将Axis设置为1，如果你想要处理行，将其设置为0...如果你想在Python中对其进行索引，则行数下标为0，列数下标为1，这很像我们如何声明轴值。 Concat，Merge和Join 如果您熟悉SQL，那么这些概念对您来说可能会更容易。...使用Apply，可以将DataFrame列（是一个Series）的值进行格式设置和操作，不用循环，非常有用！
当选择标签作为索引，会选择数据尾部，当为整数索引，则不包括尾部。例如列表a[0, 1, 2, 3, 4]中，a[1:3]的值为1，2；而pandas中为1，2，3。...数据选择的方法：1、直接选择；2、使用loc选择数据；3、使用iloc选择数据。 直接选择中，frame[[列名，列名]]表示选择列，frame[:3]表示选择行。...Numpy的通用函数（逐元素数组方法）对pandas对象也有效。...np的abs(绝对值)方法 另外一个常用操作是将函数应用到一行或一列的一维数组上，DataFrame的apply方法可以实现这个功能，是个很有用的方法。...') #传入columns在列上计算 利用apply不仅可以返回标量值，也可以返回Series对象。
如果我们想为这些数据添修改索引列（就是数据中的0，1，2），可以使用index参数指定索引。...我们对照数据来理解一下。dataframe里面有个属性叫index，那这个就是索引对应的也是数据库的索引，你也可以把它理解成主键。第二个属性是columns，这个就是一列。对应数据库的表也是一列。...在DataFrame中增加一列，我们可以直接给值来增加一列，就和python的字典里面添加元素是一样的： import pandas as pd import numpy as np val = np.arange...下面我们简单介绍一下： 选择一列： data['column_name'] 选择一列的前几行数据： data['columns_name'][:n] 选择多列： data[['column1','column2...apply函数可以对DataFrame对象进行操作，既可以作用于一行或者一列的元素，也可以作用于单个元素。apply最神奇的地方就是它里面可以调用函数，我们经常在apply里面写一些功能的匿名函数。
2.1 map() 类似Python内建的map()方法，pandas中的map()方法将函数、字典索引或是一些需要接受单个输入值的特别的对象与对应的单个列的每一个元素建立联系并串行得到结果。...2.2 apply() apply()堪称pandas中最好用的方法，其使用方式跟map()很像，主要传入的主要参数都是接受输入返回输出。...输出多列数据 有些时候我们利用apply()会遇到希望同时输出多列数据的情况，在apply()中同时输出多列时实际上返回的是一个Series，这个Series中每个元素是与apply()中传入函数的返回值顺序对应的元组...可以看到，这里返回的是单列结果，每个元素是返回值组成的元组，这时若想直接得到各列分开的结果，需要用到zip(*zipped)来解开元组序列，从而得到分离的多列返回值： a, b = zip(*data.apply...可以注意到虽然我们使用reset_index()将索引列还原回变量，但聚合结果的列名变成红色框中奇怪的样子，而在pandas 0.25.0以及之后的版本中，可以使用pd.NamedAgg()来为聚合后的每一列赋予新的名字
具体来说，map通过对列表中每个元素执行某种操作并将其转换为新列表。 在本例中，它遍历每个元素并乘以2，构成新列表。 （注意！...) [2, 4, 6, 8, 10] Filter函数接受一个列表和一条规则，就像map一样，但它通过比较每个元素和布尔过滤规则来返回原始列表的一个子集。...在Pandas中，删除一列或在NumPy矩阵中求和值时，可能会遇到Axis。...我们用删除一列（行）的例子： df.drop('Column A', axis=1) df.drop('Row A', axis=0) 如果你想处理列，将Axis设置为1，如果你想要处理行，将其设置为0...如果你想在Python中对其进行索引，则行数下标为0，列数下标为1，这很像我们如何声明轴值。 6 Concat，Merge和Join 如果您熟悉SQL，那么这些概念对你来说可能会更容易。
分组的列将是返回对象的索引。 传递as_index=False 将返回聚合的组作为命名列，无论它们在输入中是命名的索引还是列。...但是 pandas 允许您将相同的函数（或两个具有相同名称的函数）应用于同一列。...分组的列将是返回对象的索引。 传递as_index=False 将返回你正在聚合的组作为命名列，无论它们在输入中是命名的索引还是列。...但 pandas 允许您将相同函数（或具有相同名称的两个函数）应用于同一列。...虽然它试图智能猜测如何行事，但有时可能猜错。 注意 本节中的所有示例都可以使用其他 pandas 功能更可靠、更高效地计算。
) print(data.shape) 2.1 map() 类似Python内建的map()方法，pandas中的map()方法将函数、字典索引或是一些需要接受单个输入值的特别的对象与对应的单个列的每一个元素建立联系并串行得到结果...2.2 apply() apply()堪称pandas中最好用的方法，其使用方式跟map()很像，主要传入的主要参数都是接受输入返回输出。...有些时候我们利用apply()会遇到希望同时输出多列数据的情况，在apply()中同时输出多列时实际上返回的是一个Series，这个Series中每个元素是与apply()中传入函数的返回值顺序对应的元组...) 可以看到，这里返回的是单列结果，每个元素是返回值组成的元组，这时若想直接得到各列分开的结果，需要用到zip(*zipped)来解开元组序列，从而得到分离的多列返回值： a, b = zip(*data.apply...reset_index()将索引列还原回变量，但聚合结果的列名变成红色框中奇怪的样子，而在pandas 0.25.0以及之后的版本中，可以使用pd.NamedAgg()来为聚合后的每一列赋予新的名字：
，就像map一样，但它通过比较每个元素和布尔过滤规则来返回原始列表的一个子集。...---- ---- 在Pandas中，删除一列或在NumPy矩阵中求和值时，可能会遇到Axis。...我们用删除一列（行）的例子： df.drop( Column A , axis=1) df.drop( Row A , axis=0) 如果你想处理列，将Axis设置为1，如果你想要处理行，将其设置为0...如果你想在Python中对其进行索引，则行数下标为0，列数下标为1，这很像我们如何声明轴值。...使用Apply，可以将DataFrame列（是一个Series）的值进行格式设置和操作，不用循环，非常有用！
这很简单，因为序列上的数学和布尔运算符，应用于序列中的每个元素。...现在让我们使用多列分组，来计算每年和每个性别的最流行的名称。 由于数据已按照年和性别的递减顺序排序，因此我们可以定义一个聚合函数，该函数返回每个序列中的第一个值。...我们可以看到baby_pop中的Sex索引成为了数据透视表的列。...应用 pandas序列包含.apply()方法，它接受一个函数并将其应用于序列中的每个值。...我们现在可以将最后一个字母的这一列添加到我们的婴儿数据帧中。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
腾讯会议
云直播
对象存储
