pandas是python数据分析必备工具,它有强大的数据清洗能力,往往能用非常少的代码实现较复杂的数据处理 今天,鸟哥总结了pandas筛选数据的15个常用技巧,主要包括5个知识点: 1.比较运算:==、<、>、>=、<=、!= 2.范围运算:between(left,right) 3.字符筛选:str.contains(pattern或字符串,na=False) 4.逻辑运算:&(与)、|(或)、not(取反) 5.比较函数:eq, ne, le, lt, ge, gt(相当于==,=!,<=,<,>=,>) 6.apply和isin函数 下面以超市运营数据为例,给大家逐个讲解 首先读取数据:
先看一下各列的数据类型: data.dtypes
下面以实际应用场景为例开始讲解: 1.筛选门店编号为'CDXL'的运营数据①第一种方法,用比较运算符‘==’:data[data.门店编号=='CDXL'] ②第二种方法,用比较函数'eq':
2.筛选单价小于等于10元的运营数据③第一种方法,用比较运算符‘<=’:data[data.单价<=10] ④第二种方法,用比较函数'le':
3.筛选销量大于2000的运营数据⑤第一种方法,用比较运算符‘>=’:data[data.销量>2] ⑥第二种方法,用比较函数'ge':
4.筛选除门店'CDXL'外的运营数据⑦第一种方法,用比较运算符‘!=’:data[data.门店编号!='CDXL'] ⑧第二种方法,用比较函数'ne':
5.筛选2020年5月的运营数据首先将日期格式化: data['日期']=data['日期'].values.astype('datetime64') #如果已为日期格式则此步骤可省略
⑨第一种方法,用逻辑运算符号'>' '<'和'&':Pandasdatetime64[ns]不能直接与datetime.date相比,需要用pd.Timestamp进行转化 data[(data.日期>pd.Timestamp(s_date))&(data.日期<pd.Timestamp(e_date))] ⑩第二种,用比较函数'gt''lt'和'&':
⑪第三种,用apply函数实现:id_a=data.日期.apply(lambda x: x.year ==2020 and x.month==5) ⑫第四种,用between函数实现:
6.筛选“类别ID”包含'000'的数据⑬第一种,用contains函数:data['类别ID']=data['类别ID'].values.astype('str') #将该列转换为字符数据类型 ⑭第二种,用isin函数:
很遗憾,isin函数搞不定,因为它只能判断该列中元素是否在列表中 7.筛选商品ID以“301”开头的运营数据⑮需要用contains函数结合正则表达式使用:data['商品ID']=data['商品ID'].values.astype('str') #将该列转换为字符数据类型 |
|