您当前的位置:首页 > IT编程 > python
| C语言 | Java | VB | VC | python | Android | TensorFlow | C++ | oracle | 学术与代码 | cnn卷积神经网络 | gnn | 图像修复 | Keras | 数据集 | Neo4j | 自然语言处理 | 深度学习 | 医学CAD | 医学影像 | 超参数 | pointnet | pytorch | 异常检测 | Transformers | 情感分类 | 知识图谱 |

自学教程:Python数据分析与处理(二)

51自学网 2022-02-21 10:37:10
  python
这篇教程Python数据分析与处理(二)写得很实用,希望能帮到您。

2.1数据的爬取

代码:

import pandas as pddata=pd.read_csv("example_data.csv",header=1)print(data)data1=pd.read_csv("北京地区信息.csv",header=1,encoding='gbk')data2=pd.read_csv("天津地区信息.csv",encoding='gbk')print(data1)print(data2)

代码运行结果:

首先使用pandasread_csv()方法进行数据的读取,然后就能够看到相应的表格信息。

2.2检查重复数据

dupnum=data.duplicated()print(dupnum)/# 对重复值进行处理caldup=data.drop_duplicates()print(caldup)

代码运行结果:

主要是是使用这个duplicated()方法进行数据的查重,返回一个布尔序列,仅对唯一元素而言为True。如果有重复的数据就会在该数值的部分返货Flase

然后我们就可以使用drop_duplicates()进行重复值删除。

2.3检查缺失值

代码:

from pandas import Seriesfrom numpy import NAN/# import pandas as pd series_obj=Series([1,None])pd.notnull(series_obj)/# 上面做的是测试pd.notnull(data)pd.notnull(data1)pd.notnull(data2)

代码运行结果:

使用pd.notnull(data1)进行非空数值的返回, 返回值是布尔型的矩阵,再取df[布尔型矩阵]返回的是id为非空的行。

2.4 检查异常值

import numpy as np/# 2.4 检查异常值def three_sig(ser1):  mean_value=ser1.mean()/#   标准差  std_value=ser1.std()/#   位于3σ范围外的都是异常值/# 数值大于u+3σ小雨u-3σ  rule=(mean_value-3*std_value>ser1)|(ser1.mean()+3*ser1.std()<ser1)  index=np.arange(ser1.shape[0])[rule]  outrange=ser1.iloc[index]  return outrangethree_sig(data2["女性"])

代码运行结果:

3σ原则又称为拉依达准则,该准则具体来说,就是先假设一组检测数据只含有随机误差,对原始数据进行计算处理得到标准差,然后按一定的概率确定一个区间,认为误差超过这个区间的就属于异常值。

通俗理解就是正态分布。

到此这篇关于Python数据分析与处理--处理中国地区信息的文章就介绍到这了,更多相关Python Python数据分析与处理内容请搜索51zixue.net以前的文章或继续浏览下面的相关文章希望大家以后多多支持51zixue.net!


Python数据分析与处理(一)--北京高考分数线统计分析
Python数据分析处理(三)--运动员信息的分组与聚合
万事OK自学网:51自学网_软件自学网_CAD自学网自学excel、自学PS、自学CAD、自学C语言、自学css3实例,是一个通过网络自主学习工作技能的自学平台,网友喜欢的软件自学网站。