添加链接
link管理
链接快照平台
  • 输入网页链接,自动生成快照
  • 标签化管理网页链接

Python资料网推荐pandas 缺失值、异常值提取和处理这篇文章给大家,欢迎收藏Python资料网享受知识的乐趣

for columname in df.columns: #遍历每一列 
    if df[columname].count()  != len(df): #判断缺失行条件:所在列的值数等于总数据的长度
        #将存在缺失值的行的索引转换成列表储存
        loc = df[columname][df[columname].isnull().values == True].index.tolist()
        print('列名:"{}",第{}行位置有缺失值'.format(columname, loc))

遍历每列 -> 列长是否小于总长 ->缺失值所在行: df['列名'][df['列名‘].isnull().values==True ]

1. 缺失值处理

dropna()删除缺失值

df.dropna(axis=0) # 删除包含缺失值的行
df.dropna(axis=1) # 删除包含缺失值的列

使用 fillna() 方法填充缺失值,可以使用指定的值、前一个有效值、后一个有效值或者均值、中位数等。

df.fillna(value=0)  # 用指定值填充缺失值
df.fillna(method='ffill')  # 使用前一个有效值填充缺失值
df.fillna(method='bfill')  # 使用后一个有效值填充缺失值
df.fillna(df.mean())  # 使用均值填充缺失值
df.fillna((df.shift()+df.shift(-1))/2) #用前后数值的平均值填充
# 使用前一个数据和后一个数据的平均值填充缺失值,边界情况下使用同侧的值
df = df.fillna((df.shift().fillna(method='bfill') + df.shift(-1).fillna(method='ffill')) / 2)

最后一行的边界情况指的是第一行、最后一行等情况

2. 不合规数据

df[df['ColumnName']=='不合规数据']

df[df['ColumnName'].str.contains(' ')]

包含’--‘为不合规数据提取:

# 方法一:isin()
df[df['column'].isin(['--'])]
# 方法二:contains() df[df["column"].str.contains("--")]

数据类型不为str提取:

temp = pd.DataFrame()
for i in range(len(df)):
    if type(df['ColumnName'][i]) != str: #df['xxx'][i]或写成df.iloc[i,j]
        temp = temp.append(df.loc[i])

不合规数据的处理:讲数据替换成nan,再用缺失值处理的方法

# 将不符合规范的值替换为 NaN
df = df.replace(['--', '111'], np.nan)
# 使用前一个数据和后一个数据的平均值填充缺失值,边界情况下使用同侧的值
df = df.fillna((df.shift().fillna(method='bfill') + df.shift(-1).fillna(method='ffill')) / 2)

版权声明:本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:jacktools123@163.com进行投诉反馈,一经查实,立即删除!

上一篇: 跨界协作:借助gRPC实现Python数据分析能力的共享
下一篇: 100 行代码实现用户登录注册与 RESTful 接口 - 手把手教程附 Python 源码

  • Python酷库之旅-第三方库Pandas(088)
  • 【python篇】——python基础语法一篇就能明白,快速理解
  • Python教学 | 有备无患!详解 Python 异常处理(try-except)
  • python的简单web框架flask【附例子】
  • 【python】导入serial模块,读写串口数据(嵌入式软件自动化测试)
  • 【Python系列】使用切片移动元素位置
  • 全网最适合入门的面向对象编程教程:48 Python函数方法与接口-位置参数、默认参数、可变参数和关键字参数
  • Python自动发送邮件:详细教程与示例代码
  • 【Python】深入了解 defaultdict:轻松处理默认值与复杂数据结构
  • 版本匹配指南:Numpy版本和Python版本的对应关系
  • Python 可视化 web 神器:streamlit、Gradio、dash、nicegui;低代码 Python Web 框架:PyWebIO
  • 版本匹配指南:PyTorch版本、torchvision 版本和Python版本的对应关系
  • 相关性分析——Pearson相关系数+热力图(附data和Python完整代码)
  • Could not build wheels for llama-cpp-python, which is required to install pyproject.toml-based proj
  • Python pyinstaller打包exe最完整教程
  • Anaconda版本和Python版本对应关系(持续更新...)
  • Python与PyTorch的版本对应
  •