for columname in df.columns: #遍历每一列
if df[columname].count() != len(df): #判断缺失行条件:所在列的值数等于总数据的长度
#将存在缺失值的行的索引转换成列表储存
loc = df[columname][df[columname].isnull().values == True].index.tolist()
print('列名:"{}",第{}行位置有缺失值'.format(columname, loc))
遍历每列 -> 列长是否小于总长 ->缺失值所在行: df['列名'][df['列名‘].isnull().values==True ]
1. 缺失值处理
dropna()删除缺失值
df.dropna(axis=0)
使用
fillna()
方法填充缺失值,可以使用指定的值、前一个有效值、后一个有效值或者均值、中位数等。
df.fillna(value=0) # 用指定值填充缺失值
df.fillna(method='ffill') # 使用前一个有效值填充缺失值
df.fillna(method='bfill') # 使用后一个有效值填充缺失值
df.fillna(df.mean()) # 使用均值填充缺失值
df.fillna((df.shift()+df.shift(-1))/2) #用前后数值的平均值填充
df = df.fillna((df.shift().fillna(method='bfill') + df.shift(-1).fillna(method='ffill')) / 2)
最后一行的边界情况指的是第一行、最后一行等情况
2. 不合规数据
df[df['ColumnName']=='不合规数据']
df[df['ColumnName'].str.contains(' ')]
包含’--‘为不合规数据提取:
# 方法一:isin()
df[df['column'].isin(['--'])]
# 方法二:contains()
df[df["column"].str.contains("--")]
数据类型不为str提取:
temp = pd.DataFrame()
for i in range(len(df)):
if type(df['ColumnName'][i]) != str: #df['xxx'][i]或写成df.iloc[i,j]
temp = temp.append(df.loc[i])
不合规数据的处理:讲数据替换成nan,再用缺失值处理的方法
# 将不符合规范的值替换为 NaN
df = df.replace(['--', '111'], np.nan)
# 使用前一个数据和后一个数据的平均值填充缺失值,边界情况下使用同侧的值
df = df.fillna((df.shift().fillna(method='bfill') + df.shift(-1).fillna(method='ffill')) / 2)
版权声明:本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:jacktools123@163.com进行投诉反馈,一经查实,立即删除!