likes
comments
collection
share

利用python两种方法教你一行代码实现探索性数据分析报告

作者站长头像
站长
· 阅读数 53

💮两种方法教你一行代码实现探索性数据分析报告

==探索性数据分析（EDA）== 是使用可视化方法总结和分析数据集主要特征的过程。EDA是数据科学家要做的第一部分，如果我们不懂得如何进行EDA，那么无法对数据进行进一步的建模。上一篇文章我以泰坦尼克号数据为例，介绍了如何使用python详细的进行探索性数据分析，但有时这是很耗费时间的，现在，我介绍两种方法实现==一行代码生成探索性数据分析报告==。分别使用以下两个包，如果没有安装的小伙伴先去安装一下。

  • Sweetviz
  • pandas_profiling

我们照样使用==泰坦尼克号数据集==进行分析，需要相关数据集的看我这篇文章：blog.csdn.net/weixin_4505…

  • 先导入数据
import pandas as pd
from pandas_profiling import ProfileReport
df = pd.read_csv("train.csv")
df.head()
.dataframe tbody tr th:only-of-type { vertical-align: middle; } .dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; }
PassengerId Survived Pclass Name Sex Age SibSp Parch Ticket Fare Cabin Embarked
0 1 0 3 Braund, Mr. Owen Harris male 22.0 1 0 A/5 21171 7.2500 NaN S
1 2 1 1 Cumings, Mrs. John Bradley (Florence Briggs Thayer) female 38.0 1 0 PC 17599 71.2833 C85 C
2 3 1 3 Heikkinen, Miss. Laina female 26.0 0 0 STON/O2. 3101282 7.9250 NaN S
3 4 1 1 Futrelle, Mrs. Jacques Heath (Lily May Peel) female 35.0 1 0 113803 53.1000 C123 S
4 5 0 3 Allen, Mr. William Henry male 35.0 0 0 373450 8.0500 NaN S 
df.shape

(891, 12)

🏵️1. Sweetviz

==Sweetviz== 一个python开源库，通过基本的可视化来分析数据，并生成一个html文件。这个库的主要优点是我们可以 ==比较数据集==。 首先我们创建一个名为sweet_Analysized_report的文件，显示探索性数据分析结果。在本报告中，我们可以很容易地找到不同变量的特征，如：数量、缺失值、不同值、最大值、最小值、平均值等。具体代码和结果如下图所示

import sweetviz as sv
sweet_report = sv.analyze(df)
sweet_report.show_html('sweet_report.html')

  • ==相关系数热力图== 利用python两种方法教你一行代码实现探索性数据分析报告

  • ==Age分布情况==

利用python两种方法教你一行代码实现探索性数据分析报告

  • ==sibsip分布情况== 利用python两种方法教你一行代码实现探索性数据分析报告

==在这个Html文件中，我们可以看到其他每个变量的分布情况，大家可以自行验证测试。==

🌹2. 比较探索性数据分析

Sweetviz还支持比较不同数据集的探索性数据分析，首先，我们将数据集分成两部分，然后进行比较，然后保存此比较报告。数据集的两部分显示两种不同的颜色橙色和蓝色。具体代码和结果见下文：

df1 = sv.compare(df[445:], df[:445])
df1.show_html('Compare.html')

这里我把数据分为两部分，分别有445和446个数据。

  • ==survived分布情况==

利用python两种方法教你一行代码实现探索性数据分析报告

  • ==Pclass分布情况== 利用python两种方法教你一行代码实现探索性数据分析报告

  • ==sex分布情况== 利用python两种方法教你一行代码实现探索性数据分析报告

🥀3. pandas_profiling

==pandas_profiling==基于pandas的DataFrame数据类型，可以简单快速地进行探索性数据分析。和sweetviz类似，pandas_profiling可以返回一个html文件，包含如下内容

  • 数据整体概要：数据类型，唯一值，缺失值等
  • 各个变量的描述性统计分析
  • 各个变量的分布情况，直方图和条形图
  • 变量间的相关系数热力图等

具体代码和结果如下：

design_report = ProfileReport(df)
design_report.to_file(output_file='report.html')

  • ==变量分布情况== 利用python两种方法教你一行代码实现探索性数据分析报告

  • ==相关系数热力图==

利用python两种方法教你一行代码实现探索性数据分析报告

  • ==变量关系图== 利用python两种方法教你一行代码实现探索性数据分析报告

  • ==数据总体概要== 利用python两种方法教你一行代码实现探索性数据分析报告

✨总结

用上述两种方法得到的探索性数据分析是非常简易的。如果要想详细了解数据的话，建议一步一步根据自己的需求进行分析。具体可以看下面这篇推荐的文章，不过通过上述两种方法可以让我们大致初步的了解一下数据情况，并且可以节约很多时间（毕竟探索性数据分析真的很花费时间）

转载自:https://juejin.cn/post/7278951711552946239
评论
请登录