在前面提到的数据获取与数据存取的知识,一般来说,数据获取和数据存取是数据分析的必要条件,数据分析师在分析数据的时候首先需要数据,没有数据我们还分析什么呢?可见数据获取和数据存取是很重要的,不过在进行数据获取和数据存取之后,我们还需要对数据进行预处理,以及对概率知识的学习。下面我们就来讲讲这方面的内容。
大家都知道,很多时候我们通过获取数据和存取数据的时候,拿到的数据是不干净的,数据可能重复,也可能缺失,也可能存在异常值等等,这时候就需要进行数据的清洗,把这些影响分析的数据处理好,才能获得更加精确地分析结果。有很多无效的数据对分析没有意义,就需要进行删除。所以我们需要用相应的方法去处理,比如残缺数据,我们是直接去掉这条数据,还是用临近的值去补全,这些都是需要考虑的问题。
所以说,对于数据预处理,我们需要学会 pandas 的用法,应对一般的数据清洗就完全没问题了。那么学会pandas需要学什么东西呢?一般来说,需要学习选择(主要针对的是数据访问)、缺失值处理(即对缺失数据行进行删除或填充)、重复值处理(重复值的判断与删除)、空格和异常值处理(清楚不必要的空格和极端、异常数据)、相关操作(描述性统计、Apply、直方图)合并(符合各种逻辑关系的合并操作)、分组(数据划分、分别执行函数、数据重组)。学会了这些知识就能够做好数据的预处理工作。
当然,进行数据分析还需要学会概率论和统计学的知识,数据分析的方法有很多都是来自统计学的概念,概率论和统计学的知识也有很多,我们需要对概率论和统计学知识的进行透彻了解,需要掌握的知识点就是基本统计量(均值、中位数、众数、百分位数、极值等)、其他描述性统计量(偏度、方差、标准差、显著性等)、其他统计知识(总体和样本、参数和统计量、ErrorBar)、概率分布与假设检验(各种分布、假设检验流程)、其他概率论知识(条件概率、贝叶斯等)
可以这么说,掌握了统计学的知识,就可以做基本的分析了。大家在学习的时候一定要多多的练习,这样才能够好好的进行数据分析,由于篇幅问题就给大家介绍到这里了,我们在下一篇文章中给大家介绍数据思维和Python数据分析,大家一定要来哦!
联系客服