打字猴:1.700506056e+09
1700506056 总体(Population)是包括所研究的全部个体(数据)的集合,它通常由所研究的一些个体组成,例如多个企业构成的集合、多个居民户构成的集合、多个人构成的集合等。每一个组成总体的元素称为个体。在由多个企业构成的总体中,每一个企业就是一个个体;在由多个居民户构成的总体中,每一个居民户就是一个个体;在由多个人构成的总体中,每一个人就是一个个体。总体的范围在一些场合下是容易确定的,在另一些场合下是不容易确定的。在有些场合,总体的数量比较小,在一次实验中可以全部覆盖;而在有些场合,总体的数量极为庞大,无法通过一次实验全部覆盖。
1700506057
1700506058 样本(Sample)是从总体中抽取的一部分元素的集合。构成样本的元素的数目称为样本量(Sample Size)。抽样的目的是根据样本提供的信息推断总体的特征。例如,从一批灯泡中随机抽取100个,这100个灯泡就构成了一个样本,可以根据这100个灯泡的平均使用寿命去推断这批灯泡的平均使用寿命。这种方式在日常生产中使用非常广泛,极大地降低了质量监控的成本,而且对不同批次产品的质量有严格且精确的描述能力。这种“一叶落知天下秋”(8)的哲学思想是统计学在抽样统计一环具体体现出来的优秀特质。
1700506059
1700506060 参数(Parameter)是用来描述总体特征的概括性的数字度量,是研究者想要了解的总体的某种特征值。研究者所关心的参数通常有总体平均数、总体标准差、总体比例等。在统计中,总体参数通常用希腊字母表示。例如,总体平均数用μ表示,总体标准差用σ表示,总体比例用π表示。
1700506061
1700506062 应该说,“统计”二字就是“统共合计”的意思,是一个期望用简洁的表达方式对大量信息进行归纳和抽象的分支科学。而在统计过程中,对总体、样本、参数3个核心特性进行把握,往往能得到很好的实验效果。
1700506063
1700506064
1700506065
1700506066
1700506067 数据科学家养成手册 [:1700503545]
1700506068 数据科学家养成手册 8.3 数据来源
1700506069
1700506070 要想进行统计,首先要确定统计对象,也就是前面我们提到的总体。在这之后,就是从总体中把数据收集上来。
1700506071
1700506072 常用的数据来源有两种。第一种是间接来源,也就是由他人通过调查或实验的方式收集的数据,使用者只是找到它们并加以使用。第二种是直接来源,即通过自己的调查或实验,直接获得第一手数据。
1700506073
1700506074 间接来源的数据一般来说会有很多第三方渠道提供,例如政府统计部门、专业调查机构、专业期刊文献、学术会议资料库提供的数据等,也包括一些单位自己收集并整理的营业记录、消费记录等。只要不是统计分析的实施者亲自获取的数据,都应该算作间接来源的数据。
1700506075
1700506076 间接来源的数据一般来说获取成本比较低,不过局限性也比较大,主要存在的问题有统计口径不一致、时效性不强等,所以在使用前需要对这些数据进行评估,例如数据提供方的信誉度、数据的收集手段、数据的收集时间等,从而最终判定这样一份数据是否可以作为统计分析的对象。
1700506077
1700506078 直接来源的数据,其获取成本通常比较高。在很多情况下,当间接来源的数据无法解决我们要研究的问题时,也只能考虑使用直接来源的数据,就是通过调查方法获得数据,或者通过实验方法获得数据。前者获得的数据叫作调查数据,后者获得的数据叫作实验数据。不论是调查数据还是实验数据,要想获得它们,都需要设计一套严谨的实施过程,从调查、数据产生、数据收集到数据分析,都需要有严格且科学的解释作为保障。
1700506079
1700506080 调查通常以一定范围内的社会人群为总体,实验通常针对具有自然性的现象。基本可以这样认为:需要人对类似答卷作出主观性回答的形式(即使是选择题)都可以称为调查;实验则是对观测现象进行相对客观的记录(例如,读取温度计的读数,以及对实验中符合某种状态的对象进行数量记录等)。在互联网和物联网产品中,通过终端收集的数据通常可以算作实验数据。
1700506081
1700506082 数据不论是间接来源还是直接来源,一定要建立在足够可信的基础上。如果对数据的信任程度不够,不建议盲目地开展分析,因为分析结果通常会变得不可靠。这里指的不是误差,误差是客观存在的,也无法避免。这里说的是数据来源、统计口径、记录方式等的可信度问题。数据来源就是我们所说的“认知”的第一步,是作为分析者观测的开始一环。不知道你是否能意识到,这一环中的数据解释说明和数据可靠性判断是统计能够正常进行的基本保障。在解读数据之前,要确保其可靠性能够满足我们对解读精度的需求。
1700506083
1700506084
1700506085
1700506086
1700506087 数据科学家养成手册 [:1700503546]
1700506088 数据科学家养成手册 8.4 抽样
1700506089
1700506090 通常情况下,把总体全部作为样本进行调查研究的成本是极为高昂的。在对大量的人口对象进行统计的时候就有这个问题。对几十亿条数据进行多维度的统计分析,这样的计算,即使是用计算机来进行,也有无法忽略的成本。此外,检测本身可能存在破坏性。例如,在工业品出厂检测中,很多情况下,被测对象在被拆解后无法再流向市场,这就形成了一种生产过程中的损失。所以,有相当多的统计调查都是通过抽样来进行的,因为这种方式更为经济,而且可行性更高。
1700506091
1700506092 为了让抽取的样本对总体有足够好的代表性,在生产中,最常使用的方法就是概率抽样(Probability Sampling),也叫作随机抽样。例如,使用正N面体的匀质骰子进行抽样,使产生每个标号数字的概率相同(如图8-3所示),这种方式广泛地应用于生产检验环节、博彩业及其他领域。除此之外,还有分层抽样(Stratified Sampling)和非概率抽样(Non-Probability Sampling)等多种抽样方法。
1700506093
1700506094
1700506095
1700506096
1700506097 图8-3 20面骰子和6面骰子
1700506098
1700506099 抽样的目的是用少量的数据样本来代表总体,也就是说,希望通过比例性的扩大反推抽样集合中样本的特性在总体中的量与分布。所以,抽样通常被认为是随机性越高就越理想,最好能够避免对某种特征样本的集中抽取——除非实验设计的研究对象就是这些特征样本。
1700506100
1700506101 在日常生活中,如果要实现这种尽可能随机的抽样,可以使用匀质骰子或者计算机语言中的随机函数。抽取的对象通常是类似员工ID的尾号、手机号码的尾号,以及其他一些在生成过程中没有经过过多人为干预的散列特性很好的序列。
1700506102
1700506103
1700506104
1700506105
[ 上一页 ]  [ :1.700506056e+09 ]  [ 下一页 ]