1700532540
其中X为原始数据，Xmax、Xmin分别为数据最大值和最小值。
1700532541
1700532542
（2）零均值归一化（Z-Score Normalization）。它会将原始数据映射到均值为0、标准差为1的分布上。具体来说，假设原始特征的均值为μ、标准差为σ，那么归一化公式定义为
1700532543
1700532544
1700532545
．
1700532546
1700532547
（1.2）
1700532548
1700532549
为什么需要对数值型特征做归一化呢？我们不妨借助随机梯度下降的实例来说明归一化的重要性。假设有两种数值型特征，x1的取值范围为 [0, 10]，x2的取值范围为[0, 3]，于是可以构造一个目标函数符合图1.1（a）中的等值图。
1700532550
1700532551
在学习速率相同的情况下，x1的更新速度会大于x2，需要较多的迭代才能找到最优解。如果将x1和x2归一化到相同的数值区间后，优化目标的等值图会变成图1.1（b）中的圆形，x1和x2的更新速度变得更为一致，容易更快地通过梯度下降找到最优解。
1700532552
1700532553
1700532554
1700532555
1700532556
图1.1 数据归一化对梯度下降收敛速度产生的影响
1700532557
1700532558
当然，数据归一化并不是万能的。在实际应用中，通过梯度下降法求解的模型通常是需要归一化的，包括线性回归、逻辑回归、支持向量机、神经网络等模型。但对于决策树模型则并不适用，以C4.5为例，决策树在进行节点分裂时主要依据数据集D关于特征x的信息增益比（详见第3章第3节），而信息增益比跟特征是否经过归一化是无关的，因为归一化并不会改变样本在特征x上的信息增益。
1700532559
1700532560
1700532561
1700532562
1700532563
百面机器学习：算法工程师带你去面试 [:1700532169]
1700532564
百面机器学习：算法工程师带你去面试 02 类别型特征
1700532565
1700532566
1700532567
1700532568
场景描述
1700532569
1700532570
类别型特征（Categorical Feature）主要是指性别（男、女）、血型（A、B、AB、O）等只在有限选项内取值的特征。类别型特征原始输入通常是字符串形式，除了决策树等少数模型能直接处理字符串形式的输入，对于逻辑回归、支持向量机等模型来说，类别型特征必须经过处理转换成数值型特征才能正确工作。
1700532571
1700532572
知识点
1700532573
1700532574
序号编码（Ordinal Encoding）、独热编码（One-hot Encoding）、二进制编码（Binary Encoding）
1700532575
1700532576
问题 在对数据进行预处理时，应该怎样处理类别型特征？
1700532577
1700532578
难度：★★☆☆☆
1700532579
1700532580
分析与解答
1700532581
1700532582
■ 序号编码
1700532583
1700532584
序号编码通常用于处理类别间具有大小关系的数据。例如成绩，可以分为低、中、高三档，并且存在“高>中>低”的排序关系。序号编码会按照大小关系对类别型特征赋予一个数值ID，例如高表示为3、中表示为2、低表示为1，转换后依然保留了大小关系。
1700532585
1700532586
■ 独热编码
1700532587
1700532588
独热编码通常用于处理类别间不具有大小关系的特征。例如血型，一共有4个取值（A型血、B型血、AB型血、O型血），独热编码会把血型变成一个4维稀疏向量，A型血表示为（1, 0, 0, 0），B型血表示为（0, 1, 0, 0），AB型表示为（0, 0, 1, 0），O型血表示为（0, 0, 0, 1）。对于类别取值较多的情况下使用独热编码需要注意以下问题。
1700532589