1700534524
1700534525
其中
1700534526
1700534527
1700534528
，
1700534529
1700534530
（3.22）
1700534531
1700534532
称为数据集D关于A的取值熵。针对上述问题，我们可以根据式（3.22）求出数据集关于每个特征的取值熵为
1700534533
1700534534
1700534535
，
1700534536
1700534537
1700534538
，
1700534539
1700534540
1700534541
，
1700534542
1700534543
1700534544
.
1700534545
1700534546
于是，根据式（3.21）可计算出各个特征的信息增益比为
1700534547
1700534548
1700534549
1700534550
1700534551
信息增益比最大的仍是特征“写代码”，但通过信息增益比，特征“年龄”对应的指标上升了，而特征“长相”和特征“工资”却有所下降。
1700534552
1700534553
■ CART——最大基尼指数（Gini）
1700534554
1700534555
Gini描述的是数据的纯度，与信息熵含义类似。
1700534556
1700534557
1700534558
1700534559
1700534560
（3.23）
1700534561
1700534562
CART在每一次迭代中选择基尼指数最小的特征及其对应的切分点进行分类。但与ID3、C4.5不同的是，CART是一颗二叉树，采用二元切割法，每一步将数据按特征A的取值切成两份，分别进入左右子树。特征A的Gini指数定义为
1700534563
1700534564
1700534565
1700534566
1700534567
（3.24）
1700534568
1700534569
还是考虑上述的例子，应用CART分类准则，根据式（3.24）可计算出各个特征的Gini指数为
1700534570
1700534571
Gini(D|年龄=老)=0.4， Gini(D|年龄=年轻)=0.4，
1700534572
1700534573
Gini(D|长相=帅)=0.4， Gini(D|长相=丑)=0.4，