1700535871
百面机器学习:算法工程师带你去面试 02 概率图表示
1700535872
1700535873
1700535874
1700535875
场景描述
1700535876
1700535877
上一节考查了面试者通过概率图还原模型联合概率分布的能力,本小节反其道而行之,考查面试者能否给出模型的概率图表示。
1700535878
1700535879
知识点
1700535880
1700535881
朴素贝叶斯模型,概率图,最大熵模型
1700535882
1700535883
问题1 解释朴素贝叶斯模型的原理,并给出概率图模型表示。
1700535884
1700535885
难度:★★☆☆☆
1700535886
1700535887
分析与解答
1700535888
1700535889
朴素贝叶斯模型通过预测指定样本属于特定类别的概率P(yi|x)来预测该样本的所属类别,即
1700535890
1700535891
1700535892
.
1700535893
1700535894
(6.10)
1700535895
1700535896
P(yi|x)可以写成
1700535897
1700535898
1700535899
,
1700535900
1700535901
(6.11)
1700535902
1700535903
其中x=(x1,x2,…,xn)为样本对应的特征向量,P(x)为样本的先验概率。对于特定的样本x和任意类别yi,P(x)的取值均相同,并不会影响P(yi|x)取值的相对大小,因此在计算中可以被忽略。假设特征x1,x2,…,xn相互独立,可以得到:
1700535904
1700535905
P(yi|x)∝P(x|yi)P(yi)=P(x1|yi)P(x2|yi)…P(xn|yi)P(yi) ,
1700535906
1700535907
(6.12)
1700535908
1700535909
其中P(x1|yi),P(x2|yi),…,P(xn|yi),以及P(yi)可以通过训练样本统计得到。可以看到后验概率P(xj|yi)的取值决定了分类的结果,并且任意特征xj都由yi的取值所影响。因此概率图模型可以用图6.2表示。
1700535910
1700535911
1700535912
1700535913
1700535914
图6.2 朴素贝叶斯模型的概率图模型
1700535915
1700535916
注意,图6.2的表示为盘式记法。盘式记法是一种简洁的概率图模型表示方法,如果变量y同时对x1,x2,…,xN这N个变量产生影响,则可以简记成图6.2的形式 。
1700535917
1700535918
问题2 解释最大熵模型的原理,并给出概率图模型表示。
1700535919
[
上一页 ]
[ :1.70053587e+09 ]
[
下一页 ]