1700535870
百面机器学习：算法工程师带你去面试 [:1700532199]
1700535871
百面机器学习：算法工程师带你去面试 02 概率图表示
1700535872
1700535873
1700535874
1700535875
场景描述
1700535876
1700535877
上一节考查了面试者通过概率图还原模型联合概率分布的能力，本小节反其道而行之，考查面试者能否给出模型的概率图表示。
1700535878
1700535879
知识点
1700535880
1700535881
朴素贝叶斯模型，概率图，最大熵模型
1700535882
1700535883
问题1 解释朴素贝叶斯模型的原理，并给出概率图模型表示。
1700535884
1700535885
难度：★★☆☆☆
1700535886
1700535887
分析与解答
1700535888
1700535889
朴素贝叶斯模型通过预测指定样本属于特定类别的概率P(yi|x)来预测该样本的所属类别，即
1700535890
1700535891
1700535892
．
1700535893
1700535894
（6.10）
1700535895
1700535896
P(yi|x)可以写成
1700535897
1700535898
1700535899
，
1700535900
1700535901
（6.11）
1700535902
1700535903
其中x=(x1,x2,…,xn)为样本对应的特征向量，P(x)为样本的先验概率。对于特定的样本x和任意类别yi，P(x)的取值均相同，并不会影响P(yi|x)取值的相对大小，因此在计算中可以被忽略。假设特征x1,x2,…,xn相互独立，可以得到：
1700535904
1700535905
P(yi|x)∝P(x|yi)P(yi)=P(x1|yi)P(x2|yi)…P(xn|yi)P(yi) ，
1700535906
1700535907
（6.12）
1700535908
1700535909
其中P(x1|yi)，P(x2|yi),…,P(xn|yi)，以及P(yi)可以通过训练样本统计得到。可以看到后验概率P(xj|yi)的取值决定了分类的结果，并且任意特征xj都由yi的取值所影响。因此概率图模型可以用图6.2表示。
1700535910
1700535911
1700535912
1700535913
1700535914
图6.2 朴素贝叶斯模型的概率图模型
1700535915
1700535916
注意，图6.2的表示为盘式记法。盘式记法是一种简洁的概率图模型表示方法，如果变量y同时对x1,x2,…,xN这N个变量产生影响，则可以简记成图6.2的形式 。
1700535917
1700535918
问题2 解释最大熵模型的原理，并给出概率图模型表示。
1700535919