打字猴:1.70053587e+09
1700535870 百面机器学习:算法工程师带你去面试 [:1700532199]
1700535871 百面机器学习:算法工程师带你去面试 02 概率图表示
1700535872
1700535873
1700535874
1700535875 场景描述
1700535876
1700535877 上一节考查了面试者通过概率图还原模型联合概率分布的能力,本小节反其道而行之,考查面试者能否给出模型的概率图表示。
1700535878
1700535879 知识点
1700535880
1700535881 朴素贝叶斯模型,概率图,最大熵模型
1700535882
1700535883 问题1 解释朴素贝叶斯模型的原理,并给出概率图模型表示。
1700535884
1700535885 难度:★★☆☆☆
1700535886
1700535887 分析与解答
1700535888
1700535889 朴素贝叶斯模型通过预测指定样本属于特定类别的概率P(yi|x)来预测该样本的所属类别,即
1700535890
1700535891
1700535892
1700535893
1700535894 (6.10)
1700535895
1700535896 P(yi|x)可以写成
1700535897
1700535898
1700535899
1700535900
1700535901 (6.11)
1700535902
1700535903 其中x=(x1,x2,…,xn)为样本对应的特征向量,P(x)为样本的先验概率。对于特定的样本x和任意类别yi,P(x)的取值均相同,并不会影响P(yi|x)取值的相对大小,因此在计算中可以被忽略。假设特征x1,x2,…,xn相互独立,可以得到:
1700535904
1700535905 P(yi|x)∝P(x|yi)P(yi)=P(x1|yi)P(x2|yi)…P(xn|yi)P(yi) ,
1700535906
1700535907 (6.12)
1700535908
1700535909 其中P(x1|yi),P(x2|yi),…,P(xn|yi),以及P(yi)可以通过训练样本统计得到。可以看到后验概率P(xj|yi)的取值决定了分类的结果,并且任意特征xj都由yi的取值所影响。因此概率图模型可以用图6.2表示。
1700535910
1700535911
1700535912
1700535913
1700535914 图6.2 朴素贝叶斯模型的概率图模型
1700535915
1700535916 注意,图6.2的表示为盘式记法。盘式记法是一种简洁的概率图模型表示方法,如果变量y同时对x1,x2,…,xN这N个变量产生影响,则可以简记成图6.2的形式 。
1700535917
1700535918 问题2 解释最大熵模型的原理,并给出概率图模型表示。
1700535919
[ 上一页 ]  [ :1.70053587e+09 ]  [ 下一页 ]