1700533968
百面机器学习：算法工程师带你去面试 [:1700532184]
1700533969
百面机器学习：算法工程师带你去面试 01 支持向量机
1700533970
1700533971
1700533972
1700533973
场景描述
1700533974
1700533975
支持向量机（Support Vector Machine，SVM）是众多监督学习方法中十分出色的一种，几乎所有讲述经典机器学习方法的教材都会介绍。关于SVM，流传着一个关于天使与魔鬼的故事。
1700533976
1700533977
传说魔鬼和天使玩了一个游戏，魔鬼在桌上放了两种颜色的球，如图3.1所示。魔鬼让天使用一根木棍将它们分开。这对天使来说，似乎太容易了。天使不假思索地一摆，便完成了任务，如图3.2所示。魔鬼又加入了更多的球。随着球的增多，似乎有的球不能再被原来的木棍正确分开，如图3.3所示。
1700533978
1700533979
1700533980
1700533981
1700533982
图3.1 分球问题1
1700533983
1700533984
1700533985
1700533986
1700533987
图3.2 分球问题1的简单解
1700533988
1700533989
1700533990
1700533991
1700533992
图3.3 分球问题2
1700533993
1700533994
SVM实际上是在为天使找到木棒的最佳放置位置，使得两边的球都离分隔它们的木棒足够远，如图3.4所示。依照SVM为天使选择的木棒位置，魔鬼即使按刚才的方式继续加入新球，木棒也能很好地将两类不同的球分开，如图3.5所示。
1700533995
1700533996
1700533997
1700533998
1700533999
图3.4 分球问题1的优化解
1700534000
1700534001
1700534002
1700534003
1700534004
图3.5 分球问题1的优化解面对分球问题2
1700534005
1700534006
看到天使已经很好地解决了用木棒线性分球的问题，魔鬼又给了天使一个新的挑战，如图3.6所示。按照这种球的摆法，世界上貌似没有一根木棒可以将它们完美分开。但天使毕竟有法力，他一拍桌子，便让这些球飞到了空中，然后凭借念力抓起一张纸片，插在了两类球的中间，如图3.7所示。从魔鬼的角度看这些球，则像是被一条曲线完美的切开了，如图3.8所示。
1700534007
1700534008
1700534009
1700534010
1700534011
图3.6 分球问题3
1700534012
1700534013
1700534014
1700534015
1700534016
图3.7 高维空间中分球问题3的解
1700534017