打字猴:1.700540037e+09
1700540037 因为判别器D试图识别实际数据为真实样本,识别生成器生成的数据为模拟样本,所以这是一个二分类问题,损失函数写成Negative Log-Likelihood,也称Categorical Cross-Entropy Loss,即:
1700540038
1700540039
1700540040
1700540041
1700540042 (13.1)
1700540043
1700540044
1700540045
1700540046
1700540047 其中D(x)表示判别器预测x为真实样本的概率,p(data|x)和p(g|x)表示x分属真实数据集和生成器这两类的概率。样本x的来源一半是实际数据集,一半是生成器,。我们用表示从实际数据集得到x的概率,表示从生成器得到x的概率,有x的总概率
1700540048
1700540049
1700540050
1700540051
1700540052 (13.2)
1700540053
1700540054 替换式(13.1)中的p(x)p(data|x)为psrc(data)pdata(x),以及p(x)p(g|x)为psrc(g)pg(x),即可得到最终的目标函数
1700540055
1700540056
1700540057
1700540058
1700540059 (13.3)
1700540060
1700540061 在此基础上得到值函数
1700540062
1700540063
1700540064
1700540065
1700540066 (13.4)
1700540067
1700540068
1700540069 判别器D最大化上述值函数,生成器G则最小化它,整个MiniMax游戏(见图13.4)可表示为:。
1700540070
1700540071
1700540072
1700540073
1700540074 图13.4 MiniMax对抗式游戏
1700540075
1700540076
1700540077
1700540078
1700540079 训练中,给定生成器G,寻找当下最优判别器DG*。对于单个样本x,最大化的解为,外面套上对x的积分就得到,解由单点变成一个函数解
1700540080
1700540081
1700540082
1700540083
1700540084 (13.5)
1700540085
1700540086
[ 上一页 ]  [ :1.700540037e+09 ]  [ 下一页 ]