课堂笔记 - 深度学习 Deep Learning (14)

了解计算的公式后要来学习如何校正logistic regression:

Error Measure for Logistic Regression

首先複习一下前一篇的最后结论:y-hat = p(y=1|x) 在x中y=1发生的机率

=> 当y=1 时 p(y|x) = y-hat ; 当y=0 时 p(y|x) = 1-(y-bar)
http://img2.58codes.com/2024/20142783FFtoqH16bb.png

整理后可以得到:
http://img2.58codes.com/2024/201427839YyS6dLYBh.png

不懂就...先记起来

总之我们想要尽量的逼近我们的目标,也就是求出Max(p(y|x)),
于是想要使用单调递增的ln()函数去尽量逼近,得出Max(ln(p(y|x)))。
就是高中学的natural log,ln(x)微分后会是1/x

同时也想要尽量减少误差,于是这边使用的Error Function 一样使用ln()去计算的话 => min(ln(p(y|x)))
由此可得http://img2.58codes.com/2024/20142783i1sVFpRFqM.png

套用进一开始假设的E(w1,w2,b) = -ln(p(y|x)),
p(y|x)则用刚刚整理好的公式带入 =>http://img2.58codes.com/2024/20142783vyi4CsSoDA.png

就可以得到Logistic Regression的 Error Function,也就是Cross-entropy loss function
http://img2.58codes.com/2024/20142783cSx7ys7jLT.png


关于作者: 网站小编

码农网专注IT技术教程资源分享平台,学习资源下载网站,58码农网包含计算机技术、网站程序源码下载、编程技术论坛、互联网资源下载等产品服务,提供原创、优质、完整内容的专业码农交流分享平台。

热门文章