逻辑回归的那些事
本文是笔者学习逻辑回归算法后的总结,是笔者自己对逻辑回归算法的感悟,可能有不当之处。如有疑问,欢迎提 issue。
本文主要内容是对逻辑回归算法中代价函数(也叫损失函数,本文统一使用代价函数这词)的形成原理和梯度下降算法公式推导进行讨论,不涉及逻辑回归算法的介绍和如何使用,所以需要读者知道逻辑回归算法是什么、有什么用和怎么用。
写在前面本文公式和符号采用吴恩达教授的机器学习课程中的表达方式。以肿瘤预测为研究例子,有 m 个数据作为训练集,分别是 {$(x^{(1)}, y^{(1)}), (x^{(2)}, y^{(2)}), (x^{(3)}, y^{(3)}), (x^{(4)}, y^{(4)}),,,(x^{(m - 1)}, y^{(m - 1)}), (x^{(m)}, y^{(m)})$},其中 x 表示肿瘤的大小,x 的上标 i 表示第 i 个数据;y 的值为 0或1,0表
...