機器學習入門---邏輯回歸分類

邏輯回歸概念

上一篇文章我們已經講述了簡單線性回歸,而這篇文章的邏輯回歸與之不同的是,輸出的標籤是分類,比如,0和1,喜歡和不喜歡。

但其實,邏輯回歸也是線性回歸推導出來的。

邏輯函數: y=S(z)=frac{1}{1+e^{-z}} ,其中線性回歸 z=a+bx

邏輯函數

而邏輯函數的值y就表示標籤為1時的概率。而決策面的劃分就是當y<0.5時,標籤為0;當y>0.5時,標籤為1。

模型訓練與評估

Python邏輯回歸模型訓練和評估與簡單線性回歸相同。

用Python驗證邏輯回歸與線性回歸的關係

直接用邏輯回歸計算測試數據特徵為3,標籤為1的概率:

通過第一部分介紹的公式計算特徵為3,標籤為1的概率:

結果相同,也印證了邏輯回歸可由線性回歸推到得來。

推薦閱讀:

相关文章