機(jī)器學(xué)習(xí)系列（2）：logistic回歸，貝葉斯（bayes）方法

前言： 這章主要介紹logistic回歸和bayes法。兩者都屬分類，前者引入了logistic函數(shù)，后者引入了貝葉斯定理，都是比較基礎(chǔ)的數(shù)學(xué)知識。 但是logistic無需先驗的訓(xùn)練樣本，后者需要。 貝葉斯法很強(qiáng)大，很多郵件、網(wǎng)頁篩選都有用到，這里只介紹樸素bayes法。理

前言：這章主要介紹logistic回歸和bayes法。兩者都屬分類，前者引入了logistic函數(shù)，后者引入了貝葉斯定理，都是比較基礎(chǔ)的數(shù)學(xué)知識。

但是logistic無需先驗的訓(xùn)練樣本，后者需要。

貝葉斯法很強(qiáng)大，很多郵件、網(wǎng)頁篩選都有用到，這里只介紹樸素bayes法。理解其關(guān)鍵在于應(yīng)用中條件概率的提取。

引用《機(jī)器學(xué)習(xí)》上的一句話：

“在特定前提下，任一學(xué)習(xí)算法如果使輸出的假設(shè)預(yù)測和訓(xùn)練數(shù)據(jù)之間的誤差平方最小化，它將輸出一極大似然假設(shè)?！?/p>

正文：

后續(xù)：對于logistic回歸，最后梯度下降法計算最小J（x）詳細(xì)解法可見參考資料1.

Logistic回歸就是要學(xué)習(xí)得到，使得正例的特征遠(yuǎn)大于0，負(fù)例的特征遠(yuǎn)小于0，強(qiáng)調(diào)在全部訓(xùn)練實(shí)例上達(dá)到這個目標(biāo)

對于bayes法，例題見參考資料2.

參考資料：1.logistic回歸，講的很詳細(xì)

2.bayes法，一步步都很清楚

3.貝葉斯方法的理解，數(shù)學(xué)之美

4.bayes法的概念有好的介紹

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。TEL:177 7030 7066 E-MAIL:11247931@qq.com