如何系統地學習支援向量機(SVM)?

時間 2021-06-10 04:47:34

1樓:

時間有限, 先簡單嘗試給一些前期可以操作的事情。

凡事先從簡單問題想起。

SVM的核心概念是 SV (Support Vector), SV的定義則離不開分離超平面與特殊樣本。

在經典二分類的場景下, 最易想到的是找一條直線將兩類樣本分開, 如果存在這樣的直線,稱我們的樣本是線性可分的, 否則是線性不可分(試想異或XOR樣本集或者一三象限為一類樣本、二四象限為另一類樣本的分布圖形)

如果是線性可分的場景, 那麼可以看到這樣的直線會存在無窮多條, 哪條是最優的呢? 也就是要尋找最大分離的目標直線。

構造所有樣本點到平面的距離, 取所有距離的最短者, 目標函式則是 max min (distance)

當確定了這條直線時, 直線和擁有最值條件的樣本就會進一步構造成了Support Vecotr。

以上是簡述 SV的形成, 但概念是限定於線性可分。

對於線性不可分的場景, 就要考慮的問題是如何實現特徵空間的非線性變換, 以實現將線性不可分場景轉變為線性可分的場景, 進一步給出了核函式(kernel function)的概念。

以上是對李航《統計學習》一書的回憶。 有些描述也許不太準確, 但大致思路是這樣的。

如何系統地學習Excel?

ItFunly 你需要完整學習這門課程 吳先生 還是用起來吧,然後實踐中有乙個老師帶你。反正我今年在帶我曾經的mentor做一些Excel建模,她甚至不需要太思考就能比我以前自己摸索的學習速度快三倍以上,我都羨慕我mentor是我的mentor。而且現在有時候看到的網上的很多學習資源,怎麼看都感覺沒...

如何系統地學習中醫?

胡茬 無法實際驗證的玄學,當然只能死記硬背了 而且可能2本書你還能找到矛盾的地方,同樣因為無法驗證,矛盾永遠存在 學中醫,耽誤自己一輩子。 一念 根據自身經驗,學院是毀中醫的,真想學,等你畢業,該考的證都考出來了,再去民間找老中醫拜師傳承,但你一定要先在學校學習好現有知識,反正拜師也一樣得學,不過會...

如何系統地學習廚藝?

圓圈 我覺得我的廚藝還不錯,因為從小家裡是做餐飲生意的,廚師做什麼我都在旁邊眼巴巴的看著,等著菜出鍋了,上菜了,我好把剩下的吧唧吧唧的吃掉,7歲那年第一次給出差回來的爸媽做了一次炒麵,爸爸媽媽很幸福,我也因此獲得了5塊錢的零花錢,那個時候5塊錢已經是高富帥了。從那個時候,因為幫家裡打雜,買菜,選菜,...