SVM的函式間隔中，為什麼成比例改變w和b，超平面沒有變化？

1樓：Haisenky

造成這種情況的原因其實是我們高中所學的平面方程，和超平面之間書寫方式不同。

超平面的定義是

滿足的所有，注意這裡的和都是多維向量也就是說這個公式可以展開為

注意到，這裡的和中每一維的分量，使用的都是同樣的字母只是下標不同所以你提問中的超平面方程：（可以叫做寫法1）實際要改寫成。

進一步，再換成上面的超平面標準定義寫法，就要寫成其中所以這個時候我們同時倍增和

就變成了也就是

寫成方程形式就變成了，這和最開始的超平面是一樣的，但是由此計算出的函式間隔變成了兩倍。

2樓：風生水起

在svm的函式間隔是指幾何間隔，就是點到超平面的距離。

根據幾何間隔的計算公式，就算成比例改變W和b，||W||都會拉回來。

3樓：漱石

首先，超平面的方向由法向量w決定。w矩陣表示不論乘什麼係數，其方向都不會改變，好比向量。這就決定超平面的方向不會隨w乘的係數改變而改變。

其次，以誤分類點為例，點到超平面的距離為-1/||w||*y*（wx+b），不論w、b同乘以什麼係數，處以||w||都會被消去，所以點到超平面的距離也不會變。

綜合以上兩點，超平面不會隨w、b同乘以什麼係數而改變。

（詳見李航《統計學習方法》和高數（好像是下冊）距離計算）

4樓：ICDI

你可能沒有理解等式，比如y = x + 1 (1)和 y = 2 * x + 2 肯定不是一樣的直線。但是在超平面中，X表示所有的維度，比如上面所說的(x,y),當你對式子(1)擴大2倍的時候，就變成了2 * y = 2 * x + 2 ，這跟式子(1)完全是一樣的。希望你能明白。

5樓：

SVM超平面的本質是——尋找不同資料之間距離最短的那個超平面。為了理解方便，我拿只有兩種分類資料為例，即時使得存在一條曲面使得到兩種資料（範數）之間的距離最短那個，如果這樣，則是對應兩種資料的正中間滿足此條件。

這樣的話，只要是W.T*X+b=0對應W和b不單獨變化，無論如何成比例變化，最終影響只是兩邊的邊界（或寬或窄），最終的中間平面還是在那裡，不會發生變化。