1樓：王璐
神經網路可以擬合任意函式。
神經網路可以做優化問題，但不一定能找到最優解。
解釋：
神經網路的擬合能力由通用近似定理 [Haykin, 2009]保證，兩層的前饋神經網路可以近似任意有界閉集上的任意連續函式。
由於使用了非線性啟用函式，模型的損失函式通常是非凸的，無法使用凸優化演算法。因此，經常使用梯度下降來優化。但梯度下降演算法只能找區域性最小。
2樓：劉吖星
首先，人工智慧的領域裡，應該是不存在「最優解」這說法的，從我目前所掌握的知識來看，我們只能找出乙個答案去逼近最優解，而不是求出這個最優解，你的所獲得的答案距離真實最優解的「差距」，是你的神經網路是否足夠優秀的最有力的證明。
然後你的問題就變成了如何去一點點的優化你的神經網路，你可以在訓練這個神經網路之前，大致猜想一下你的資料，和你所期望的答案，是否有且僅有乙個全域性最大值或者全域性最小值，這樣的資料求出貼近實際的答案比較輕鬆，但是如果是有多個區域性最大值或者區域性最小值的時候，你就需要其他的某些操作了，比如說資料歸一化，或者在梯度下降部分耍乙個小花招（亞當演算法）。
總而言之，如何在更短的時間內，獲得更加貼近真實答案的結果，如何去調優你的網路，是衡量你演算法能力的依據，或者是你日後的薪資多少的依據。
遺傳演算法，模擬退火演算法，粒子群演算法，神經網路等智慧型演算法的作用？
哈哈哈 神經網路可以用於旋轉機械的故障診斷。這是因為，故障診斷本質上是一種分類任務，而神經網路最擅長的就是分類。常見故障型別 殘差收縮網路 1 2 就是一種專門用於故障診斷的神經網路。深度殘差收縮網路 同時，如上圖所示，由於殘差收縮網路整合了軟閾值化，因而適合強雜訊資料的特徵學習 3 軟閾值化，其中...
神經網路訓練時如何找到最優的那個隨機種子？
雪莉 樓上很多說初始化不重要的，是不是沒怎麼跑極小引數的pixel的任務？工業應用，就要求四五層卷積，通道數最多16，初始化對結果影響不是很大，是非常大 CurvaNord 我一般選42，torch.manual seed 42 42 The answer to life,the universe ...
如何評估神經網路演算法的計算量，從而來確定需要多少GPU的投入？
GPU的投入有兩方面 視訊記憶體GPU計算量 視訊記憶體占用 模型所佔的視訊記憶體 乙個batch的訓練資料占用的視訊記憶體模型視訊記憶體占用可以通過計算模型中的矩陣大小乘以單個元素所佔位元組計算。訓練資料的視訊記憶體占用也可用類似方法計算。計算量的單位是flop，也就是乙個乘法和加法，例如計算兩個...