熬過了上一篇漫長的代碼，稍微解開了一丟丟疑惑，使得抽象的BP有一點具體化了，可是還是有好多細節(jié)的東西沒有講清楚，比如，為什么要用激活函數(shù)？為什么隨機梯度下降沒有提到？下面我們來一一解開疑惑。

首先是為什么要使用激活函數(shù)？這要回顧一下我們在學(xué)習(xí)BP之前學(xué)習(xí)的感知器模型。它模仿的是人類體內(nèi)的信號傳導(dǎo)的過程，當信號達到一定的閾值時，就可以繼續(xù)向后傳播。

那這個感知器模型和BP網(wǎng)絡(luò)有什么關(guān)系呢？在我們所看到的BP網(wǎng)絡(luò)的結(jié)構(gòu)圖中，其實是被簡化了的，下面小編畫了一個邏輯更清晰一點的圖：

這樣我們就可以看出來，其實BP網(wǎng)絡(luò)是由一個一個的感知器組成，也就構(gòu)成了一個真正的神經(jīng)網(wǎng)絡(luò)，自然就能理解為什么要使用激活函數(shù)了。

接下來我們來看一下TensorFlow實現(xiàn)BP神經(jīng)網(wǎng)絡(luò)到底有多簡單！

#構(gòu)建一個結(jié)構(gòu)為[10,15,1]的BP神經(jīng)網(wǎng)絡(luò)
model = tf.keras.Sequential([tf.keras.layers.Dense(15,activation='relu',input_shape=(10,)),
                             tf.keras.layers.Dense(1)])
model.summary()  #顯示網(wǎng)絡(luò)結(jié)構(gòu)
model.compile(optimizer='SGD',loss='mse')  #定義優(yōu)化方法為隨機梯度下降，損失函數(shù)為mse
#x->訓(xùn)練集,y——>bia標簽,epochs=10000訓(xùn)練的次數(shù),validation_data=(test_x,test_y)——>驗證集
history = model.fit(x,y,epochs=10000,validation_data=(test_x,test_y))

上面就是一個最簡單的BP網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu),小編還準備好了完整的通用框架代碼，不用總是修改隱藏層，可以直接使用哦！公眾號發(fā)送“BP源碼”就可以獲??！是不是非常驚訝！昨天的百行代碼完全消失了，這短短幾行代碼就可實現(xiàn)一個BP網(wǎng)絡(luò)。

這里解釋一下validation_data，這是驗證集，作用和測試集是一樣的，只不過驗證集是在訓(xùn)練過程中對模型進行測試，這樣方便觀察模型的準確性。loss函數(shù)的作用是計算模型的預(yù)測誤差，也就是是衡量模型的準確度，常用的誤差函數(shù)還有mse,mae,rmse,mape等等,模型中有很多誤差函數(shù)不能直接調(diào)用，但是可以自己定義。

   SGD就是我們所說的隨機梯度下降算法了，但是現(xiàn)在我們普遍認為“adam”是目前最好的優(yōu)化算法，當然這也根據(jù)不同的神經(jīng)網(wǎng)絡(luò)做不同的選擇。想要研究理論的讀者可以去查一查資料，小編作為實戰(zhàn)派就不對理論做過多的闡述了！

另外再列出來同樣強大的pytorch框架的代碼，大家可以自行選取。

class Model(nn.Module):
    def __init__(self):
        super().__init__()
        self.fc = nn.Sequential(
            nn.Linear(10, 15),
            nn.ReLU(),
            nn.Dropout(),  #防止過度擬合，TensorFlow也有
            nn.Linear(15, 2)
        )
    def forward(self, x):
        x = self.fc(x)
        return x

關(guān)于選擇哪一個框架的問題，在TensorFlow2.0出現(xiàn)之前，小編會推薦pytorch,現(xiàn)在的TensorFlow2.0和pytorch代碼風(fēng)格已經(jīng)越來越接近了，但是TensorFlow2.0可以支持的平臺更多，所以這里推薦TensorFlow2.0。

有什么問題，歡迎大家留言討論！