NeuralNetwork-Numpy
代碼下載鏈接:代碼下載
內容請參照 main.ipynb
net.py
conv.py
定義網絡
from net import ConvNet
net = ConvNet()
if not net.load(MODEL_PATH):
net.addConvLayout([3,3,1,4],bias = True,padding='VAILD',init_type=init_type,st_func='LEAKY_RELU_0.01')
net.addConvLayout([3,3,4,8],bias = True,padding='VAILD',init_type=init_type,st_func='LEAKY_RELU_0.01')
net.addConvLayout([5,5,8,16],bias = True,padding='VAILD',init_type=init_type,st_func='LEAKY_RELU_0.01')
net.addConvLayout([5,5,16,32],bias = True,padding='VAILD',init_type=init_type,st_func='LEAKY_RELU_0.01')
net.addConvLayout([16,16,32,64],bias = True,padding='VAILD',st_func='SIGMOID',init_type=init_type)
net.addConvLayout([1,1,64,10],bias = True,padding='VAILD',st_func='SIGMOID',init_type=init_type)
addData():添加數據
addConvLayout():在當前網絡最後面添加一層網絡
支持卷積層,全連接層,Batch Normalization層
激活函數支持sigmoid,leaky_relu_alpha,alpha可以為任意值
regress():回歸
支持MSE和交叉熵 支持多種優化器(SGD,Nesterov,RMSProp)
count():計算各層輸出
save():保存權值
load():讀取權值
print(net) 輸出網絡結構
注:輸入前需addData(),並count一次
運行mnist_visual_test.py可測試mnist數據集
model文件夾內為mnist訓練的模型,最新的模型只在batch_size=30的情況下訓練了400次,我們在測試集上測試准確率達到了:95.38%。使用的模型結構如上圖所示,4層卷積層+2層全連接層。
運行main.ipynb進行個性化測試