深度學習tensorflow實戰筆記(1)全連接神經網路(FCN)訓練自己的數據(從txt文件中讀取)
- 2019 年 11 月 10 日
- 筆記
1、準備數據
把數據放進txt文件中(數據量大的話,就寫一段程式自己把數據自動的寫入txt文件中,任何語言都能實現),數據之間用逗號隔開,最後一列標註數據的標籤(用於分類),比如0,1。每一行表示一個訓練樣本。如下圖所示。
其中前三列表示數據(特徵),最後一列表示數據(特徵)的標籤。注意:標籤需要從0開始編碼!
2、實現全連接網路
這個過程我就不多說了,如何非常簡單,就是普通的程式碼實現,本篇部落格的重點在於使用自己的數據,有些需要注意的地方我在後面會做注釋。直接上程式碼
1 #隱含層參數設置 2 in_units=3 #輸入神經元個數 3 h1_units=5 #隱含層輸出神經元個數 4 5 #第二個隱含層神經元個數 6 h2_units=6 7 8 9 W1=tf.Variable(tf.truncated_normal([in_units,h1_units],stddev=0.1)) #隱含層權重,W初始化為截斷正態分布 10 b1=tf.Variable(tf.zeros([h1_units])) #隱含層偏執設置為0 11 W2=tf.Variable(tf.truncated_normal([h1_units,h2_units],stddev=0.1)) #第二個隱含層權重,W初始化為截斷正態分布 12 b2=tf.Variable(tf.zeros([h2_units])) #第二個隱含層偏執設置為0 13 14 W3=tf.Variable(tf.zeros([h2_units,2])) #輸出層權重和偏執都設置為0 15 b3=tf.Variable(tf.zeros([2])) 16 17 #定義輸入變數x和dropout比率 18 x=tf.placeholder(tf.float32,[None,3]) #列是 19 keep_prob=tf.placeholder(tf.float32) 20 21 #定義一個隱含層 22 hidden1=tf.nn.relu(tf.matmul(x,W1)+b1) 23 hidden1_drop=tf.nn.dropout(hidden1,keep_prob) 24 25 #定義第二個隱藏層 26 hidden2=tf.nn.relu(tf.matmul(hidden1_drop,W2)+b2) 27 hidden2_drop=tf.nn.dropout(hidden2,keep_prob)
需要注意的地方
in_units=3 #輸入神經元個數,和特徵的維度對應起來
x=tf.placeholder(tf.float32,[None,3]) #和特徵的維度對應起來
3、實現損失函數
標準的softmax和交叉熵,不多說了。
1 y=tf.nn.softmax(tf.matmul(hidden2_drop,W3)+b3) 2 3 #定義損失函數和選擇優化器 4 y_=tf.placeholder(tf.float32,[None,2]) #列是2,表示兩類,行表示輸入的訓練樣本個數,None表示不定 5 6 corss_entropy=tf.reduce_mean(-tf.reduce_sum(y_*tf.log(y),reduction_indices=[1])) 7 train_step=tf.train.AdagradOptimizer(0.3).minimize(corss_entropy)
需要注意的地方:
y_=tf.placeholder(tf.float32,[None,2]) #有幾類就寫幾,我寫的是兩類,所以就是2
4、從txt中讀取數據,並做處理
重點來了,首先從txt中把數據讀取出來,然後對標籤進行獨熱編碼,什麼是獨熱編碼?索引表示類別,是哪個類別這一維就是非零(用1)。程式碼實現:
1 data=np.loadtxt('txt.txt',dtype='float',delimiter=',') 2 3 #將樣本標籤轉換成獨熱編碼 4 def label_change(before_label): 5 label_num=len(before_label) 6 change_arr=np.zeros((label_num,2)) #2表示有兩類 7 for i in range(label_num): 8 #該樣本標籤數據要求從0開始 9 change_arr[i,int(before_label[i])]=1 10 return change_arr 11 12 #用於提取數據 13 def train(data): 14 data_train_x=data[:7,:3] #取前幾行作為訓練數據,7表示前7行,3表示取前三列,排除數據標籤 15 data_train_y=label_change(data[:7,-1]) 16 return data_train_x,data_train_y 17 18 19 data_train_x,data_train_y=train(data)
需要注意的地方在程式碼中我都做了注釋,不再贅述。
5、開始訓練和測試
訓練部分
1 for i in range(5): #迭代,取batch進行訓練 2 img_batch, label_batch = tf.train.shuffle_batch([data_train_x, data_train_y], #隨機取樣本 3 batch_size=2, 4 num_threads=2, 5 capacity=7, 6 min_after_dequeue=2, 7 enqueue_many=True) 8 coord = tf.train.Coordinator() 9 threads = tf.train.start_queue_runners(coord=coord, sess=sess) 10 11 12 img_batch,label_batch=sess.run([img_batch,label_batch]) 13 14 train_step.run({x:img_batch,y_:label_batch,keep_prob:0.75}
1 #預測部分 2 correct_prediction=tf.equal(tf.argmax(y,1),tf.argmax(y_,1)) 3 accuracy=tf.reduce_mean(tf.cast(correct_prediction,tf.float32)) 4 print(accuracy.eval({x:data_train_x,y_:data_train_y,keep_prob:1.0}))
這樣就全部流程完成。其中網路結構可以做相應的修改,核心在於如何從txt中讀取自己的數據輸入到全連接神經網路(多層感知機)中進行訓練和測試。
當然,也可以在定義變數的時候直接輸入,不用從txt中讀取。即:
1 image=[[1.0,2.0,3.0],[9,8,5],[9,5,6],[7,5,3],[6,12,7],[8,3,6],[2,8,71]] 2 label=[[0,1],[1,0],[1,0],[1,0],[1,0],[0,1],[0,1]] 3 image_test=[[9,9,9]] 4 label_test=[[0,1]]
直接定於數據的話,適合小數據量的情況,大數據量的情況並不適用。
好了,本篇部落格介紹到此結束。下一篇介紹如何處理影像數據。