距離上次寫博客已經(jīng)好久好久好久了,真是懈怠的生活節(jié)奏,整天混吃等死玩游戲,前些日子做畢業(yè)設計時總算又學了點新東西。學了一點深度學習和卷積神經(jīng)網(wǎng)絡的知識,附帶著詳細學習了一下前段時間我覺得比較有意思的圖像風格轉換。畢竟是初學,順便把神經(jīng)網(wǎng)絡方面的知識也寫在前面了,便于理解。若有不對的地方的話,希望指正。
主要參考的文獻有《A Neural Algorithm of Artistic Style》和《Perceptual Losses for Real-Time Style Transfer and Super-Resolution》這兩篇論文,以及深度學習實踐:使用Tensorflow實現(xiàn)快速風格遷移等文章,代碼參考了OlavHN/fast-neural-style和hzy46/fast-neural-style-tensorflow等大神的。
先說一下卷積神經(jīng)網(wǎng)絡。卷積神經(jīng)網(wǎng)絡(CNN)是一種前饋神經(jīng)網(wǎng)絡,了解機器學習中人工神經(jīng)網(wǎng)絡的話應該對這個概念不陌生。神經(jīng)網(wǎng)絡中的感知器模型如下圖所示。
輸入神經(jīng)元與其各自權重相乘再相加得到z,利用激活函數(shù)g(z)進行變換得到神經(jīng)元y。輸入層神經(jīng)元與其權重相乘再相加的過程可以用矩陣相乘相乘來表示,這點在下面的卷及神經(jīng)網(wǎng)絡里可以看到。神經(jīng)網(wǎng)絡里輸入層和輸出層中間的是隱藏層。