熱門關鍵字:SiP | 自駕車 | 藍牙5 | NB-IoT | AI

訂閱電子報

立刻輸入Email,獲取最新的資訊:

收藏功能:
分享報新知:
其他功能:

AI演算法的撩妹語錄

文‧尹相志 發布日期:2018/09/15 關鍵字:AI,深度學習,演算法

最近網路上「撩妹語錄」掀起風潮,藉由猜想各歷史偉人會對女孩說的情話,搭配偉人嚴肅的肖像照,出現了許多版本的撩妹語錄,趣味橫生。 因此,我也做了深度學習版本的「撩妹語錄」。在此除了讓各位讀者欣賞深度學習版撩妹語錄外,也順便做些解說,好讓沒有接觸過深度學習的人也能夠了解每個神經網路的基本概念,同時解析深度學習撩妹語錄裡面各個神經網路為何會這麼說。

圖1就是大名鼎鼎的長短記憶模型(Long Short-Term Memory, LSTM),也是遞迴神經網路(Recurrent Neural Networks, RNN)中最受歡迎的一種形式。它最早是由Sepp Hochreiter於1991發表原型,然後Jürgen Schmidhuber於1997將該理論基礎大功告成。沒錯!LSTM是個快要30歲的老演算法了,它也是被Hinton發展出的深度學習最佳化方法救活的一票演算法之一。

LSTM最大的好處在於它解決了遞迴神經網路容易發生的梯度爆炸以及梯度瀰散問題,它使用了稱之為「門控(Gate)」的機制,可以學習開啟或是關閉的時機,來控制上下文向量(Context Vector)的流動。LSTM總共有3個門控,分別是輸入門、遺忘門以及輸出門。輸入門負責管理新數據是否該納入,而遺忘門負責管理哪些舊數據該遺忘,輸出門則管理哪些上下文該納入輸出。所以,對女孩子說他的遺忘門總是關著,正是表達永不遺忘的最高禮遇。

》想看更多內容?快來【免費加入會員】【登入會員】,享受更多閱讀文章的權限喔!
研討會專區
熱門文章