Type of Credit: Elective
Credit(s)
Number of Students
深度學習神經網路（Deep learning neural networks）是目前在機器學習領域中最為熱門的研究項目，也是目前AI領域中的主流模型。深度學習神經網路是一個複雜的運算模型，它是由無數個基本計算單元，或稱節點，鍵結而成的多層次網路架構。其中每個節點的功能與運作方式都師法自真實生物的神經元，而節點與節點之間的關係稱為參數，可以透過不同的學習演算法進行調整，使得整個網路能作出最能適應環境的表現，即，深度學習神經網路具有自我學習的能力。這樣的特色使得深度學習神經網路十分適合作為機器學習的模型，可以解決許多常見的問題，像是分類、分群、迴歸預測、圖形辨識、語文分析等等。此外，由於它的架構與運算方式都與真實的神經元相仿，這也使得深度學習神經網路具有成為心理學家研究人類心智功能的運算模型。自1986年以來，神經網路的發展日新月異，心理學家也常用它作為運算模型的依據，並於諸多研究領域都有不錯的表現，例如，短期記憶、類別學習、語言發展、視覺分析等等。這堂課將會由介紹深度學習神經網路模型的發展歷史開始，從講解如何設計一個神經網路運算節點，到如何設計出完整的網路架構，包括相關的學習演算法，以及各種不同架構的神經網路適合於處理何種問題。
能力項目說明
本課程的主旨在於向同學介紹深度學習神經網路，修習本課程的同學將被要求實際以程式語言Python撰寫深度學習神經網路模型。因此，修習完本課程的同學將被預期可以作到（1）了解什麼是深度學習神經網路，（2）具備基礎的程式設計邏輯，以及（3）可以至少以Python語言寫出一個既存的神經網路模型。
| 教學週次Course Week | 彈性補充教學週次Flexible Supplemental Instruction Week | 彈性補充教學類別Flexible Supplemental Instruction Type |
|---|---|---|
週次 課程主題 課程內容與指定閱讀 教學活動與作業（課外預計需花費時間）
---------------------------------------------------------------------------------------------
1 Introduction Chapter 1 Installation of Python (within 1 hr if everything goes well)
2 Basic concepts Chapter 2 Review of Chapter 2 (3+ hr)
3 Basic of Python I Lecture Note Homework: practicing coding with Python (6+ hr)
4 Basic of Python II Lecture Note Homework: practing coding with Python (6+ hr)
5 Cognitron I Chapter 3 No homework
6 Cognitron II Chapter 3 No homework
7 Backpropagation I Chapter 4 Homework for coding a one layered NN (3+ hr)
8 Backpropagation II Chapter 4 Homework for practicing backpropagation learning (6+ hr)
9 Convolutional Neural Network I Chapter 5 Homework for coding a CNN (9+ hr)
10 Convolutional Neural Network II Chapter 5 No homework
11 LAMSTAR-1 Neural Network Chapter 6 Homework for coding LAMSTAR-1 (9+ hr)
12 LAMSTAR-2 Neural Network Chapter 6 No homework
13 Chapter 8: Case Studies I Image processing Homework: Cancer detection (9+ hr)
14 Chapter 8: Case Studies II Image recognition Homework: Fingerprint recognition (9+ hr)
15 Chapter 8: Case Studies III Information retrieval Homework: Data classifcation from transcripts (9+ hr)
16 Chapter 8: Case Studies IV Music genre classifcation Homework: Genre classification (9+ hr)
17 Oral Presentation Semester project (24+ hr)
18 Oral Presentation Semeter project (24+ hr)
課程評分依據為作業（70%）與學期專案（30%）。作業得分為全部作業得分之總平均。學期專案是指每位同學在學期結束前應完成一個小型專案，內容為深度學習神經網路模型之應用。同學可以套用前人已發表的模型來分析一組資料，也可以自行開發自己的模型。學期最後兩週將請同學們上台發表自己的專案成果。
Graupe, D. (2016). Deep learning neural networks: Design and case studies. World Scientific, NJ, USA.