課程資訊
課程名稱
機器學習及其深層與結構化
Machine Learning and Having It Deep and Structured 
開課學期
106-2 
授課對象
電機資訊學院  電機工程學研究所  
授課教師
李宏毅 
課號
CommE5045 
課程識別碼
942 U0590 
班次
 
學分
3.0 
全/半年
半年 
必/選修
選修 
上課時間
星期五7,8,9(14:20~17:20) 
上課地點
電二229 
備註
初選不開放。與陳縕儂合授
總人數上限:40人 
Ceiba 課程網頁
http://ceiba.ntu.edu.tw/1062CommE5045_ 
課程簡介影片
 
核心能力關聯
核心能力與課程規劃關聯圖
課程大綱
為確保您我的權利,請尊重智慧財產權及不得非法影印
課程概述

你可能已經修過和計算機程式相關的課程,能夠設計程式讓電腦處理一些簡單的問題,但是你有沒有想過,那些處理非常複雜問題的程式,例如:將語音辨識成為文字的程式,是如何設計出來的呢?事實上,這些程式中的演算法並非由人類直接設計,而是由人類寫出讓機器能夠根據資料學習的演算法後,讓機器自動由大量的資料和過去的經驗找出可以處理這些問題的方法,而如何設計出讓機器自動學習的演算法就是「深度學習」這個領域在探討的問題。

本課程旨在介紹深度學習方法,也就是機器如何根據過去的資料或經驗學習去解決人類感興趣的問題,例如:如果我們想讓機器能夠偵測一張相片是否包含人臉,我們可以讓機器「瀏覽」大量的相片,並「告知」機器哪些相片有人臉、哪些相片沒有,機器便可以利用這些資訊自動去建構出鑑別一張相片是否包含人臉的模型,當使用者輸入新的相片時,機器便根據所學的模型去偵測一張相片是否包含人臉。

希望透過這門課學生對深度學習的技術可以有系統性的認識,並具備實作這些技術的基本能力,以期在未來能將這些技術活用到各自的專業領域中。 

課程目標
本課程有四個作業,以組為單位,一到三人一組。四個作業內容如下:
1. 深度學習理論驗證
2. 序列對序列模型
3. 機器二次元人物頭像生成
4. 機器打電玩
本學期沒有期末專題。本學期希望只收 40 人。想要修課的同學需要完成作業零,作業零會在第一次上課時公布,作業零會是過去機器學習這門課的某一個作業(也就是變相擋修機器學習,但是只要你對機器學習這個領域非常熟悉仍然有機會修課)。 
課程要求
需要具備基本的程式設計能力。理論上,電機系大三以上的學生即具備修習本課程所需的基本能力。本課程內容和語音處理、影像處理等課程是相關的,如果有預修過相關課程,則對上課所舉的機器學習應用可以有更深刻的體會,但也可以修習本課程之後再去修上述相關課程以了解更多語音處理、影像處理等專業領域的知識。 
Office Hours
 
參考書目
待補 
指定閱讀
待補 
評量方式
(僅供參考)
   
課程進度
週次
日期
單元主題
第1週
3/02  Course Introduction 
第2週
3/09  Theory I: Is deep structure better than shallow one? (HW1-1 released) 
第3週
3/16  Theory II: Why local minima is not a problem? (HW1-2 released) 
第4週
3/23  Theory III: Why large network does not overfit (even though theoretically it should)? (HW1-3 released) 
第5週
3/30  Sequence-to-sequence Model (HW2-1 released) 
第6週
4/06 (放假)  按學校行事曆放假一週 (HW1 due) 
第7週
4/13  Special Network Structures (HW2-2 released) 
第8週
4/20  期中考前一週放假 
第9週
4/27 (期中考週)  作業一表現優異同學上台分享 
第10週
5/04  Deep Generative Model (HW3-1 released) 
第11週
5/11  Deep Generative Model (HW2 due, HW3-2 released) 
第12週
5/18  Deep Generative Model (HW3-3 released) 
第13週
5/25  Deep Generative Model 
第14週
6/01  Deep Reinforcement Learning (HW4-1 released) 
第15週
6/08  Deep Reinforcement Learning (HW3 due, HW4-2 released) 
第16週
6/15  Deep Reinforcement Learning (HW4-3 released) 
第17週
6/22  期末考前一週放假 
第18週
6/29 (期末考週)  作業二、三、四表現優異同學上台分享 
第19週
7/06  HW4 due