課程大綱

課程資訊

課程名稱	機器學習 Machine Learning
開課學期	111-2
授課對象	電機資訊學院電機工程學研究所
授課教師	李宏毅
課號	EE5184
課程識別碼	921 U2620
班次
學分	4.0
全/半年	半年
必/選修	選修
上課時間	星期五7,8,9,10(14:20~18:20)
上課地點	博理112
備註	初選不開放。於加退選時加選.與林宗男、吳沛遠合授總人數上限：130人

課程簡介影片
核心能力關聯	核心能力與課程規劃關聯圖
課程大綱
為確保您我的權利,請尊重智慧財產權及不得非法影印
課程概述	以下是 2/24 上課的直播連結： https://www.youtube.com/watch?v=s5wbZGwGu6g 因為學校網路不穩，直播隨時可能斷訊，如果斷訊請勿驚慌，所有的上課內容都會錄影並放到課程網站上。第一週上課規劃為：先講課程規則 (約 0.5 小時)、跟風講 ChatGPT 蹭熱度 (約 1.5 小時，聽 ChatGPT 聽到煩的人可以不用來聽)、講解作業一 (約 0.5 小時) 本學期只要是電資學院的學生 (含學校已經核可的輔系、資料科學學程、智慧醫療學程、TIGP AIoT Program) 的學生、應用力學所的學生可以直接加簽，開學第一次上課會公告一個 google 表單，符合直接加簽資格的同學只需填寫該表單，之後會透過 NTU COOL發給授權碼。其他同學可以透過完成 HW1 取得加簽資格，會加簽 HW1 “private leaderboard” 排名前 30 名的同學，HW1 預計已公告在本學期課程網頁：https://speech.ee.ntu.edu.tw/~hylee/ml/2023-spring.php 有關作業一的內容可以先參考以下連結自行學習，本學期的作業一跟去年非常類似上課說明 (part 1)：https://youtu.be/Ye018rCVvOo 上課說明 (part 2)：https://youtu.be/bHcJCp2Fyxs 範例程式：https://colab.research.google.com/drive/1FTcG6CE-HILnvFztEFKdauMlPKfQvm5Z?usp=sharing 所有想要加簽的同學請填寫以下表單，填寫截止日期為 3/01 ，授權碼會在3/03前透過 NTU COOL 送出： https://docs.google.com/forms/d/e/1FAIpQLSc3OlVOuKZxsw8o4c3yhqKnT4qhyn6k98Lk2LCZ8gCqG4azqg/viewform 就算是透過 HW1 排名前 30 名取得加簽資格的同學，也要填寫這個表單 (重要!!!)* 【FAQ】 Q: 本課程預期會學到甚麼？ A: 本課程會以介紹機器學習中的深度學習技術為主，今天大家耳熟能詳的AI 相關應用，例如： ChatGPT、Meta的語音翻譯等等，都是以深度學習完成的，在這門課中你會對於深度學習及其相關的技術 (例如：基石模型、生成式模型等等) 有基礎且正確的認識，本課程適合作為機器學習的第一堂入門課。但同時這是一堂入門課，所以多數技術都不會講太深，留給同學們日後自己再做深入的研究。 Q: 本課程需要甚麼樣的程式能力？ A: 本課程使用的程式語言為 Python ，本課程會專注於機器學習相關的內容，Python 的語法、package 的使用 (例如: numpy, matplotlib 等) 並不會講。但理論上有修過計算機程式相關課程的同學就算原來不會Python，應該都有能力透過網路資源自行學習。 Q: 本課程需要甚麼樣的數學能力？ A: 要深入了解本課程的內容需要修過《微積分》、《線性代數》，但就算只有高中理組的數學程度應該也可以了解課程中多數的內容。 Q: 聽說本課程需要大量運算資源？ A: 確實有越好的運算資源就可以在越短的時間內做越多的嘗試，並比較有可能取得好的成果，這就是今日深度學習的狀況，我也深受其害，看到大公司有巨大的運算資源可以做出驚人的成果，我也非常羨慕卻無能為力。不過這門課就算只是靠免費版的 Google colab 應該也可以完成多數作業最基本的 simple baseline，取得及格的成績。 Q: 本課程可否旁聽？ A: 本課程歡迎旁聽，所有的課程錄影都可以在課程網頁上找到，旁聽生可以寄信給助教，請助教幫忙加入 NTU COOL 參與課程討論。但助教不批改旁聽生的作業。 *感謝應用力學所贊助部分助教津貼
課程目標	【課程內容】本課程以深度學習為主軸，會從基礎的觀念講到最前沿的研究，本學期的作業和課程會涵蓋以下主題。以下每個主題其實都是大坑，因為時間有限本課程只能點到為止，主要目標是告訴大家有那些坑，讓有興趣的同學未來可以繼續做深入研究。本課程涵蓋以下主題  類神經網路之訓練：今天每次遇到一個問題，就會有人說用深度學習「硬 train 一發」不就好了，但是有實作過深度學習的同學都知道，類神經網路常常訓練不起來阿阿阿阿阿~ 在這門課中，我們會一起來看看為什麼類神經網路這麼難訓練以及可能的克服之道。  類神經網路之架構：這學期將專注於 Transformer 及其火種源 self-attention 的種種變形，難道 CNN/RNN 不講了嗎? 我會告訴你 CNN/RNN 可以看做是 self-attention 的特例。  超越督導式學習：多數時候機器的學習仍需要人類對資料進行適當的標註才能學習，這種學習方式稱之為督導式學習(Supervised Learning)，標註資料往往所費不貲，在督導式學習以外還有哪些學習法呢？本學期我們會來看看機器如何利用網路上唾手可得的未標註資料來做自督導式學習(Self-supervised Learning)，自督導式學習最知名的模型就是超巨大巨人—BERT ，在作業中我們會使用 BERT。本課程也會講轉移學習 (Transfer Learning) 和增強式學習 (Reinforcement Learning)。  生成模型 (Generative Model)：我們來看看機器如何學習「創作」，在作業中我們會讓機器來畫二次元的人物頭像。  對抗攻擊(Adversarial Attack)：今天動不動就有人到處嚷嚷說 AI 在什麼什麼任務上的正確率超越了人類，但這些號稱正確率可以跟人類匹敵的機器，居然在人類的惡意攻擊面前不堪一擊。  可解釋性AI (Explainable AI)：我們要機器不只得到正確答案，還要告訴我們它是如何得到答案的。  類神經網路壓縮(Network Compression)：今天這個時代就好像發動了地鳴，好多巨大的類神經網路從地湧出，但這些巨大的網路要如何用在邊緣裝置上呢？我們需要網路壓縮技術。  機器的終身學習 (Life-long Learning)：機器能不斷學習最終成為天網嗎？阻礙天網產生的關鍵難題是什麼？  元學習 (Meta Learning) ：機器不只要學習，還要「學習如何學習」。
課程要求
預期每週課後學習時數
Office Hours
指定閱讀
參考書目
評量方式 (僅供參考)

課程進度

週次	日期	單元主題
第1週	2/24	正確認識 ChatGPT (錄影：Lecture 1:Introduction of Deep Learning)
第2週	3/3	機器學習基本概念介紹 (錄影：Lecture 2:What to do if my network fails to train)
第3週	3/10	機器如何生成文句 (錄影：Lecture 3:Image as input)
第4週	3/17	機器如何生成圖像 (錄影：Lecture 4:Sequence as input)
第5週	3/24	生成式學習的各種議題：多樣性、評量方式、其他挑戰 (錄影：Lecture 5:Sequence to sequence)
第6週	3/31	量子機器學習 (邀請鄭皓中教授授課) (錄影：Lecture 6:Generation)
第7週	4/07	基石模型概念介紹 (錄影：Recent Advance of Self-supervised learning for NLP)
第8週	4/14	期中考週
第9週	4/21	基石模型的各種變形 (錄影：Lecture 7:Self-supervised learning for Speech and Image)
第10週	4/28	基石模型的各種使用方式 (助教姜成翰、張凱為講授) (錄影：Lecture 8:Auto-encoder/ Anomaly Detection)
第11週	5/05	基石模型相關議題：終身學習 (錄影：Lecture 9:Explainable AI)
第12週	5/12	TBD (錄影：Lecture 10:Attack)
第13週	5/19	基石模型相關議題：安全及隱私 (錄影：Lecture 11:Adaptation)
第14週	5/26	增強式學習 - PPO (錄影：Lecture 12:Reinforcement Learning)
第15週	6/02	大型模型的壓縮 (錄影：Lecture 13:Network Compression)
第16週	6/09	期末考週
第17週	6/16	(錄影：Lecture 14:Life-long Learning)
第18週	6/23	(錄影：Lecture 15:Meta Learning)