課程資訊
課程名稱
深度學習與人類語言處理
Deep Learning for Human Language Processing 
開課學期
112-1 
授課對象
電機資訊學院  電信工程學研究所  
授課教師
李宏毅 
課號
CommE5054 
課程識別碼
942 U0680 
班次
 
學分
3.0 
全/半年
半年 
必/選修
選修 
上課時間
星期二7,8,9(14:20~17:20) 
上課地點
電二143 
備註
總人數上限:100人 
 
課程簡介影片
 
核心能力關聯
核心能力與課程規劃關聯圖
課程大綱
為確保您我的權利,請尊重智慧財產權及不得非法影印
課程概述

本課程將以專題研究的形式進行,本課程需要同時具備深度學習與人類語言、語音處理的基礎才有能力修習。

為了確保修課的同學真的能從本課程獲益,有意修這門課的同學,請在 8/31 前寄信給授課老師(hungyilee@ntu.edu.tw),來信請說明你修過的機器學習和人類語言處理相關課程,並附上相關紀錄,以便讓老師了解是否有足夠的能力修這門課,老師會建議你是否適合修課門課。請務必做上述步驟,如果不適合修這門課卻勉強修課,對你來說是一種損失,這是我所不樂見的。

本課程需要同時具備深度學習與人類語言、語音處理的基礎才有能力修習,所以這門課所需要最基本能力要求是:
• 修過最少一門機器學習相關課程或專題,且該課程中需要有深度學習相關內容,且以 PyTorch 作為作業
• 修過最少一門人類語言處理相關課程或專題
所謂的「修過」指的是真的有參與作業的進行,只在網路上看過課程錄影是不算的。因為本課程是以專題研究的形式進行,所以沒有足夠的基礎,本課程對你是沒有幫助的。

因為本課程會花非常大量的時間,研究生除非正在進行相關研究,否則本課程並不適合研究生修習 (尤其是碩二正準備要寫論文的學生)。另外,本課程並不會提供運算資源給研究生。 

課程目標
(1) 了解並應用大型語言模型的 prompt 自動生成的技術
(2) 認識大型語音模型能處理的任務類型
(3) 實作串接語音模型解決語音任務 
課程要求
待補 
預期每週課後學習時數
Office Hours
 
指定閱讀
 
參考書目
待補 
評量方式
(僅供參考)
 
No.
項目
百分比
說明
1. 
Big SUPERB 排行榜表現 
15% 
滿分 15 分,達成基本要求得到 10 分 
2. 
prompt 排行榜表現 
15% 
滿分 15 分,達成基本要求得到 10 分 
3. 
作業口頭報告 
70% 
共有7個任務,每個任務滿分 10 分,達成基本要求得到 9 分 
 
針對學生困難提供學生調整方式
 
上課形式
以錄影輔助, 提供學生彈性出席課程方式
作業繳交方式
考試形式
其他
由師生雙方議定
課程進度
週次
日期
單元主題
第1週
9/05 (二)   課程介紹 
第2週
9/12 (二)   課程彈性放假;
同學自行分組並繳交名單給助教 
第3週
9/19 (二)   課程:hand-crafted prompt ;
確認分組名單 
第4週
9/26 (二)   分組報告:hand-crafted prompt (1/2) 
第5週
10/03 (二)  課程:Automatic Prompt Engineer (APE)
分組報告:hand-crafted prompt (2/2) 
第6週
10/10 (二)   國定假日放假 
第7週
10/17 (二)  課程:Reinforcement Learning (RL)
分組報告:Automatic Prompt Engineer (APE) 
第8週
10/24 (二)   期中考週,課程放假 
第9週
10/31 (二)  課程:Big SUPERB(1): Inference
分組報告:Reinforcement Learning (RL) 
第10週
11/07 (二)   課程:Big SUPERB(2): Task contribution
分組報告:Big SUPERB(1): Inference 
第11週
11/14 (二)  課程:Big SUPERB(3): Ensemble and other method
分組報告:Big SUPERB(2): Task contribution 
第12週
11/21 (二)  課程:
分組報告:Big SUPERB(3): Ensemble and other method 
第13週
11/28 (二)   分組報告:text-guided VC 
第14週
12/05 (二)  分組報告:New research idea proposal 
第15週
12/12 (二)  分組報告:TA hour 
第16週
12/19 (二)  期末考週,課程放假