課程資訊
課程名稱
訊號處理和機器學習之數學基礎
Mathematics in Signal Processing and Machine Learning 
開課學期
110-1 
授課對象
理學院  數學研究所  
授課教師
黃文良 
課號
MATH5246 
課程識別碼
221 U8820 
班次
 
學分
3.0 
全/半年
半年 
必/選修
選修 
上課時間
星期四7,8,9(14:20~17:20) 
上課地點
天數302 
備註
總人數上限:40人 
Ceiba 課程網頁
http://ceiba.ntu.edu.tw/1101MATH5246_ 
課程簡介影片
 
核心能力關聯
本課程尚未建立核心能力關連
課程大綱
為確保您我的權利,請尊重智慧財產權及不得非法影印
課程概述

The main theme is to teach convex analysis for signal processing and machine learning. I will follow basically the stanford lecture note EE 236C. I will cover:
1. Convex function and gradient method
2. Convergence rate and strongly convex function
3. Conjugate function and subgradient
4. Directional derivation, subgradient calculation and method
5. Proximal point method and proximal gradient method for sparse inverse problems
6. Constrained optimization (Convex optimization book) and Lagrangian method
7. Penalty method and augmented Lagrangian method
8. Alternating direction method of multipliers
9. Variational inequality, block coordinate descent.
10. Smooth and Moreau envelope
11. Concensus and SVM and Acceleration

 

課程目標
After this lecture, the students will be able to read papers related to convex analysis, possibly independent researchers.
 
課程要求
Students like mathematics. 
預期每週課後學習時數
 
Office Hours
另約時間 備註: Before and after the class. whwang@iis.sinica.edu.tw or 27883799 ext 1609 
參考書目
Stanford lecture note EE236C
Convex optimization by Boyd and VAndenberghe 
指定閱讀
EE 236C stanford lecture note and my handout each week. 
評量方式
(僅供參考)
 
No.
項目
百分比
說明
1. 
open book midterm  
46% 
 
2. 
open book final  
46% 
 
3. 
others 
8% 
 
 
課程進度
週次
日期
單元主題
第1週
9/23  L1 Introduction 
第2週
9/30  L2 Convex function 
第3週
10/07  L3 Convergence rate and strongly convex functions 
第4週
10/14  L4 Conjugate functions 
第5週
10/21  L5 Smoothing 
第6週
10/29  L6 Sub-gradient and calculation 
第7週
11/04  L7 Subgradient method 
第8週
11/11  L8 Directional Derivative and Proximal Point Method 
第9週
11/18  L9 The convergence of Proximal point method and the Moreau Envelope 
第10週
11/25  L10 Proximal mapping calculation and proximal gradient method 
第11週
12/02  L11 Lagrangian approach for constrained optimization 
第12週
12/09  L12 Variational Inequality and SVC 
第13週
12/16  L13 From penalty method and Lagrangian method to the method of multipliers 
第14週
12/23  L14 Method of Multipliers (II) and Block coordinate descent  
第15週
12/30  L15 Admm for distributed computation 
第16週
1/06  L16 PALM for non-convex and non-smooth optimization 
第17週
01/13  L17 ADMM for non-convex and non-smooth functions