課程名稱 |
可信賴之人工智慧 Trustworthy Artificial Intelligence |
開課學期 |
113-1 |
授課對象 |
電機資訊學院 資訊工程學研究所 |
授課教師 |
陳維超 |
課號 |
CSIE5438 |
課程識別碼 |
922 U4900 |
班次 |
|
學分 |
3.0 |
全/半年 |
半年 |
必/選修 |
選修 |
上課時間 |
星期五2,3,4(9:10~12:10) |
上課地點 |
資107 |
備註 |
與訪問學者張明清合授。與洪士灝合授 總人數上限:50人 |
|
|
課程簡介影片 |
|
核心能力關聯 |
核心能力與課程規劃關聯圖 |
課程大綱
|
為確保您我的權利,請尊重智慧財產權及不得非法影印
|
課程概述 |
人工智慧系統普遍地出現在人們的日常生活與工作之中。利用人工智慧輔助工作、提升效率、降低成本,已然成為業界重點發展的目標,其重要性程度甚至關乎國家競爭力。相較於傳統的專家系統主要由規則構成,新興的人工智慧系統龐大且複雜,難以簡單地轉化為人類容易理解之規則。因此人工智慧系統的導入常衍生出信賴、社會、或是資料隱私等重要的議題。本課程由數名來自學/業界的專家帶領大家了解人工智慧系統的信賴問題,包含本系陳維超客座教授、洪士灝教授、美國紐約州立大學Albany分校張明清副教授、英業達許之凡博士、華盛頓州立大學劉峰豪副教授。課程內容將著重於學/業界當前在發展與應用人工智慧系統所須面對的信賴議題,帶領修課同學一起動腦動手來研究可能的解決方案。
本課程概分為兩階段,第一階段傳授可信賴之人工智慧系統相關的主題知識,第二階段則以專題討論的方式進行,將請修課學生自主提出與可信賴之人工智慧系統相關之研究議題、研擬解決方法、並設計實驗來評估解決方法的效果。教授將於第二階段期間根據每位學生探索議題給予指導與建議。
以下列出各單元主題涵蓋的知識技能:
1. Overview
- AI Overview
- What and Why We Need Trustworthy AI
2. Trustworthy AI
- Vulnerability of AI
- Security Threats
- Attacks
- Data
- Data Privacy
- Data-centric Concept
- Reliable AI
- Model Adaptation
- Interpretability
- Visualization
- Ethics of AI
- Fairness
- Ethics and Social Impact
- Efficient AI
- Data Efficiency
- Model Efficiency
- Secure AI
- Fully Homomorphic Encryption
- Multi-Party Computation
3. Project
- Project Proposal
- Progress report
- Final Presentation |
課程目標 |
-了解/研究可信賴之人工智慧的主題
-了解/研究人工智慧所衍生之議題
-了解/研究如何規劃並設計可信賴之人工智慧系統
-讓同學課程結束後有獨立做研究的能力 |
課程要求 |
The prerequisite to this class is very important, and lack of knowledge of these subjects will make difficult to make positive progress in the class. Make sure you are confident with these courses and techniques.
1. Linear Algebra
2. Machine Learning/Deep Learning
3. Information Security
Permission of the instructor (specifically on the sufficient background skills to work on the course project) is required for taking this course. |
預期每週課後學習時數 |
6 |
Office Hours |
另約時間 備註: Make appointment with lecturers by email hsu.chih-fan@inventec.com |
指定閱讀 |
|
參考書目 |
"Artificial Intelligence - A Modern Approach" by Stuart Russell and Peter Norvig
"CEPS-TFR-Artificial-Intelligence-and-Cybersecurity" by LorenzoPupillo, StefanoFantin, AfonsoFerreira, and CarolinaPolito
"Trustworthy AI" by Kush R. Varshney |
評量方式 (僅供參考) |
No. |
項目 |
百分比 |
說明 |
1. |
回家作業 |
40% |
個人程式實作作業 |
2. |
專題提案 |
15% |
分組報告 |
3. |
專題進度報告 |
15% |
分組報告 |
4. |
專題結案報告 |
30% |
分組報告 |
|
針對學生困難提供學生調整方式 |
上課形式 |
|
作業繳交方式 |
書面報告取代口頭報告 |
考試形式 |
書面(口頭)報告取代考試 |
其他 |
|
|
週次 |
日期 |
單元主題 |
第1週 |
2024/9/6 |
AI 概述 |
第2週 |
2024/9/13 |
為什麼我們需要可信賴AI |
第3週 |
2024/9/20 |
AI 的漏洞:從操縱AI的輸出至竊取訓練資料 |
第4週 |
2024/9/27 |
專題提案 |
第5週 |
2024/10/4 |
訓練資料對 AI 模型的影響:安全地資料保存與資料共享 |
第6週 |
2024/10/11 |
有效率的 AI |
第7週 |
2024/10/18 |
AI 的可解釋性與決策視覺化 |
第8週 |
2024/10/25 |
專題進度報告 |
第9週 |
2024/11/1 |
從信賴度/強固性/準確率/安全性切入可信賴 AI 的效能權衡 |
第10週 |
2024/11/8 |
安全 AI |
第11週 |
2024/11/15 |
校慶停課 |
第12週 |
2024/11/22 |
校運會停課 |
第13週 |
2024/11/29 |
AI 的倫理問題 |
第14週 |
2024/12/6 |
期末專題海報展式準備周 |
第15週 |
2024/12/13 |
期末專題海報展式 |
第16週 |
2024/12/20 |
期末專題海報展式 (保留時間) |