課程名稱 |
數位、人工智慧與新興運算架構 Digital, AI and Emerging Computing Architecture |
開課學期 |
113-1 |
授課對象 |
重點科技研究學院 積體電路設計與自動化碩士學位學程 |
授課教師 |
梁伯嵩 |
課號 |
CSIE5141 |
課程識別碼 |
922 U4860 |
班次 |
|
學分 |
1.0 |
全/半年 |
半年 |
必/選修 |
選修 |
上課時間 |
第1,3,5,7,9,10,13,14,15 週 星期五B,C(19:20~21:05) |
上課地點 |
|
備註 |
密集課程。三校聯盟外學生旁聽,需經授課教師同意。教室:資103。停修截止日:11/22。 總人數上限:300人 |
|
|
課程簡介影片 |
|
核心能力關聯 |
核心能力與課程規劃關聯圖 |
課程大綱
|
為確保您我的權利,請尊重智慧財產權及不得非法影印
|
課程概述 |
隨著半導體科技的飛速成長,IC運算平台呈現多元的風貌 : 從 Bit 為主導的數位運算,進入Neurons 所啟發的AI人工智慧運算,並有新興的運算架構蓄勢待發,像是Qubit 主導的量子 計算。本課程預計用九周的週五晚間課程 (第 1, 3, 5, 7, 9, 10, 13, 14, 15週),讓學生對 Digital、 AI 與新興運算架構 (包含量子運算),與半導體IC產業發展分析,做鳥瞰式的介紹。
在Bit為主導的數位運算,將探討IC半導體的進展,如何推動運算與通訊的興起,並帶動資訊科技飛速成長,探討IC運算架構如何影響智慧型手機、5G/6G通訊、衛星通訊、超級電腦運算發展、AR/VR虛擬實境與Metaverse等領域的進展。
在 Neurons 所啟發的人工智慧運算上,從AI模型的演進,與現今的AI運算架構,討論AI的關鍵進展,並啟動Generative AI 的全新發展。在AI運算架構上,有耗電高達兩、三千萬瓦的超級電腦,也有小到耗電僅數毫瓦的邊緣運算AI加速器,介紹不同的運算架構與設計考量,與能源效益的重要性。此外,隨著 Large-Scale Model 的出現, AI神經網路的參數規模,已經由千萬等級的Alexnet ,進展到OpenAI GPT-4o 的上兆參數等級,可能朝向百兆參數的 Brain-scale AI model前進。在短短數年內,訓練AI模型的算力成長,高於IC摩爾定律萬倍以上,龐大算力與巨量資料,帶來全新的難題。而為了讓邊緣端AI使用,更有許多精煉蒸餾後的較小 LLM,並有邊緣端與雲端混合式AI的運算架構出現。除了帶來更多的半導體需求,也激發了更多具有創意的設計。也因此,在計算架構發展數十年後,有人說現今是 "A New Golden Age for Computer Architecture”,更可以說是 "A New Golden Age for AI and IC”
此外,新興的運算架構也令人矚目。其中最為積極的是Qubit主導的量子計算,雖仍在探索階段,但近年發展迅速。透過量子糾纏,量子演算法具有遠超傳統架構的計算潛力。目前已有相當多的量子運算架構研發中,包含超導體量子、離子陷阱、冷原子、光量子等等。有數個計劃將在十年內推進到百萬量子位元,甚至有機會破解現有密碼系統。量子電腦也非僅有物理元件,也需要IC 進行輔助控制,並開始出現計算架構的 Hardware/Software Stack,朝向成熟應用發展,值得關注。也將提及量子通訊與量子衛星的發展。
本課程也將介紹世界半導體產業的現況與展望。瞭解構成現今科技基礎的半導體IC運算科技,是如何演進,並形成全世界的生態體系,成為人類科技文明的重要基石。並探討運算科技與半導體產業如何互相影響而進展,以及對未來的演變的探討。
數位運算、人工智慧與新興運算架構(量子運算等) ,各種運算模式並非互相取代,而是各擅勝場,相輔相成,勾勒未來運算風貌。而IC半導體,也將持續成為驅動各種運算平台的重要核心技術。目前正值多元運算架構的興起與融合的萌芽期,對技術內涵深入了解,將有助於掌握未來科技發展的潮流。
|
課程目標 |
本課程的目標在於讓修課同學:
-瞭解並研究Digital, AI 與新興運算架構 (量子運算、區塊鏈分散式計算)與世界最新進展
-瞭解並研究 IC 半導體如何應用在Digital, AI 與新興運算架構
-瞭解並研究運算架構如何應用並影響資訊科技以及IC半導體產業進展
-讓修課同學發掘整合應用的機會,激發學習興趣與研究方向 |
課程要求 |
建議具基本Computer Architecture 與 AI背景知識者為佳。 |
預期每週課後學習時數 |
|
Office Hours |
|
指定閱讀 |
|
參考書目 |
|
評量方式 (僅供參考) |
No. |
項目 |
百分比 |
說明 |
1. |
作業 |
30% |
|
2. |
期末專題報告 |
60% |
|
3. |
出席與表現 |
10% |
|
|
針對學生困難提供學生調整方式 |
上課形式 |
提供學生彈性出席課程方式 |
作業繳交方式 |
延長作業繳交期限 |
考試形式 |
|
其他 |
由師生雙方議定 |
|
週次 |
日期 |
單元主題 |
第1週 |
9/6 |
█ 數位運算架構 (D1)
- IC半導體技術演變
- CPU, GPU 運算架構演變
- 智慧型手機架構
- 超級電腦演進與分析 |
第3週 |
9/20 |
█ 數位運算架構 (D2)
- 5G/6G通訊
- 衛星通訊, 新太空經濟
- AR/VR/Metaverse
- (optional: Blockchain)
|
第5週 |
10/4 |
█ AI 運算架構 (A1)
- ANN/SNN
- Three Computing Era
- Scaling Law and Emergent ability
- Foundation model
- LLM (Large Language Model)
- LMM ( Large Multimodal model)
|
第7週 |
10/18 |
█ AI 運算架構 (A2)
- AI Computing Architecture
- CPU, GPU, TPU
- Scale-up and Scale-out
- Tokenization
- AI Computing in Edge Devices
- Hybrid Ai Computing
|
第9週 |
11/1 |
█ 新興運算架構 (Quantum Computing) (Q1)
- Quantum Computing Basic
- Quantum Gate
- Quantum modality (Superconductor, Ion-Trap..)
- Quantum computing architecture
- Error suppression, Error-correction
|
第10週 |
11/8 |
█ 新興運算架構 (Quantum Computing) (Q2)
- NISQ, Fault tolerance Quantum Computer
- Quantum communication, QKD,
- Quantum satellite
█ 產業分析 (E1)
- 世界 IC 半導體產業分析與展望
- 台灣 IC 設計產業分析
|
第13週 |
11/29 |
● 期末專題報告 (P1) |
第14週 |
12/6 |
● 期末專題報告 (P2) |
第15週 |
12/13 |
● 期末專題報告 (P3) |
|