課程名稱 |
數位、人工智慧與新興運算架構 Digital, AI and Emerging Computing Architecture |
開課學期 |
112-1 |
授課對象 |
電機資訊學院 資訊網路與多媒體研究所 |
授課教師 |
梁伯嵩 |
課號 |
CSIE5141 |
課程識別碼 |
922 U4860 |
班次 |
|
學分 |
1.0 |
全/半年 |
半年 |
必/選修 |
選修 |
上課時間 |
第1,3,5,7,9,11,13,15 週 星期五B,C(19:20~21:05) |
上課地點 |
資103 |
備註 |
密集課程。三校聯盟外學生旁聽,需經授課教師同意。 總人數上限:106人 |
|
|
課程簡介影片 |
|
核心能力關聯 |
核心能力與課程規劃關聯圖 |
課程大綱
|
為確保您我的權利,請尊重智慧財產權及不得非法影印
|
課程概述 |
隨著半導體科技的飛速成長,IC運算平台呈現多元的風貌 : 從 Bit 為主導的數位運算,進入Neurons 所啟發的AI人工智慧運算,並有新興的運算架構蓄勢待發,像是Qubit 主導的量子計算,Blockchain區塊鏈所帶來的分散式計算,與存算融合的非馮紐曼架構運算。本課程預計用八周的週五晚間課程,讓學生對 Digital、 AI 與新興運算架構 (包含量子運算、區塊鏈分散式計算、非馮紐曼架構運算),與半導體IC產業發展分析,做鳥瞰式的介紹。
在Bit為主導的數位運算,將探討IC半導體的進展,如何推動運算與通訊的興起,並帶動資訊科技飛速成長,探討IC運算架構如何影響智慧型手機、5G/6G通訊、衛星通訊、超級電腦運算發展、AR/VR虛擬實境與Metaverse等領域的進展。
在 Neurons 所啟發的人工智慧運算上,從AI模型的演進,與現今的AI運算架構,討論AI的關鍵進展,並啟動Generative AI 的全新發展。在AI運算架構上,有耗電高達兩、三千萬瓦的超級電腦,也有小到耗電僅數毫瓦的邊緣運算AI加速器,介紹不同的運算架構與設計考量,與能源效益的重要性。此外,隨著 Large-Scale Model 的出現, AI神經網路的參數規模,已經由千萬等級的Alexnet (60Mn) ,進展到OpenAI GPT-3 (175Bn)的千億等級,可能朝向百兆參數的 Brain-scale AI model前進。在短短數年內,訓練AI模型的算力成長,高於IC摩爾定律萬倍以上,龐大算力與巨量資料,帶來全新的難題。除了帶來更多的半導體需求,也激發了更多具有創意的設計。也因此,在計算架構發展數十年後,有人說現今是 "A New Golden Age for Computer Architecture” ,更可以說是 "A New Golden Age for AI and IC”
此外,新興的運算架構也令人矚目。其中最為積極的是Qubit主導的量子計算,雖仍在探索階段,但近年發展迅速。透過量子糾纏,量子演算法具有遠超傳統架構的計算潛力。目前已有相當多的量子運算架構研發中,包含超導體量子、離子陷阱、冷原子、光量子等等。目前已有 433qubit量子電腦,且有數個計劃將在十年內推進到百萬量子位元,甚至有機會破解現有密碼系統。量子電腦也非僅有物理元件,也需要IC 進行輔助控制,並開始出現計算架構的 Hardware/Software Stack,朝向成熟應用發展,值得關注。也將提及量子通訊與量子衛星的發展。而除此之外,像是Blockchain區塊鏈所帶來的分散式計算,也都值得關注。
本課程也將介紹世界半導體產業的現況與展望。瞭解構成現今科技基礎的半導體IC運算科技,是如何演進,並形成全世界的生態體系,成為人類科技文明的重要基石。並探討運算科技與半導體產業如何互相影響而進展,以及對未來的演變的探討。
數位運算、人工智慧與新興運算架構(量子運算、區塊鏈分散式計算) ,各種運算模式並非互相取代,而是各擅勝場,相輔相成,勾勒未來運算風貌。而IC半導體,也將持續成為驅動各種運算平台的重要核心技術。目前正值多元運算架構的興起與融合的萌芽期,對技術內涵深入了解,將有助於掌握未來科技發展的潮流。 |
課程目標 |
本課程的目標在於讓修課同學:
-瞭解並研究Digital, AI 與新興運算架構 (量子運算、區塊鏈分散式計算)與世界最新進展
-瞭解並研究 IC 半導體如何應用在Digital, AI 與新興運算架構
-瞭解並研究運算架構如何應用並影響資訊科技以及IC半導體產業進展
-讓修課同學發掘整合應用的機會,激發學習興趣與研究方向 |
課程要求 |
|
預期每週課後學習時數 |
|
Office Hours |
另約時間 |
指定閱讀 |
|
參考書目 |
|
評量方式 (僅供參考) |
No. |
項目 |
百分比 |
說明 |
1. |
書面作業 |
30% |
9/22 前公告作業內容, 10/6 前以電子方式繳交。 |
2. |
期末專題報告 |
60% |
11/3 登記分組
11/17 公布各組報告時間
12/1 上課前繳交報告電子檔
12/1 , 12/15 依照報告組別,進行期末專題報告 (線上報告方式) |
3. |
課堂出席與表現 |
10% |
上課出席狀況與作業繳交狀況。
- 無故作業遲交或無故不出席,酌扣分數
- 若有正當理由請假或經允可,則不影響成績
- 若有課堂優異表現可加分 |
|
針對學生困難提供學生調整方式 |
上課形式 |
提供學生彈性出席課程方式 |
作業繳交方式 |
學生與授課老師協議改以其他形式呈現 |
考試形式 |
|
其他 |
由師生雙方議定 |
|
週次 |
日期 |
單元主題 |
第1週 |
9/8 |
數位運算架構
- IC半導體技術演變
- CPU 運算架構演變
- GPU 運算架構演變
- Advanced Package
- High Performance Computing
- 超級電腦演進與分析
- 5G/6G通訊
- 智慧型手機架構
- 衛星通訊
- 新太空經濟
- AR/VR/Metaverse |
第3週 |
9/22 |
數位運算架構
- IC半導體技術演變
- CPU 運算架構演變
- GPU 運算架構演變
- Advanced Package
- High Performance Computing
- 超級電腦演進與分析
- 5G/6G通訊
- 智慧型手機架構
- 衛星通訊
- 新太空經濟
- AR/VR/Metaverse |
第5週 |
10/6 |
AI 運算架構
- ANN/SNN
- Power efficiency
- Large scale model
- Generative AI
- AI Computing Architecture
- TPU
- GPU
- Non-Von-Neumann Architecture
(Computing-In-Memory, Computing-Near-Memory)
- Scale-up and Scale-out
- Case study |
第7週 |
10/20 |
AI 運算架構
- ANN/SNN
- Power efficiency
- Large scale model
- Generative AI
- AI Computing Architecture
- TPU
- GPU
- Non-Von-Neumann Architecture
(Computing-In-Memory, Computing-Near-Memory)
- Scale-up and Scale-out
- Case study |
第9週 |
11/3 |
新興運算架構 (量子計算)
- Quantum modality (Superconductor, Ion-Trap,)
- Quantum computing architecture
- Error suppression, Error-correction,
- NISQ,Fault tolerance Quantum Computer
- Quantum communication, QKD, Quantum Internet, Quantum satellite
新興運算架構 (區塊鏈分散式計算)
世界 IC 半導體產業的現況與展望 |
第11週 |
11/17 |
新興運算架構 (量子計算)
- Quantum modality (Superconductor, Ion-Trap,)
- Quantum computing architecture
- Error suppression, Error-correction,
- NISQ,Fault tolerance Quantum Computer
- Quantum communication, QKD, Quantum satellite
新興運算架構 (區塊鏈分散式計算)
世界 IC 半導體產業的現況與展望 |
第13週 |
12/1 |
期末專題報告 |
第15週 |
12/15 |
期末專題報告 |
|