Course Information
Course title
數位、人工智慧與新興運算架構
Digital, AI and Emerging Computing Architecture 
Semester
113-1 
Designated for
COLLEGE OF ELECTRICAL ENGINEERING AND COMPUTER SCIENCE  GRADUATE INSTITUTE OF COMPUTER SCIENCE & INFORMATION ENGINEERING  
Instructor
梁伯嵩 
Curriculum Number
CSIE5141 
Curriculum Identity Number
922 U4860 
Class
 
Credits
1.0 
Full/Half
Yr.
Half 
Required/
Elective
Elective 
Time
第1,3,5,7,9,10,13,14,15 週
Friday B,C(19:20~21:05) 
Room
 
Remarks
密集課程。三校聯盟外學生旁聽,需經授課教師同意。教室:資103。停修截止日:11/22。
The upper limit of the number of students: 300. 
 
Course introduction video
 
Table of Core Capabilities and Curriculum Planning
Table of Core Capabilities and Curriculum Planning
Course Syllabus
Please respect the intellectual property rights of others and do not copy any of the course information without permission
Course Description

隨著半導體科技的飛速成長,IC運算平台呈現多元的風貌 : 從 Bit 為主導的數位運算,進入Neurons 所啟發的AI人工智慧運算,並有新興的運算架構蓄勢待發,像是Qubit 主導的量子 計算。本課程預計用九周的週五晚間課程 (第 1, 3, 5, 7, 9, 10, 13, 14, 15週),讓學生對 Digital、 AI 與新興運算架構 (包含量子運算),與半導體IC產業發展分析,做鳥瞰式的介紹。

在Bit為主導的數位運算,將探討IC半導體的進展,如何推動運算與通訊的興起,並帶動資訊科技飛速成長,探討IC運算架構如何影響智慧型手機、5G/6G通訊、衛星通訊、超級電腦運算發展、AR/VR虛擬實境與Metaverse等領域的進展。

在 Neurons 所啟發的人工智慧運算上,從AI模型的演進,與現今的AI運算架構,討論AI的關鍵進展,並啟動Generative AI 的全新發展。在AI運算架構上,有耗電高達兩、三千萬瓦的超級電腦,也有小到耗電僅數毫瓦的邊緣運算AI加速器,介紹不同的運算架構與設計考量,與能源效益的重要性。此外,隨著 Large-Scale Model 的出現, AI神經網路的參數規模,已經由千萬等級的Alexnet ,進展到OpenAI GPT-4o 的上兆參數等級,可能朝向百兆參數的 Brain-scale AI model前進。在短短數年內,訓練AI模型的算力成長,高於IC摩爾定律萬倍以上,龐大算力與巨量資料,帶來全新的難題。而為了讓邊緣端AI使用,更有許多精煉蒸餾後的較小 LLM,並有邊緣端與雲端混合式AI的運算架構出現。除了帶來更多的半導體需求,也激發了更多具有創意的設計。也因此,在計算架構發展數十年後,有人說現今是 "A New Golden Age for Computer Architecture”,更可以說是 "A New Golden Age for AI and IC”

此外,新興的運算架構也令人矚目。其中最為積極的是Qubit主導的量子計算,雖仍在探索階段,但近年發展迅速。透過量子糾纏,量子演算法具有遠超傳統架構的計算潛力。目前已有相當多的量子運算架構研發中,包含超導體量子、離子陷阱、冷原子、光量子等等。有數個計劃將在十年內推進到百萬量子位元,甚至有機會破解現有密碼系統。量子電腦也非僅有物理元件,也需要IC 進行輔助控制,並開始出現計算架構的 Hardware/Software Stack,朝向成熟應用發展,值得關注。也將提及量子通訊與量子衛星的發展。

本課程也將介紹世界半導體產業的現況與展望。瞭解構成現今科技基礎的半導體IC運算科技,是如何演進,並形成全世界的生態體系,成為人類科技文明的重要基石。並探討運算科技與半導體產業如何互相影響而進展,以及對未來的演變的探討。

數位運算、人工智慧與新興運算架構(量子運算等) ,各種運算模式並非互相取代,而是各擅勝場,相輔相成,勾勒未來運算風貌。而IC半導體,也將持續成為驅動各種運算平台的重要核心技術。目前正值多元運算架構的興起與融合的萌芽期,對技術內涵深入了解,將有助於掌握未來科技發展的潮流。
 

Course Objective
本課程的目標在於讓修課同學:
-瞭解並研究Digital, AI 與新興運算架構 (量子運算、區塊鏈分散式計算)與世界最新進展
-瞭解並研究 IC 半導體如何應用在Digital, AI 與新興運算架構
-瞭解並研究運算架構如何應用並影響資訊科技以及IC半導體產業進展
-讓修課同學發掘整合應用的機會,激發學習興趣與研究方向 
Course Requirement
建議具基本Computer Architecture 與 AI背景知識者為佳。 
Student Workload (expected study time outside of class per week)
 
Office Hours
 
Designated reading
 
References
 
Grading
 
No.
Item
%
Explanations for the conditions
1. 
作業 
30% 
 
2. 
期末專題報告 
60% 
 
3. 
出席與表現 
10% 
 
 
Adjustment methods for students
 
Teaching methods
提供學生彈性出席課程方式
Assignment submission methods
延長作業繳交期限
Exam methods
Others
由師生雙方議定
Progress
Week
Date
Topic
第1週
9/6  █ 數位運算架構 (D1)
- IC半導體技術演變
- CPU, GPU 運算架構演變
- 智慧型手機架構
- 超級電腦演進與分析 
第3週
9/20  █ 數位運算架構 (D2)
- 5G/6G通訊
- 衛星通訊, 新太空經濟
- AR/VR/Metaverse
- (optional: Blockchain)
 
第5週
10/4  █ AI 運算架構 (A1)
- ANN/SNN
- Three Computing Era
- Scaling Law and Emergent ability
- Foundation model
- LLM (Large Language Model)
- LMM ( Large Multimodal model)
 
第7週
10/18  █ AI 運算架構 (A2)
- AI Computing Architecture
- CPU, GPU, TPU
- Scale-up and Scale-out
- Tokenization
- AI Computing in Edge Devices
- Hybrid Ai Computing
 
第9週
11/1  █ 新興運算架構 (Quantum Computing) (Q1)
- Quantum Computing Basic
- Quantum Gate
- Quantum modality (Superconductor, Ion-Trap..)
- Quantum computing architecture
- Error suppression, Error-correction
 
第10週
11/8  █ 新興運算架構 (Quantum Computing) (Q2)
- NISQ, Fault tolerance Quantum Computer
- Quantum communication, QKD,
- Quantum satellite

█ 產業分析 (E1)
- 世界 IC 半導體產業分析與展望
- 台灣 IC 設計產業分析
 
第13週
11/29  ● 期末專題報告 (P1)  
第14週
12/6  ● 期末專題報告 (P2)  
第15週
12/13  ● 期末專題報告 (P3)