課程資訊
課程名稱
數位、人工智慧與新興運算架構
Digital, AI and Emerging Computing Architecture 
開課學期
113-1 
授課對象
重點科技研究學院  積體電路設計與自動化博士學位學程  
授課教師
梁伯嵩 
課號
CSIE5141 
課程識別碼
922 U4860 
班次
 
學分
1.0 
全/半年
半年 
必/選修
選修 
上課時間
第1,3,5,7,9,10,13,14,15 週
星期五B,C(19:20~21:05) 
上課地點
 
備註
密集課程。三校聯盟外學生旁聽,需經授課教師同意。教室:資103。停修截止日:11/22。
總人數上限:300人 
 
課程簡介影片
 
核心能力關聯
核心能力與課程規劃關聯圖
課程大綱
為確保您我的權利,請尊重智慧財產權及不得非法影印
課程概述

隨著半導體科技的飛速成長,IC運算平台呈現多元的風貌 : 從 Bit 為主導的數位運算,進入Neurons 所啟發的AI人工智慧運算,並有新興的運算架構蓄勢待發,像是Qubit 主導的量子 計算。本課程預計用九周的週五晚間課程 (第 1, 3, 5, 7, 9, 10, 13, 14, 15週),讓學生對 Digital、 AI 與新興運算架構 (包含量子運算),與半導體IC產業發展分析,做鳥瞰式的介紹。

在Bit為主導的數位運算,將探討IC半導體的進展,如何推動運算與通訊的興起,並帶動資訊科技飛速成長,探討IC運算架構如何影響智慧型手機、5G/6G通訊、衛星通訊、超級電腦運算發展、AR/VR虛擬實境與Metaverse等領域的進展。

在 Neurons 所啟發的人工智慧運算上,從AI模型的演進,與現今的AI運算架構,討論AI的關鍵進展,並啟動Generative AI 的全新發展。在AI運算架構上,有耗電高達兩、三千萬瓦的超級電腦,也有小到耗電僅數毫瓦的邊緣運算AI加速器,介紹不同的運算架構與設計考量,與能源效益的重要性。此外,隨著 Large-Scale Model 的出現, AI神經網路的參數規模,已經由千萬等級的Alexnet ,進展到OpenAI GPT-4o 的上兆參數等級,可能朝向百兆參數的 Brain-scale AI model前進。在短短數年內,訓練AI模型的算力成長,高於IC摩爾定律萬倍以上,龐大算力與巨量資料,帶來全新的難題。而為了讓邊緣端AI使用,更有許多精煉蒸餾後的較小 LLM,並有邊緣端與雲端混合式AI的運算架構出現。除了帶來更多的半導體需求,也激發了更多具有創意的設計。也因此,在計算架構發展數十年後,有人說現今是 "A New Golden Age for Computer Architecture”,更可以說是 "A New Golden Age for AI and IC”

此外,新興的運算架構也令人矚目。其中最為積極的是Qubit主導的量子計算,雖仍在探索階段,但近年發展迅速。透過量子糾纏,量子演算法具有遠超傳統架構的計算潛力。目前已有相當多的量子運算架構研發中,包含超導體量子、離子陷阱、冷原子、光量子等等。有數個計劃將在十年內推進到百萬量子位元,甚至有機會破解現有密碼系統。量子電腦也非僅有物理元件,也需要IC 進行輔助控制,並開始出現計算架構的 Hardware/Software Stack,朝向成熟應用發展,值得關注。也將提及量子通訊與量子衛星的發展。

本課程也將介紹世界半導體產業的現況與展望。瞭解構成現今科技基礎的半導體IC運算科技,是如何演進,並形成全世界的生態體系,成為人類科技文明的重要基石。並探討運算科技與半導體產業如何互相影響而進展,以及對未來的演變的探討。

數位運算、人工智慧與新興運算架構(量子運算等) ,各種運算模式並非互相取代,而是各擅勝場,相輔相成,勾勒未來運算風貌。而IC半導體,也將持續成為驅動各種運算平台的重要核心技術。目前正值多元運算架構的興起與融合的萌芽期,對技術內涵深入了解,將有助於掌握未來科技發展的潮流。
 

課程目標
本課程的目標在於讓修課同學:
-瞭解並研究Digital, AI 與新興運算架構 (量子運算、區塊鏈分散式計算)與世界最新進展
-瞭解並研究 IC 半導體如何應用在Digital, AI 與新興運算架構
-瞭解並研究運算架構如何應用並影響資訊科技以及IC半導體產業進展
-讓修課同學發掘整合應用的機會,激發學習興趣與研究方向 
課程要求
建議具基本Computer Architecture 與 AI背景知識者為佳。 
預期每週課後學習時數
 
Office Hours
 
指定閱讀
 
參考書目
 
評量方式
(僅供參考)
 
No.
項目
百分比
說明
1. 
作業 
30% 
 
2. 
期末專題報告 
60% 
 
3. 
出席與表現 
10% 
 
 
針對學生困難提供學生調整方式
 
上課形式
提供學生彈性出席課程方式
作業繳交方式
延長作業繳交期限
考試形式
其他
由師生雙方議定
課程進度
週次
日期
單元主題
第1週
9/6  █ 數位運算架構 (D1)
- IC半導體技術演變
- CPU, GPU 運算架構演變
- 智慧型手機架構
- 超級電腦演進與分析 
第3週
9/20  █ 數位運算架構 (D2)
- 5G/6G通訊
- 衛星通訊, 新太空經濟
- AR/VR/Metaverse
- (optional: Blockchain)
 
第5週
10/4  █ AI 運算架構 (A1)
- ANN/SNN
- Three Computing Era
- Scaling Law and Emergent ability
- Foundation model
- LLM (Large Language Model)
- LMM ( Large Multimodal model)
 
第7週
10/18  █ AI 運算架構 (A2)
- AI Computing Architecture
- CPU, GPU, TPU
- Scale-up and Scale-out
- Tokenization
- AI Computing in Edge Devices
- Hybrid Ai Computing
 
第9週
11/1  █ 新興運算架構 (Quantum Computing) (Q1)
- Quantum Computing Basic
- Quantum Gate
- Quantum modality (Superconductor, Ion-Trap..)
- Quantum computing architecture
- Error suppression, Error-correction
 
第10週
11/8  █ 新興運算架構 (Quantum Computing) (Q2)
- NISQ, Fault tolerance Quantum Computer
- Quantum communication, QKD,
- Quantum satellite

█ 產業分析 (E1)
- 世界 IC 半導體產業分析與展望
- 台灣 IC 設計產業分析
 
第13週
11/29  ● 期末專題報告 (P1)  
第14週
12/6  ● 期末專題報告 (P2)  
第15週
12/13  ● 期末專題報告 (P3)