CPO（Co-Packaged Optics）技術正從實驗室走向量產，核心在於將光學收發模組與AI運算晶片緊密整合，大幅縮短電光轉換的訊號傳輸路徑。傳統架構中，晶片與光模組之間透過電路板走線連接，傳輸距離動輒數十公分，不僅造成訊號衰減，還需消耗大量能量驅動訊號。CPO將光學元件封裝在晶片基板上，傳輸距離縮短至數公分甚至更短，這項改變看似微小，卻對AI晶片設計產生顛覆性影響。現今AI模型參數量已達數千億，傳統晶片間通訊頻寬成為效能的致命短板。CPO技術讓光學訊號得以近距離直接進入晶片，免除電路層層轉換的延遲與功耗。這意味著資料中心的GPU集群不再需要龐大的光纖收發器陣列，整體能耗可降低30%以上。更重要的是，CPO使得晶片架構可以重新設計——過去為了遷就外部通訊頻寬而採用的平行匯流排結構，如今可以轉向更高效的光學互連拓撲。台積電、英特爾等半導體大廠紛紛投入CPO生態系，從矽光子平台到共同封裝技術皆取得關鍵突破。當傳輸距離不再是設計限制時，AI晶片可以更大膽地採用分佈式運算單元，每個核心直接透過光學通道溝通，達成近乎無延遲的協同運算。這項技術不僅解決了I/O瓶頸，更讓晶片設計師得以專注於運算效率本身，開創AI運算的新紀元。光學互連的成熟也讓系統整合度大幅提升，未來單一晶片可能整合數百個運算核心與記憶體區塊，以光波導進行內部通訊。這將徹底改寫摩爾定律的定義，不再仰賴電晶體微縮，而是靠著通訊技術的革命持續推進運算極限。CPO的挑戰在於封裝良率與熱管理，但現有進展已證明量產可行性，預計3年內將大量導入高階AI加速器。
CPO縮短傳輸距離如何突破頻寬極限？
傳統晶片與光模組之間的實體距離限制了訊號傳輸速度，因為銅導線在高頻下會產生嚴重的集膚效應與介電損失，使得訊號品質隨著距離急遽惡化。CPO技術將光學收發器與晶片封裝在同一基板，將傳輸距離從十幾公分縮短到一公分以內，相當於直接繞過電氣傳輸的物理限制。頻寬密度因此獲得爆炸性提升——每平方毫米的I/O頻寬可達TB等級，遠超過傳統電氣介面的數十GB。在AI訓練場景中，模型參數的頻繁交換曾讓頻寬成為運算效能的瓶頸，尤其在大規模平行訓練時，梯度同步與參數更新都需要極高頻寬。CPO讓這些內部通訊幾乎不受距離影響，晶片之間可以像共享記憶體般快速交換資料。此外，短傳輸距離也省掉了傳統設計中昂貴的訊號補償電路，如時脈資料回復與等化器，這些電路原本佔據了大量晶片面積與功耗。設計團隊得以將這些資源重新分配給運算單元，進一步最佳化AI加速器的核心密度。未來的AI晶片將不再以「時脈頻率」作為主要性能指標，而是以「光學頻寬密度」衡量其溝通能力，這直接決定了模型訓練的吞吐量。
功耗革命：CPO如何讓AI晶片更省電？
資料中心的電力消耗中，超過20%用於晶片間通訊，這些能量大部分轉化為熱量，需要額外的散熱成本。CPO技術將光學驅動功耗從傳統的數瓦降至毫瓦級，因為光訊號在極短距離內不需高功率驅動，且不需額外的時脈重整與等化器。這對於需要大規模平行運算的AI晶片尤其重要，整體系統功耗可下降40%。散熱成本也隨之降低，讓更高密度的晶片佈局成為可能。更進一步，CPO允許晶片採用更激進的電壓頻率調節策略——由於通訊不再佔據大量功耗，運算核心可以動態調整工作點而不必擔心I/O能耗失衡。實際測試中，採用CPO的AI加速器在相同運算任務下，功耗曲線比傳統方案平滑許多，峰值功率也明顯降低。這對資料中心營運商來說意味著每台伺服器能承載更多運算密度，每瓦效能大幅提升。此外，短距離光學傳輸還消除了電磁干擾問題，減少訊號屏蔽與濾波元件的使用，間接降低了電路板層數與材料成本。未來當CPO結合共封裝記憶體時，記憶體與運算單元之間的通訊功耗還可能再降低一個數量級，徹底改變AI晶片的能耗效率。
重新定義AI晶片架構：從匯流排到光學互連
以往晶片設計受制於電氣傳輸的距離與干擾，匯流排架構限制了擴展性，因為所有裝置共享同一通道，導致頻寬瓶頸與仲裁延遲。CPO實現的光學互連允許晶片以網狀或星狀拓撲連接，每個運算核心可直接與其他核心溝通，避免傳統的共享頻寬瓶頸。這催生了新一代的「光學晶片系統」，將記憶體、運算單元以光波導整合，大幅提升AI推論與訓練的效率。在這種架構下，設計師不再需要擔心訊號長距離傳輸的延遲與衰減，核心之間的通訊延遲可以降低到奈秒級別，接近晶片內部通訊的速度。這意味著AI模型的分散式訓練得以更高效地同步梯度，減少等待時間，提升GPU利用率。更有趣的是，光學互連的靈活性讓晶片可以動態重組：不同運算單元可根據任務需求即時形成專屬通訊路徑，類似於光學交換網路。這對於支援不同規模與結構的AI模型特別重要，傳統固定拓撲往往無法兼顧所有場景。以Google的TPU為例，如果用CPO取代現有的電氣互連，其快速收斂能力還可再提升數倍。最終，CPO將帶領AI晶片從「計算密集」走向「通訊密集」的時代，讓晶片設計的關鍵瓶頸從運算能力轉移到如何有效組織資料流，而光學互連正是實現這個轉變的關鍵基石。
【其他文章推薦】
SMD元件外觀瑕疵CCD外觀檢查包裝
Tape Reel手動包裝機配合載帶之特性，間斷式或連續式可自由選擇切換
電動升降曬衣機結合照明與風乾，打造全能陽台新生態
防火漆適用在何種環境中呢?
零售業防損解決方案
消防工程設計與施工標準，你準備好了嗎？