光傳輸
」全村挺一人1/輝達AI革命引焦慮 半導體巨頭罕見齊聚台北大談矽光子
「那就是輝達呀!如果不是他們的AI晶片需求,台積電根本不需要去研究『矽光子』,這個完全不是他們的專業。」產業專家不諱言地告訴CTWANT記者,台積電去年提及研究「矽光子」,今年罕見攜手日月光,在9月3日宣布成立矽光子產業聯盟,號召30家廠商一起制定矽光子封裝產業標準,合作面對這項大挑戰。2022年底ChatGPT崛起而引爆的生成式AI,以及因應而生的大量GPU晶片需求後,對整體半導體的架構產生翻天覆地的變化,也是為因應「全村的希望」、AI晶片龍頭輝達執行長黃仁勳的需求。9月11日的高盛技術會上,黃仁勳講了兩個「難以置信」,一是客戶對最新一代Blackwell晶片的需求難以置信地旺,二是台積電在這領域裡的「敏捷性和響應需求能力,令人難以置信」。然而這場AI掀起史無前例的機會與焦慮,不但讓台灣最強的業者總動員,還引發全球科技廠的集體焦慮。9月初,全球半導體巨擘齊聚台北南港展覽館的SEMICON Taiwan國際半導體展,各國媒體蜂擁而至、彭博社還設攤直播,就連昔日「王不見王」的台積電與三星這兩家國家級護國神山,也破天荒坐在一起談未來。CTWANT記者三天觀察發現,包括歐洲、美國及韓國等各國最頂尖的廠商來台結盟綁樁,演講中不像以往大幅吹捧產品,反而把握機會在半導體產業盛會上敞開自家遇上的瓶頸與困難。邁威爾Marvell公司首席技術官Noam Mizrahi認為,光學是唯一可連結技術,去符合AI算力傳輸需求。(圖/陳曼儂攝)「輝達的GPU和所耗費的電力真的很貴,要確保頻寬、電力、延遲沒問題,不然錢就白花了。」邁威爾Marvell公司首席技術官Noam Mizrahi在半導體論壇上表示,目前用GPU做AI運算,有57%時間在等資料交換,對時間和金錢都是一大損失,「光學是唯一可以連結技術,去符合這麼大規模需求,以及解決頻寬延遲等問題,不同數據中心的串聯,也要靠光纖才能辦到。」「現在GPU和AI加速器是用電連結,若要變成光傳輸,要有不同調變方式、要縮小產品、不同的頻寬密度,才能減少耗能、達到率與成本問題,但這技術沒這麼容易,可能要等兩代之後,才會摸索出對的方向,進入光學無所不在的世界。」Noam Mizrahi提到矽光子技術的困難,是當前最大的挑戰。微軟全球副總裁 Rani Borkar在論壇說,「我從事這產業30年,第一次看到所有業者都在辯論未來,因為AI是半導體的文藝復興!」就算是龍頭微軟,他們也面臨三大瓶頸,第一是硬體系統沒有趕上AI模型需求,「前端需要的運算,每兩年成長十倍,這速度是摩爾定律的五倍,目前的基礎建置與產品都無法達到他的需求,整個領域面臨平台的重新設計,需要整個產業動起來,包括晶片、封裝、記憶體、基礎建設、冷卻方案、網路、電力等,才能推動AI所需的數據流動。」微軟全球副總裁 Rani Borkar提到目前AI面臨三大瓶頸,需要全產業鏈的新變革。(圖/翻攝自SEMI國際半導體產業協會臉書)第二個瓶頸就是高耗能,Rani Borkar說,AI導致全球電力會在2020年到2026年成長一倍,運算和冷卻方式都要變革;第三瓶頸就是產能展望,「我們看到AI高速成長,要買更多晶片、高效記憶體、更多加速器,說來容易,做起來一點都不輕鬆,打造工廠是重大投資,三四年前就要決定,但預測需求非常困難。」「現在真正的問題是維持供應鏈的韌性,因為需求起起落落,」Rani Borkar也了解台灣產業在革命的陣痛期,他向在場業者們呼喊「我從心底感謝大家,是你們做出了重大推動。」在克服重大瓶頸的關鍵時刻,「我們現在做的決定,將改變未來。」這些話也證明,台灣業者在這場革命中,已難以置身事外,而且還是在最花錢的第一線。就算是競爭對手,也得坐下來一起面對。4日登場的「大師論壇」,首度請到台積電共同營運長米玉傑和三星電子總裁李禎培(Jung-Bae Lee)同台,儘管他們在台上沒互動、相敬如賓,但也引發日韓媒體熱議。「韓國和台灣半導體業者『罕見』尋求更密切關係」,日經亞洲(Nikkei Asian)報導,李禎培這次在台灣說,「三星努力為我們的客戶提供代工靈活性,這意味著合作不僅限於三星」,儘管三星有一條龍自己來的能力,但也暗示著會與外部業者有更多合作。而韓媒《經濟日報》及《Business Korea》直接加碼報導,三星和台積電要破天荒結盟、共同研發無緩衝(bufferless)的HBM4晶片,計畫2025年下半年量產。而SK海力士總裁金柱善更直接在半導體論壇上「示愛」,這是他今年第10次來台灣,因為台灣半導體重要性與日俱增,台灣與韓國應緊密合作,「如果沒有合作,AI目標不可能達成。」
半導體新關鍵字1/AI巨量傳輸矽光子成當紅炸子雞 台積電當領頭羊台廠抱團搶標準話語權
AI(人工智慧)顛覆了全球科技產業,從2022年11月底ChatGPT問世之後,短短不到一年,當大家都還在關注AI伺服器將吃大單,但因為大量傳輸的需求也悄悄應運冒出來。「矽光子」則成為今年半導體展的新關鍵字,除了展會首度舉辦矽光子國際論壇,包括台積電(2330)以及日月光(3711)均在論壇上提到這個有點陌生的名詞。工研院電光系統所組長方彥翔告訴CTWANT記者說,「矽光子」其實不是一個新技術,IBM在20年前就已投入研究,英特爾也投入超過10年,它是用光來傳輸,比起現在的電子訊號,不只傳輸效率高,也能夠有效解決訊號耗損和熱量的問題。目前業界的矽光子,多是屬於個別廠商的客製化需求,並沒有一個確定的產業標準。因應台積電等大廠在半導體展談論矽光子,台灣光電暨化合物半導體產業協會(TOSIA)也在8日成立光通訊與矽光子SIG(Special Interest Group),盤點國內光傳輸技術、產業概況及發展機會,爭取標準喊話權。「相較於積體電路是將上億個電晶體微縮於晶片上,使其能夠進行複雜的運算,但線路是電訊號,仍有著訊號耗損以及熱量問題。」方彥翔說。這也是光比電更具優勢的地方。矽光子主要是用來提升大量數據傳輸使用。(圖/翻攝自Wiki)「矽光子」從字面上來說,其實就是將電子結合光子的技術,是一種積體「光」路,由於晶片內資料傳導都是使用可以導光的線路,光就在這些線路中傳來傳去,最終願景是用光訊號全面代替電訊號進行傳輸,就可以實現更高頻寬和更快速度的數據處理,就不用再持續追求更高的電晶體數量,但目前在光電結合上,還牽涉到諸多光電訊號的轉換,因此技術上還有許多面向需克服。台積電是台灣發展矽光子的指標廠,業界傳出,台積電已投入逾200人的研發團隊,與博通、輝達等大客戶共同開發,最快2024年下半年完成,2025年開始量產。而台積電副總余振華則是在8日半導體研發大師座談會表示,「如果能提供一個良好的矽光子整合系統,就能解決能源效率和AI運算能力兩大關鍵問題。這會是一個新的典範轉移。我們可能處於一個新時代的開端。」法人指出,台積電除了開發矽光子技術之外,更同時開發共同封裝光學模組(CPO),透過矽製程的晶片以封裝模式整合光子積體電路(PIC),能將電更快速轉換成光訊號,藉此讓傳輸速度更快。日月光執行長吳田玉則指出,預期矽光子科技將顛覆人類對於科技的想像,並帶來更多生活上的幫助。因為隨著AI應用持續增加,帶動資料中心高速運算及傳輸需求跟著大幅攀升,矽光子科技將成為半導體下一波的產業驅動力。「矽光子科技要能夠突破既有技術門檻,高度仰賴半導體供應鏈的協同合作。」吳田玉強調。工研院電子與光電系統研究所組長方彥翔表示,矽光子還沒有產業標準,台灣應該爭取喊話權。(圖/工研院提供)隨著資料中心的持續提升和AI技術的浪潮,讓原本只是各自發展的矽光子技術因而受到廣泛重視。「現在因為AI需要大量的資料傳輸,矽光子利用光傳輸的優勢就出現了,但也因為之前多是客製化設計,沒有建立產業標準,對於台廠來說,這就是一個新的機會。」方彥翔說。SEMI國際半導體產業協會全球行銷長暨台灣區總裁曹世綸也指出,SEMI特別在台灣成立矽光晶片發展聯盟,積極推動產業共同合作,預期台灣半導體產業在矽光子科技發展上將扮演關鍵角色引領全球。SEMI也指出,「矽光子」可應用於生醫感測、高速傳輸、通訊及電信、量子運算、機器學習、光學雷達等領域。根據調查,全球「矽光子」市場規模將從2022年的126億美元,成長至2030年的786億美元,年複合成長率(CAGR)為25.7%。