GPU晶片
」 輝達 AI 黃仁勳 晶片 台積電輝達繼續創新高? 大摩分析師:Blackwell未來一年供應已售罄
摩根士丹利(Morgan Stanley)本週在紐約與輝達執行長黃仁勳、財務長克萊特·克雷斯(Colette Kress)以及晶片製造商管理團隊的其他成員舉行了爲期三天的會議。由於其GPU晶片需求持續飆升,大摩認為輝達(NVDIA)的股票有望進一步上漲。摩根士丹利分析師Joseph Moore表示:「管理層的每一個跡象都表明,我們仍處於人工智能長期投資週期的早期階段。」該行重申對輝達股票的「增持」判斷,上看目標價150美元,這意味著該股有機會上漲11.2%。Moore指出該股仍是半導體領域首選,並稱輝達仍處於人工智能創新的前端,並擁有獲得新市場份額的機會。他說,對英偉達長期前景仍然非常看好,但考慮到目前的股價反彈,料短期上漲會在一定程度上提高盈利門檻。Moore表示,輝達下一代GPU芯片Blackwell的生產正在「按計劃進行」,且未來12個月左右的供應已經售罄,這意味著現在下訂單的客戶要到2025年底才能收到貨。分析師們表示,「這將繼續推動對現有Hopper架構產品的強勁短期需求」。此次會面充分表明Blackwell仍然強勁,並且具有很高的前瞻性。
全村挺一人1/輝達AI革命引焦慮 半導體巨頭罕見齊聚台北大談矽光子
「那就是輝達呀!如果不是他們的AI晶片需求,台積電根本不需要去研究『矽光子』,這個完全不是他們的專業。」產業專家不諱言地告訴CTWANT記者,台積電去年提及研究「矽光子」,今年罕見攜手日月光,在9月3日宣布成立矽光子產業聯盟,號召30家廠商一起制定矽光子封裝產業標準,合作面對這項大挑戰。2022年底ChatGPT崛起而引爆的生成式AI,以及因應而生的大量GPU晶片需求後,對整體半導體的架構產生翻天覆地的變化,也是為因應「全村的希望」、AI晶片龍頭輝達執行長黃仁勳的需求。9月11日的高盛技術會上,黃仁勳講了兩個「難以置信」,一是客戶對最新一代Blackwell晶片的需求難以置信地旺,二是台積電在這領域裡的「敏捷性和響應需求能力,令人難以置信」。然而這場AI掀起史無前例的機會與焦慮,不但讓台灣最強的業者總動員,還引發全球科技廠的集體焦慮。9月初,全球半導體巨擘齊聚台北南港展覽館的SEMICON Taiwan國際半導體展,各國媒體蜂擁而至、彭博社還設攤直播,就連昔日「王不見王」的台積電與三星這兩家國家級護國神山,也破天荒坐在一起談未來。CTWANT記者三天觀察發現,包括歐洲、美國及韓國等各國最頂尖的廠商來台結盟綁樁,演講中不像以往大幅吹捧產品,反而把握機會在半導體產業盛會上敞開自家遇上的瓶頸與困難。邁威爾Marvell公司首席技術官Noam Mizrahi認為,光學是唯一可連結技術,去符合AI算力傳輸需求。(圖/陳曼儂攝)「輝達的GPU和所耗費的電力真的很貴,要確保頻寬、電力、延遲沒問題,不然錢就白花了。」邁威爾Marvell公司首席技術官Noam Mizrahi在半導體論壇上表示,目前用GPU做AI運算,有57%時間在等資料交換,對時間和金錢都是一大損失,「光學是唯一可以連結技術,去符合這麼大規模需求,以及解決頻寬延遲等問題,不同數據中心的串聯,也要靠光纖才能辦到。」「現在GPU和AI加速器是用電連結,若要變成光傳輸,要有不同調變方式、要縮小產品、不同的頻寬密度,才能減少耗能、達到率與成本問題,但這技術沒這麼容易,可能要等兩代之後,才會摸索出對的方向,進入光學無所不在的世界。」Noam Mizrahi提到矽光子技術的困難,是當前最大的挑戰。微軟全球副總裁 Rani Borkar在論壇說,「我從事這產業30年,第一次看到所有業者都在辯論未來,因為AI是半導體的文藝復興!」就算是龍頭微軟,他們也面臨三大瓶頸,第一是硬體系統沒有趕上AI模型需求,「前端需要的運算,每兩年成長十倍,這速度是摩爾定律的五倍,目前的基礎建置與產品都無法達到他的需求,整個領域面臨平台的重新設計,需要整個產業動起來,包括晶片、封裝、記憶體、基礎建設、冷卻方案、網路、電力等,才能推動AI所需的數據流動。」微軟全球副總裁 Rani Borkar提到目前AI面臨三大瓶頸,需要全產業鏈的新變革。(圖/翻攝自SEMI國際半導體產業協會臉書)第二個瓶頸就是高耗能,Rani Borkar說,AI導致全球電力會在2020年到2026年成長一倍,運算和冷卻方式都要變革;第三瓶頸就是產能展望,「我們看到AI高速成長,要買更多晶片、高效記憶體、更多加速器,說來容易,做起來一點都不輕鬆,打造工廠是重大投資,三四年前就要決定,但預測需求非常困難。」「現在真正的問題是維持供應鏈的韌性,因為需求起起落落,」Rani Borkar也了解台灣產業在革命的陣痛期,他向在場業者們呼喊「我從心底感謝大家,是你們做出了重大推動。」在克服重大瓶頸的關鍵時刻,「我們現在做的決定,將改變未來。」這些話也證明,台灣業者在這場革命中,已難以置身事外,而且還是在最花錢的第一線。就算是競爭對手,也得坐下來一起面對。4日登場的「大師論壇」,首度請到台積電共同營運長米玉傑和三星電子總裁李禎培(Jung-Bae Lee)同台,儘管他們在台上沒互動、相敬如賓,但也引發日韓媒體熱議。「韓國和台灣半導體業者『罕見』尋求更密切關係」,日經亞洲(Nikkei Asian)報導,李禎培這次在台灣說,「三星努力為我們的客戶提供代工靈活性,這意味著合作不僅限於三星」,儘管三星有一條龍自己來的能力,但也暗示著會與外部業者有更多合作。而韓媒《經濟日報》及《Business Korea》直接加碼報導,三星和台積電要破天荒結盟、共同研發無緩衝(bufferless)的HBM4晶片,計畫2025年下半年量產。而SK海力士總裁金柱善更直接在半導體論壇上「示愛」,這是他今年第10次來台灣,因為台灣半導體重要性與日俱增,台灣與韓國應緊密合作,「如果沒有合作,AI目標不可能達成。」
錢給你給我貨!甲骨文創辦人自爆聯手馬斯克 找黃仁勳求AI GPU晶片
在AI熱潮下,科技巨頭爭奪AI硬體資源的競爭也日益激烈,近日甲骨文(Oracle)創始人埃里森(Larry Ellison)透露,自己曾與特斯拉執行長馬斯克(Elon Musk)一同在帕洛阿爾托(Palo Alto)的餐廳晚宴中,向輝達(Nvidia)執行長黃仁勳(Jensen Huang)懇求,希望他能接受更多資金,以此來換取更多AI GPU晶片。根據《tomshardware》報導指出,埃里森把這場晚宴描述成一場「懇求大會」,他和馬斯克不斷請求黃仁勳接受更多的資金,以換取更多的GPU供應。而低聲下氣的哀求似乎也獲得了成效,近期甲骨文就宣布將打造一個由131,072個輝達GB200 NVL72 Blackwell GPU組成的Zettascale AI超級集群(supercluster),其AI運算能力達到2.4 ZettaFLOPS,甚至超過了馬斯克的xAI公司所擁有的孟菲斯(Memphis)超級集群。為了支持如此龐大的AI計劃,甲骨文已獲准建造3座模塊化核反應堆。在核反應堆完工前,公司可能會效仿馬斯克的做法,使用大型移動發電機來滿足電力需求。報導中也提到,儘管甲骨文在雲端基礎設施(OCI)的規模不及亞馬遜、微軟和Google等巨頭,但甲骨文在靈活性和客製化服務方面十分具有優勢。OCI能夠滿足特定客戶的獨特需求,甚至提供運行在自有網絡基礎設施上的離線服務器,以確保最高級別的安全性。埃里森對AI的未來發展持樂觀態度,他預測未來三年內,前沿AI模型的訓練費用將達到驚人的1000億美元。這一觀點與Anthropic CEO阿莫代(Dario Amodei)的看法不謀而合。
AI正夯!馬斯克不甘示弱:要為xAI打造史上最大超級電腦
眼看OpenAI、微軟及谷歌等科技大廠接連推出更強大的AI模型,當年共同創辦OpenAI的馬斯克(Elon Musk)也不甘示弱,近日宣稱將為他創立的AI公司xAI打造史上最大超級電腦,用來訓練新一代AI聊天機器人Grok。The Information新聞網站報導,馬斯克在近日一場投資人說明會上表示,xAI打算和甲骨文合作打造一台超級電腦,並宣稱這台超級電腦內建的輝達H100晶片數量將是目前的4倍之多,目標在明年秋季開發完成,屆時將成為史上最大超級電腦。馬斯克在今年初曾表示,xAI訓練Grok 2動用大約2萬個H100晶片,估計Grok3及未來新一代AI模型將動用10萬個H100晶片來訓練。H100晶片是輝達專為AI運算開發的GPU晶片,讓輝達成為全球AI晶片龍頭,但市場需求火熱也讓H100晶片難以取得,估計馬斯克將動用各種手段爭取供貨。
輝達業績強勁 華爾街大行:股價仍有上漲空間目標價上看1400美元
AI晶片領域的領導者輝達業績爆表,再次震撼全球投資者。週四(23日)美股開盤後,股價一度飆升約12%,最終收漲9.32%、首度突破1000美元大關,總市值達到2.55兆美元。在公司重磅利好及樂觀前景帶動下,華爾街對輝達的看漲聲音愈發激進。分析師大舉押注,該公司在股價站穩1000美元以後,仍有繼續上漲的空間。整體業績來看,2025財年第一季,輝達實現營收260億美元,較去年同期增長262%,淨利潤148.1億美元,年增628%。總營收和數據中心營收雙雙創新高,並超預期上調第二季營收指引。另外,輝達還宣布以「一拆十」的方式進行股票分拆,並大幅提高股息分紅。在輝達的電話會議上,公司高管帶來了一系列令人振奮的消息。黃仁勳指出,新晶片Blackwell將在今年第二季出貨、第三季增產、第四季投放到數據中心,為公司帶來大量收入。Blackwell的推出也給市場打了「強心針」,眾多華爾街知名投資機構紛紛上調對輝達未來12個月股價的預期價位,最激進看漲目標已高達1400美元。投行傑富瑞將輝達目標價上調至1350美元,關鍵原因就是Blackwell的快速量產,有望在今年下半年為公司業績帶來超預期的增幅。首先,多位分析師認為輝達增長趨勢將維持強勁,也會帶來較大的股東回報。美銀分析師Vivek Arya將輝達的評級定為「買入」,並將12個月目標價從1100美元大幅上調至1320美元。該分析師認為,輝達兩年後的每股收益可能達到50美元,高於該分析師此前預測的35美元。Arya在投資者報告中表示,輝達不僅銷售額增長速度快於其他任何大型公司,而且自由現金流(FCF)利潤率也極高,超過57%。按照這個速度,輝達可能將在未來兩年產生超過1200億美元FCF,在未來三年產生超過2000億美元FCF。輝達每一美元的銷售額產生超過50美分的自由現金流,這可能會帶來更高的股東回報。Wedbush資深分析師艾夫斯(Dan Ives)表示,人工智慧相關的企業需求正在加速增長。隨著第四次工業革命到來,越來越多的企業和消費者迅速走上這條道路,輝達AI GPU晶片本質上是科技行業的新黃金或新石油。據統計,華爾街投資機構對輝達後市走勢非常樂觀。參與評級的44位分析師中,有九成以上推薦「買入」,沒有「賣出」評級的分析師,平均目標價預期為1166.15美元。
地表最強晶片1/輝達軟硬通吃「老黃像AI傳教士」業者想入教 分析師:有應用就沒泡沫
畫面從宇宙看向地球,然後靠近、聚焦在正中間的台灣,旁白介紹起AI預測颱風的技術,畫面裡有圓山飯店、台北101大樓,還有美麗明亮的台北盆地,長達兩分多鐘的介紹,反覆出現的台灣小島,最後輝達Nvidia創辦人黃仁勳從舞台邊走來,迎接上萬人的掌聲;這影片光是在輝達的官方Youtube頻道上,一周內已接近2700萬次點閱。這不是觀光宣傳影片,而是輝達在GTC開發者大會上宣傳旗下的「Earth-2氣候數位孿生雲平台」,與台灣的中央氣象署、IBM子公司The Weather Company合作,將生成式AI應用在預測天氣上,「我們真的想知道怎麼預測極端氣候,讓人們遠離傷害」黃仁勳說。這段影片,不但為了人類的安全,也是「台灣囡仔」黃仁勳的一份心意,讓台灣站在世界的中心。「我們知道,這場新的工業革命、AI革命,台灣正處在中心的位置」,黃仁勳會後與矽谷的台灣同業吃飯時大喊,「跟我一起說好這個故事。台灣加油!」「所謂科技的傳教士,就是能將這個技術的熱情與影響力擴散給更多領域。」業者向CTWANT記者說,「這次真是AI佈道大會,連我都想入教了」。黃仁勳在美國時間18日舉行的開發者大會,發表地表最強AI GPU晶片,兩個Blackwell,加上一顆Arm架構Grace CPU組成的「超級AI晶片GB200」,AI訓練速度比前代H100快四倍、推理能力優30倍,成本和能源消耗低25倍,已經有許多大型科技廠下訂。其中被點名、馬上就能受惠的Blackwell供應鏈,包括華擎旗下永擎、華碩、鴻海、技嘉、英業達、和碩、雲達科技、緯創、緯穎等企業,外資券商報告也加碼點名,除了晶片製造主角的台積電,包括日月光、欣興、廣達、奇鋐、雙鴻等台廠也有相關訂單;儘管活動已過去一周,但餘威仍持續發酵,被點名的台灣供應鏈被媒體封為「AI十虎」持續在股票市場強強滾,甚至有廠商飆到被列為「注意股」。與會業者表示,難得可在這樣的國際級大展覽上聽到很多台灣腔。(圖/翻攝自輝達GTC臉書)與會業者提到,其實除了目前浮上檯面的伺服器供應鏈,還有很多看點,像是現場展示的包括車用平台、醫療等應用都指日可待,甚至是演講壓軸的機器人領域;與會業者跟CTWANT記者說,「大家應該要關注的是,除了賣硬體,輝達開始推商業軟體業務,未來可能包套販售,是準備好種子開始『撒豆成兵』了。」黃仁勳在國際記者會上提到,Nvidia希望成為AI領域的台積電,替所有想導入AI技術到自家業務的人簡單入手,「就像我們把點子給台積電,製造後我們就能拿走晶片」,推出的AI微服務Nvidia NIM,就是客製化AI時的「副駕駛」,提供NVIDIA 推論軟體(包括 Triton Inference ServerTM 和 TensorRTTM-LLM)驅動的預先建置容器,為語言、語音和藥物發現等領域提供符合產業標準的應用程式介面(API),開發人員就能在自己的基礎設施中快速開發程式,首批客戶包含Adobe、SAP、Cadence等。業內人士向CTWANT記者解釋,簡單來說,就是「整體包到好」,過去買軟體可能像是毛胚屋,還要自己採購家具、或重新裝潢,但現在的趨勢是已經裝好家具的房子,客戶可直接入住,「甚至連門口警衛都幫你安排好了。」「成熟的企業平台坐擁資料金礦,這些資料可以變成生成式人工智慧的輔助夥伴,是各行各業成為人工智慧公司的基石。」黃仁勳表示,輝達其實也是個「軟體公司」,擁有「AI技術、專業知識、基礎設施」這三項條件,足以成為「AI代工廠」,他說,AI對人類的大貢獻便是「縮小技術鴻溝」,一般民眾就算不會程式語言,也能成為指令工程師,就像「我太太跟我說話時,她就在當我的指令工程師」。輝達執行長黃仁勳於GTC展會與技嘉集團總經理李宜泰相見歡。(圖/技嘉提供)有像黃仁勳這樣能言善道的AI教主,2023年一整年,AI概念在全球被炒得如火如荼,不少投資機構擔憂股市泡沫或過熱,特別是輝達股價從去年1月至今漲幅已高達450%。「AI有應用就不是泡沫」,美林證券亞太區硬體科技研究主管鄭勝榮表示,目前是AI發展初期,在主軸為布局基礎建設的軍備競賽下,第一階段以硬體受惠多,台灣供應鏈有多種解決方案和高價值專利權,將迎來5到10年的爆發期。「現在AI產業不只有一種、而是存在很多不同的解決方案,這是為何可以強調整個產業大繁榮的原因,」鄭勝榮表示,台灣科技產業經歷三波大週期循環,第一次是1980年代的PC產業,第二波是2006到2010年的智慧手機,現在是第三波AI浪潮,許多不同的業者都在開發平台,而台灣業者經歷多次的潮起潮落和洗牌,能撐到現在的都是「夠資格的供應商」。安聯投信也提到,2023年被視為深層式AI的元年, AI不僅影響科技產業,也顛覆其他產業,如藥物研發、農業等領域等,暫時未見泡沫化的可能性,且前景亮眼。
全球看見台灣 輝達最強晶片發布會「這一家」鏡頭最多
全球AI晶片龍頭輝達NVIDIA,台灣時間19日在美國舉行萬眾矚目的年度大會「GTC 2024」,創辦人暨執行長黃仁勳介紹新一代AI平台Blackwell,以及建構的GB200晶片,為台積電(2330)4奈米製程;他表示這將成為推動新工業革命的引擎;在長達兩小時的專題演講中,黃仁勳不但用台灣的颱風AI預測影片,讓世界看到台灣,也用影片介紹緯創的智慧工廠。其他被點名的台廠今日股價都相對抗跌。這次推出的GPU晶片,可由2顆B200與現有的Grace CPU組合成GB200 Superchip超級晶片,由台積電4奈米製程客製化製造。Blackwell是全新的平台,支援AI訓練和即時大型語言模型推理,模型可擴展至10兆個參數,而成本和能耗比其前身低25倍,有助於在資料處理、工程模擬、電子設計自動化、電腦輔助藥物設計、量子運算和產生人工智慧方面實現突破,成為輝達創造新興產業的機會。黃仁勳也在大銀幕上介紹台灣的供應鏈,除了台積電之外,包括鴻海(2317)、華擎旗下永擎、華碩(2357)、技嘉(2376)、英業達(2356)、和碩(4938)、雲達科技、緯創(3231)、緯穎(6669)等公司。被點名的公司中,和碩一舉攻上漲停收在100元,緯創漲2.08%、英業達漲0.72%、鴻海收平盤136元。這次輝達發表會上推出的影片,特別宣傳了一下緯創資通,緯創表示,透過輝達NVIDIA Omniverse和NVIDIA Modulus構建數位孿生平台,實現工廠與製造數位轉型,也強化了預測未來生產場景的能力。緯創表示,利用Omniverse 軟體開發平台的功能,建立動態且高效的模擬生產現場,優化製造過程的各個環節,也讓緯創建立新的工廠時,針對先期的layout規劃與工廠建置調整所需的時間,減少約2個月的建廠時間,透過導入Omniverse Simulation技術,緯創工廠的生產線效率也顯著提高51%。黃仁勳也展示「Earth-2氣候數位孿生雲平台」,是與台灣的中央氣象署及IBM子公司The Weather Company合作,將生成式AI應用在預測天氣上,採用輝達CorrDiff的新型生成式AI模型,透過學習高解析度資料集,學習精細的尺度及當地氣候原理,除了能以視覺化建立模擬天氣和氣候,還可以協助用戶在短短幾秒鐘之內發布警告和更新預報。
輝達「AI盛會」GTC 2024下月登場 市場聚焦B100晶片、Blackwell架構
輝達(NVIDIA)日前用耀眼的業績持續點燃市場熱情,就如同一面鏡子,實時映照外界對AI行業發展的信心。下個月是輝達一年一度「AI盛會」GTC 2024(GPU技術大會),將在美國聖何塞會議中心舉行,當地時間3月18日下午,輝達創辦人暨執行長黃仁勳將親自主持和登場演講,暢談加速運算、生成式 AI 和機器人技術等最新突破。GTC作為輝達每年最重要的發佈平台之一,已成爲公認的「AI風向標」,本屆GTC也是時隔5年後首次實體舉行。黃仁勳表示,政府、業界和組織機構都致力於利用生成式AI的變革能力,生成式AI已成為舉世矚目的焦點。輝達在預告影片中重點介紹了生成式AI的應用,包括用於數字廣告的WPP/NVIDIA引擎、剛剛發佈的RTX Chat、由SyncTwin支持的工業元宇宙,以及OpenAI為Blender動畫創建代碼。市場普遍認為,此次大會焦點有三個,下一代Blackwell GPU架構、新款B100晶片及人形機器人。由於輝達並未透露B100的具體參數和上市時間,外界也只能從有限的官方資料,以及與H200的對比中,拼湊出對B100的初步了解。根據推測,B100的性能至少是H200的兩倍、H100的四倍。還有媒體援引知情人士消息稱,B100將採用台積電的3奈米製程,三星則是主要的存儲器供應商。在一系列消息中,最引起關注的無疑是Blackwell架構。輝達當前佔據90%以上的AI GPU晶片的市場占比,而H200、H100都是基於Hopper架構打造,據官方說法,該架構最大的優勢是加速運算。「進化版」的Blackwell不僅會在AI加速能力上進一步提高,還具備高速傳輸接口、經過改良的光線追蹤技術和並行處理能力。媒體分析指出,Blackwell架構的運行情況也將很大程度上決定B100及輝達後續產品的算力上限。有分析稱,Blackwell GPU也會是輝達第一款運用小晶片(chiplet)設計的HPC/AI加速器,直接與AMD的Instinct MI300展開競爭。摩根士丹利認為,輝達想要捍衛自己的運算能力優勢,牢牢綁住核心客戶,B100是最有用的一招,預計B100將成為人工智慧遊戲規則的改變者,甚至比上一代旗艦AI晶片H100更強大。美國銀行分析師認為,輝達即將推出的B100定價將比H100系統至少高出10%至30%,鞏固輝達的「王者寶座」。
人工智慧掌中戲1/二大IC設計龍頭廝殺 生成式AI晶片「最強大腦」植入手機
今天也AI(人工智慧)了嗎?昔日電影裡酷炫魔幻的AI,也要飛入尋常百姓家。近一個月來,先是全球IC設計龍頭高通(Qualcomm)發表「驍龍8 Gen 3」,主打新一代旗艦AI手機晶片,台廠聯發科(2454)不讓賢,也推出「天璣9300」,跑分追過其他同業,使得手機市場掀起一輪廝殺,明年起,高價手機若沒有內建AI、那就落伍了。一年多前ChatGPT橫空出世後,國際上各大科技公司掀起大型語言模型建置及超算力雲端資料庫的軍備競賽,如今這場生成式AI賽局,因IC設計龍頭們的廝殺,也從雲端往下落地,直接攻進終端設備――手機市場。蟬聯多年王者的全球第一大IC設計業者高通,今年第二季被專攻繪圖處理器GPU晶片的輝達(NVIDIA)超越,就是因輝達能大啖生成式AI晶片市場而奪魁;高通緊急在10月25日於夏威夷發表其秘密武器驍龍8 Gen 3,主打可在終端裝置上運行生成式AI,而第一個搭載高通驍龍8 Gen 3晶片的是小米14手機。小米14在10月31日晚間首次開賣,到雙11活動前的短短10天就賣出144萬支,創下小米高端旗艦機最高銷量紀錄,雙11購物節當天,更是收割所有大陸電商平台上的銷售冠軍,包括京東、天貓、抖音等,讓小米創辦人雷軍大呼「我們都沒有想到小米14會這麼受歡迎」。大陸手機品牌率先使用AI晶片,高通陣營是小米14、聯發科陣營為vivo X100。(圖/翻攝自vivo發布會YT、維科網)除了小米,接下來包括華碩、華為、OPPO、索尼及中興等,許多兩岸的手機品牌會用驍龍8 Gen 3晶片做手機。外資看好這能讓高通在明年第一季的手機業務營收季增雙位數,大幅優於先前預期的季減3.4%。全球排名第四、台灣的IC設計龍頭聯發科也不甘示弱,11月6日大動作發表最新旗艦級手機晶片「天璣9300」,效能強卻省電,正面對決高通。用測試程式Geekbench來看,聯發科的天璣9300跑分大約7500分到8000分,蘋果A17Pro 為 7100到7700 左右,高通的驍龍8 Gen 3則是落在7200到7500分。跑分如何贏過勁敵?聯發科員工告訴CTWANT記者,「這是商業機密,無數工程師夜以繼日地測試與研發,採取跟高通不一樣的配置設計,才能把原本需要放在大型雲端伺服器機台上、生成式AI所需要的架構,採用台積電(2330)4奈米製程打造,總計227億組電晶體,濃縮在這小小的手機晶片上。」第一個使用天璣9300的是大陸品牌vivo X100,11月13日開賣,雖沒趕上雙11活動,但vivo產品副總裁黃韜14日凌晨在其微博上發文表示,X100系列是前一代X90銷量7.4倍,還開玩笑說因供不應求大缺貨,要「馬上訂機票回產線打螺絲」。這兩款都是高價產品,最基礎的機型約1.7萬元台幣起跳,能在當前低迷的大陸消費市場闖出業績,可見外界對於AI手機的高期待。而內建AI晶片的重點,就是可以在自己的手機上操作AI,不需要連上網路,就能體驗ChatGPT帶來的震撼、也就是生成式 AI,最強大腦放進你的手機裡,讓你的手機作詩作曲寫故事,手拙的人也能以此不斷產出精緻新畫作,只要想得到、沒有做不到,掌握成千上萬的資料庫,擁有教師等級的知識回答。舉例來說,一般手機若要做AI畫圖,須下載專用的商業APP,或是連上網站,將你的資料或要修改的照片上傳到APP公司的伺服器做圖、做完再下載回自己的手機,所以速度比較慢,試用完後需要付費,也擔心你的資料因此被APP公司「扣留」。AI晶片內建後,手機不需要上網,就能使用生成式AI功能。(圖/翻攝自天璣9300發布會YT)聯發科技無線通訊事業部副總經理李彥輯跟CTWANT記者說,「就是注重隱私和個人化,越來越多人會想在手機端就完成AI,而不是上傳雲端」,看到這個趨勢,聯發科才提早研發,想辦法把AI做進晶片裡,在收不到網路訊號的地方,AI助理也可以繼續運作。然而手機的記憶體的確比較小,沒辦法像ChatGPT一樣、大語言模型擁有1750億個參數,聯發科目前研發出最高可支援330億組參數規模的語言模型,但對應的記憶體容量至少要33GB以上 ,目前主流的手機記憶體則是8GB或16GB,所以天璣9300以16GB記憶體容量為主,最高可對應130億組參數的執行規模。參數越多、AI就越聰明,雖然手機的AI還無法全知全能,但聯發科推出可擴充平台,替換技能包內的參數,改變成你想要的專精知識,像是金融、美術等任何你有興趣的事情,反而會比現有的ChatGPT更專業。聯發科副董事長暨執行長蔡力行17日在美國表示,他們光是在2018至2023年間,就投入約180億美金於技術研發,就是因為起步早,才能拿下現在領先的市占率,相信在天璣9300的帶動下,今年旗艦級手機單晶片的營收規模將可達10億美金。
華爾街日報:輝達涉嫌AI晶片壟斷遭歐盟調查
外媒報導,歐盟正在調查人工智慧晶片領域的可能存在的反競爭濫用行為,這一市場幾乎由輝達(Nvidia)壟斷。據透露,歐盟委員會已經非正式地收集了有關GPU領域潛在濫用行為的意見,以了解是否有必要進行未來的干預。不過初步調查未來不一定會導致正式調查或懲處。據華爾街日報(WSJ)報導,在歐盟反壟斷執法機構採取這項措施之前,法國競爭監管機構本週稍早宣布突襲搜查了一家涉嫌從事「顯示卡產業反競爭行為」的公司的辦公室。有知情人士表示,巴黎突襲行動的目標是輝達,該公司是全球最大的人工智能和GPU晶片製造商。法國當局對輝達在人工智慧晶片領域的價格政策、晶片短缺及其對價格的影響等問題進行市場訪問。並表示,本週的行動是在對雲端計算行業進行更廣泛的調查之後進行的,調查中它提到了對雲計算公司可能利用其計算能力排除規模較小的競爭對手的擔憂。 針對上述報導,輝達拒絕置評,歐盟執委會也沒有立即回應置評請求。隨著OpenAI的ChatGPT等生成式AI系統興起,GPU已經成為科技界最熱門的商品之一,市場對輝達AI晶片H100的需求猛增,雲端運算供應商之間爭相獲得它們。花旗分析師6月份預計,隨著輝達推出更新、功能更強大的硬體版本,其在人工智能晶片領域的市場份額將超過90%,遙遙領先競爭對手英特爾和AMD。輝達在人工智慧任務晶片供應方面的主導地位,正在受到監管機構的更嚴格審查。該公司的GPU最初在影片遊戲中流行起來,現在對於訓練大型語言模型和其他類型的人工智慧軟體的新系統至關重要。如果未來啟動任何正式的歐盟反壟斷調查,被指控違規的公司將面臨改變其做法的命令,並可能面臨高達全球年收入10%的罰款。
擔憂白宮實施出口限制 《金融時報》:中國科技巨頭爭相囤積Nvidia晶片
英國《金融時報》今(10日)援引多位知情人士爆料,有鑑於白宮不斷推出新的出口管制限制,中國科技巨頭目前正在爭相採購對建構生成式人工智慧(AI)系統至關重要的高性能Nvidia晶片,且訂單總價值高達50億美元。《金融時報》指出,百度、字節跳動、騰訊和阿里巴巴已向輝達(Nvidia)下訂了價值10億美元的訂單,以取得約10萬顆輝達A800 GPU晶片,並定在今年交付。另根據2位Nvidia內部人士指出,這些中國企業還購買了價值40億美元的GPU晶片,預計將在2024年交付。 報導指出,A800是Nvidia尖端A100 GPU的弱化版。由於華盛頓去年為科技圍堵北京而實施出口限制,因此中國科技企業目前只能購買數據傳輸速度比A100慢的A800。不過考慮到白宮近期動作頻頻,不斷簽署行政命令實施新的出口限制,中國科技巨頭也正在競相囤積A800晶片,加劇全球GPU晶片短缺的現象。一位不願具名的百度員工也透露:「如果沒有這些Nvidia的晶片,我們就無法進行任何大型語言模型(large languagemodel,LLM)的訓練。」另根據2名內部員工的爆料,字節跳動已儲備了至少1萬顆Nvidia GPU晶片,並加購了近7萬顆A800晶片,訂單預計將在明年交付,總價值約7億美元。針對此篇報導,百度、字節跳動、騰訊和阿里巴巴均拒絕置評。Nvidia則在一份聲明中表示:「消費網路公司和雲端儲存服務商每年都會在數據中心組件上投資數十億美元,而且通常會提前幾個月下單。」一位Nvidia經銷商則透露,他們手中的A800價格已上漲了超過50%。
輝達大啖AI商機市值衝上美股第六大 台積電吃補2天市值增逾5千億元
Nvidia(輝達)執行長黃仁勳在年度開發者大會上表示,「我們正處在 AI 的 iPhone 時刻」,激勵輝達股價2天內從259美元最高來到273美元,也推升公司市值衝上美股第六名,僅次於蘋果、微軟、谷歌母公司、亞馬遜及波克夏·海瑟威。繪圖晶片大廠輝達(NVIDIA)年度繪圖處理器(GPU)技術大會(GTC)於美西時間20日登場。黃仁勳也釋出看好大型語言模型、生成式AI、工業元宇宙與雲端運算四大領域。而受惠於輝達股價強勢走揚,晶圓代工龍頭廠台積電(2330)也連續2天上漲,累積上漲21元,市值也增加5445億元,來到13兆9505億元。由於近期市場持續關注人工智慧AI聊天機器人程式,包括微軟轉投資OPENAl的ChatGPT,中國也有百度的文心一言,這些Al生成式機器人都需要GPU,而輝達正是全球最大的GPU晶片供應商。其實輝達執行長黃仁勳日前,2月初就在加州大學伯克利分校哈斯商學院的演講中,直稱ChatGPT是人工智慧的「iPhone 時刻」,因為ChatGPT 出現後,初估已經有大約500家新創開發出有用的應用程式,就像當年iPhone 出現時,也有人可以在短短幾個週末就能寫出受歡迎的APP。
示警AI瘋潮 陸行之:營收貢獻若小於5% AI晶片公司將被打回原形
AI概念股近期在全球股市成為投資人追逐標的,半導體分析師陸行之發文示警表示,要是chatGPT及GPT copycat所帶動的人工智能GPU晶片銷售,幾年內只能貢獻少於5%營收,到時候這些相關AI晶片公司也會被打回原形。陸行之指出,老實說,目前全球能做大量人工智能訓練的AI晶片公司只有兩家高算力GPU公司,但被美國商務部工業安全局認證不能賣64bit GPU,算力超過100 petaflops 給所有中國大陸廠商,至於Intel GPU還沒達標,CPU/ASIC/FPGA 都力有未逮,只能往較簡單的推理方向前進。陸行之表示,找Nvidia/AMD的上下游產業鏈受惠者及量化實際營收/獲利貢獻比較重要,而不是炒概念,免得像臉書之前炒 Metaverse 概念改名Meta,結果Horizon worlds到現在還沒什麼人用,而Roblox至少還撐著6000多萬active daily users。至於Nvidia(輝達)昨天公布財報,其中針對第一季,預期營收季增率成長5-10%,年增率則為負22%,陸行之也認為,這明顯優於同業及市場預期,表示台積電及產業鏈庫存從第一季開始將逐步降低另外對於台積電的股利政策,陸行之也認為,台積電是全球/台灣半導體行業不管在核心技術、經營階層、人才、營收獲利增長、市占率、資產負債表、現金流等都是數一沒有數二的公司,但payout ratio(股利配發率)在台灣墊底真的很難看。