晶片一哥
」 聯發科繁中守護者1/「不會做才更要做!」解密蔡明介督軍 聯發科為台灣訓練LLM輝達也相挺
「不會做,才更要做!」台灣晶片一哥聯發科技4月9日發表繁體中文語言模型MR BreeXe,以450億參數超越中文版ChatGPT3.5,奪下世界最強的繁體中文大語言模型(LLM)。儘管外界看熱鬧,也有酸民說贏了ChatGPT3.5沒什麼好驕傲,但台灣科技圈人士深知,聯發科努力「緩解了一場迫切危機!」近年全球爭相砸錢啟動的AI及LLM軍備競賽中,以歐美思維為主流,英語稱霸,中文則以中國大陸簡體中文的語意邏輯掛帥,繁體中文相對弱勢,直到聯發科的MR BreeXe出現,緩解了被「邊緣化」的危機。CTWANT記者採訪多位關鍵人士,得知了這場艱辛的技術研發過程,其實是一場文化保衛戰,連輝達聞訊後也上門,將去年底新推的AI超級電腦Taipei -1,交與聯發科訓練模型。業內人士表示,聯發科在1997年從聯華電子多媒體部門分出來後,「拿到的牌都是最差的那一種」,要人沒人、要錢沒錢,主攻的產業都是世界上最競爭最難的,然而蔡明介一路走來的經營理念,就是有一個頂級的公司,才能把人才留在台灣。聯發科從光碟機晶片組開始,一路做到全球行動通訊晶片第二大廠,蔡明介引領技術創新之際,也觀察到AI科技將扭轉局勢,2019年他親自拍板、督軍,成立聯發創新基地,負責AI的前瞻研究,「比很多業者都早發現AI的重要性,將會形成『革命性的轉變,就像一種新的電力。』」聯發科技協理葉家順表示。輝達去年底推出最新的AI超級電腦Taipei-1,讓聯發科第一個做訓練。(圖/翻攝自GoogleMap)「AI最重要的基礎就是大語言模型,聯發科是以技術力為主的公司,要做、就做對世界有影響的技術。」業內人士表示,聯發創新基地最初研究的是自然語言處理(NLP),是一種人工智慧的分支,可讓電腦理解、產生及處理人工語言,「最一開始的AI研究真是萬事起頭難,常改到死。」2022年6月蔡明介下令基地放棄舊研究,改成全力押寶生成式人工智能GenAI,並啟動首個開源繁中大語言模型,跟一級主管這樣說,「沒有人做,所以我們要做!」聯發科員工跟CTWANT記者說,當時董事長下軍令,但大家都面面相覷,OpenAI當時還默默無名,ChatGPT更是在2022年11月30日才發布,等於沒有任何前例可循,更何況是要做台灣為主的繁體中文系統,幾乎是從零開始。「聽到這個消息,我們的合作夥伴都很關切,頻頻問我們,怎麼做、你會嗎?當然不會呀!」聯發科員工表示,因為大家都知道做大語言模型的難度大、門檻高,一般單位是做不來的,聯發科在研究過程中也「踩了不少坑、撞得頭破血流」,但在其他陣營開發速度陸續放緩後,「這件事反而成了『社會對我們的期望』,得到很多夥伴的協助。」「最難的就是一開始,找不到適合的人才」聯發創新基地負責人許大山是加州柏克萊大學電機博士,曾任台大副教授,被學生廣為流傳的「年年書卷獎的台大電機學霸」。他跟CTWANT記者說,當時聯發科在AI頂級科學家圈內是沒有名氣的,花了很大力氣才能招募到人才,有了成果、上了幾篇國際級的論文,學者們認識我們,後續才比較順利。目前聯發創新基地在台大、劍橋、倫敦都有據點,「成員就像是個小的聯合國。」業內人士說。聯發創新基地負責人許大山。(圖/記者黃耀徵攝)聯發科「MR BreeXe」是以法國AI業者推出的Mixtral 8x7B開源模型為基礎去開發,繼承Mixtral多專家模型特有的節省運算資源、提升速度優勢,再加上聯發創新基地的訓練,在繁體中文測試項目(TMMLU+、MT Bench TW)超越GPT-3.5,並優化台灣常見之地端應用,提升產業界檢索增強生成(RAG)的體驗,還能一口氣處理4萬字的長篇資料,而Mixtral只能四千字。AI龍頭輝達得知聯發科在做繁體中文大語言模型,特別拿出他們去年底才推出最新的AI超級電腦Taipei -1,讓聯發科第一個跑數據、做訓練。截至4月初MR BreeXe正式發表,450億參數,比OpenAI兩年前發表的中文版ChatGPT3.5模型參數規模270億,遠超出一大截。「其實聯發科以繁體中文切入做大語言模型,是『緩解了一個非常迫切的危機』,」成功大學資工系教授黃敬群跟CTWANT記者解釋,以網路搜索來說,使用者14億人、源自中國的簡體資料在世界上的點擊量絕對高過台灣的,像是Google台灣就花了百人團隊去「平衡」,才讓台灣人看到的網頁搜尋符合需求,但到了AI時代,這些人工干預就失靈了。
龍年抄底時刻3/「新妖股」美超微甩輝達飆上千美元 法人:「這16檔」AI零組件次族群受惠
龍年台股開紅盤後,AI概念股仍是主場。尤其護國神山台積電(2330)年前法說會交出漂亮成績單後,市場緊盯AI晶片龍頭輝達(Nvidia)22日凌晨的財報公布,這段期間,台美股還出現「新妖股」,輝達供應商美超微(SMCI),2024年不到兩個月就大漲180%衝上一千美元,美超微嫡系廠台股麗臺(2465)也從70元起漲一度飆上128.5元。台股農曆春節休假期間,全球股市漲跌不一,陸股跌深政府護盤上證指數守住2700關卡,美股則在科技七巨頭領漲下創新高,台股也在封關前,也在台積電法說會上喊出長期毛利率53%可達成的利多加持下,衝上萬八,假期結束後也開出紅盤,接下來的走勢,就看AI晶片一哥輝達22日的財報公布。值得注意的是,這段期間美股狂飆最兇的,不是輝達(Nvidia),而是輝達供應商美超微。2024年元月,輝達股價從480美元衝上740美元,比美超微的285美元到529美元高出約150-200美元,但1月29日差距開始縮小,美超微加速直追,2月8日以698美元超車輝達的696美元後,更一路不回頭,2月15日直奔1004美元,一個多月大漲517美元,漲幅181%,遙遙領先輝達的50%。1958年次的美超微執行長梁見後(Charles Liang)是台灣嘉義人,國立台灣科技大學電機工程系畢業後,赴美德州大學阿靈頓分校修習電機工程碩士,1993年在美國成立美超微,主攻高性能伺服器市場。台股龍年開盤後,AI概念股也延續年前氣勢,推升台股指數續攻高。(圖/報系資料照)梁見後16日也受訪指出,以公司目前的產能來看,全年營收有機會上看250億美元,但關鍵還是需要更多的輝達晶片支援。「目前台股中的美超微概念股,廣義來說,有16檔,其中指標股就是板卡廠麗臺(2465)及封測廠華泰(2329),另外相關概念股還有板卡廠技嘉(2376)、微星(2377),矽智財的世芯-KY(3661)、智原(3035)、創意(3443);CoWoS部分則有台積電(2330)、日月光(3711)、京元電(2449)散熱廠奇鋐(3017)、雙鴻(3324)、建準(2421),以及AI伺服器代工廠廣達(2382)、緯創(3231)、英業達(2356)等。」法人指出。其中,麗臺更被市場視為「台股中的美超微嫡系廠」。麗臺是由盧崑山於1986年10月成立,主要生產顯示卡及繪圖卡,2023年8月辦2500萬股私募案,10月公告由大訊科技及肯微科技兩家公司吃下,大訊董事長梁見發及肯微董事長梁見達,二人都是梁見後胞弟,並在去年12月的麗臺臨時股東會上,各拿下一席董事。分析師李蜀芳指出,美超微大漲,身為嫡系廠的麗臺自然受惠,年前到年後一度連拉四根漲停,股價從80元到120元。儘管麗臺從19日開始被處置分盤交易當天,以跌停開出,但到了中午就回到平盤,甚至一度衝高來到差一檔漲停,由此可見市場買氣,「但是麗臺股價來到120多元,但2023年前三季仍是虧損,投資人操作時還是要多加留意。」麗臺在2023年的私募案由美超微執行長梁見後胞弟,大訊董事長梁見發及肯微董事長梁見達認購。圖為麗臺董事長盧崑山。(圖/報系資料照)「反倒是美超微的策略很明顯,就是朝一條龍模式發展,除了麗臺外,散熱族群可以留意。儘管散熱高價股奇鋐跟雙鴻出現漲多拉回,但他們雙雙守住5日線,至於低價散熱股,則是資金搶進的地方,整個財報公布之前,還是屬於搶錢行情。」李蜀芳表示。輝達股價雖被美超微超車,走勢仍持穩,台股相關概念股年後走勢,則與1月營收有關,廣達1月營收滑落到729億元,年減19%,股價走勢偏弱,技嘉1月營收169億元,創新高,年增105%,因此激勵股價一度飆上394元。輝達即將在台灣時間22日清晨公布財報。市場預估,輝達(2023年第四季)營收將超過200億美元,年增230%,每股盈餘約4.5美元,年增7倍。分析師王榮旭認為,「從台積電ADR在過年期間的表現,代表市場還是樂觀看待今年的營收表現,也可以推論,輝達的財報自然也不會有看壞的理由。」整體來看,2024龍年的台灣經濟及股市動能,仍會延續2023年的AI題材,而且族群會擴大,由原本以代工族群為主,擴大到零組件,包括機殼、散熱等。
手機龍頭尬車1/黃仁勳:「汽車將是有輪子的電腦」 聯發科揪輝達挑戰獨霸車用晶片的高通
2024年1月登場的美國消費性電子展CES上,主角似乎換人,從手機、電腦換成豪華汽車,除了電子大廠、就連傳統車廠也大推數位化,遊戲大老Sony用遊戲手把遙控旗下概念原型車AFEELA登台,德國賓士大秀「MBUX 虛擬助理」朗讀當日新聞、撥放客製化音樂;BMW則玩起車裡多人遊戲以及自動代客停車。「這會是百花齊放的經濟發展。」工研院產業科技國際策略發展所分析師王宣智表示,從這次美國CES展來看,汽車已不是傳統交通工具,大家都在討論「軟體定義汽車」,也就是汽車大部分的操作,可透過軟體進行管理,並創造全新體驗和功能,還可不斷升級,所以「汽車會變成像是電腦,讓更多業者參與進來,車不再是移動工具,而是變成『第三空間』。」而掀起汽車裡「第三空間」大戰的,除了傳統車廠、處理器晶片大廠英特爾及超微(AMD),行動通訊晶片龍頭高通(Qualcomm)2017年切入車用電子晶片,兩年後推出「驍龍」新系列,高通勁敵聯發科技(2454)去年也找上繪圖晶片起家的輝達(NVIDIA),聯手打造智慧座艙系統,預計2025年量產。這場大戰,已打成手機晶片一哥二哥在「尬車」。從1999年起全球3G通訊技術以CDMA(分碼多重存取)為標準後,最先將這個技術從軍規轉為商用的高通,可說是享盡紅利,從通訊專利到手機晶片,沒有一家手機廠商躲得過「高通稅」專利費。然而隨智慧手機普及,市場需求放緩,高通營收也下滑,去年全球裁員5%,第4季營收僅86.7 億美元、年減24%,主力商品手機晶片54.6億美元、年減27%,車用晶片雖僅有5.35億美元,但逆勢成長15%。儘管車用晶片營收數字占比不大,但高通看的是未來。小米總裁盧偉冰曾透露,一部手機需要114個晶片;然而汽車晶片則是超過上千個,天風證券數據表示,傳統燃油車約使用500到600 顆半導體晶片,但電動車則需1000到2000顆;也有外媒預估,高檔的智慧座車一台就要用掉4千顆晶片。高通的驍龍8295,已用在今年最新的豪華車款上。(圖/新華社、翻攝自知乎官網)高通在2019年推出的驍龍SA8155P,2023年再推驍龍SA8295P,均已打入大陸市場。最大宗的驍龍8155晶片採用台積電7奈米製程,有8核心,最多支援6個攝影鏡頭、連接3塊4K螢幕,也支援Wi-Fi6、5G和藍牙5.0;新一代驍龍8295,是5奈米製程,運算力是8155的8倍、GPU提升2倍,可帶動更大更多的螢幕、更強的遊戲畫面,以及內建語音AI,沒網路時還能運作。截至今年一月,包括大陸車廠吉利的極越01,極氪001 FR等高價電動車款都選用驍龍8295,小米即將推出的SU7也採用驍龍8295,未來手機和平板、甚至家電都能直接與車子連動。可說是除了特斯拉和華為,高通幾乎壟斷整個大陸新汽車圈的車用座艙晶片市場。然而高通獨霸的局面,即將出現新變數。2023年5月時,聯發科技執行長蔡力行拉著輝達執行長黃仁勳的手,向全球公開將合作打造Dimensity Auto平台,採用更高階的3奈米製程,預計2025年量產,進軍汽車智慧座艙系統商機,儘管起步較晚,但兩強合作引起業界極大關注。「汽車將會是一個科技展示區,成為有輪子的電腦!」黃仁勳在宣布合作時高喊,輝達投入汽車領域已經15年。這次拉幫結派,被業界認為是劍指高通。輝達在取得全球AI伺服器晶片龍頭地位後,持續擴大AI生態系,在剛落幕的CES展上即宣布,與賓士、工程模擬軟體暨技術大廠Ansys等一線大廠結盟。在台灣,輝達也與鴻海(2317)開發智慧駕駛相關技術,鴻海則為輝達生產NVIDIA DRIVE Orin電腦。全球車廠都在打造「軟體定義汽車」。(圖/賓士提供)「所以我們做智慧座艙與輔助駕駛系統,就是善用臺灣的ICT的優勢與軟實力。」鴻海旗下、專作車聯網領域的富智捷技術長徐宏民表示,剛好這兩年來,汽車產業出現破口,原本既有的贏家優勢不在,台灣有機會在這變革中找到自己的地位。法人表示,除了鴻海和聯發科,其他車用電子概念股,也包括做主控電腦的廣達(2382)、和碩(4938),功率元件的強茂(2481)、台半(5425)、虹揚-KY(6573)、朋程(8255),面板相關有毅嘉(2402)、友達(2409)、群創(3481),而ADAS有台積電(2330)、威盛(2388)、建準(2421)、晶宏(3141)、原相(3227)、詮新(6205)等,相關題材很多,其他新創公司也指日可待。
台積電漲價他成受害者? 晶片一哥聯發科重傷
市場傳出罕見調漲價格台積電(2330),將全面調漲成熟製程價格二成,先進製程則調漲約一成,受此消息衝擊,市場點名IC設計股毛利率將承壓,聯發科(2454)今(26)日股價有如溜滑梯一般往下走,最低觸及878元大跌33元跌3.62%。聯發科近來股價走勢疲軟,今年6月間數度出現千元價位,但7月來股價明顯不振,日前最低來到865元,近日反彈告終,今天受到台積電漲價,恐衝擊毛利率的消息衝擊,股價一路下滑,市值正式跌破1.4兆元大關,來到1.396兆元,單日市值約蒸發525億元。