AI算力
」 輝達 AI 台積電 華碩
不斷電商機1／吃電怪獸AI最怕「這件事」 BBU舊玩意藏升級商機400億養出新千金股
台股大盤11月底拉回、跌破季線時，卻有一族群逆勢大漲，叫做BBU（備援電池模組Battery Backup Unit），反覆登上熱搜及熱門股，不但電池模組廠AES-KY（6781）放量急漲，進入千金股行列，連傳產的台塑（1301）、台泥（1101）也分上一杯羹。「吃電怪獸」AI帶動的能源議題，已發酵多時，「不斷電」產業鏈也不算新鮮，為何外資十一月底狂賣2489.07億元、大盤蒸發557.93點之際，BBU逆勢堅挺走強？關鍵來自一份美系外資報告。摩根大通（J.P.Morgan）報告表示，通路訪查發現，輝達的GB200NVL72伺服器將採用BBU，從過去的選配成為「標配」。以輝達GB200機櫃需要140kWh的BBU，1kWh電池模組成本上看200美元，若2025年預估出貨五萬櫃，商機就約450億台幣。摩根士丹利、花旗證券等外資也調升AES-KY股價表現，一度讓台股多了一隻「千金股」， 「AI數據中心要用的系統，跟去年的完全不一樣，為了美國的數據中心，電力需求更高，所以電池能量密度、放電的功率要更高，各位看到這台新產品，就比去年的能量密度要多一倍。」台塑新智能總經理劉慧啓在今年10月能源周展場上推出的最新不斷電系統，就是為了美國AI客戶量身打造，台灣也有半導體公司在探詢，「畢竟AI算力很貴，很難承受因斷電造成的損失。」台塑新智能為美國客戶打造AI數據中心用的不斷電系統。（圖／黃耀徵攝）提到斷電損失，南亞科（2408）在8月13日下午就因雷擊造成桃園地區的停電，僅短短10幾分鐘沒電，就直接讓晶圓受損，設備也要維修，以及2至3天的復機工作，損失超過3億元。也有業內人士推算，台積電（2330）只要停電一小時，就可能損失約90億。然而，並非所有科技廠都有不斷電系統。前台電高層向CTWANT記者透露，「不是他們不想做，而是空間不允許。」他解釋，台電的電網相對老舊，導致常有跳電狀況，但廠商在科學園區的空間已用到極限，無法擴張，若AI這類型伺服器機房要裝傳統非常占空間的UPS（不斷電系統），恐怕要裝滿整個機房，實務上有困難。「UPS產業已經很成熟，使用的鉛酸電池壽命短，大約3到5年就要維護、抽換，優點就是便宜，現在講的電力備援系統BBU，是用鋰電池裝在機器裡，可用10年，但就是比較貴，而伺服器機房要盡可能塞入最多算力，商用型機櫃式UPS很大台、占空間，所以現在毫無選擇，就是要做多一點的BBU。」曾在科技界任職的財經部落客股魚表示，伺服器裡一定要設計電力的備援系統，在斷電瞬間幫系統救急，讓他趕快把手上的事情做完存檔。「大家聽到BBU會興奮，是因為這個舊玩意將迎來一個升級潮。」股魚表示，BBU是本來就有的設計，因為伺服器若碰到斷電，要用超級電容先撐幾秒鐘救急，然後啟動BBU、可以撐幾分鐘，再用UPS、這能撐幾小時，是一種「分段式防護」的概念，而現在是AI伺服器，就需要比過去更強的設計，除了BBU要升級，其他零件也都要跟著升級，像是超級電容和Flash也是關鍵，若納入設計，需求量會比過去暴增很多。台泥旗下能元科技電芯品牌Molicel已打入AI供應鏈的BBU系統。（圖／台泥提供）「以往BBU跟未來的BBU差很多，到2026年，也就是12到15個月以後至少相差10倍，應該會跳躍性往前走。」台泥董事長張安平在11月底的法說會上也表示，轉投資的能元科技旗下電芯品牌Molicel，已經打入AI 的BBU供應鏈，第4季開始，正式出貨5kW BBU電池給1家全球知名雲端服務商，也正與另外3家BBU客戶開發下一代電池。「一個BBU，通常裡面是70顆到100顆的電池，」大華國際投顧分析師阮蕙慈表示，BBU不會取代UPS，現在是打算在每一個機櫃裡面都單獨做BBU的設計、如果電力出問題時就先啟動自己的備援，所以像是臉書母公司Meta，在上個月的運算大會所揭露的新BBU規格，容量跟組數就幾乎多了一倍。不過也有業內人士提醒，BBU技術正向其他領域拓展，如電信基站、無人機、電動汽車等，未來應用場景將多元化，但BBU的鋰電池成本仍遠高於鉛酸電池，充放電的管理也比較複雜，因此不少終端客戶對導入BBU仍有不少疑慮，還要注意來自中國廠商的低價競爭。
阿爾發金融科技引爆AI理財革命 攜手國立雲林科技大學與翔耀實業打造AI智能財富管理平台
隨著政府全力推動「AI島」計畫，且已於7月開放AI算力池並持續推動完整的AI生態系，台灣AI智能財富管理平台領航者阿爾發金融科技股份有限公司(以下簡稱阿爾發金融科技)，與擁有強大AI算力開發的翔耀實業股份有限公司(以下簡稱翔耀實業)，以及專精大型語言模型(LLM)的國立雲林科技大學智慧辨識產業服務研究中心(以下簡稱雲科大智慧辨識中心)，於2024年11月14日正式簽署三方合作備忘錄，此舉標誌著AI智能財富管理邁入新里程，讓投資理財不再只是數據的組合，而是智慧與精準的創新結合，為使用者開啟更客製化投資時代。（圖／阿爾發金融科技提供。）AI理財，是超越傳統思維的智能服務阿爾發金融科技宣布將與國立雲科技大學和翔耀實業(股)公司展開深度合作，結合雲科大先進的AI技術背景以及翔耀高效能的AI算力池，共同創建推動智能財富管理平台， 這一創新聯盟將AI智能服務提升到前所未有的新層次，用戶將不再是冷冰冰的數據輸入者，而是與一個具備深度理解能力的AI智能服務，透過自然語言處理，與全面理解用戶的需求和偏好，可基於其獨特的投資目標與風險承受能力，可預測並提供量身定制的理財諮詢與建議。AI智能財富管理服務，是一場對未來財富管理的全新探索，用戶擁有一個全天候智能金錢管家，不僅能夠在最短時間內得到清晰且精準的理財規劃和資產配置建議，還能即時獲得個性化的財務規劃，讓每一分錢都經過科學計算與模型驗證，這樣的服務不僅大幅提高了理財效益，也突破了傳統人為金融顧問的服務邊界，為用戶開啟了無限可能的智能理財時代。（圖／阿爾發金融科技提供。）AI算力與大語言模型的無限融合，實現跨界共創楊琇惠董事長表示：「理財是一場心智與數據的較量，通過穩定且高效的資產配置，投資者能夠逐步實現財富自由，這是打造全新AI智能財富管理平台的動機，徹底剔除人性的偏見與貪婪，創造一個更高效、更理性、更智能的投資環境。」這一創新不僅是對金融領域的突破，更是對未來理財模式的全新構想。雲科大智慧辨識產業服務研究中心憑藉深厚的技術基礎，獲獎無數且擁有許多專利，尤其在永續發展目標與卓越成果貢獻方面表現突出。透過長期研究開發的深度學習模型，通過對海量文本數據的深度學習，使模型能夠洞察語言中的細微模式與結構，生成精確的文字摘要、問題回答及內容創建，此次合作能融入AI理財平台賦能的核心，對每個投資決策提供量化和視覺化的科學支持。而擁有亞洲首座採用H200晶片算力中心的翔耀實業，將為AI技術的升級與發展提供源源不絕的動力，讓更多的創新想法和未來技術得以實現 成為這場聯盟合作中的重要推手。（圖／阿爾發金融科技提供。）走在未來的前沿，成為行業的領航者根據台灣金融研訓院2024年的調查報告，目前有80%的銀行業者已展開生成式AI實驗項目。另外，麥肯錫2024年報告指出，目前有75%的銀行機構已經開始使用生成式AI，但大多數仍限於內部試驗，尚未實現規模化應用。相比之下，阿爾發金融科技已經在智能理財領域取得了領先地位，並正以最快的速度將最新的AI技術引入其平台，逐步實現AI驅動的全面升級。阿爾發金融科技作為台灣首家專注於智能財富管理的創新平台，將這些前沿技術無縫整合，打破傳統金融機構的桎梏，為投資者提供更加智能、靈活且個性化的理財方案。未來，隨著生成式AI的全面應用，阿爾發將引領全球智能財富管理的浪潮，成為行業的領航者。
算力即國力！ 鴻海劉揚偉：台灣發展AI最大挑戰是「這件事」
鴻海（2317）董事長劉揚偉23日出席台北國際電子產業科技展（TAITRONICS）與「AI創新應用聯盟（AIIA）」啟動儀式時表示，他贊同「算力即國力」、將會是世界上最珍貴的商品，AI不會泡沫化，但台灣發展AI的第一大挑戰，就是能源問題。鴻海在今年6月20日首度衝破市值3兆元大關，10月23日股價逆勢上漲至216元、漲0.23%，市值回到2.99兆元，距3兆僅一步之遙，劉揚偉被媒體問到股價看法時，他說股價表現就是反映一家公司的經營狀況，聚焦在「把公司做好」；被問到鴻海是否搭上AI列車，劉揚偉表示，「硬件」上有、「軟件」沒有。劉揚偉在午宴時以「台灣成為AI影響力中心的機會與挑戰」為題演講，他認為，目前市場正處於通用人工智慧階段，已實現聊天機器人，正在進展仿人類推理者的能力，下一步則是行動代理人、發明創新者、最後目標是組織協作者。也就是說，發展只是剛開始而已，未來還有很龐大的空間。劉揚偉說，有人擔心AI是虛假市場會泡沫化，但以目前AGI的發展、對算力的無止盡需求來看，AI不會是泡沫，已有基礎的商業模式，AI模型的推理成本，每年也以10倍的速度下降，預期未來AI在各領域的運用越來越廣泛，可望影響百工百業。台灣具有許多發展AI的優勢，劉揚偉表示，包括台灣有先進的半導體產業、非常完整的科技供應鏈、強大的研發能力、國際合作與拓展潛力，並抓住智慧化升級趨勢。而台灣的第一大挑戰，就是能源及環保的壓力，劉揚偉表示，AI算力需要用大量的電，尤其是當台灣全面轉向綠色能源的時候，挑戰也會更大；第二是地緣政治的風險，恐讓供應鏈面臨重組；第三則是技術人才的短缺，儘管經濟部計畫透過不同機制提供海內外20萬名AI人才，但「20萬不一定足夠。」第四個挑戰是全球競爭加劇，每個國家都在思考如何發展自己的AI，第五挑戰則是市場變化很快，每年AI算力都是2、3倍的提升，能源需求也大幅成長，這都會影響企業選擇科技與方向，因此除了要抓對方向，也要跟得上。
全村挺一人1／輝達AI革命引焦慮 半導體巨頭罕見齊聚台北大談矽光子
「那就是輝達呀！如果不是他們的AI晶片需求，台積電根本不需要去研究『矽光子』，這個完全不是他們的專業。」產業專家不諱言地告訴CTWANT記者，台積電去年提及研究「矽光子」，今年罕見攜手日月光，在9月3日宣布成立矽光子產業聯盟，號召30家廠商一起制定矽光子封裝產業標準，合作面對這項大挑戰。2022年底ChatGPT崛起而引爆的生成式AI，以及因應而生的大量GPU晶片需求後，對整體半導體的架構產生翻天覆地的變化，也是為因應「全村的希望」、AI晶片龍頭輝達執行長黃仁勳的需求。9月11日的高盛技術會上，黃仁勳講了兩個「難以置信」，一是客戶對最新一代Blackwell晶片的需求難以置信地旺，二是台積電在這領域裡的「敏捷性和響應需求能力，令人難以置信」。然而這場AI掀起史無前例的機會與焦慮，不但讓台灣最強的業者總動員，還引發全球科技廠的集體焦慮。9月初，全球半導體巨擘齊聚台北南港展覽館的SEMICON Taiwan國際半導體展，各國媒體蜂擁而至、彭博社還設攤直播，就連昔日「王不見王」的台積電與三星這兩家國家級護國神山，也破天荒坐在一起談未來。CTWANT記者三天觀察發現，包括歐洲、美國及韓國等各國最頂尖的廠商來台結盟綁樁，演講中不像以往大幅吹捧產品，反而把握機會在半導體產業盛會上敞開自家遇上的瓶頸與困難。邁威爾Marvell公司首席技術官Noam Mizrahi認為，光學是唯一可連結技術，去符合AI算力傳輸需求。（圖／陳曼儂攝）「輝達的GPU和所耗費的電力真的很貴，要確保頻寬、電力、延遲沒問題，不然錢就白花了。」邁威爾Marvell公司首席技術官Noam Mizrahi在半導體論壇上表示，目前用GPU做AI運算，有57%時間在等資料交換，對時間和金錢都是一大損失，「光學是唯一可以連結技術，去符合這麼大規模需求，以及解決頻寬延遲等問題，不同數據中心的串聯，也要靠光纖才能辦到。」「現在GPU和AI加速器是用電連結，若要變成光傳輸，要有不同調變方式、要縮小產品、不同的頻寬密度，才能減少耗能、達到率與成本問題，但這技術沒這麼容易，可能要等兩代之後，才會摸索出對的方向，進入光學無所不在的世界。」Noam Mizrahi提到矽光子技術的困難，是當前最大的挑戰。微軟全球副總裁 Rani Borkar在論壇說，「我從事這產業30年，第一次看到所有業者都在辯論未來，因為AI是半導體的文藝復興！」就算是龍頭微軟，他們也面臨三大瓶頸，第一是硬體系統沒有趕上AI模型需求，「前端需要的運算，每兩年成長十倍，這速度是摩爾定律的五倍，目前的基礎建置與產品都無法達到他的需求，整個領域面臨平台的重新設計，需要整個產業動起來，包括晶片、封裝、記憶體、基礎建設、冷卻方案、網路、電力等，才能推動AI所需的數據流動。」微軟全球副總裁 Rani Borkar提到目前AI面臨三大瓶頸，需要全產業鏈的新變革。（圖／翻攝自SEMI國際半導體產業協會臉書）第二個瓶頸就是高耗能，Rani Borkar說，AI導致全球電力會在2020年到2026年成長一倍，運算和冷卻方式都要變革；第三瓶頸就是產能展望，「我們看到AI高速成長，要買更多晶片、高效記憶體、更多加速器，說來容易，做起來一點都不輕鬆，打造工廠是重大投資，三四年前就要決定，但預測需求非常困難。」「現在真正的問題是維持供應鏈的韌性，因為需求起起落落，」Rani Borkar也了解台灣產業在革命的陣痛期，他向在場業者們呼喊「我從心底感謝大家，是你們做出了重大推動。」在克服重大瓶頸的關鍵時刻，「我們現在做的決定，將改變未來。」這些話也證明，台灣業者在這場革命中，已難以置身事外，而且還是在最花錢的第一線。就算是競爭對手，也得坐下來一起面對。4日登場的「大師論壇」，首度請到台積電共同營運長米玉傑和三星電子總裁李禎培（Jung-Bae Lee）同台，儘管他們在台上沒互動、相敬如賓，但也引發日韓媒體熱議。「韓國和台灣半導體業者『罕見』尋求更密切關係」，日經亞洲（Nikkei Asian）報導，李禎培這次在台灣說，「三星努力為我們的客戶提供代工靈活性，這意味著合作不僅限於三星」，儘管三星有一條龍自己來的能力，但也暗示著會與外部業者有更多合作。而韓媒《經濟日報》及《Business Korea》直接加碼報導，三星和台積電要破天荒結盟、共同研發無緩衝(bufferless)的HBM4晶片，計畫2025年下半年量產。而SK海力士總裁金柱善更直接在半導體論壇上「示愛」，這是他今年第10次來台灣，因為台灣半導體重要性與日俱增，台灣與韓國應緊密合作，「如果沒有合作，AI目標不可能達成。」
AI新勢力1／「吃電怪獸」引爆能源話題 這小子挑戰教主「用這方法」就不需新核電
首場「國家氣候變遷對策委員會」8月8日啟動，4小時的能源議題討論中，核電從「反核」或「擁核」是非題，轉為「多選題」，擔任副召集人的和碩董事長童子賢以深知企業購買綠電苦楚而力挺核電，尤其台灣經濟邁入AI新世代，「沒電力」就等於「沒國力」。童子賢挺核主張，關鍵源自ChatGPT問世掀起全球AI人工智慧巨浪，輝達執行長黃仁勳被冠上「AI教父」，然而獨霸AI晶片市場的輝達GPU，跑出超級算力也極度耗電，成了「吃電怪獸」，科技大咖急尋解方。不過，「『CPU+GPU+NPU』能一舉解決AI設備又貴又耗電的痛點。」這話出自43歲的耐能（Kneron）創辦人暨執行長劉峻誠。凱米颱風襲台前夕，台北市電腦公會7月23日舉辦「迎向AI新時代-從COMPUTEX看台灣資通訊產業的下一步」記者會，CTWANT記者觀察，現場座無虛席，賓客不畏風雨，就是為了聽童子賢的AI與核電看法。記者會上，主持人做球給童子賢，將話題轉向能源議題。童子賢滔滔不絕地解釋，台灣去年用電2821.4億度，3、4年後就會超過3000億度，若一度發電成本差1元，一年就要多花三千億元，「如果搭配3成綠能、3成核能，以及4成火力發電，這樣經濟效率較高的排列組合，省下經費就可以彌補健保的缺口、高等教育跟研究的需求，這樣更有意義。」「沒電力就沒算力，沒有算力就沒有國力！」童子賢慷慨激昂地開出解方，必須要重新考慮核電，其他大老也連連贊同時，輪到坐在最邊邊的第七位演講者，卻說出不同看法。「完整的（AI運算）系統應該是CPU+GPU+NPU」，而非單純用GPU跑AI，因為代價太大，用了NPU這樣的低功耗晶片後，「就不需要像童董事長一直在講的，甚至要蓋核電廠才有電力去支持這種運用。」劉峻誠一開口，竟然直球對決童子賢，台下引起一陣騷動。圖為氣象署第6代高速運算電腦，也建置GPU架構系統。（圖／報系資料照）不同處理器在AI系統中扮演不同角色，CPU（中央處理器）為電腦核心處理單元，負責執行和控制，處理基本運算和邏輯運算，GPU（圖形處理器）為了圖形和影像處理而生，擅長並行處理大量數據，隨深度學習興起，被廣泛應用於AI運算中，NPU（神經處理器）專為AI推理任務設計，能在低功耗情況下高效執行深度學習模型。在輝達GPU制霸下的AI算力有多耗電？國際能源總署（IEA）提到，使用Google搜尋網路，平均每次耗電0.3Wh，使用ChatGPT平均耗電2.9Wh，將近十倍。高盛證券預估，2023年至2030年間，全球AI資料中心對電力需求將增長160%，特斯拉執行長馬斯克甚至憂慮，未來兩年「晶片荒」將轉為「電力荒」。經濟部能源署也「保守估計」，在AI帶動下，我國用電量10年將增加32%，拉高到3641億度左右。據此，當各國及科技龍頭展開AI算力軍備競賽，巨資向輝達購買GPU，同時也面臨接踵而來的耗電與排碳問題。Supermicro美超微全球業務資深副總裁周政賢向CTWANT記者表示，AI運算要大量的電，部分是為了散熱，所以「液冷」技術開始受重視，畢竟「新設電廠在許多國家，都不是件容易的事。」IP矽智財大廠安謀Arm執行長瑞恩‧哈斯日前也表示，到2030年，AI資料中心會消耗美國電力20到25%，比現在的4%大幅增加，所以他們現正砸錢研究如何降低人工智慧技術的功耗。NPU業者劉峻誠給出另一個方向，「GPU其實不適合跑AI，因為他太貴、太耗電，台灣總不能到處都蓋核電廠。」「如果我們把NPU真正發揚光大，台灣就不會在AI時代只是個製造和代工業，是我們能真正掌握、自建專屬台灣且有影響力的AI。」AI時代需要大量電力，讓核電廠的存廢引發各界關注。（圖／CTWANT資料照）「年底有好幾家雲端大廠，已經非常明確要做『類NPU』架構，而且是國際的一線大廠，這事正在發生！」劉峻誠得意地向CTWANT記者說。事實上，英特爾去年推出的新款Core Ultra處理器晶片，測試20次AI圖像生成時發現，NPU執行任務要20.7秒，僅花CPU一半的時間，功耗更降低75%，只有10瓦，優於GPU的37瓦，整體效率提升7.8倍，若將NPU與GPU結合使用，處理時間更僅需11.3秒，最後推出結合三種模式的晶片。一位業內人士向CTWANT記者表示，這類型CPU+GPU+NPU的做法，會越來越普遍，雖然GPU的算力還是比較強，但應用在消費性電子產品上，NPU的省電優勢不容小覷，而輝達GPU獨霸的AI高算力系統，要如何擺脫吃電怪獸的桎梏，大家也拭目以待。
雙北高雄台南四首長急向黃仁勳招手 「輝達AI設計中心來我這」
輝達（NVIDIA）執行長黃仁勳訪台參訪台北國際電腦展（COMPUTEX），不僅成為鎂光燈焦點，受訪時所說的每一句話，也都成為業界焦點。黃仁勳於3日晚間受訪時表示，輝達將在未來5年內，在台灣設立一個很大的設計中心（Design Center），至少會僱用1000名工程師，並歡迎大家「推薦地點」。消息一出，幾個條件不錯的縣市，紛紛開始積極連繫爭取。據了解，輝達申請經濟部的領航企業研發深耕計畫於2021年通過，該計畫總經費約新台幣243億元，經濟部補助67億元、輝達自籌176億元，其中一項計畫便是在台灣成立首座AI研發中心。由於興建大型設計中心需要很大的腹地，外傳設在台南、高雄的機率較大，但新北市長侯友宜在今（4）日議會總質詢時表示，新北市經發局已和輝達聯繫，希望能爭取輝達進駐，並提出樹林大柑園、三峽麥仔園、泰山楓江案等三個可能的地區供輝達選擇。新北市經發局長何怡明指出，目前提供給輝達的是新北市的產業布局及整體AI環境介紹，台北國際電腦展後，會再以互相對接交流方式，說明新北市整體投資環境。成功爭取到台積電新設3座2奈米晶圓廠的高雄市，對於輝達設計中心也展現積極態度。高雄市長陳其邁表示，未來是「生成式AI」的時代，需要更大的運算能力，鴻海與輝達合作打造的先進AI算力中心已宣布要在高雄軟體園區設立，加上高雄有陽明交大、清大等頂尖大學進駐，在產學合作上有相對的優勢和經驗。陳其邁說：「機會是劉給準備好的人！」高雄在爭取輝達設計中心進駐絕不會缺席。除了高雄，台北市長蔣萬安也說：「台北市已經準備好了。」蔣萬安表示，AI發展絕對不只是軟硬體，更需要優秀人才和宜居的環境，而台北市是國際大都會，同時又匯聚最具創意和研發人才，是輝達的最佳選擇。至於台南市，由於南科的發展已日趨成熟，台南市經發局也表示，將在南科的基礎上再提出配套，會積極爭取輝達設計中心進駐。
正崴攜優必達斥20億建AI綠能運算中心 華碩成「獨家供應商」
由於台灣在AI算力方面持續成長，正崴集團（2392）今（27日）在新北土城總部舉辦「打造台灣AI革命運算基地」簽約儀式，華碩（2357）成獨家硬體供應商。並宣布與旗下森崴能源，攜日商優必達（Ubitus）共同合作，斥資20億元建置規模達128台的H100伺服器「超級運算中心」，負責算力服務及AI應用，以全面強化提升台灣運算的全球競爭力。正崴集團今日舉行兩場重要簽約儀式，一是與華碩集團簽署GPU設備採購合約，其 128 台 H100 將由華碩生產提供，建置超級運算中心；另是與日本優必達公司簽訂全球戰略夥伴，共同成立「優崴超級運算公司」，結合優必達的軟硬技術進行管理營運。董事長郭台強表示，優崴超算由優必達49%、正崴持股41%、森崴能源10%，未來的營運將同時提供AI算力與相關應用，希望其投資的新台幣20億元資金能在5年內進一步回收。郭台強補充道，目前正崴已投入初步的建廠規劃，第一期預定將在今年第四季，即可完成128台、共1024片AI運算加速卡的運算中心，建置完成後，將成為亞洲最大且算力最快的AI綠能運算服務中心。除了搭載 H100 AI晶片的伺服器外，後續還將積極爭取最新的GB200的AI晶片。而且會根據市場需求，繼土城後，續在新竹、台中、台南等地建置AI運算中心。郭台強進一步指出，利用AI算力提升企業和國家的整體競爭力，協助企業將「產業AI化」與「AI產業化」，未來只要台灣有需要，正崴集團將全力支持投入建置最新的運算基地。森崴能源也不斷聚焦能源轉型，有超級運算中心，不能沒有超級電力加以支援。同時，優崴超算透過國內外所有科技夥伴全力相挺，共同打造台灣成為全球AI先進製造中心及綠能發展的重要基地。
輝達在台設亞洲首座AI研發中心！2年聘用400人 經濟部：對我人才素質滿意
AI大廠輝達（NVIDIA）前年來台設首座亞洲AI研發中心，總投資金額243億台幣，至今已僱用400名員工。經濟部技術司26日表示，輝達目前研發順利，也將協助我廠商進行AI應用開發，對我人才素質感到滿意，相信將來會有在台設第二座研發中心考量。輝達是2021年申請人工智慧創新研發中心計畫，經濟部補助67億元，2022年起台灣AI研發中心成立，地點設在台北內湖，同時承諾2027年要僱用到1000名員工。這座亞洲第一個研發中心，主要進行AI晶片研發與GPU圖形處理器，還建立了全台最大的超級電腦「Taipei 1」，日前經濟部代為宣布，「Taipei-1」要免費提供AI算力給產官學研究與新創作研發使用，可幫助我國投入生成式AI、大型語言模型、數位孿生等前瞻研發。經濟部技術司長邱求慧說，輝達在台投資計畫不只設研發中心，還包含分享超級電腦資源給業界，並參與台大、清大的AI人才培育，已有6、700人受惠。另外，讓我研究機關、產業界參與AI技術與產品研發專案，支持中小企業與新創導入AI應用等。技術處官員表示，已對輝達研發中心做了三次驗證，2年來已聘用400人，都符合當初計畫要求。目前輝達對台灣人力素質與成本都表示滿意，相信未來會考慮在台設第二座研發中心。對輝達創辦人黃仁勳選擇台灣，邱求慧說明，主要是台灣在硬體、基礎建設、人才方面都有優勢，人才具高度專業和工作紀律，加上半導體生態體系完整等。輝達研發中心除了帶動對台投資外，官員表示，也具有提升台灣研發能力效益。該中心目前運用GPU技術，與台灣廠商共同進行AI應用開發，聚焦在人工智慧領域，包括鑑別式AI和生成式AI。其他還有與國內ICT業界的研發合作，協助我推動智慧工廠轉型。
台股封關「就快萬八」！全年漲3793點 法人看2024「將是AI導入企業爆發期」
台股今天（29）封關，盤中最高來到17945.70點，萬八就差臨門一腳，攻勢熄火，終場收在17930.81點，上漲20.44點，AI概念股、光電股、散熱模組、觀光股為焦點，台積電收在593元。今年一整年上漲3793點，創歷年來第二高漲點。統一投信副總經理林鴻益指出，2024年將是最多企業導入AI專案的時期；統一投顧預期2024年整體企業獲利達3.5兆元，年營收增長率YoY獲利成長達18.3％，其中電子業因庫存調整結束，加上AI商機在2024年爆發，獲利動能最強。由於企業獲利的高點落在4Q，將推升2024年台股再創高點。在投資佈局上，建議聚焦於AI商機（Server、ASIC AI、Edge AI）、手機新科技、記憶體及DDR5概念、ESG（EV充電樁、ESL）、景氣復甦（鋼鐵、散裝）、汽車零組件、紡織鞋材、新劑型新藥、殖利率高的金融股等產業與題材。統一證券29日舉辦「2024年投資展望會」，左起為統一投顧證券分析師陳杰瑞、統一投信副總經理林鴻益、統一證券副總經理張宏碩、統一投信總經理董永寬、統一證券副總經理葉明杰。（圖／統一證券提供）針對AI商機，統一投信副總經理林鴻益指出，2024年將是最多企業導入AI專案的時期，將提高營運效率及創造新營收。AI雲端巨頭客戶數大增，顯示出市場對AI的強勁需求，相關雲端產業於2023年下半年大幅提升支出，加速刺激AI的發展。先進封裝製程作為AI基礎建設的核心技術，將在 2024上半年持續供不應求。若AI算力投資能顯著提高企業生產力，未來可望見到更多AI驅動的殺手級應用誕生，促進產業蓬勃發展。襲捲全球的AI浪潮及新興科技投資機會，有望成為投資人2024年的布局重點。統一證券副總經理葉明杰表示，由於美國通膨和就業相關數據於今年第四季趨向疲軟，預計美國整體貨幣政策在明年有機會見到拐點，但考量到目前美國整體經濟數據仍有韌性、通膨還不到Fed目標，明年經濟前景軟著陸的可能性較高，降息時點預計距離現在仍有兩到三個季度。
PC手機需求趨穩＋3奈米產能強勁 台積電11月營收2060億元寫同期次高
晶圓代工龍頭台積電（2330）上周五（8日）公告11月營收2060億元，月減15.3%、年減7.5%，仍創同期次高、歷史第6高；累計前11月合併營收1.98兆元，年減4.1%。台積電認為，隨著PC、手機客戶需求趨穩，加上AI需求強勁，推升3奈米量產動能，明年將會是健康成長的一年。根據台積電對第四季展望預估，單季營收營收介於188至196億美元，季增約8.8至13.4%、年減1.7～5.7%；若以新台幣兌美元 32比1元計算，上看6262 億元；累計10、11月合併營收已達季營收目標約73.1%，法人預期應可順利完成財測目標。台積電先前法說時指出，半導體產業庫存雖持續調整，但受惠3奈米需求持續強勁成長、可望減緩對公司影響，帶動第四季營收持續回升。且隨著PC及智慧手機終端需求趨於穩定，預期庫存水位可望在年底達到更健康水準，加上 AI 持續強勁，推升3奈米量產動能，明年預計會是健康成長的一年。展望後市，台積電總裁魏哲家上周四（7日）在2023年供應鏈管理論壇中表示，半導體是AI應用發展的關鍵，受惠AI應用迅速發展，2024年也將是充滿機會的一年。而隨著AI算力需求在未來2年內可能輕易增加3倍，降低能耗將變得越來越重要。台積電也將於本周四（14日）將進行除息交易，每股配發現金股利 3 元。
老廠成飆股2／「兩個月漲三倍拉回後能進場嗎？」 分析師：能否站回月線是強弱關鍵
台股2023年前三季可說是AI概念股元年，直到近兩個月PCB概念股才甦醒，飆股定穎（3715）兩個月漲三倍後近期漲多拉回，不少投資人在問，現在能進場嗎？法人告訴CTWANT記者，定穎主要買盤來自本土投信，不過10月以來有轉買為賣的跡象，「定穎基本面上沒有太大問題，但技術線型來看，建議投資人觀察，股價在沒有站回月線之前，先保守以對。」PCB產業年度盛事2023 TPCA Show 台灣電路板產業國際展覽會27日甫落幕，對於產業後市，台灣電路板協會理事長李長明表示，2023年是充滿挑戰的一年，當前電子產業正面臨著來自通膨升息、庫存去化以及消費低迷等多重挑戰。然而，台灣PCB憑藉其先進的半導體技術和完整的電路板供應鏈，正積極邁向高階製造，成為全球電子供應鏈中不可或缺的夥伴。就PCB概念股中的大飆股定穎控股，華冠投顧分析師范振鴻分析，定穎投控最大的營收佔比毫無疑問是車用HDI板，營收佔比高達70%，更仔細的來看，截至今年上半年，定穎的電動車相關營收佔比已經上升到20%，「綜觀全PCB族群，要有這樣的營收佔比數據是沒有第二家廠商可比擬的。」敬鵬也是車用電路板大廠，法人指出，但電動車比重稍低於定穎。（圖／翻攝自敬鵬官網）同樣以車用板為主的還有敬鵬（2355），其車用產品占比更高，為80%。不過不同的是，敬鵬的產品大部分是應用在油車上面，而敬鵬的電動車營收占比仍低於10%。范振鴻說。根據IEA（國際能源總署）預計，2023年全球電動車的年銷量將達到1400萬輛，年增長35%，估計市場滲透率將突破16%。范振鴻也指出，以基本面的角度來探討，范振鴻說，定穎目前電動車客戶涵蓋了歐系Tier 1及美系電動車客戶，在電動車滲透率逐年提升的情況下，相對電動車的營收貢獻也會逐年擴大。除此之外，市場熱門討論話題之一的自動駕駛系統，除了AI算力需要大幅提升之外，硬體方面也必須跟著升級，范振鴻說，定穎近期也就受惠於這項利多，客戶拉貨力道強勁，帶動公司整體的產能利用率提升，使得整體毛利率逐季攀升。總的來說，除了受惠市場逐年擴大需求量快速成長、高階產品出貨暢旺毛利率持續提升的情況下，定穎的獲利也就有望逐年攀升。電動車銷量持續增加，也推升PCB需求增溫。（圖／新華社）
擺脫輝達獨霸？ 6大科技巨頭群起自研AI晶片
據科技媒體The Information昨天（7日）引述知情人士消息報導，微軟、OpenAI、特斯拉、谷歌、亞馬遜、Meta這六大科技公司正在研發自家的AI晶片，預計會與輝達（Nvidia）的旗艦級微處理器H100 GPU競爭，且可能有助於降低成本及減少對輝達AI晶片的依賴。輝達如今已是當之無愧的「AI算力王者」，A100/H100系列晶片佔據金字塔頂部的位置，但用戶面對輝達的獨霸天下，吃盡了成本高昂的苦頭。據華爾街投行伯恩斯坦（Bernstein）的分析，ChatGPT單次查詢的成本約4美分（約新台幣1.2元），若要將搜尋量增長到谷歌的十分之一，每年將耗費約481億美元的GPU，以及約160億美元的晶片來維持運行。所以無論是為了降低成本，還是減少對輝達的依賴、提高議價能力，科技巨頭們都紛紛下場自研AI晶片。微軟計劃在下個月的年度開發者大會上，推出該公司首款為人工智慧（AI）設計的晶片。事實上，The Information曾報導過，微軟自2019年以來就一直在開發一款代號雅典娜（Athena）的專用晶片，用於為大型語言模型提供動力。該晶片將由台積電代工，採用5nm先進製程，計劃最早於明年推出。有分析師表示，開發類似於雅典娜的晶片可能每年需花費約1億美元，ChatGPT每天的營運成本約70萬美元，大部分來源於昂貴的服務器，如果雅典娜晶片與輝達的產品擁有同等競爭力，每個晶片的成本將可以降低三分之一。OpenAI也正在探索製造自研人工智能芯片，並已開始評估潛在的收購目標。報導稱，至少從去年開始，OpenAI就已討論各種方案，以解決AI晶片短缺問題。OpenAI已與包括輝達在內的其他晶片製造商更密切地合作，以及在輝達之外實現供應商多元化。電車大廠特斯拉則立足於智能駕駛，目前已經推出了兩種自研晶片，分別為全自動駕駛（FSD）和Dojo D1晶片。FSD晶片用於特斯拉汽車上的自動駕駛系統；Dojo D1晶片則用於特斯拉超級計算機Dojo片，它是一種通用的CPU，目的是為了加速特斯拉自動駕駛系統的訓練和改進。谷歌也早在2013年，就已祕密研發一款專注於AI機器學習算法的晶片，並將其用在內部的雲端計算數據中心中，以取代輝達的GPU。這款自研晶片「TPU」於2016年公諸於世，可以為深度學習模型執行大規模矩陣運算，例如用於自然語言處理、計算機視覺和推薦系統的模型。谷歌實際上2020年便已在其數據中心部署了AI晶片TPU v4。不過直到今年4月才首次公開了技術細節。亞馬遜從2013年推出首顆Nitro1晶片至今，AWS是最先涉足自研晶片的雲端廠商，已擁有網路晶片、伺服器晶片、人工智慧機器學習自研晶片3條產品線。AWS自研AI晶片版圖包括推理晶片Inferentia和訓練晶片Trainium。2023年初，專爲人工智慧打造的Inferentia 2（Inf2）發佈，將計算性能提高了三倍，加速器總內存提高了四分之一，可通過晶片間的直接超高速連接支持分佈式推理，最多可支持1750億個參數，這使其成為大規模模型推理的有力競爭者。Meta直到2022年，還主要使用CPU和專為加速AI算法而設計的訂製晶片組合來運行其AI工作負載，但CPU的效率往往不如GPU。後來Meta取消了於2022年大規模推出訂製晶片的計劃，轉而訂購了價值數十億美元的輝達GPU。為扭轉局面，Meta已經在開發內部晶片，並於5月19日公布了AI訓練與推理晶片項目。據介紹，該晶片的功耗僅為25瓦，佔輝達等市場領先供應商晶片功耗的一小部分，並使用了RISC-V（第五代精簡指令處理器）開源架構。
輝達攜手信實工業、塔塔集團 深化印度AI領域
據路透報導，輝達與印度信實工業（Reliance）、塔塔集團（Tata Group）8日傍晚發佈聯合聲明，將合作設立超級運算設施，共建印度本土大型人工智慧（AI）語言模型，讓AI技術更好地為14億印度人服務。聲明中提及，輝達將提供建構AI雲端基礎設施所需的運算能力，信實工業旗下的電信公司Jio，則將管理和維護人工智慧基礎設施，並監督客戶參與，目標在印度當地設立「較當前印度最快超算強大一量級」的人工智慧基礎設施。輝達也將向信實提供最先進GH200超級晶片，並向合作夥伴開放接入DGX AI算力雲端服務。輝達總裁兼CEO黃仁勳表示，很高興能與信實合作，在印度打造最先進的人工智慧超級電腦，印度具有人才、數據和規模，憑藉最先進的算力設施，信實能夠構建自己的大型語言模型（LLM），為印度本土的生成式AI（AIGC）應用提供支持。擁有頂級算力後，Jio還將與輝達合作開發適合印度國情的大語言模型。印度有著非常複雜的語言系統，據統計，該國一共有1652種語言和方言，其中使用人數超過百萬就有33種。印度憲法規定了18種語言作為聯盟官方語言，另外還使用英語作為行政、司法用語。這種特殊的國情，也讓AI龍頭們一個接一個發起挑戰。輝達在聲明中稱，人工智慧可以幫助農民用當地語言與手機互動，獲取天氣和農作物價格的資訊。同時在醫生緊缺的地方，也能提供醫學症狀和影響掃描的專家診斷。同時人工智慧還能更好地預測災害性天氣，使處於危險的人們及時疏散。黃仁勳在本周一（4日）剛訪問印度，並獲得印度總理莫迪的親自接見。會後莫迪也在社交媒體上表示，兩人詳細討論了印度在人工智慧領域提供的豐富潛力。印度政府預期，印度本土晶片市場到2028年的規模將從目前的230億美元翻倍至800億美元。
70歲AI衝浪王1／施崇棠掌舵30多年功力發威 華碩2個月火速建置台版Chat GPT「福爾摩沙大模型」
生成式AI熱潮掀起之際，台灣不落人後，與ChatGPT3.5同級的「福爾摩沙大模型」（Formosa FoundationModel，也可稱Formosa Chat）在5月17日亮相，它不但是首個繁體中文商用AI大模型，還可選擇地端（企業自家機房）建私有雲，它所需的超級算力「台灣杉２號」，幕後關鍵推手全是今年70歲華碩董事長施崇棠。「他（施崇棠）會念很多國外AI論文，跟我們討論。」台灣杉2、3號主持人、台智雲總經理吳漢章說，「去年底生成式AI出現、Chat GPT橫空出世，他看到『生產力革命』已經到來，並認為「『算力』將是驅動未來數位經濟，最重要議題。」在施崇棠一聲令下，吳漢章與超級電腦團隊待命，使用Bloom-zh繁體中文大模型開源，火力全開密集訓練、快速建置出福爾摩沙大模型，不到兩個月就在華碩AI超算年會中面世。近年鮮少出席公開場合的施崇棠，親自出席自家的超算年會，發下豪語要打造「AI Foundry」，興致勃勃地站在AI浪尖上，再展事業雄心，一如他27歲進入宏碁電腦，進入電腦產業「有幸躬逢其盛」，十年後成立「華碩電腦」，「開創一家電腦技術天下無敵的公司」初心。在全球PC市場裡，華碩（ASUS）與宏碁（Acer）「雙Ａ」品牌各擁一片天，而在詭譎多變的市場中，施崇棠不時運用孫子兵法策略，例如「蛇」般靈活推出主流產品頭尾夾擊，以「巨獅」做大衝量吃市佔、「銀豹」衝刺利基高值化產品，為業界津津樂道。在2017年11月華碩首款家庭智能機器人「小布（Zenbo Qrobot）」誕生，這款陪伴型機器人會說故事、教英文、打電話、拍照。（圖／報系資料照）這位前參與打造台灣成為電腦王國的大將，從電腦、筆電、手機做到伺服器，2015～2017年間面臨營收連續3年下滑，始終無法突破集團總營收5千億關卡，施崇棠清楚觀察到，筆電、PC及手機市場成長到了天花板，轉向AI人工智能尋求突破機會。在2017年11月，華碩推出首款家庭智能機器人「小布（Zenbo Qrobot）」見面會在北京舉行，這款會說故事、教英文、打電話、拍照的陪伴型機器人，一度造成轟動，儘管當時營收獲利貢獻有限，能量迄今延續到智慧醫療領域。2018年，華碩斥資百億進軍智慧醫療，施崇棠還親自挖角有微軟及Google經歷的黃泰一，在淡水總部大樓裡打造百人AI部隊智慧醫療，並與廣達、台哥大等參與打造台灣超級電腦台灣杉2、3號，吳漢章表示，基於各國家、文化、產業等情境不同及資安考量，「台灣需要一個基於本土算力的語言模型。」兩年前華碩進一步成立「台智雲」，接手台灣杉2號營運。從3C產品「硬體」切入AI算力「軟體」，施崇棠保持「躬逢其盛」，尤其Chat GPT去年底問世後，整個華碩的AI團隊通通上緊發條，他們很快發現，「因為ChatGPT生於美國，繁體中文資料比例低於0.1％、簡體中文資料不超過2％」，華碩營運長暨台智雲董事長謝明傑指出，「大部分是英文的腦，中文的腦相當少。」因此今年二月間聯發科將繁體中文生成式AI「BLOOM-zh」開源釋出後，台智雲靠著台灣杉2號超級算力，使用「BLOOM-zh」建置福爾摩沙大模型，大量「餵入」1760億個參數、比Chat GPT3.5還多10億個，相較於Chat GPT資料停留在2021年9月，福爾摩沙大模型持續更新資料；如此可以降低答非所問、「跟使用者道歉」的機率。「可以把『參數』理解為人類的神經元，讀了越多書、資料庫越多」，華碩雲服務事業部主管在AI超算年會現場展示攤位解釋，Formosa Chat除了繁體中文環境，還會講英、日、德、越南等46種語言，像是個飽讀詩書的大學生，正在實習，7月就開始正式到社會工作，「一些翻譯、分析企劃，寫簡單新聞稿、程式的工作，可以交給他」，目前規劃僅限企業使用。「每個問題是獨立的，別人不會知道你問了什麼，具高度隱私與資安防護。」依各行業需要的不同，如零售、電商、SaaS（軟體服務）等，會有相應的語言模型。這個生成式人工智慧雲即將在7月開放客戶申請，一個月費用約6萬元。台智雲華碩營運長暨台智雲董事長謝明傑（左）、台智雲總經理吳漢章（右）領軍團隊，已拜訪數百家機構，有成功替新加坡商場建立保全服務經驗。（圖／趙世勳攝）最近OpenAI執行長阿特曼（Sam Altman）應邀求出席美國參議院司法委員會聽證會，就是被詢問AI風險控管，而華碩已經提出解決方案－台智雲全球首創的服務「AFSAppliance（大型語言模型地端部署）」，內有散熱模組、2個CPU、32支記憶體，輝達A40視覺運算GPU則可依需要選1～8組，依不同需求，價格落在60～300萬，「如果醫療、金融、法律、製造、會計等，具機敏性、規範更高的企業，或訂製服務，就可以購買AI伺服器，放在公司裡變私有雲」。「福爾摩沙大模型，將是東南亞最安全語言模型。」吳漢章指出，台智雲有200人研發團隊，已經拜訪數百家機構，有成功替新加坡商場建立保全服務經驗：「客戶如果是企業自建AI團隊，會需要20個以上工程師、千倍以上的成本。」尤其對人力精簡、又需要算力的中小企業來說，是最佳解決方案。問及訂單情況，他含蓄表示：「不缺客戶。」
70歲AI衝浪王2／Formosa Chat讓台灣接軌生產力革命時代 「打造台智雲成AI界台積電！」
華碩旗下台智雲日前發表「福爾摩沙大模型」，讓台灣在生成式AI大浪不落人後，主要歸功於超級電腦「台灣杉2號」，這是東南亞唯一的高階商用AI算力。「台灣擁有比鄰近國家，更優越的算力動能，已進入AI2.0時代。」參與打造台灣超級電腦的華碩董事長施崇棠說。全球僅25座商用AI超級電腦，台灣杉2號是其中之一，由此可見算力的稀缺性；台智雲總經理吳漢章是當時競標超級電腦的團隊主持人，指出當時有國內外數個團隊積極參與，不過團隊以算力勝出，而且評審團相當看重技術自主，造就本土團隊的優勢。台灣杉2號是在陳良基科技部長任內的建設，他5月17日出席超算年會時指出，儘管現在AI就在眼前，當年他推動時並不容易，所幸施崇棠、廣達董事長林百里、及台灣大哥大董事長蔡明忠跳出來，加上輝達（NVIDIA）參與合作，才讓台灣杉2號做起來，甚至在當年度成為全球排名前20、能源效率前10名的超級電腦，「這是台灣不曾有過的佳績」。華碩 AI 雲創園區。（圖／趙世勳攝）台灣杉2、3號是2018年國家以前瞻基礎建設預算，3年斥資30億打造的AI超級電腦，由國網中心負責設計監造、台灣大哥大建置符合國際標準的機房建置及電信級資安維運、廣達則是資料儲存平台、華碩執行雲端服務平台及AI應用整合。台智雲今年並再度參與台灣杉4號，從國家超級算力基礎建設，累積打造生成式AI國家隊5年經驗。兩年前，科技部將台灣杉2號商業營運權與團隊授權移轉到台智雲之後，如今出現生成式AI「福爾摩沙大模型」，現在無論多大、多小規模的企業級客戶，都能使用這座斥資50億打造的超級電腦。輝達台灣區業務暨行銷副總裁邱麗孟認為：「尤其台灣是貿易之島、很多中小企業，又有很強ICT能量。」輝達2017年起與華碩頂尖超級電腦團隊合作，參與台灣杉2、3、4號建置，如今再次協助台智雲成為亞洲唯一、提供商用AI超算服務的雲端服務業者。施崇棠希望復刻「過去30年，半導體製造能力與電腦產業生態，令台灣變成世界不可忽視的ICT產業重鎮」經驗，他發下豪語，要進一步打造「台智雲成AI界台積電、AI Foundry」，建立起跟半導體一樣成功的商業模式，他認為在AI2.0新生態，創造連結夥伴也最重要的功課之一，也能藉此延續台灣的科技實力。（左至右）華碩雲端暨台智雲總經理吳漢章、台灣大哥大資訊長蔡祈岩、華碩副董事長徐世昌、前科技部長陳良基、華碩董事長施崇棠、台灣雲端物聯網產業協會理事長李世光、NVIDIA全球副總裁暨台灣區總經理邱麗孟、華碩營運長暨台智雲董事長謝明傑出席台智雲 2023超算年會，陣容浩大串接台灣供應鏈。（圖／趙世勳攝）