加速運算
」 輝達 AI 黃仁勳 人工智慧
AI新勢力2／「不拿坦克車鑽巷子！」 劉峻誠力推高效省電NPU讓人工智慧更普及
「CPU （中央處理器）像坦克車，一開始設計功能主要是打仗用，GPU（圖形處理器）就像是卡車，主要拿來載貨物；NPU（神經處理器）則是小客車，能在小城市內跑來跑去，專為AI而生。」耐能（Kneron）創辦人暨執行長劉峻誠向CTWANT記者解釋，AI時代大家最常聽見的三種處理器差異何在。輝達（Nvidia）創辦人兼執行長黃仁勳在今年6月的台大演講時提及，從1964年IBM創造出第一片CPU到現在，電腦已誕生60年，但 CPU升級速度已減低，須處理的資料量卻大幅成長，而輝達在2006年推出CUDA技術，讓GPU可應用於圖像處理以外的計算，也成為AI計算的主要動力。「CPU+GPU的平行運算模式，才能提供等量的加速運算能力」黃仁勳表示，若以單顆CPU運算需要1秒時間的資料量，搭配GPU加速運算，則只需要0.01秒的時間，且僅需3倍能耗、1.5倍的裝置成本，等於省下了98%的裝置成本、97%的能源，「所以你買越多GPU，就省更多錢」。業內人士向CTWANT記者解釋，因手機與電腦的應用及計算變多，業界在標準積體電路（IC）外，另外訂製ASIC專用（特殊應用）電路，畢竟「專用的比通用的好」，例如Google研發出TPU(Tensor Processing Unit張量處理器)，用於大量低精度計算，但生產廠商少，價格昂貴，劉峻誠的NPU和TPU的概念很像，但「他抓住低價的利基市場，所以在終端使用量會比較多。」業內人士進一步說明，如果沒有NPU，傳統筆電使用AI助手，很容易遇到效能網路塞車的問題，而耐能的NPU主打在沒有網路狀態下也能運算，特別是物體與人臉辨識，如今AI應用更廣泛，使用GPU有成本貴及耗電問題，讓NPU業者更有底氣推廣，「讓CPU、GPU去做它本來要做的事，就是解方。」高通驍龍X系列處理器，有專為AI應用設計的NPU。（圖／黃鵬杰攝）而現在常聽見的NPU，就是劉峻誠2015年創業時打造的全新計算模型「神經網路處理器」（Neural Networks Processing Unit），這個「可重組式人工智慧神經網路」的專利，像一堆樂高積木，當要支持語音AI模型時，可透過指令集重組，要支持圖像AI時再次重新組合，由於可支援多種神經網絡模型，保持架構精簡，處理 AI 模型運算時，具有性能和功耗上的優勢。早在2018年，CTWANT記者曾訪問過劉峻誠，當時AI議題還不熱，他在解釋NPU概念時，主打是在離線狀態下，能讓手機或電腦繼續學習和執行複雜的深度學習演算，能讓AI更平民化。時隔六年，他跟CTWANT記者的解釋更具象，「CPU就像是坦克車，但有一天人類蓋了小型城市，大家發現GPU這卡車比較方便，「我們的NPU就是小客車，雖然市面上的駕駛都習慣開卡車，但若有一天油價漲了兩、三百倍，大家就會被逼迫去試著開小客車。」劉峻誠說「國際級的雲端大廠是目前GPU的主要買家，但因為實在太貴、太耗電，就像某個貨運公司的卡車隊伍，正在強迫司機要換小客車，這件事情正在發生，你就等著看吧！」除了雲端，NPU晶片架構在終端產品上的能見度的確越來越多，目前高通驍龍X系列處理器，就是主打專為AI應用設計的NPU，高效能、更省電；耐能去年3月也宣布自研的人工智慧系統晶片KL720打入高通的產品線，用在高通機器人RB1平台與RB2平台中。Arm在4月發表因應邊緣AI運算的第三代NPU產品「Arm Ethos-U85」，其效能相比上一代Ethos-U65提升4倍、功耗能源轉換效率提高20%，可用在工廠自動化和商用監視器或智慧家庭攝影機等應用。技嘉的筆電也有採用NPU。（圖／業者提供）今年6月的Computex電腦展上，CTWANT記者就在Intel展區中，看到多項跟NPU有關的實機展示。像是技嘉Aorus 15筆電的展示，過去可用手勢撥放或停止影音播放程式，當時是利用CPU與GPU來處理分析，透過鏡頭來識別手勢，現在則使用NPU獨立處理。劉峻誠曾引用大摩報告指出，到2027年，NPU的市占率將會超過GPU，不過Google DeepMind傑出科學家紀懷新向CTWANT記者說，「我認為五到十年內，GPU的地位還不會被取代」不過現在的確有很多人在思考用更多元的方式去解決，也是好事一件。
黃仁勳旋風使輝達股價「漲了一個英特爾」 今再站台美超微與梁見後尬台語
輝達創辦人暨執行長黃仁勳來台掀起一陣旋風，3日推動輝達股價上漲1300億美元，幾乎與英特爾收盤時的市值1289億美元相當，黃仁勳身價也跟著水漲船高，躋身全球第14大富豪。根據當地時間3日週一，美股收盤輝達股價上漲4.9%，收在1150美元，市值達2.83兆美元（約新台幣91.57兆），與前一個交易日相比，輝達市值上漲約1300億美元（約新台幣4.2兆）。由於漲幅超過英特爾週一收盤時的市值1289億美元，陸媒《第一財經日報》形容是「一夜漲了一個英特爾」。黃仁勳如今是當紅炸子雞，有他在的地方就有源源不絕的話題。今（5）日美超微（Supermicro）創辦人梁見後進行COMPUTEX主題演講，黃仁勳又再現站台，兩人還互相撂台語，讓台下笑聲不斷。黃仁勳今擔任驚喜嘉賓，現身就笑說：「我要先承認來主題演講的途中，在車上睡著，所以現在有點呆，要先道歉…」，講沒幾句又笑說：「等等，我要說什麼？」讓台下頓時大笑。而當梁見後展示身後的機櫃，黃仁勳大讚「五告水（有夠漂亮）」，他也自嘲中文不好，「我有很多美國員工，他們聽不懂我的中文；我有很多台灣員工，但他們也聽不懂我的中文…要繼續努力學習！」黃仁勳說，加速運算已經到來，還有綠色計算，Nvidia也在做這件事，很長時間以來數據指數量指數，但CPU擴張速度卻在放緩，因為很多浪費的能源和成本被困在資料中心內，因此加速運算後，節省的費用難以置信，因為這些廢物已經被困著太久、現在可以釋放。
肚子餓的AI教父「居然變這樣」 黃仁勳向全球媒體大力示愛「這家公司」
輝達（NVIDIA）執行長黃仁勳最近常來台灣，民眾都知道他喜歡吃美食、逛夜市，但因拜訪廠商實在太忙，加上大量的時間在幫粉絲簽名，在4日的台北國際電腦展時，忙到下午三點半才吃到當天第一餐，而且還只咬了幾口，讓他不斷碎碎念、嫌棄不好吃，「CEO不能好好吃飯」，後來更在國際記者會「放飛自我」，遇到不喜歡的問題只回一個字，碰到認識的記者就話家常，被問到「你覺得你的敵人是誰」時，黃仁勳說「輝達那麼討喜、那麼可愛，怎麼會有人想要攻擊我們呢」萌到讓外國記者們大開眼界。台北國際電腦展4日正式開幕，黃仁勳早上5點就起床，9點半後開始「巡場」，以廣達旗下的雲達科技為首站，得到台灣首富、廣達董事長林百里送的台灣檜木訂製的桌球拍；接下來前往緯穎，在攤位前的輝達GB200伺服器簽名，更主動與員工一起高喊「緯穎、緯穎」，此時包括國際媒體與粉絲人潮已圍滿整支隊伍，接下來去技嘉的攤位寸步難行，讓下一場鴻佰的「地主」、鴻海董事長劉揚偉等了一個多小時才碰到面，後來還造訪了微星、英業達、宏碁和華碩等。而聯發科執行長蔡力行下午的專題演講，黃仁勳也與Arm執行長Rene Haas一起站台力挺，行程滿檔，路途中又常遇粉絲包圍，造成原定下午3點的全球記者會，一直延後到3點半才開始。輝達執行長黃仁勳4日在台北舉行國際記者會，拿起自家產品當健身器材。（圖／方萬民攝）因為這場充滿各國媒體的記者會不開放錄影，所以黃仁勳一進會場就問大家「介意我吃個午餐嗎？」隨後拿起火雞肉三明治開始啃，他說他從早上忙到現在只吃了6片餅乾，目前「電力不足」，他的腦袋只剩25%能運轉，希望大家問題不要問太難，不過吃了幾口覺得沒有放美乃滋太乾了，低聲抱怨「CEO都不能好好吃飯」，後來他玩椅子、說像旋轉木馬，介紹輝達產品時，因為太重，還故意舉起來好幾次，說要拿這個來運動，讓好幾位外國記者好奇問台灣記者說「他平常就是這麼有趣嗎？」「電力不足」的AI教父隨後挺起精神讓記者們發問，碰到韓國的記者就用韓文打招呼，碰到泰國的記者，就跟他聊小時候住在泰國的經驗，甚至連20多年前採訪過他的記者，黃仁勳都記得清清楚楚，還問候他的家人好不好。黃仁勳跟大部分提問的記者隨意聊天，有時聊到記者都忘了一開始的問題是什麼；黃仁勳也擅長舉例，像是有澳洲記者詢問輝達的產品定價策略太貴，黃仁勳說，定價跟市場需求息息相關，當你所做的某件事，能在10年內成本下降一千倍，你會不會為此埋單，想像一下，如果你從澳洲到台灣的旅行時間只需24分鐘，而費用僅為3美元，「你就可以來常常來台灣逛夜市，然後再回澳洲的家睡覺，這樣你會不會想一直來」，讓澳洲記者頻頻點頭；通過降低邊際成本、能源消耗和總成本，就是輝達正在實現的目標。還有美國雜誌記者抱怨黃仁勳在台大演講時都沒提到電腦遊戲領域，詢問是否已不重視遊戲產業了，黃仁勳大呼冤枉，他說唯一的原因就是演講只有兩小時，如果要讓他講電腦遊戲，他可以講整個晚上都講不完。有媒體詢問是否會與蘋果競爭，黃仁勳表示，蘋果在做很棒的東西，高通、AMD、英特爾都在跟蘋果競爭，但輝達「不是那個圈子的」，NVIDIA在做的是AI工廠、AI機器人，和他們不一樣；有記者問黃仁勳覺得自己的競爭對手是誰，黃仁勳笑說，「NVIDIA那麼討喜、那麼可愛，怎麼會有人想攻擊我們呢」，且「我們是市場創造者、不是市場瓜分者」，輝達的企業文化就是當個夢想家、冒險者，是站在第一個開發新東西的產業先鋒，「我看的不是市場，是未來」。也有媒體詢問是否能在AI建設方面給建議，黃仁勳提出三點，第一是加速運算一切的東西，因為這可以節省能源，他重申他的「CEO數學」，就是買越多、省越多，所以AI其實是節省能源的工具；第二「不要只訓練AI，而是讓他推理」，就像用在氣象模擬一樣，可以省下3000倍的能源，第三則是他最喜歡的一點:「AI不在乎它是在哪所學校學習的」，只要有設備、就可以選在人煙稀少但能源充足的地方蓋電廠及資料中心，在那邊訓練AI後再拿回來用，減少對環境的影響。記者會最後，他表示希望能選到一個開心的題目，選到台灣的記者，沒想到被問說為什麼會選擇投資台灣、難道不擔心地緣政治風險，他說，輝達投資台灣，因為有個超棒的好朋友，那就是台積電，他重複講了好幾次，台積電不是普通的好、是無與倫比地好，他有最先進技術、專業人才團隊，和很強的彈性生產，且在長期合作下，彼此已經深刻相互了解，「不用講太多就懂你」這種合作關係並不常見，加上還有半導體後段封裝和測試夥伴也都很強，豐富的生態系從上到下游，包括鴻海、廣達、緯創、英業達、緯穎、和碩等合作夥伴，實在是太方便了，其他地方沒有這樣的能力，「你們應該對自己感到驕傲」。
所羅門董座：導入輝達Isaac平台 增強3D機器人＋工業元宇宙應用
台灣人工智能機器公司所羅門（2359），將在台北國際電腦展COMPUTEX 2024宣佈與輝達（NVIDIA）展開合作。本次合作重點是將所羅門的產品與NVIDIA Isaac機器人平台進行整合，以增強所羅門的3D機器人視覺和工業元宇宙（AR+AI）解決方案。截至發稿，所羅門股價上漲4.5元或2.57%，現報179.5元。輝達執行長黃仁勳昨（2日）發表專題演講中，多次提到AI工廠與AI製造的目標，並藉此衍生出龐大的生態系。台灣多家主要電子製造廠使用輝達技術，透過新參考工作流程，將旗下工廠改造成更自動化的生產設施。相關流程結合NVIDIA Omniverse渲染與模擬技術、Metropolis視覺AI技術，以及NVIDIA Isaac AI機器人開發與部署技術等。所羅門董事長陳政隆表示，此次導入輝達Isaac Manipulator，「希望藉由輝達提供的完整平台，加速所羅門開發應用，將增強公司在3D機器視覺、機器人控制和擴增智慧等產品能力，進一步推動工業自動化創新。」期盼透過與NVIDIA的合作，能將生成式AI快速運用在工業領域上。此次合作的一大亮點是其視覺智能取放系統（AccuPick），透過各種不同的3D相機結合AI導引機器人，在不影響週期時間的情況下，能執行高精度操作從而提高工作效率，對於工廠內高效分揀和物流中心的訂單揀選業務至關重要。AccuPick藉由基於NVIDIA Isaac ROS的NVIDIA Isaac Manipulator加速運算函式庫進行增強，與傳統演算法相比，它的路徑奇異性發生率減少50%，路徑規劃和執行速度更是提升了8倍。NVIDIA Isaac平台利用生成式AI提供強大的機器人基礎模型。所羅門多年來致力開發AI視覺軟體，並持續在工業自動化深耕，未來將繼續通過整合多種NVIDIA Isaac技術，提供創新的產品和應用，以期將更智慧的自動化應用範圍拓展至製造、零售、物流等多元領域。
美光領軍衝新高 記憶體族群嗨翻補漲外資喊上群聯720元
AI浪潮下，美光(Micron Technology)近來股價持續登上歷史最高，NAND Flash控制IC廠群聯（8299）以及模組廠威剛（3260）、宜鼎（5289）、十銓（4967）等相關供應鏈今年有望受惠，這也讓群聯28日股價一度衝破700大關，創下波段新高，最後收在690元、漲1.77%。外資報告提到，美光2024年的所有HBM3e供應量都已售罄、2025年的供應也已分配得差不多，顯示團隊能從客戶佈署AI、加速運算伺服器的行動中受惠。美光會計年度第二季營收58.2億美元，年增57.7%，季增15.6%，高於分析師預期的53.5億美元。美光預計，會計年度第三季營收在64億至68億美元，年增率拉高到71%到81.3%，遠優分析師預期的59.9億美元均值。利多消息讓美光在台灣時間28日收盤價漲到119.25美元，創歷史收盤新高，也是連續9個交易日上漲，創下2019年12月以來最為久的漲勢。外資券商與本土法人近期也都調升群聯股價預期為720元，考量NAND價格趨勢向上，群聯還有不少低價庫存，AI落地應用服務方案「aiDAPTIV＋AOI」也導入金士頓與華泰等十家客戶的SMT產線自動光學檢測（AOI）系統，推估股價「優於大盤」。群聯2月合併營收46.65億元，月減8.3%，但年成長率高達42.5%；累計其今年前2月營收為 97.51億元，較去年同期增加58.5%。調研機構集邦科技（TrendForce）表示，除了鎧俠（Kioxia）和威騰（WDC）自今年第一季起提升產能利用率外，其它供應商大致維持低投產策略，儘管第二季NAND Flash採購量較第一季小幅下滑，但整體市場氛圍持續受供應商庫存降低，以及減產效應影響，預估第二季NAND Flash合約價將強勢上漲約13到18%。
輝達「AI盛會」GTC 2024下月登場 市場聚焦B100晶片、Blackwell架構
輝達（NVIDIA）日前用耀眼的業績持續點燃市場熱情，就如同一面鏡子，實時映照外界對AI行業發展的信心。下個月是輝達一年一度「AI盛會」GTC 2024（GPU技術大會），將在美國聖何塞會議中心舉行，當地時間3月18日下午，輝達創辦人暨執行長黃仁勳將親自主持和登場演講，暢談加速運算、生成式 AI 和機器人技術等最新突破。GTC作為輝達每年最重要的發佈平台之一，已成爲公認的「AI風向標」，本屆GTC也是時隔5年後首次實體舉行。黃仁勳表示，政府、業界和組織機構都致力於利用生成式AI的變革能力，生成式AI已成為舉世矚目的焦點。輝達在預告影片中重點介紹了生成式AI的應用，包括用於數字廣告的WPP／NVIDIA引擎、剛剛發佈的RTX Chat、由SyncTwin支持的工業元宇宙，以及OpenAI為Blender動畫創建代碼。市場普遍認為，此次大會焦點有三個，下一代Blackwell GPU架構、新款B100晶片及人形機器人。由於輝達並未透露B100的具體參數和上市時間，外界也只能從有限的官方資料，以及與H200的對比中，拼湊出對B100的初步了解。根據推測，B100的性能至少是H200的兩倍、H100的四倍。還有媒體援引知情人士消息稱，B100將採用台積電的3奈米製程，三星則是主要的存儲器供應商。在一系列消息中，最引起關注的無疑是Blackwell架構。輝達當前佔據90%以上的AI GPU晶片的市場占比，而H200、H100都是基於Hopper架構打造，據官方說法，該架構最大的優勢是加速運算。「進化版」的Blackwell不僅會在AI加速能力上進一步提高，還具備高速傳輸接口、經過改良的光線追蹤技術和並行處理能力。媒體分析指出，Blackwell架構的運行情況也將很大程度上決定B100及輝達後續產品的算力上限。有分析稱，Blackwell GPU也會是輝達第一款運用小晶片（chiplet）設計的HPC/AI加速器，直接與AMD的Instinct MI300展開競爭。摩根士丹利認為，輝達想要捍衛自己的運算能力優勢，牢牢綁住核心客戶，B100是最有用的一招，預計B100將成為人工智慧遊戲規則的改變者，甚至比上一代旗艦AI晶片H100更強大。美國銀行分析師認為，輝達即將推出的B100定價將比H100系統至少高出10%至30%，鞏固輝達的「王者寶座」。
輝達公布第4季財報！營收成長265％創新高 盤後股價勁揚10％
受惠於全球科技巨頭積極佈局人工智慧（AI）領域，主打設計和銷售圖形處理器（GPU）的無廠半導體企業輝達（NVIDIA），於美東時間21日盤後公布財報，顯示截至2024年1月28日的第4季營收和獲利雙雙超出預期，其中營收更是比起去年同期成長265%，創歷史新高。輝達21日收盤下跌2.85%至每股674.72美元，然而最新財報及財測出爐後，盤後股價一度勁揚10%。輝達於美東時間21日公布第4季營收為221億美元，超出預期的206.2億美元，跟前1季相比成長22%，與去年同期相比暴增265%。根據倫敦證券交易所集團（LSEG）的數據，對某些項目進行調整後，第4季每股收益為5.16美元，預期為每股4.64美元。至於各部門表現，核心的資料中心業務上季營收達184億美元，年增409%。輝達半數以上的資料中心銷售額是由大型雲端供應商所貢獻；而包含筆電和個人電腦（PC）顯卡的遊戲部門，上季營收則為29億美元，年增56%；規模較小的專業視覺化和車用業務，成長未如前兩者快速。上季專業視覺化業務營收為4.6億美元，年增105%，車用業務營收則下滑4%至2.8億美元。輝達創辦人兼執行長黃仁勳。（圖／達志／美聯社）輝達創辦人兼執行長黃仁勳在與分析師的電話會議上指出，「加速運算」（accelerated computing）和生成式人工智慧已到達臨界點，世界各國和全球各家企業的需求都在激增，「我們的資料中心平台由日益多樣化的驅動因素提供支援——來自大型雲端服務供應商和GPU專業供應商，以及企業軟體和消費網路公司對資料處理、培訓和推理的需求。以汽車、金融服務和醫療保健為首的垂直產業目前已達到數十億美元的水平。」黃仁勳續稱：「NVIDIA RTX 技術推出不到6年，現已成為一個用於生成AI的大型PC平台，受到1億遊戲玩家和創作者的青睞。未來1年NVIDIA將帶來重大的卓越的創新產品，以幫助推動相關產業向前發展。歡迎參加下個月的GTC，我們將在會議上揭示令人興奮的未來。」
再戰AI不悲哀1／美超微Q3展望缺料台股族群跌跤 輝達8/23財報成市場關注焦點
7月31日，台股強勢主流AI族群突然走調急殺，指標股廣達（2382）及緯創（3231）當天震盪幅度逾10%，終場苦吞跌停也讓市場驚恐，投資人急問「AI行情結束了嗎？」不料，美超微（Supermicro）9日在法說會上所公布的第三季財測，營收及獲利不如預期，造成盤後股價重挫23%，成了壓倒台股AI族群的另一根稻草。「AI股變BI（台語：悲哀）股了嗎？」多數法人認為，AI並非如市場所言已經BI，但是部分AI族群個股大漲1、2倍後，短線拉回30-40%確實不少，但就長線來看，拉回幅度並不多，「如果要搶短線反彈，可以在個股5日線及月、季線進行區間操作，如果是長線投資人，則是可在股價壓回到長期均線附近再尋找切入點。」身為輝達（Nvidia）伺服器主要代工夥伴，對於自家第三季財測不如市場預期，美超微執行長梁見後指出，「主要是因為關鍵元件短缺，但情況已有所改善。」此外，AI晶片大廠輝達也將在8月23日公布第二季財報，能否交出如今年5月所公布的驚艷財測？外資法人則預估，輝達這次財報表現應該會有不錯的表現，甚到有可能還比先前財測還高，主要是因為輝達的AI晶片到目前仍供不應求，但預期市場的反應可能不會像之前那麼熱烈。輝達主要代工夥伴美超微在法說會中釋出缺料及第三季財測不如市場預期，成為AI族群的壓力來源。（圖／劉耿豪攝））引爆台股AI風潮的關鍵人物，非輝達執行長黃仁勳莫屬。2022年11月ChatGPT橫空問世後，輝達的GPU成了全球AI（人工智慧）晶片的最大供應商，可說是獨一的玩家，黃仁勳也成了AI教父級人物。今年2月，黃仁勳在加州大學伯克利分校演講時就喊出，「ChatGPT是人工智慧的『iPhone 時刻』」，因為ChatGPT出現後，初估已有500多家新創開發出有用的應用程式，就像當年iPhone出現時，玩家可以在短短幾個週末就能寫出受歡迎的APP。」今年5月24日輝達公布第一季財報，對第二季的財測，樂觀預期營收將達110億美元，季增率達50%，遠高於市場預期71.5億美元與第一季持平表現。「當企業陸續將生成式AI應用到包括到產品、服務等領域，加速運算的需求將大增。」人稱「老黃」的黃仁勳在法說會上的直言，也開啟了台股近期AI趴的起點。而被科技業暱稱為「蘇媽」的53歲超微（AMD）執行長蘇姿丰，在黃仁勳5月來台後，7月17日也炫風式來台，短短四天的行程中，緊湊的訪廠、創新日、晚宴等，蘇姿丰密集跟供應商碰面，固樁意味相當濃厚。蘇姿丰在7月19日超微創新日上表示，「AI是很大的機會，我覺得，對科技業來說，在未來5-10年最大的一個機會，事實上我們覺得，AI在所有類別產品都會出現，從最高階的CPU、GPU到邊緣運算，PC產品都會有AI，我們的產品也會有更多AI能力，這些都是很大型的投資，我們在技術上投入很多資源，這是非常好的市場機會。」輝達8月初推出最新的AI超級電腦，加上23日公佈第二季財報，也讓市場屏息以待。（圖／翻攝自Nvidia Keynote Highlights）一家投顧高層告訴CTWANT記者說，「兩大晶片大廠執行長接連來台固樁，代表了大家對於AI看法的有志一同。上一個引領全球的產品是什麼？答案就是iPhone，它不僅可以改變人類生活型態，也可以為大家帶來便利性，而AI也符合了這兩個核心要素。當然投資人也會思考這樣的趨勢到底能走多遠走多久，我們一樣以iPhone為例，經過了數10年，到現在每年新機發表會還是會引起市場不小的關注，換言之，既然是能改變生活的產品，就有機會擁有好幾年的榮景。」而之前外資所點名的中東AI伺服器訂單，緯穎（3231）財務長暨發言人陳昌偉8日也在法說會上指出，這是國家級別的全新資料中心，包含了雲端運算基礎設備及高速運算基礎設施，主要是以AI伺服器為主，同時也對可達較高散熱寧的浸沒式液冷方案有較高的接受度。智璞產業趨勢研究所執行副總監科技中心主任林偉智說，中東各國加入AI戰局，不會瞄準生產，而是鎖定服務，對台灣利大於弊，相關的晶片或設備採買會有明顯挹注。投顧高層就直言，「從許多國際大廠紛紛搶購訓練AI模型所使用的GPU，就可以知道AI是來真的，ChatGPT的問世，讓更多使用著捧著現金訂閱升級為更強更快更新一代的模型。」目前不僅有國際大公司持續投資相關研發應用，消費者也花錢買單，這是非常良好的正向循環，並非空有投資沒有實際獲利轉換，「總的來說，市況不BI！」
COMPUTEX瘋「黃仁勳」 王文淵領軍聽演講、聯發科攜手輝達攻車用市場
COMPUTEX（台北國際電腦展）將於明（30日）開展，不過展覽Keynote則是在今天就開始，首場講者就是近期引發AI風潮的輝達執行長黃仁勳，原本只能2000多人的場地，擠進近3500人。輝達執行長黃仁勳(右)與聯發科副董暨執行長蔡力行共同宣布，共同為新一代智慧汽車提供卓越的解決方案。（圖／趙世勳攝）而黃仁勳瘋也燒向企業界，除了台塑集團總裁王文淵帶領旗下四寶公司董事長到場，科技業部分，力積電董事長黃崇仁、廣達副董梁次震、和碩共同執行長鄭光志、緯創總經理林建勳、宏碁營運長高樹國也都到場聆聽演講。黃仁勳在演講中大秀輝達技術，其中最讓人印象深刻的，就是黃仁勳寫了一段文字「I am here at Computex. I will make you like me best. yeah. Sing sing it with me. I really like NVIDIA. 」並現場由AI進行譜曲演唱。黃仁勳還帶著大家跟著AI一起合唱，對於自家AI技術信心展露無遺。黃仁勳指出，「我們正處在一個新運算時代的轉折點，加速運算和人工智慧已幾乎被世界上所有的雲端運算公司接受」，加速運算是永續的算力，而中央處理器與繪圖處理器在建構資料中心的差異，就是在同樣的耗電，體積可以大幅縮小，而且運算的大型語言模型更快、成本也更低。黃仁勳更用台語來形容，笑稱「買越多省越多」。黃仁勳也一口氣宣布多項新產品動態，包括搭載NVIDIA最新資料中心晶片Grace Hopper的全新系統、用於加速生成式AI的Grace Hopper超級晶片已開始量產，另外也推出超大規模生成式AI乙太網路平台。而原本預定一個半小時的演講，黃仁勳講了快2個小時才結束，黃仁勳說：「我已經很久沒見到大家了，所以有很多想分享的事情。」會後黃仁勳也跟聽眾們自拍互動，完全沒有身價兆元富翁的架子。結束Keynote後，黃仁勳也轉赴聯發科（2454）的產品發表會現場，與聯發科副董暨執行長蔡力行共同宣布，雙方將充分發揮各自汽車產品組合的優勢，共同為新一代智慧汽車提供卓越的解決方案。聯發科將開發整合NVIDIA GPU小晶片（chiplet）的汽車系統單晶片，搭載NVIDIA AI和繪圖運算IP。蔡力行表示：「NVIDIA在人工智慧和運算領域是享有盛名的開拓者和領導者。本次合作願景是為全球汽車產業設計新一代智慧聯網汽車，提供一站式的服務。透過與NVIDIA的深度合作，我們將共同為未來運算密集型的軟體定義汽車提供真正具有獨特性的平台。」黃仁勳表示：「人工智慧與加速運算正推動整個汽車產業的變革。聯發科技領先業界的系統單晶片與NVIDIA GPU及AI軟體技術的強強組合，將為從豪華到主流的所有汽車分眾市場帶來全新的使用者體驗，進一步提升汽車的安全性，並提供嶄新的連網服務。」
力積電2021年12月及年營收雙衝新高 2022年攜手滿拓衝刺AI商機
滿手訂單的力積電（6770）公告2021年12月營收68.7億元，創下單月新高，累計全年營收656億元，年成長幅度44%，亦創下歷史紀錄。展望新一年，已確定與滿拓科技合作，提供3D AIM晶片製程平台技術，發展AI矽智財（IP），鎖定邊緣運算及Edge AI領域新商機。力積電表示，去年每季成長率都超過10%，其中第四季單季營收近197.6億元更比前年同期更成長66%。從產品線來看，可以看到客戶對記憶體、邏輯和MOSFET（金屬氧化物半導體場效電晶體）等晶圓代工的需求強勁。對於新的年展望，力積電指出，除了透過與主要客戶簽訂長期合約，確保邏輯、記憶體兩大事業部未來獲利穩定之外，另外也全力拓展創新應用的市場空間。其中，加密貨幣挖礦應用的3D Interchip異質晶圓堆疊（WoW）產品已在去年量產出貨，另外，在AI領域也瞄準5G時代AI邊緣運算需求，將邏輯電路和記憶體元件一體化（AI Memory）技術加速商品化。業者指出，力積電已和國內AI知名新創滿拓科技，簽署策略合作意向書，以力積電最新研發的3D AIM晶片製程平台技術，進行各式AI應用合作。力積電董事長黃崇仁表示，該公司是全球唯一同時擁有記憶體、邏輯二大製程技術的專業晶圓代工廠，將邏輯電路與 DRAM 整合到單一晶片，突破傳統因記憶體傳輸頻寬不足，運算速度受限、高耗能的困境。據了解，此次力積電與滿拓科技的策略合作，將發揮3D AIM記憶體內運算高能效之優勢，計畫將7,000萬個參數、高複雜度的AI物體偵測系統晶片化，未來用於無人載具的智能避障 。雙方透過建立夥伴關係，推進3D AIM晶片製程平台技術在邊緣運算及Edge AI領域的產品化及普及化。滿拓科技執行長吳昕益表示，目前大多數的AI運算都是透過軟體的類神經網路實現，然而要打造更高性能且分析速度快的AI應用，需要很大量的運算，極需使用硬體來加速運算效能，因此近記憶體內運算（Near In Memory Computing）會是未來發展的主流趨勢。
DeepQ新一代AI自然語言處理平台T-BERT 國台客語攏ㄟ通
打造「疾管家」抗疫機器人的HTC健康醫療事業部DeepQ團隊，推出新一代AI 自然語言處理平台T-BERT（Taiwan Bidirectional Encoder Representations from Transformers），此平台使得電腦能同時3聲道讀聽寫國語、台語及客語，將AI應用在語義分析及問答互動上。DeepQ表示，新一代AI自然語言處理平台T-BERT具備從左到右、從右到左，雙向讀取段落文字，透過編碼器分析文字特徵，結合為台灣研發的AI加速運算技術，大幅提升語意判斷的精準度至93.7％。在台灣，自然語言處理平台必須能夠處理在地語言，才可實踐相關語意分析應用。DeepQ AI團隊與台灣大學廖世偉教授合作，應用深度學習模型與巨量資料處理的兩個關鍵技術，打造出可支持國語、台語及客語的AI平台。在打造此平台過程中，DeepQ AI團隊讓AI不斷閱讀巨量語意資料庫，訓練AI模型判斷語意，此過程非常複雜且耗時，為解決這問題，DeepQ團隊同時使用至少64顆GPU運算，運用平行運算技術架構，提升60倍的運算速度，將AI模型的學習時間有效縮短至6小時。目前研發的AI模型已能將國語新聞自動分類成9大類別，如：財經、國際等類別，準確度達93.7％。身兼美國史丹佛大學電腦科學系客座教授的DeepQ 總經理張智威表示：：「在臺灣，同時支援國臺客語的自然語言處理平臺尚不存在，我們計畫將把我們的 T-BERT 模型開源釋出，並繼續擴充規模，以回饋學界與促進產業發展。同時將陸續把此技術導入產品端，譬如此平臺可以使疾管家未來能夠支持國臺客語問答。」