台灣杉2號
」 華碩 台智雲
70歲AI衝浪王1／施崇棠掌舵30多年功力發威 華碩2個月火速建置台版Chat GPT「福爾摩沙大模型」
生成式AI熱潮掀起之際，台灣不落人後，與ChatGPT3.5同級的「福爾摩沙大模型」（Formosa FoundationModel，也可稱Formosa Chat）在5月17日亮相，它不但是首個繁體中文商用AI大模型，還可選擇地端（企業自家機房）建私有雲，它所需的超級算力「台灣杉２號」，幕後關鍵推手全是今年70歲華碩董事長施崇棠。「他（施崇棠）會念很多國外AI論文，跟我們討論。」台灣杉2、3號主持人、台智雲總經理吳漢章說，「去年底生成式AI出現、Chat GPT橫空出世，他看到『生產力革命』已經到來，並認為「『算力』將是驅動未來數位經濟，最重要議題。」在施崇棠一聲令下，吳漢章與超級電腦團隊待命，使用Bloom-zh繁體中文大模型開源，火力全開密集訓練、快速建置出福爾摩沙大模型，不到兩個月就在華碩AI超算年會中面世。近年鮮少出席公開場合的施崇棠，親自出席自家的超算年會，發下豪語要打造「AI Foundry」，興致勃勃地站在AI浪尖上，再展事業雄心，一如他27歲進入宏碁電腦，進入電腦產業「有幸躬逢其盛」，十年後成立「華碩電腦」，「開創一家電腦技術天下無敵的公司」初心。在全球PC市場裡，華碩（ASUS）與宏碁（Acer）「雙Ａ」品牌各擁一片天，而在詭譎多變的市場中，施崇棠不時運用孫子兵法策略，例如「蛇」般靈活推出主流產品頭尾夾擊，以「巨獅」做大衝量吃市佔、「銀豹」衝刺利基高值化產品，為業界津津樂道。在2017年11月華碩首款家庭智能機器人「小布（Zenbo Qrobot）」誕生，這款陪伴型機器人會說故事、教英文、打電話、拍照。（圖／報系資料照）這位前參與打造台灣成為電腦王國的大將，從電腦、筆電、手機做到伺服器，2015～2017年間面臨營收連續3年下滑，始終無法突破集團總營收5千億關卡，施崇棠清楚觀察到，筆電、PC及手機市場成長到了天花板，轉向AI人工智能尋求突破機會。在2017年11月，華碩推出首款家庭智能機器人「小布（Zenbo Qrobot）」見面會在北京舉行，這款會說故事、教英文、打電話、拍照的陪伴型機器人，一度造成轟動，儘管當時營收獲利貢獻有限，能量迄今延續到智慧醫療領域。2018年，華碩斥資百億進軍智慧醫療，施崇棠還親自挖角有微軟及Google經歷的黃泰一，在淡水總部大樓裡打造百人AI部隊智慧醫療，並與廣達、台哥大等參與打造台灣超級電腦台灣杉2、3號，吳漢章表示，基於各國家、文化、產業等情境不同及資安考量，「台灣需要一個基於本土算力的語言模型。」兩年前華碩進一步成立「台智雲」，接手台灣杉2號營運。從3C產品「硬體」切入AI算力「軟體」，施崇棠保持「躬逢其盛」，尤其Chat GPT去年底問世後，整個華碩的AI團隊通通上緊發條，他們很快發現，「因為ChatGPT生於美國，繁體中文資料比例低於0.1％、簡體中文資料不超過2％」，華碩營運長暨台智雲董事長謝明傑指出，「大部分是英文的腦，中文的腦相當少。」因此今年二月間聯發科將繁體中文生成式AI「BLOOM-zh」開源釋出後，台智雲靠著台灣杉2號超級算力，使用「BLOOM-zh」建置福爾摩沙大模型，大量「餵入」1760億個參數、比Chat GPT3.5還多10億個，相較於Chat GPT資料停留在2021年9月，福爾摩沙大模型持續更新資料；如此可以降低答非所問、「跟使用者道歉」的機率。「可以把『參數』理解為人類的神經元，讀了越多書、資料庫越多」，華碩雲服務事業部主管在AI超算年會現場展示攤位解釋，Formosa Chat除了繁體中文環境，還會講英、日、德、越南等46種語言，像是個飽讀詩書的大學生，正在實習，7月就開始正式到社會工作，「一些翻譯、分析企劃，寫簡單新聞稿、程式的工作，可以交給他」，目前規劃僅限企業使用。「每個問題是獨立的，別人不會知道你問了什麼，具高度隱私與資安防護。」依各行業需要的不同，如零售、電商、SaaS（軟體服務）等，會有相應的語言模型。這個生成式人工智慧雲即將在7月開放客戶申請，一個月費用約6萬元。台智雲華碩營運長暨台智雲董事長謝明傑（左）、台智雲總經理吳漢章（右）領軍團隊，已拜訪數百家機構，有成功替新加坡商場建立保全服務經驗。（圖／趙世勳攝）最近OpenAI執行長阿特曼（Sam Altman）應邀求出席美國參議院司法委員會聽證會，就是被詢問AI風險控管，而華碩已經提出解決方案－台智雲全球首創的服務「AFSAppliance（大型語言模型地端部署）」，內有散熱模組、2個CPU、32支記憶體，輝達A40視覺運算GPU則可依需要選1～8組，依不同需求，價格落在60～300萬，「如果醫療、金融、法律、製造、會計等，具機敏性、規範更高的企業，或訂製服務，就可以購買AI伺服器，放在公司裡變私有雲」。「福爾摩沙大模型，將是東南亞最安全語言模型。」吳漢章指出，台智雲有200人研發團隊，已經拜訪數百家機構，有成功替新加坡商場建立保全服務經驗：「客戶如果是企業自建AI團隊，會需要20個以上工程師、千倍以上的成本。」尤其對人力精簡、又需要算力的中小企業來說，是最佳解決方案。問及訂單情況，他含蓄表示：「不缺客戶。」
70歲AI衝浪王2／Formosa Chat讓台灣接軌生產力革命時代 「打造台智雲成AI界台積電！」
華碩旗下台智雲日前發表「福爾摩沙大模型」，讓台灣在生成式AI大浪不落人後，主要歸功於超級電腦「台灣杉2號」，這是東南亞唯一的高階商用AI算力。「台灣擁有比鄰近國家，更優越的算力動能，已進入AI2.0時代。」參與打造台灣超級電腦的華碩董事長施崇棠說。全球僅25座商用AI超級電腦，台灣杉2號是其中之一，由此可見算力的稀缺性；台智雲總經理吳漢章是當時競標超級電腦的團隊主持人，指出當時有國內外數個團隊積極參與，不過團隊以算力勝出，而且評審團相當看重技術自主，造就本土團隊的優勢。台灣杉2號是在陳良基科技部長任內的建設，他5月17日出席超算年會時指出，儘管現在AI就在眼前，當年他推動時並不容易，所幸施崇棠、廣達董事長林百里、及台灣大哥大董事長蔡明忠跳出來，加上輝達（NVIDIA）參與合作，才讓台灣杉2號做起來，甚至在當年度成為全球排名前20、能源效率前10名的超級電腦，「這是台灣不曾有過的佳績」。華碩 AI 雲創園區。（圖／趙世勳攝）台灣杉2、3號是2018年國家以前瞻基礎建設預算，3年斥資30億打造的AI超級電腦，由國網中心負責設計監造、台灣大哥大建置符合國際標準的機房建置及電信級資安維運、廣達則是資料儲存平台、華碩執行雲端服務平台及AI應用整合。台智雲今年並再度參與台灣杉4號，從國家超級算力基礎建設，累積打造生成式AI國家隊5年經驗。兩年前，科技部將台灣杉2號商業營運權與團隊授權移轉到台智雲之後，如今出現生成式AI「福爾摩沙大模型」，現在無論多大、多小規模的企業級客戶，都能使用這座斥資50億打造的超級電腦。輝達台灣區業務暨行銷副總裁邱麗孟認為：「尤其台灣是貿易之島、很多中小企業，又有很強ICT能量。」輝達2017年起與華碩頂尖超級電腦團隊合作，參與台灣杉2、3、4號建置，如今再次協助台智雲成為亞洲唯一、提供商用AI超算服務的雲端服務業者。施崇棠希望復刻「過去30年，半導體製造能力與電腦產業生態，令台灣變成世界不可忽視的ICT產業重鎮」經驗，他發下豪語，要進一步打造「台智雲成AI界台積電、AI Foundry」，建立起跟半導體一樣成功的商業模式，他認為在AI2.0新生態，創造連結夥伴也最重要的功課之一，也能藉此延續台灣的科技實力。（左至右）華碩雲端暨台智雲總經理吳漢章、台灣大哥大資訊長蔡祈岩、華碩副董事長徐世昌、前科技部長陳良基、華碩董事長施崇棠、台灣雲端物聯網產業協會理事長李世光、NVIDIA全球副總裁暨台灣區總經理邱麗孟、華碩營運長暨台智雲董事長謝明傑出席台智雲 2023超算年會，陣容浩大串接台灣供應鏈。（圖／趙世勳攝）
ChatGPT掀狂潮2／兩岸競相發展類ChatGPT 華碩、百度大對決
由ChatGPT所引發的浪潮，美股、台股及陸港股相關概念股都狂飆，大陸科技廠大力發展，台廠則是扮演軍火商的角色，打入供應鏈，從台積電（2330）供應高階GPU到小晶片「Chiplet」，華碩（2357）旗下台智雲也建置參數不輸ChatGPT的BLOOM大模型，就連國發會也宣示要組國家隊，並將提升超級電腦台灣杉2號算力。美股ChatGPT概念股，谷歌母公司Alphabet Inc.（GOOG）及微軟（MSFT）今年最高都漲逾20%，輝達（NVDA）更大漲50%。台股的創意（3443）首破千元大關創新高，世芯-KY（3661）也在暌違5個月之後再上千元。港股中像是漢王科技（002362.SZ）股價從16元人民幣衝上38元人民幣，海天瑞聲（688787.Ss）更從67元人民幣飆漲到244元人民幣，甚至被市場稱之為「妖股」。 陸股漢王科技及海天瑞聲因為搭上ChatGPT題材，股價狂飆，被稱為妖股。（圖／翻攝自富途牛牛）除了股市狂熱外，中國廠商也開始布局相關領域，其中最引發關注的，是搜尋引擎百度宣布，將在3月推出類ChatGPT「文心一言（ERNIEBot）」，是正面回應外，其他包括阿里巴巴、小米、騰訊、字節跳動等，也或多或少有所動作，但並不願透露細節。比較掉漆的是，中國杭州創新公司「元語智能」日前推出中國第一款聊天機器人ChatYuan，號稱要挑戰ChatGPT，不過隨即就因為政府審查而被停用。阿里巴巴也證實，旗下研發單位阿里巴巴達摩院正在研發類ChatGPT的生成式機器人，目前屬於內部測試階段，並未透露更多細節。而達摩院在今年1月所發布的2023年十大科技發展趨勢中也將生成式AI列在首位。阿里巴巴旗下達摩院在今年1月所發布的2023年十大科技發展趨勢中也將生成式AI列在首位。（圖／翻攝自阿里巴巴官網）達摩院指出，在未來三年，生成式AI將進一步市場化，形成更多樣的商業模式和更完善的產業生態。生成式AI模型將在交互能力、安全性和智慧化方面獲得顯著進展，輔助人類完成各種創造性工作。騰訊則指出，有相關布局正在推動，會在機器學習等領域基礎上，持續投入AI技術的研發。另外字節跳動也傳出旗下人工智慧實驗室（AI Lab）有發展類似ChatGPT的技術，不過公司並沒有回應。值得注意的是，ChatGPT需要大量的算力，因此需要大量高階的GPU，而美國已限制高階半導體產品輸往中國，由於近年來小晶片（Chiplet）設計已成為HPC運算處理器主流，是否會是中國突破美國封鎖的方式，也是外界觀察的目標。去年3月，由日月光、AMD、ARM、Google Cloud、Intel、微軟、高通、三星及台積電等10家公司正式成立了UCIe（Universal Chiplet Interconnect Express）產業聯盟，攜手推動Chiplet介面規範的標準化，並推出1.0版本。12月，第二屆中國互連技術與產業大會發布了《小晶片介面匯流排技術要求》，也成為中國首個原生Chiplet技術標準。法人指出，由於AI需要不斷學習，小晶片可以提供對應的功能，加上成本較低，也成為中國解決高階晶片的方式。至於台灣在類ChatGPT的發展，則是以華碩（2357）旗下的台智雲進度最快。台智雲在14日領先全台宣布成為第一個成功建置1760 億個參數的BLOOM（BigScience Large Open-science Open-access Multilingual Language Model）大模型，推出「AI2.0 大算力顧問服務」一站式整合方案。「AI 技術結合大型語言模型已是產業科技發展的趨勢，台智雲的BLOOM大模型成果，資料集包含46種人類語言、13種程式語言，參數量達到1760億個，整體資料量高達1.5TB以上，運用了840個GPU做跨節點（node）訓練，已有高科技研發製造、金融和零售領域企業正在洽談合作中。」台智雲技術長陳忠誠說。國科會主委吳政忠則宣示，台灣也需要有自己的ChatGPT，同時也會升級超級電腦台灣杉2號，以提高算力。台灣杉2號於2018年建成，主要用途是加速推動AI發展，每秒可進行176萬張的AI影像訓練，在之前的新冠疫情中，包括病毒基因演化、蛋白質分析、影像辨識也都進行運算協助抗疫。台灣國科會主委吳政忠宣示，台灣也需要有自己的ChatGPT，同時也會升級超級電腦台灣杉2號算力。（圖／國網中心提供、報系資料照）