謝明傑
」 華碩 台智雲
繁中守護者2／母湯是一種清湯？專家測試8萬字資料Breeze運算跑第一「OpenAI不友善」
全世界最強繁中大型語言模型LLM問世，「MR BreeXe針對中文特殊情境優化，所以速度提升1倍，布建成本下降一半。」聯發創新基地資深技術經理陳宜昌告訴CTWANT記者。目前全世界有中文參數的LLM模型，包括歐美科技業者投資OpenAI的ChatGPT、Google的Gemini，Facebook母公司Meta推出的LLaMA，中國有百度的「文心一言」等，但大多以簡體中文的內容為主。究竟聯發科推出的繁中LLM功力如何？業內專家ihower用數發部的政府報告、管理學講義共8萬多字做壓力測試，結果發現聯發科在Tokenizer (分詞器)上的調整相當「有感」。ihower表示，一樣的文本，若能用比較少的 Tokens 數來表示，推論速度會比較快、成本也會比較划算，畢竟計價也是用Tokens數計算的。「以OpenAI為基準，聯發科的Breeze大約節省50%的Tokens數、運算更快，而Google Gemini大約節省46%，Llama 2甚至比OpenAI差、多增加了20%。」「OpenAI的Tokenizer對繁體中文真的很不友善啊！」ihower說。華碩營運長暨台智雲董事長謝明傑曾表示，OpenAI模型「大部分是英文腦，中文的腦相當少」，繁體中文資料比例低於0.1%，簡體中文資料不超過2%，但以數量來說，也相當於超過繁體中文20倍的量。GPT-4在中文領域的回答仍有侷限性。（圖／記者黃耀徵攝）同樣是中文LLM，為何要另外做出繁體中文的版本？成功大學資工系教授黃敬群向CTWANT記者解釋，因為AI是「生成」，而且不斷「演化」，一般人不會知道內容出自哪裡，就會出現文化衝擊問題，「現在很多大學生的作業、學者論文，甚至是媒體報導的內容，用AI輔助後出現大量中國式用語與邏輯思維，而非台灣行之有年、大量專家學者累積並完成的知識與術語，但使用者可能都沒發現。」如果不喜歡抖音文化，可選擇不看，但在AI時代，因為資料量的差異，中文世界會整個傾斜倒向中國大陸的邏輯思維，所以聯發科做繁體中文模型時「開源」公開程式碼，讓全世界的人去使用，以台灣思維為主的中文知識，才有機會進入AI時代的大腦資料來源。聯發創新基地在台大、倫敦、劍橋都有據點，一起研究AI。（圖／翻攝自聯發創新基地官網）除了解析中文語句的速度快，陳宜昌舉例，如果用Mixtral詢問「母湯」，他會說「是一種中國傳統的食物，通常是一種清湯或魚羹。」但在BreeXe上，就會說這是「台語的諧音梗，源自於沒關係，但在網路流行語中被用來否定、或是不正確的意思。」聯發創新基地負責人許大山跟CTWANT記者說，會取名為BreeXe，除了致敬Mixtral原本「西北風」意思，也希望他像breeze一樣的徐徐微風、廣泛吹進大家的電腦裡，讓人有如沐春風的感覺。一般人可能看不見、摸不著，但是這股以科技人為首的夢想與使命的風已經悄悄吹起來了。
70歲AI衝浪王1／施崇棠掌舵30多年功力發威 華碩2個月火速建置台版Chat GPT「福爾摩沙大模型」
生成式AI熱潮掀起之際，台灣不落人後，與ChatGPT3.5同級的「福爾摩沙大模型」（Formosa FoundationModel，也可稱Formosa Chat）在5月17日亮相，它不但是首個繁體中文商用AI大模型，還可選擇地端（企業自家機房）建私有雲，它所需的超級算力「台灣杉２號」，幕後關鍵推手全是今年70歲華碩董事長施崇棠。「他（施崇棠）會念很多國外AI論文，跟我們討論。」台灣杉2、3號主持人、台智雲總經理吳漢章說，「去年底生成式AI出現、Chat GPT橫空出世，他看到『生產力革命』已經到來，並認為「『算力』將是驅動未來數位經濟，最重要議題。」在施崇棠一聲令下，吳漢章與超級電腦團隊待命，使用Bloom-zh繁體中文大模型開源，火力全開密集訓練、快速建置出福爾摩沙大模型，不到兩個月就在華碩AI超算年會中面世。近年鮮少出席公開場合的施崇棠，親自出席自家的超算年會，發下豪語要打造「AI Foundry」，興致勃勃地站在AI浪尖上，再展事業雄心，一如他27歲進入宏碁電腦，進入電腦產業「有幸躬逢其盛」，十年後成立「華碩電腦」，「開創一家電腦技術天下無敵的公司」初心。在全球PC市場裡，華碩（ASUS）與宏碁（Acer）「雙Ａ」品牌各擁一片天，而在詭譎多變的市場中，施崇棠不時運用孫子兵法策略，例如「蛇」般靈活推出主流產品頭尾夾擊，以「巨獅」做大衝量吃市佔、「銀豹」衝刺利基高值化產品，為業界津津樂道。在2017年11月華碩首款家庭智能機器人「小布（Zenbo Qrobot）」誕生，這款陪伴型機器人會說故事、教英文、打電話、拍照。（圖／報系資料照）這位前參與打造台灣成為電腦王國的大將，從電腦、筆電、手機做到伺服器，2015～2017年間面臨營收連續3年下滑，始終無法突破集團總營收5千億關卡，施崇棠清楚觀察到，筆電、PC及手機市場成長到了天花板，轉向AI人工智能尋求突破機會。在2017年11月，華碩推出首款家庭智能機器人「小布（Zenbo Qrobot）」見面會在北京舉行，這款會說故事、教英文、打電話、拍照的陪伴型機器人，一度造成轟動，儘管當時營收獲利貢獻有限，能量迄今延續到智慧醫療領域。2018年，華碩斥資百億進軍智慧醫療，施崇棠還親自挖角有微軟及Google經歷的黃泰一，在淡水總部大樓裡打造百人AI部隊智慧醫療，並與廣達、台哥大等參與打造台灣超級電腦台灣杉2、3號，吳漢章表示，基於各國家、文化、產業等情境不同及資安考量，「台灣需要一個基於本土算力的語言模型。」兩年前華碩進一步成立「台智雲」，接手台灣杉2號營運。從3C產品「硬體」切入AI算力「軟體」，施崇棠保持「躬逢其盛」，尤其Chat GPT去年底問世後，整個華碩的AI團隊通通上緊發條，他們很快發現，「因為ChatGPT生於美國，繁體中文資料比例低於0.1％、簡體中文資料不超過2％」，華碩營運長暨台智雲董事長謝明傑指出，「大部分是英文的腦，中文的腦相當少。」因此今年二月間聯發科將繁體中文生成式AI「BLOOM-zh」開源釋出後，台智雲靠著台灣杉2號超級算力，使用「BLOOM-zh」建置福爾摩沙大模型，大量「餵入」1760億個參數、比Chat GPT3.5還多10億個，相較於Chat GPT資料停留在2021年9月，福爾摩沙大模型持續更新資料；如此可以降低答非所問、「跟使用者道歉」的機率。「可以把『參數』理解為人類的神經元，讀了越多書、資料庫越多」，華碩雲服務事業部主管在AI超算年會現場展示攤位解釋，Formosa Chat除了繁體中文環境，還會講英、日、德、越南等46種語言，像是個飽讀詩書的大學生，正在實習，7月就開始正式到社會工作，「一些翻譯、分析企劃，寫簡單新聞稿、程式的工作，可以交給他」，目前規劃僅限企業使用。「每個問題是獨立的，別人不會知道你問了什麼，具高度隱私與資安防護。」依各行業需要的不同，如零售、電商、SaaS（軟體服務）等，會有相應的語言模型。這個生成式人工智慧雲即將在7月開放客戶申請，一個月費用約6萬元。台智雲華碩營運長暨台智雲董事長謝明傑（左）、台智雲總經理吳漢章（右）領軍團隊，已拜訪數百家機構，有成功替新加坡商場建立保全服務經驗。（圖／趙世勳攝）最近OpenAI執行長阿特曼（Sam Altman）應邀求出席美國參議院司法委員會聽證會，就是被詢問AI風險控管，而華碩已經提出解決方案－台智雲全球首創的服務「AFSAppliance（大型語言模型地端部署）」，內有散熱模組、2個CPU、32支記憶體，輝達A40視覺運算GPU則可依需要選1～8組，依不同需求，價格落在60～300萬，「如果醫療、金融、法律、製造、會計等，具機敏性、規範更高的企業，或訂製服務，就可以購買AI伺服器，放在公司裡變私有雲」。「福爾摩沙大模型，將是東南亞最安全語言模型。」吳漢章指出，台智雲有200人研發團隊，已經拜訪數百家機構，有成功替新加坡商場建立保全服務經驗：「客戶如果是企業自建AI團隊，會需要20個以上工程師、千倍以上的成本。」尤其對人力精簡、又需要算力的中小企業來說，是最佳解決方案。問及訂單情況，他含蓄表示：「不缺客戶。」
70歲AI衝浪王2／Formosa Chat讓台灣接軌生產力革命時代 「打造台智雲成AI界台積電！」
華碩旗下台智雲日前發表「福爾摩沙大模型」，讓台灣在生成式AI大浪不落人後，主要歸功於超級電腦「台灣杉2號」，這是東南亞唯一的高階商用AI算力。「台灣擁有比鄰近國家，更優越的算力動能，已進入AI2.0時代。」參與打造台灣超級電腦的華碩董事長施崇棠說。全球僅25座商用AI超級電腦，台灣杉2號是其中之一，由此可見算力的稀缺性；台智雲總經理吳漢章是當時競標超級電腦的團隊主持人，指出當時有國內外數個團隊積極參與，不過團隊以算力勝出，而且評審團相當看重技術自主，造就本土團隊的優勢。台灣杉2號是在陳良基科技部長任內的建設，他5月17日出席超算年會時指出，儘管現在AI就在眼前，當年他推動時並不容易，所幸施崇棠、廣達董事長林百里、及台灣大哥大董事長蔡明忠跳出來，加上輝達（NVIDIA）參與合作，才讓台灣杉2號做起來，甚至在當年度成為全球排名前20、能源效率前10名的超級電腦，「這是台灣不曾有過的佳績」。華碩 AI 雲創園區。（圖／趙世勳攝）台灣杉2、3號是2018年國家以前瞻基礎建設預算，3年斥資30億打造的AI超級電腦，由國網中心負責設計監造、台灣大哥大建置符合國際標準的機房建置及電信級資安維運、廣達則是資料儲存平台、華碩執行雲端服務平台及AI應用整合。台智雲今年並再度參與台灣杉4號，從國家超級算力基礎建設，累積打造生成式AI國家隊5年經驗。兩年前，科技部將台灣杉2號商業營運權與團隊授權移轉到台智雲之後，如今出現生成式AI「福爾摩沙大模型」，現在無論多大、多小規模的企業級客戶，都能使用這座斥資50億打造的超級電腦。輝達台灣區業務暨行銷副總裁邱麗孟認為：「尤其台灣是貿易之島、很多中小企業，又有很強ICT能量。」輝達2017年起與華碩頂尖超級電腦團隊合作，參與台灣杉2、3、4號建置，如今再次協助台智雲成為亞洲唯一、提供商用AI超算服務的雲端服務業者。施崇棠希望復刻「過去30年，半導體製造能力與電腦產業生態，令台灣變成世界不可忽視的ICT產業重鎮」經驗，他發下豪語，要進一步打造「台智雲成AI界台積電、AI Foundry」，建立起跟半導體一樣成功的商業模式，他認為在AI2.0新生態，創造連結夥伴也最重要的功課之一，也能藉此延續台灣的科技實力。（左至右）華碩雲端暨台智雲總經理吳漢章、台灣大哥大資訊長蔡祈岩、華碩副董事長徐世昌、前科技部長陳良基、華碩董事長施崇棠、台灣雲端物聯網產業協會理事長李世光、NVIDIA全球副總裁暨台灣區總經理邱麗孟、華碩營運長暨台智雲董事長謝明傑出席台智雲 2023超算年會，陣容浩大串接台灣供應鏈。（圖／趙世勳攝）
華碩旗下台智雲攜手台灣大、英特爾 打造5G AI Ready Platform啟用
為布局5G應用，台智雲今（3日）攜手華碩（2357）、台灣大哥大（3045）、英特爾（Intel）領航發布5G AI應用解決方案，並於華碩AI雲創園區舉辦5G AI Ready Platform暨共創實驗室啟用儀式，四大科技強強聯手，展現AI、5G和邊緣運算整合運用的企圖心。近年5G躍升為全球重要科技發展趨勢，為提升台灣中小企業競爭力，台智雲與華碩聯手打造出台灣第一個高度雲網整合的企業專網服務「5G AI Ready Platform」，透過台智雲OneAI工具、英特爾oneAPI及台哥大5G寬頻高速網路，整合AIHPC高速運算雲端服務、5G專網與AI邊緣運算等三大關鍵核心技術，提供全方位隨選即用（Ready to use）的雲平台解決方案，為客戶省下巨額營運成本。華碩營運長暨全球資深副總裁謝明傑表示：「華碩結合AIHPC高速算力、雲服務、智慧物聯終端、伺服器等技術，應用於智慧醫療、智慧製造、智慧城市等領域，此次與台灣大哥大、Intel，推出5G AI雲網合一解決方案與共創實驗室，實現AIoT垂直領域的最後一哩路，提供企業與新創高速AI服務，期待未來與更多夥伴合作，以華碩的AI雲創資源加速5G應用。」英特爾亞太暨日本區總經理Steven A. Long表示：「5G的低延遲和高頻寬特性，能夠將雲端至邊緣的AI運算結果快速交付至客戶手中，期盼以英特爾成熟的軟、硬體解決方案，協助生態系夥伴打造令人驚豔的創新應用。」台灣大哥大企業服務商務長吳傳輝表示：「5G已躍升為全球重要發展目標，其中『端、網、雲』共生更是未來數位創新的趨勢，台灣大與台智雲原本就是『台灣AI雲』共同推手，此次再結合英特爾技術，期盼能協助企業用戶加速5G場景落地。」
產研攜手共創「AI生醫加速器」 國衛院今與華碩簽約合作
人工智慧是近年備受期待的創新動力，持續推動各個領域演進，人工智慧在生物醫藥的應用領域可包括精準醫療、智慧醫療、藥物與疫苗開發、智慧財產研究、生醫大數據研究等，為了因應未來可見的研究需求，擴大並加速研究量能，同時強化學研與產業間的鏈結，持續推動生醫新創領域，國家衛生研究院與華碩集團攜手合作推動「AI生醫加速器」，並於今（29）日亞洲生技展中舉辦簽約儀式，期許與學研醫療機構及產業界攜手，開發多元生醫領域創新及應用。因應未來智慧健康醫療照護需要導入AI技術，國衛院與華碩集團的合作其中一項就是「AI生醫資訊創新研究暨應用服務中心」，由國衛院主導構思研究方向與架構與領域知識，華碩與NVIDIA提供運算所需AI相關硬體與軟體、管理平台與人力、AI技術開發團隊等，共同打造台灣首座生醫專用AI超級電腦，應用於精準健康、疫苗開發與新藥研究等國家級任務所需之超高速運算，目標在於研發新穎資料科學技術，發展生醫領域重要之應用與服務，以及培育生物醫學、資料科學與資訊產業跨領域人才，期待能作為鏈結學研機構、醫療機構及產業界的樞紐平台，深耕智慧醫療應用服務。除共同推動AI生醫資訊創新研究暨應用服務中心，國衛院技轉及育成中心與華碩集團進一步於生醫新創領域展開合作，結合華碩集團台智雲公司AI Factory夥伴計畫，提供新創夥伴包含AI + 5G + Data Economics雲端平台及各種數位資源及AI場景業主商機媒合。預計徵選至少5家新創團隊進駐，提供華碩AI雲創園區之創育基地空間、AI超級電腦算力及雲端資源、5G AI Co-lab、教育訓練、創業導師1對1輔導機制、商機媒合會及Demo Day與投資媒合等資源，協助新創加速成長發展。華碩集團謝明傑營運長表示，延續應用服務中心加速推動台灣生技產業數位創新使命，華碩集團台智雲進一步於生醫新創加速器展開合作，結合國衛院專業生醫領域知識與輔導機制，讓台灣的生醫新創產業使用優質的數位科技。國衛院梁賡義院長表示，國衛院作為全國唯一「任務導向」的醫藥衛生研究機構，藉由推展人工智慧在生醫領域的創新及應用，加速智慧醫療、精準醫療相關研發是很重要的一步，期待經過跨領域整合，持續深化健康大數據、生醫AI模型，強化學研與產業間的交流與鏈結，為臺灣精準健康戰略產業開創新紀元。
華碩秀智慧醫療新火力 「AI內視鏡病灶偵測系統」亮相
近年默默耕耘智慧醫療的華碩，在台灣醫療科技展中展出預防保健、數位診斷及遠距醫療三大解決方案，展現華碩整合資通訊、人工智慧、雲端平台、物聯網技術等成果，這些開發成果也將與國內外各大醫療院所合作，進一步在臨床上推動智慧醫療。華碩於台灣醫療科技展首度亮相「人工智慧內視鏡病灶偵測系統（EndoAim）」，透過內視鏡影像進行即時息肉偵測，偵測靈敏度97%、特異度98%，大幅提升診斷精準度，即時息肉分類功能AUC高達98%，可在檢查當下顯示AI分析結果，提供醫師第二意見，有助提升大腸息肉及腺瘤檢出率。值得一提，EndoAim目前正進行臨床試驗中，測試表現優於國際大廠，並獲選為衛福部2021主動輔導專案，目前正在進行TFDA申請。此外，華碩研發的「MRI乳癌腫瘤分類及復發預測系統」亦於展覽中搶先曝光。因乳癌病程發展迅速，為獲取快速、精準的治療策略，採用創新的MRI 3D影像分析，突破以往只能靠切片才能診斷，僅需10分鐘就能取得腫瘤分類及復發預測結果，大幅縮短檢測報告產出時間。華碩分析，輔助醫生及早判斷並規劃病人治療方針，除去病患切片痛苦，還可透過復發預測結果避免非必要化療。華碩全球資深副總裁謝明傑表示：「智慧醫療領域是華碩近年發展重點，智囊醫療整合資通訊裝置、人工智慧、雲端平台與物聯網技術等多項專業，並與各大醫療院所合作，擴大推動智慧醫療先進應用，研發促進健康的創新科技解決方案。」華碩AI研發中心（AICS）成立滿三年，在台落地20家以上醫療院所，並導入美國與新加坡醫院，本次展出的AI雲端軟體服務（SaaS）包括「Lumos醫療大數據平台」、「用藥安全服務」、「Miraico ICD-10智慧編碼服務」、與「個人智慧健康管理服務 APP」等項目。華碩進一步說明，展出項目運用自然語言處理、電腦視覺、深度學習、大數據分析等AI技術，從醫院與病人兩端持續解決醫療痛點，收集並清整真實世界資料，進而促進精準健康與精準醫療。
寫病歷用「說」的！ 新竹台大分院結盟華碩搞AI
未來病歷不再是得靠敲鍵盤輸入資訊，用說的就可以！華碩電腦今（30）日宣布與台大醫院新竹分院合作，將以AI發展醫療語音辨識系統。為提供高效能臨床服務及行政會務工作、快速完成精準病歷紀錄，華碩將提供新竹台大分院AI創新科技深化醫療語音辨識系統，進一步導入語音病歷的創新應用。對此次雙方簽署合作備忘錄，華碩營運長謝明傑表示，透過AI的創新技術關鍵在提升照護服務品質與增進醫務工作效能，這也是發展智慧醫療重要的一環。新竹台大分院院長余忠仁表示，未來醫療與人工智慧結合更是刻不容緩，透過創新科技來發揮醫療最大綜效，包括協助醫護及行政人員，在病歷紀錄、表單紀錄及會議紀錄方面，能更精準快速等，大幅節省時間增進工作效率，未來還可以延續在整合遠距協作、行動醫療及人工智慧的應用。余忠仁表示，今年5月成立了「新竹台大分院智慧醫療創新中心」，並在新竹台大分院生醫醫院竹北院區打造場域供合作方測試展示，將研發成果導入臨床應用，落實相關合作案，持續結合產業及學術資源，將科技應用於醫療服務。新竹台大分院智慧醫療創新中心副院長譚慶鼎表示，AI是智慧醫療致勝關鍵之一，透過各項創新科技的導入，將可減輕醫護工作、提升醫療品質與醫病溝通。此外，新竹台大分院也同步導入華碩Zenbo Junior平台，發展社區高齡長者關懷與長照規劃願景，譚慶鼎指出，Zenbo Junior平台以雙向互動、遊戲與認知訓練及語音互動，延緩長者認知退化，同時提供家屬喘息的機會。近年華碩積極布局智慧醫療，目前已經在全國18家醫院導入華碩Miraico智慧醫療編碼服務，提供入院、住院中、出院ICD-10（國際疾病分類第十版）醫療編碼的AI軟體服務，用來提升醫療收入管理效率，還有包括穿戴裝置、手持裝置的無線與輕量化解決方案等。
防疫出招 華碩、英業達聯手 醫院推穿戴雲端科技防疫方案
隨著新冠肺炎疫情還沒有降溫，有愈來愈多科技廠商與醫院合作，推出科技防疫解決方案，華碩整合手機與穿戴式手錶，提供一對多遠距雲端健康管理技術，英業達則提出智慧照護防疫場域，為防疫多盡一份心。華碩與署立桃園醫院攜手合作，運用旗ASUS ZenFone Max Pro超強電力智慧型手機，與穿戴式手錶ASUS VivoWatch所內建的一對多遠距雲端健康管理技術，提供24小時即時遠端監測疑似個案的生理數據，避免醫護人員與病患其直接接觸，可以大幅降低接觸感染風險，確保醫護人員執行相關勤務時的安全。華碩表示，藉由穿戴裝置上這些資料的蒐集，進一步建立數位模型，讓醫療院所能夠更清楚配戴帶者可能出現的生理狀況趨勢及變化，盡早做出決策因應，有效管理其健康狀態。華碩電腦營運長謝明傑表示，「智慧醫療服務是華碩在AIOT裡發展的重要項目之一。」英業達旗下英華達攜手竹山秀傳醫院，以非接觸式監控，在醫院發燒篩檢站、隔離病房等，將病患的血壓、心電圖與心跳等生理數據資訊，透過軟硬體系統整合平台，即時傳送至護理站電腦螢幕，減少醫護人員直接接觸病患次數，降低染病風險。