謝明傑
」![alt](https://static.ctwant.com/images/cover/57/330557/sm-f2a308d56bbbba37e4ceb714fc8ed9a6.jpg)
繁中守護者2/母湯是一種清湯?專家測試8萬字資料Breeze運算跑第一「OpenAI不友善」
全世界最強繁中大型語言模型LLM問世,「MR BreeXe針對中文特殊情境優化,所以速度提升1倍,布建成本下降一半。」聯發創新基地資深技術經理陳宜昌告訴CTWANT記者。目前全世界有中文參數的LLM模型,包括歐美科技業者投資OpenAI的ChatGPT、Google的Gemini,Facebook母公司Meta推出的LLaMA,中國有百度的「文心一言」等,但大多以簡體中文的內容為主。究竟聯發科推出的繁中LLM功力如何?業內專家ihower用數發部的政府報告、管理學講義共8萬多字做壓力測試,結果發現聯發科在Tokenizer (分詞器)上的調整相當「有感」。ihower表示,一樣的文本,若能用比較少的 Tokens 數來表示,推論速度會比較快、成本也會比較划算,畢竟計價也是用Tokens數計算的。「以OpenAI為基準,聯發科的Breeze大約節省50%的Tokens數、運算更快,而Google Gemini大約節省46%,Llama 2甚至比OpenAI差、多增加了20%。」「OpenAI的Tokenizer對繁體中文真的很不友善啊!」ihower說。華碩營運長暨台智雲董事長謝明傑曾表示,OpenAI模型「大部分是英文腦,中文的腦相當少」,繁體中文資料比例低於0.1%,簡體中文資料不超過2%,但以數量來說,也相當於超過繁體中文20倍的量。GPT-4在中文領域的回答仍有侷限性。(圖/記者黃耀徵攝)同樣是中文LLM,為何要另外做出繁體中文的版本?成功大學資工系教授黃敬群向CTWANT記者解釋,因為AI是「生成」,而且不斷「演化」,一般人不會知道內容出自哪裡,就會出現文化衝擊問題,「現在很多大學生的作業、學者論文,甚至是媒體報導的內容,用AI輔助後出現大量中國式用語與邏輯思維,而非台灣行之有年、大量專家學者累積並完成的知識與術語,但使用者可能都沒發現。」如果不喜歡抖音文化,可選擇不看,但在AI時代,因為資料量的差異,中文世界會整個傾斜倒向中國大陸的邏輯思維,所以聯發科做繁體中文模型時「開源」公開程式碼,讓全世界的人去使用,以台灣思維為主的中文知識,才有機會進入AI時代的大腦資料來源。聯發創新基地在台大、倫敦、劍橋都有據點,一起研究AI。(圖/翻攝自聯發創新基地官網)除了解析中文語句的速度快,陳宜昌舉例,如果用Mixtral詢問「母湯」,他會說「是一種中國傳統的食物,通常是一種清湯或魚羹。」但在BreeXe上,就會說這是「台語的諧音梗,源自於沒關係,但在網路流行語中被用來否定、或是不正確的意思。」聯發創新基地負責人許大山跟CTWANT記者說,會取名為BreeXe,除了致敬Mixtral原本「西北風」意思,也希望他像breeze一樣的徐徐微風、廣泛吹進大家的電腦裡,讓人有如沐春風的感覺。一般人可能看不見、摸不著,但是這股以科技人為首的夢想與使命的風已經悄悄吹起來了。
![alt](https://static.ctwant.com/images/cover/26/259326/sm-80e9dfd90bf86df098e03059ceda1b99.jpg)
70歲AI衝浪王1/施崇棠掌舵30多年功力發威 華碩2個月火速建置台版Chat GPT「福爾摩沙大模型」
生成式AI熱潮掀起之際,台灣不落人後,與ChatGPT3.5同級的「福爾摩沙大模型」(Formosa FoundationModel,也可稱Formosa Chat)在5月17日亮相,它不但是首個繁體中文商用AI大模型,還可選擇地端(企業自家機房)建私有雲,它所需的超級算力「台灣杉2號」,幕後關鍵推手全是今年70歲華碩董事長施崇棠。「他(施崇棠)會念很多國外AI論文,跟我們討論。」台灣杉2、3號主持人、台智雲總經理吳漢章說,「去年底生成式AI出現、Chat GPT橫空出世,他看到『生產力革命』已經到來,並認為「『算力』將是驅動未來數位經濟,最重要議題。」在施崇棠一聲令下,吳漢章與超級電腦團隊待命,使用Bloom-zh繁體中文大模型開源,火力全開密集訓練、快速建置出福爾摩沙大模型,不到兩個月就在華碩AI超算年會中面世。近年鮮少出席公開場合的施崇棠,親自出席自家的超算年會,發下豪語要打造「AI Foundry」,興致勃勃地站在AI浪尖上,再展事業雄心,一如他27歲進入宏碁電腦,進入電腦產業「有幸躬逢其盛」,十年後成立「華碩電腦」,「開創一家電腦技術天下無敵的公司」初心。在全球PC市場裡,華碩(ASUS)與宏碁(Acer)「雙A」品牌各擁一片天,而在詭譎多變的市場中,施崇棠不時運用孫子兵法策略,例如「蛇」般靈活推出主流產品頭尾夾擊,以「巨獅」做大衝量吃市佔、「銀豹」衝刺利基高值化產品,為業界津津樂道。在2017年11月華碩首款家庭智能機器人「小布(Zenbo Qrobot)」誕生,這款陪伴型機器人會說故事、教英文、打電話、拍照。(圖/報系資料照)這位前參與打造台灣成為電腦王國的大將,從電腦、筆電、手機做到伺服器,2015~2017年間面臨營收連續3年下滑,始終無法突破集團總營收5千億關卡,施崇棠清楚觀察到,筆電、PC及手機市場成長到了天花板,轉向AI人工智能尋求突破機會。在2017年11月,華碩推出首款家庭智能機器人「小布(Zenbo Qrobot)」見面會在北京舉行,這款會說故事、教英文、打電話、拍照的陪伴型機器人,一度造成轟動,儘管當時營收獲利貢獻有限,能量迄今延續到智慧醫療領域。2018年,華碩斥資百億進軍智慧醫療,施崇棠還親自挖角有微軟及Google經歷的黃泰一,在淡水總部大樓裡打造百人AI部隊智慧醫療,並與廣達、台哥大等參與打造台灣超級電腦台灣杉2、3號,吳漢章表示,基於各國家、文化、產業等情境不同及資安考量,「台灣需要一個基於本土算力的語言模型。」兩年前華碩進一步成立「台智雲」,接手台灣杉2號營運。從3C產品「硬體」切入AI算力「軟體」,施崇棠保持「躬逢其盛」,尤其Chat GPT去年底問世後,整個華碩的AI團隊通通上緊發條,他們很快發現,「因為ChatGPT生於美國,繁體中文資料比例低於0.1%、簡體中文資料不超過2%」,華碩營運長暨台智雲董事長謝明傑指出,「大部分是英文的腦,中文的腦相當少。」因此今年二月間聯發科將繁體中文生成式AI「BLOOM-zh」開源釋出後,台智雲靠著台灣杉2號超級算力,使用「BLOOM-zh」建置福爾摩沙大模型,大量「餵入」1760億個參數、比Chat GPT3.5還多10億個,相較於Chat GPT資料停留在2021年9月,福爾摩沙大模型持續更新資料;如此可以降低答非所問、「跟使用者道歉」的機率。「可以把『參數』理解為人類的神經元,讀了越多書、資料庫越多」,華碩雲服務事業部主管在AI超算年會現場展示攤位解釋,Formosa Chat除了繁體中文環境,還會講英、日、德、越南等46種語言,像是個飽讀詩書的大學生,正在實習,7月就開始正式到社會工作,「一些翻譯、分析企劃,寫簡單新聞稿、程式的工作,可以交給他」,目前規劃僅限企業使用。「每個問題是獨立的,別人不會知道你問了什麼,具高度隱私與資安防護。」依各行業需要的不同,如零售、電商、SaaS(軟體服務)等,會有相應的語言模型。這個生成式人工智慧雲即將在7月開放客戶申請,一個月費用約6萬元。台智雲華碩營運長暨台智雲董事長謝明傑(左)、台智雲總經理吳漢章(右)領軍團隊,已拜訪數百家機構,有成功替新加坡商場建立保全服務經驗。(圖/趙世勳攝)最近OpenAI執行長阿特曼(Sam Altman)應邀求出席美國參議院司法委員會聽證會,就是被詢問AI風險控管,而華碩已經提出解決方案-台智雲全球首創的服務「AFSAppliance(大型語言模型地端部署)」,內有散熱模組、2個CPU、32支記憶體,輝達A40視覺運算GPU則可依需要選1~8組,依不同需求,價格落在60~300萬,「如果醫療、金融、法律、製造、會計等,具機敏性、規範更高的企業,或訂製服務,就可以購買AI伺服器,放在公司裡變私有雲」。「福爾摩沙大模型,將是東南亞最安全語言模型。」吳漢章指出,台智雲有200人研發團隊,已經拜訪數百家機構,有成功替新加坡商場建立保全服務經驗:「客戶如果是企業自建AI團隊,會需要20個以上工程師、千倍以上的成本。」尤其對人力精簡、又需要算力的中小企業來說,是最佳解決方案。問及訂單情況,他含蓄表示:「不缺客戶。」
![alt](https://static.ctwant.com/images/cover/27/259327/sm-343e7971e41d44df45c9d2e7b9f6af68.jpg)
70歲AI衝浪王2/Formosa Chat讓台灣接軌生產力革命時代 「打造台智雲成AI界台積電!」
華碩旗下台智雲日前發表「福爾摩沙大模型」,讓台灣在生成式AI大浪不落人後,主要歸功於超級電腦「台灣杉2號」,這是東南亞唯一的高階商用AI算力。「台灣擁有比鄰近國家,更優越的算力動能,已進入AI2.0時代。」參與打造台灣超級電腦的華碩董事長施崇棠說。全球僅25座商用AI超級電腦,台灣杉2號是其中之一,由此可見算力的稀缺性;台智雲總經理吳漢章是當時競標超級電腦的團隊主持人,指出當時有國內外數個團隊積極參與,不過團隊以算力勝出,而且評審團相當看重技術自主,造就本土團隊的優勢。台灣杉2號是在陳良基科技部長任內的建設,他5月17日出席超算年會時指出,儘管現在AI就在眼前,當年他推動時並不容易,所幸施崇棠、廣達董事長林百里、及台灣大哥大董事長蔡明忠跳出來,加上輝達(NVIDIA)參與合作,才讓台灣杉2號做起來,甚至在當年度成為全球排名前20、能源效率前10名的超級電腦,「這是台灣不曾有過的佳績」。華碩 AI 雲創園區。(圖/趙世勳攝)台灣杉2、3號是2018年國家以前瞻基礎建設預算,3年斥資30億打造的AI超級電腦,由國網中心負責設計監造、台灣大哥大建置符合國際標準的機房建置及電信級資安維運、廣達則是資料儲存平台、華碩執行雲端服務平台及AI應用整合。台智雲今年並再度參與台灣杉4號,從國家超級算力基礎建設,累積打造生成式AI國家隊5年經驗。兩年前,科技部將台灣杉2號商業營運權與團隊授權移轉到台智雲之後,如今出現生成式AI「福爾摩沙大模型」,現在無論多大、多小規模的企業級客戶,都能使用這座斥資50億打造的超級電腦。輝達台灣區業務暨行銷副總裁邱麗孟認為:「尤其台灣是貿易之島、很多中小企業,又有很強ICT能量。」輝達2017年起與華碩頂尖超級電腦團隊合作,參與台灣杉2、3、4號建置,如今再次協助台智雲成為亞洲唯一、提供商用AI超算服務的雲端服務業者。施崇棠希望復刻「過去30年,半導體製造能力與電腦產業生態,令台灣變成世界不可忽視的ICT產業重鎮」經驗,他發下豪語,要進一步打造「台智雲成AI界台積電、AI Foundry」,建立起跟半導體一樣成功的商業模式,他認為在AI2.0新生態,創造連結夥伴也最重要的功課之一,也能藉此延續台灣的科技實力。(左至右)華碩雲端暨台智雲總經理吳漢章、台灣大哥大資訊長蔡祈岩、華碩副董事長徐世昌、前科技部長陳良基、華碩董事長施崇棠、台灣雲端物聯網產業協會理事長李世光、NVIDIA全球副總裁暨台灣區總經理邱麗孟、華碩營運長暨台智雲董事長謝明傑出席台智雲 2023超算年會,陣容浩大串接台灣供應鏈。(圖/趙世勳攝)
![alt](https://static.ctwant.com/images/cover/6/198906/sm-716cc7e5703baf736e13b8ee9eb660ea.jpg)
華碩旗下台智雲攜手台灣大、英特爾 打造5G AI Ready Platform啟用
為布局5G應用,台智雲今(3日)攜手華碩(2357)、台灣大哥大(3045)、英特爾(Intel)領航發布5G AI應用解決方案,並於華碩AI雲創園區舉辦5G AI Ready Platform暨共創實驗室啟用儀式,四大科技強強聯手,展現AI、5G和邊緣運算整合運用的企圖心。近年5G躍升為全球重要科技發展趨勢,為提升台灣中小企業競爭力,台智雲與華碩聯手打造出台灣第一個高度雲網整合的企業專網服務「5G AI Ready Platform」,透過台智雲OneAI工具、英特爾oneAPI及台哥大5G寬頻高速網路,整合AIHPC高速運算雲端服務、5G專網與AI邊緣運算等三大關鍵核心技術,提供全方位隨選即用(Ready to use)的雲平台解決方案,為客戶省下巨額營運成本。華碩營運長暨全球資深副總裁謝明傑表示:「華碩結合AIHPC高速算力、雲服務、智慧物聯終端、伺服器等技術,應用於智慧醫療、智慧製造、智慧城市等領域,此次與台灣大哥大、Intel,推出5G AI雲網合一解決方案與共創實驗室,實現AIoT垂直領域的最後一哩路,提供企業與新創高速AI服務,期待未來與更多夥伴合作,以華碩的AI雲創資源加速5G應用。」英特爾亞太暨日本區總經理Steven A. Long表示:「5G的低延遲和高頻寬特性,能夠將雲端至邊緣的AI運算結果快速交付至客戶手中,期盼以英特爾成熟的軟、硬體解決方案,協助生態系夥伴打造令人驚豔的創新應用。」台灣大哥大企業服務商務長吳傳輝表示:「5G已躍升為全球重要發展目標,其中『端、網、雲』共生更是未來數位創新的趨勢,台灣大與台智雲原本就是『台灣AI雲』共同推手,此次再結合英特爾技術,期盼能協助企業用戶加速5G場景落地。」
![alt](https://static.ctwant.com/images/cover/11/197811/sm-638a793b66f78b7df2edc227162e71c1.jpg)
產研攜手共創「AI生醫加速器」 國衛院今與華碩簽約合作
人工智慧是近年備受期待的創新動力,持續推動各個領域演進,人工智慧在生物醫藥的應用領域可包括精準醫療、智慧醫療、藥物與疫苗開發、智慧財產研究、生醫大數據研究等,為了因應未來可見的研究需求,擴大並加速研究量能,同時強化學研與產業間的鏈結,持續推動生醫新創領域,國家衛生研究院與華碩集團攜手合作推動「AI生醫加速器」,並於今(29)日亞洲生技展中舉辦簽約儀式,期許與學研醫療機構及產業界攜手,開發多元生醫領域創新及應用。因應未來智慧健康醫療照護需要導入AI技術,國衛院與華碩集團的合作其中一項就是「AI生醫資訊創新研究暨應用服務中心」,由國衛院主導構思研究方向與架構與領域知識,華碩與NVIDIA提供運算所需AI相關硬體與軟體、管理平台與人力、AI技術開發團隊等,共同打造台灣首座生醫專用AI超級電腦,應用於精準健康、疫苗開發與新藥研究等國家級任務所需之超高速運算,目標在於研發新穎資料科學技術,發展生醫領域重要之應用與服務,以及培育生物醫學、資料科學與資訊產業跨領域人才,期待能作為鏈結學研機構、醫療機構及產業界的樞紐平台,深耕智慧醫療應用服務。除共同推動AI生醫資訊創新研究暨應用服務中心,國衛院技轉及育成中心與華碩集團進一步於生醫新創領域展開合作,結合華碩集團台智雲公司AI Factory夥伴計畫,提供新創夥伴包含AI + 5G + Data Economics雲端平台及各種數位資源及AI場景業主商機媒合。預計徵選至少5家新創團隊進駐,提供華碩AI雲創園區之創育基地空間、AI超級電腦算力及雲端資源、5G AI Co-lab、教育訓練、創業導師1對1輔導機制、商機媒合會及Demo Day與投資媒合等資源,協助新創加速成長發展。華碩集團謝明傑營運長表示,延續應用服務中心加速推動台灣生技產業數位創新使命,華碩集團台智雲進一步於生醫新創加速器展開合作,結合國衛院專業生醫領域知識與輔導機制,讓台灣的生醫新創產業使用優質的數位科技。國衛院梁賡義院長表示,國衛院作為全國唯一「任務導向」的醫藥衛生研究機構,藉由推展人工智慧在生醫領域的創新及應用,加速智慧醫療、精準醫療相關研發是很重要的一步,期待經過跨領域整合,持續深化健康大數據、生醫AI模型,強化學研與產業間的交流與鏈結,為臺灣精準健康戰略產業開創新紀元。
![alt](https://static.ctwant.com/images/cover/68/154368/sm-d1f42a59963ea81b5a80bcdd13f38765.jpg)
華碩秀智慧醫療新火力 「AI內視鏡病灶偵測系統」亮相
近年默默耕耘智慧醫療的華碩,在台灣醫療科技展中展出預防保健、數位診斷及遠距醫療三大解決方案,展現華碩整合資通訊、人工智慧、雲端平台、物聯網技術等成果,這些開發成果也將與國內外各大醫療院所合作,進一步在臨床上推動智慧醫療。華碩於台灣醫療科技展首度亮相「人工智慧內視鏡病灶偵測系統(EndoAim)」,透過內視鏡影像進行即時息肉偵測,偵測靈敏度97%、特異度98%,大幅提升診斷精準度,即時息肉分類功能AUC高達98%,可在檢查當下顯示AI分析結果,提供醫師第二意見,有助提升大腸息肉及腺瘤檢出率。值得一提,EndoAim目前正進行臨床試驗中,測試表現優於國際大廠,並獲選為衛福部2021主動輔導專案,目前正在進行TFDA申請。此外,華碩研發的「MRI乳癌腫瘤分類及復發預測系統」亦於展覽中搶先曝光。因乳癌病程發展迅速,為獲取快速、精準的治療策略,採用創新的MRI 3D影像分析,突破以往只能靠切片才能診斷,僅需10分鐘就能取得腫瘤分類及復發預測結果,大幅縮短檢測報告產出時間。華碩分析,輔助醫生及早判斷並規劃病人治療方針,除去病患切片痛苦,還可透過復發預測結果避免非必要化療。華碩全球資深副總裁謝明傑表示:「智慧醫療領域是華碩近年發展重點,智囊醫療整合資通訊裝置、人工智慧、雲端平台與物聯網技術等多項專業,並與各大醫療院所合作,擴大推動智慧醫療先進應用,研發促進健康的創新科技解決方案。」華碩AI研發中心(AICS)成立滿三年,在台落地20家以上醫療院所,並導入美國與新加坡醫院,本次展出的AI雲端軟體服務(SaaS)包括「Lumos醫療大數據平台」、「用藥安全服務」、「Miraico ICD-10智慧編碼服務」、與「個人智慧健康管理服務 APP」等項目。華碩進一步說明,展出項目運用自然語言處理、電腦視覺、深度學習、大數據分析等AI技術,從醫院與病人兩端持續解決醫療痛點,收集並清整真實世界資料,進而促進精準健康與精準醫療。
![alt](https://static.ctwant.com/images/cover/48/136848/sm-bf310a69a86ed027352bf9de62e2bbae.jpg)
寫病歷用「說」的! 新竹台大分院結盟華碩搞AI
未來病歷不再是得靠敲鍵盤輸入資訊,用說的就可以!華碩電腦今(30)日宣布與台大醫院新竹分院合作,將以AI發展醫療語音辨識系統。為提供高效能臨床服務及行政會務工作、快速完成精準病歷紀錄,華碩將提供新竹台大分院AI創新科技深化醫療語音辨識系統,進一步導入語音病歷的創新應用。對此次雙方簽署合作備忘錄,華碩營運長謝明傑表示,透過AI的創新技術關鍵在提升照護服務品質與增進醫務工作效能,這也是發展智慧醫療重要的一環。新竹台大分院院長余忠仁表示,未來醫療與人工智慧結合更是刻不容緩,透過創新科技來發揮醫療最大綜效,包括協助醫護及行政人員,在病歷紀錄、表單紀錄及會議紀錄方面,能更精準快速等,大幅節省時間增進工作效率,未來還可以延續在整合遠距協作、行動醫療及人工智慧的應用。余忠仁表示,今年5月成立了「新竹台大分院智慧醫療創新中心」,並在新竹台大分院生醫醫院竹北院區打造場域供合作方測試展示,將研發成果導入臨床應用,落實相關合作案,持續結合產業及學術資源,將科技應用於醫療服務。新竹台大分院智慧醫療創新中心副院長譚慶鼎表示,AI是智慧醫療致勝關鍵之一,透過各項創新科技的導入,將可減輕醫護工作、提升醫療品質與醫病溝通。此外,新竹台大分院也同步導入華碩Zenbo Junior平台,發展社區高齡長者關懷與長照規劃願景,譚慶鼎指出,Zenbo Junior平台以雙向互動、遊戲與認知訓練及語音互動,延緩長者認知退化,同時提供家屬喘息的機會。近年華碩積極布局智慧醫療,目前已經在全國18家醫院導入華碩Miraico智慧醫療編碼服務,提供入院、住院中、出院ICD-10(國際疾病分類第十版)醫療編碼的AI軟體服務,用來提升醫療收入管理效率,還有包括穿戴裝置、手持裝置的無線與輕量化解決方案等。
![alt](https://static.ctwant.com/images/cover/62/42162/sm-71657b4e7b4f429d555e568fadf9f8b2.jpg)
防疫出招 華碩、英業達聯手 醫院推穿戴雲端科技防疫方案
隨著新冠肺炎疫情還沒有降溫,有愈來愈多科技廠商與醫院合作,推出科技防疫解決方案,華碩整合手機與穿戴式手錶,提供一對多遠距雲端健康管理技術,英業達則提出智慧照護防疫場域,為防疫多盡一份心。華碩與署立桃園醫院攜手合作,運用旗ASUS ZenFone Max Pro超強電力智慧型手機,與穿戴式手錶ASUS VivoWatch所內建的一對多遠距雲端健康管理技術,提供24小時即時遠端監測疑似個案的生理數據,避免醫護人員與病患其直接接觸,可以大幅降低接觸感染風險,確保醫護人員執行相關勤務時的安全。華碩表示,藉由穿戴裝置上這些資料的蒐集,進一步建立數位模型,讓醫療院所能夠更清楚配戴帶者可能出現的生理狀況趨勢及變化,盡早做出決策因應,有效管理其健康狀態。華碩電腦營運長謝明傑表示,「智慧醫療服務是華碩在AIOT裡發展的重要項目之一。」英業達旗下英華達攜手竹山秀傳醫院,以非接觸式監控,在醫院發燒篩檢站、隔離病房等,將病患的血壓、心電圖與心跳等生理數據資訊,透過軟硬體系統整合平台,即時傳送至護理站電腦螢幕,減少醫護人員直接接觸病患次數,降低染病風險。