大型語言模型
」 AI 輝達 ChatGPT OpenAI 台積電
MacBook搭配M4 Max晶片霸氣登場 挑戰最強AI筆電寶座
沒錯！這一周就是蘋果周。Apple今天發布搭載 M4 系列晶片：M4、M4 Pro 和 M4 Max的MacBook Pro。M4版本的的MacBook Pro為14吋，提供太空黑色和銀色2種顏色，具備M4的超快速效能和3個Thunderbolt 4連接埠；搭載M4 Pro和M4 Max晶片的有14 吋和16 吋機型，均提供Thunderbolt 5，可達成更快的傳輸速度和先進連接功能。所有機型均配備Liquid Retina XDR 顯示器，提供全新奈米紋理顯示器選項，讓顯示器更升級。 受惠於M4系列晶片的超快速效能，新款MacBook Pro變得更加強大。（圖／Apple提供）相較於搭載Intel的MacBook Pro，新款 MacBook Pro為AI工作提供近 10 倍快的效能提升，而針對圖形密集型工作，使用者獲得高達20倍快的效能提升。新款 MacBook Pro的電池續航力現在長達 24 小時，升級裝置者還可體驗到長達14小時的額外續航力。M4系列採用第二代3奈米技術打造，是最先進的個人電腦系列晶片。M4系列具備強大的單執行緒CPU效能和世界最快的CPU核心；以及出色的多執行緒CPU效能，可滿足最繁重的工作量。Apple 晶片結合CPU中的機器學習加速器、先進的 GPU，以及更快、更有效率的神經網路引擎，從裡到外都是為AI提供優異效能而打造。搭配更快速的統一記憶體，各個晶片都有更擴增的記憶體頻寬，因此大型語言模型 (LLM) 和其他大型專案可以在裝置端順暢運行。此外，M4系列領先業界的每瓦效能，讓使用者能享有長達24小時的電池續航力。 新款 MacBook Pro搭載M4、M4 Pro和M4 Max晶片，是歷來為專業級筆電打造出的最先進晶片系列。（圖／Apple提供）至於M4 Pro則配備強大的14核心CPU，其中包含10個效能核心和4個節能核心，帶來多核心效能的飛躍，同時還配備高達20核心的GPU，其效能是M4的兩倍。有了M4 Pro，新款MacBook Pro 的記憶體頻寬比前一代大幅增加75％，是任何AI PC 晶片的兩倍。搭載 M4 Pro 的新款 MacBook Pro 速度比搭載 M1 Pro 的機型快達3倍，能加速如地理測繪、結構工程和資料建模等工作流程。那麼M4 Max能有多神呢？搭載M4 Max的MacBook Pro特別為資料科學家、3D藝術家和作曲家等專業人員而設計，將他們的工作流程推向極限，以往只能用桌上型電腦完成的專案，現在使用筆電就能完成。M4 Max配備最多16核心CPU、最多40核心GPU、每秒超過0.5 TB的統一記憶體頻寬，以及比M1 Max快3倍以上的神經網路引擎，使得運行裝置端AI模型空前快速。有了M4 Max，MacBook Pro的效能高達M1 Max 的3.5 倍，能夠輕而易舉地處理視覺特效、3D動畫和電影配樂等繁重的創意工作。它還支援最高128GB 的統一記憶體，因此開發者可以輕鬆與擁有近2000億個參數的眾多大型語言模型 (LLM) 進行互動。得益於M4 Max配備兩個 ProRes 加速器的強大媒體引擎，即便使用 iPhone 16 Pro 拍攝並在Final Cut Pro 中剪輯 4K120 fps ProRes 影片，MacBook Pro也能輕鬆應付。跟剛剛發布的iMac一樣，MacBook Pro配備全新 1200萬畫素的Center Stage 相機，即使在艱難的照明條件下也能拍出更強化的視訊品質。「人物居中」讓視訊通話使用者能更投入交談。四處移動時，此功能會自動將使用者維持在畫面中央。新相機還支援「桌上視角」，為視訊通話增添全新維度。藉助錄音室品質的麥克風和支援「空間音訊」的6揚聲器音響系統，無論使用者聆聽音樂或是以杜比全景聲看電影，都有更好的體驗。新款的MacBook Pro當然少不了Apple Intelligence功能，前，這項技術在 macOS Sequoia 15.1 中支援美式英文。Apple Intelligence 在做到這一切的同時，每一步都保護著使用者隱私。其核心是裝置端處理，對於更複雜的任務，「私密雲端運算」讓使用者可以取用 Apple 更大的、基於伺服器的模型，同時以創新突破的方式保護個人資訊。MacBook Air是世界最受歡迎的筆記型電腦，雖然沒有M4系列晶片。但有了Apple Intelligence，它的表現更加出色。現在，搭載M2和M3的機型起始記憶體容量增為雙倍，達到16GB。大家最關心的售價，搭載M2和M3機型的MacBook Air，售價依舊是3萬2900元起，有午夜色、星光色、銀色和太空灰色可供挑選；搭載M4的 14 吋MacBook Pro售價5萬4900元起；搭載M4 Pro的14吋MacBook Pro 售價為6萬7900元起；16 吋M4 Pro晶片的MacBook Pro售價則為8萬4900起，MacBook Pro系列所有機型均有太空黑色和銀色可供選擇。10 月 30 日起，包括美國在內的 28 個國家和地區的顧客可至 apple.com／store 以及 Apple Store App 預訂新款 MacBook Pro。產品將於日後在台灣開放訂購。
蘋果推「地表最強晶片」！M4 Pro性能大躍進
被稱為「晶片猛獸」的M4 Max配備16核心CPU，速度比M1 Max的CPU最快可達2.2倍，比最新的AI PC晶片最快可達2.5倍。（圖／Apple提供）超強的M4晶片不夠看！Apple宣布推出兩款更強的新晶片：M4 Pro和M4 Max。M4、M4 Pro和M4 Max這3款晶片均採用業界領先的第二代3奈米技術打造，提升效能和能源效率。M4 系列晶片的CPU具備世界最快的CPU核心，帶來業界最佳的單執行緒效能，以及速度大幅提升的多執行緒效能。其中M4 Max更被稱為「晶片猛獸」，號稱地表最強晶片。M4晶片配備最多10 核心CPU，包括4個效能核心和最多6個節能核心。它的速度比M1最快可達1.8倍，因此跨 Safari和《Excel》等App的多工處理速度快如閃電。10核心GPU提供出色的繪圖處理效能，比M1最快可達2倍，從編輯照片到遊玩3A大作遊戲，都能提供快速且流暢的體驗。更快速的16 核心神經網路引擎特別為Apple Intelligence和其他AI工作而打造。至於M4 Pro晶片，採用於M4首度亮相的先進技術，並為研究人員、開發者、工程師、創意專業人員和其他工作流程要求較高的使用者進一步擴展。M4 Pro 配備高達14核心CPU，其中包括多達10個效能核心和4個節能核心。比M1 Pro的CPU最快可達1.9倍，比最新的AI PC晶片最快可達2.1倍。GPU 具備多達20個核心，繪圖處理效能是M4的2倍，比最新的AI PC晶片快達 2.4 倍。透過M4系列GPU中改良的硬體加速光線追蹤引擎，《控制》等遊戲畫面呈現更吸睛，而專業級3D算繪器可以在更短的時間內產生出絕美影像。M4 Pro支援高達64GB的快速統一記憶體和每秒273Gb的記憶體頻寬，比M3 Pro大幅提升 75％，是任何 AI PC 晶片頻寬的2倍。這結合M4系列更快的神經網路引擎，讓裝置端的Apple Intelligence模型能夠以極快的速度運行。M4 Pro也在Mac上支援Thunderbolt 5，提供高達每秒120Gb的資料傳輸速度，是 Thunderbolt 4流量的兩倍以上。對於處理AI、影片、程式碼資料庫等較大檔案的專業人員而言，M4 Pro提供非凡的效能和Apple晶片傳奇般的能源效率。到了Pro等級已經很強，M4 Max又是什麼概念呢？Apple稱它為「晶片猛獸」。對於將專業級工作流程推向極限的資料科學家、3D藝術家和作曲家，M4 Max 是極致之選。它具備最多16核心CPU，其中最多12個效能核心和4個節能核心。它比 M1 Max的CPU快達2.2倍，比最新的AI PC晶片最快可達2.5倍。GPU擁有多達40個核心，效能 M1 Max快達1.9倍，比最新的AI PC晶片快上4倍，速度相當驚人。因此，《DaVinci Resolve Studio》中的RAW格式影片去噪等繁重工作現在可以即時運行。M4 Max支援高達128GB的快速統一記憶體和高達每秒546Gb的記憶體頻寬，是最新AI PC晶片頻寬的4倍。這使得開發者能夠輕易地與擁有近2000億個參數的眾多大型語言模型進行互動。M4 Max 更強化的媒體引擎包括兩個影片編碼引擎和兩個 ProRes 加速器，是影片專業人員的極致之選。M4 Max與M4 Pro一樣，支援Thunderbolt 5，資料傳輸能力高達每秒120Gb。M4 Max能夠快速運行最具挑戰性的專業級工作量，而且藉助Apple晶片的能源效率，提供對筆電而言極為出色的電池續航力。
傳華為規避管制取得AI晶片 台積電證實：已主動通知美國商務部
英國《金融時報》爆料指出，華為疑似透過第三方公司向台積電下訂類似華為AI伺服器晶片「Ascend 910B」的訂單，被台積電發現後，台積電已主動向美國方面報告此事。目前台積電也對外表示，的確已經主動向美國商務部溝通此事，而目前也尚未注意到台積電成為調查對象。根據《路透社》引述《金融時報》報導指出，台積電收到一個類似於華為AI伺服器晶片「Ascend 910B」的晶片訂單後，就主動向美國商務部通報相關情況，目前也尚未注意到台積電成為調查對象。而半導體研究機構TechInsights近期一份報告顯示，經拆解後，發現華為Ascend 910B處理器使用台積電的7奈米製程。對此，台積電也於23日強調，自2020年9月中旬起就已停止向華為供貨。台積電方面也表示，公司擁有完善的出口管制監控機制，能夠全面確保合規性。當發現可疑情況時，會迅速採取行動確保符合相關法規，包括進行盡職調查，並在必要時主動與客戶和主管機關溝通。也有消息人士指出，雖然美國商務部的調查與台積電「有關」，但台積電並非調查目標。另有消息來源表示，台積電已就規避出口管制的問題與美國商務部多次對話，目前沒有證據顯示台積電存在惡意違規行為。據了解，Ascend 910B是一款用於大型語言模型訓練的AI處理器，其應用範圍涉及人工智慧技術和語言模型的開發，先前Ascend 910B曾由中國的中芯代工，但遭爆量率僅2成左右，產能難以擴大。而美國商務部工業暨安全局（Bureau of Industry and Security）對此表示，目前已注意到「涉嫌違反美國出口管制」的通報，但無法告知是否正在進行調查。
台積電通知美國接獲詭異訂單 外媒爆料「中國試圖突破晶片管制」
根據英國《金融時報》（Financial Times）報導指出，台積電近日表示由於接獲詭異的訂單，推測有人試圖透過像台積電下訂，為華為生產美國規避出口的AI晶片。目前台積電也就此事已向美國商務部通報，根據《路透社》引述《金融時報》報導指出，根據美國政府的規定，出口管制其中一個關鍵條款，舊式是禁止全球晶片製造商利用美國技術或設備來為華為及其產品生產晶片。這項管制自2022年生效，主要目的是為了限制中國軍事能力的擴展。自2020年9月中旬以來，台積電就停止向華為供貨，後續也沒有因此成為任何調查的對象。但由於《金融時報》曝光此事件，台積電在美國上市的股票，其股價也因此下跌了1.5%。報導中提到，台積電收到一個類似於華為AI伺服器晶片「Ascend 910B」的晶片訂單後，就主動向美國商務部通報相關情況。Ascend 910B是一款用於大型語言模型訓練的AI處理器，其應用範圍涉及人工智慧技術和語言模型的開發，先前Ascend 910B曾由中國的中芯代工，但遭爆量率僅2成左右，產能難以擴大。而目前美國商務部與華為均未對這起事件對外界做出回應。
黃仁勳成「4兆男」進入富比士前10大富豪 2年漲6倍身家
隨著人工智慧技術的需求持續飆升，Nvidia（輝達）執行長黃仁勳身家暴增，一舉升至1241億美元（約新台幣4兆元），於21日進入《福布斯》全球實時億萬富翁排行榜的第十名，這也是他首次進入前十名。根據《福布斯》最新數據，截至21日收盤，黃仁勳的淨資產增加了36億美元，達到1241億美元，超過了微軟前執行長史蒂夫鮑爾默（Steve Ballmer），後者的淨資產為1225億美元，兩人互換了全球富豪榜的第十和第十一名。隨著Nvidia的股價上漲4.1%，達到歷史新高的每股144美元，黃仁勳的財富隨之大幅增加。黃仁勳的大部分財富來自他在Nvidia所持有的約3.5%股權，這部分股權價值1222億美元。作為Nvidia的創辦人之一，61歲的黃仁勳自1993年公司成立以來一直擔任首席執行長。儘管今年夏天他出售了價值7.13億美元的股票，但他仍是該公司最大的個人股東。報導中指出，Nvidia是全球領先的客製化人工智慧技術設計公司，擁有約80%的AI加速器市場份額，這些技術是亞馬遜、Google、Meta、微軟和特斯拉等大型科技公司用於開發高端AI應用的關鍵。Nvidia的GPU從遊戲圈起步，如今成為大型語言模型的主要硬體支持，其中包括OpenAI的ChatGPT等熱門應用。黃仁勳曾表示，客戶對於Nvidia產品的需求「瘋狂增長」，並形容客戶對這些技術感到「非常激動」，這股AI熱潮促使Nvidia的股價在過去兩年內飆升超過1000%，該公司本財年的利潤預計將比上一財年增長1400%。此外，兩年前黃仁勳在《福布斯》400強榜單上的淨資產僅為206億美元，如今隨著AI技術需求的急速增長，他的財富在短短兩年內激增了六倍。
聯發科推地表最強AI晶片「天璣9400」 本月兩款手機上市
聯發科（2454）在10月9日端出年度大菜、專為邊緣AI、沉浸式遊戲、極致影像而生的最新旗艦5G Agentic AI晶片－天璣9400，是聯發科技第四代旗艦行動晶片，第二代全大核設計，採用台積電3奈米製程生產，搭載新晶片的大陸品牌手機由vivo打頭陣，10月14日推出最新X200，OPPO的Find X8也宣布將在10月24日推出，台灣玩家最快在11月就能嘗鮮。聯發科於2019年發布首款5G旗艦行動晶片天璣1000後，目前已連續16季位居全球智慧手機系統單晶片市占率第一，9日股價也同聲慶賀，最高一度衝上1275元，最後漲20元、1.63%，收在1245元。聯發科資深副總經理徐敬全在發布會上表示，這次採用PC級的架構，相較於上一代旗艦晶片天璣9300，天璣9400單核性能提升35%、多核性能提升28%；而天璣9400採用台積電第二代3奈米製程，讓功耗較前一代降低40%，也就是更省電，「可以說是天賦拉滿，不必追高頻也一樣強悍。」被稱為「強、慧、猛」的產品，天璣9400也整合聯發科技第八代AI處理器NPU 890，擁有勝於以往的生成式AI性能，也首先提供開發者Agentic AI能力，AI性能和能效有顯著提升，像是大型語言模型（LLM）提示詞處理性能提升80%、功耗節省35%。硬體準備好了，將成為未來AI創新應用的運算基礎，在大陸已與多家APP深入結合，像是可以用圖片解題算數學、拍照翻譯菜單上的外國文字並分析卡路里與價格，在肯德基的外送功能上，只需要最後付款使用手指輸入，其他都能與AI對話討論就完成點菜。在玩遊戲方面，天璣9400整合12核心Arm Immortalis-G925，光線追蹤性能較前一代提升40%，GPU能力更較前一代提升41%峰值性能和節省44%功耗。而生成式AI的玩法，上一代晶片可以用文生圖，而這一代不但可以讓照片動起來，還能做自己的AI生成影片、且不須透過網路上雲端，直接在自己的手機硬體上運算。OPPO高級副總裁段要輝在發布會上表示，最近做過測試，用5G網路、30度的高溫環境，用各家手機玩原神，開啟最高畫質，去壓榨手機的極限性能，對手最新的16pro Max最多只能穩定10分鐘，但用了天璣9400晶片的手機，就能一路穩定到底。因應客戶需求，這晶片也支援三折型的智慧手機，讓手機製造商有設計的靈活性。接下來有不少搭載天璣9400的品牌手機陸續推出，像是vivo會在14日首先發表最新的X200系列，台灣預計在11月中下旬上市；OPPO也在聯發科的發布會上宣布，Find X8將在10月24日推出。日前市場也傳出，三星明年初將發表的新款旗艦機Galaxy S25系列也會採用天璣9400，聯發科過去供應給三星的智慧手機處理器，大多是中階機種，而這將會是聯發科首度切入三星旗艦型手機供應鏈，意義非凡。
輝達GB200鴻海科技日亮相 「這四家」台版卡廠迎商機
鴻海（2317）將於10月8日和9日在台北南港展覽館1館舉行鴻海科技日，聚焦生成式AI、國際化及夥伴關係等，將展現完整AI解決方案和創新科技成果，其中鴻海與輝達合作的AI伺服器GB200量產版將亮相，為市場矚目的焦點。NVIDIA GB200 Grace™ Blackwell NVL2 ，透過Blackwell GPU和Grace CPU為主流大型語言模型推論（LLM）、向量資料庫和資料處理提供無可比擬的效能，為所有資料中心開創運算新紀元。不過，輝達（NVIDIA）新一代顯示卡RTX 50系列規格曝光，儘管因Blackwell良率問題，導致推出時間預估延遲至明年1月CES展前後，仍受市場關注，台板卡廠微星、技嘉、華碩和承啟有望進補。因應新卡推出，市場傳出輝達預計於今年10月停產RTX 40系列高階顯示卡，輝達在AI和電競兩大市場的優勢地位將持續鞏固。市場預期有望為微星（2377）、技嘉（2376）、華碩（2357）和承啟（2425）等台灣板卡廠商創造新的機會。微星在今年4月宣布將以GeForce RTX系列GPU顯示卡產品為主力，8月營收創今年新高；技嘉預期，新平台的推出和顯示卡供不應求，將推動營收獲利增長。承啟作為中國顯卡廠七彩虹的代工廠，顯卡產品出貨力道逐漸增強，隨著消費性電子第四季旺季到來，營運有望逐步升溫。華碩部分，主板及顯示卡歸類為零組件業務，並預估今年將成長5-10%。
抄底撿四寶3／台灣石化績優生長春走斜槓路線 擁抱AI開發LLM還研究機器人
整個亞洲石化業面臨中國大陸的天量傾銷，已造成結構性改變，無一家逃得過這場風暴，連台灣石化業老二、長年的績優生長春集團也不例外，不過這家老字號今年大力轉身擁抱AI，身為傳統到不行的基礎原物料產業，不但參與自建台灣繁體中文的大語言模型，還想跨界做機器人，就是由最愛親自巡工廠的96歲老董、長春集團創辦人林書鴻的帶頭猛進。中國大陸是全球最大的石化與塑化產品消費國，是亞洲各國進軍的目標市場，但中國在2016年將過去只有國營企業才能經營的石化產業釋放給民間，導致投資一股腦湧出，北從大連長興島、南到福建漳州古雷，一路上就有七大石化園區推動煉化一體，石化產能從2015年占全球12%，去年已翻倍增長至25%。產能開出的時間剛好遇到疫情後全球去庫存的景氣低迷時刻，大陸本身經濟也未恢復，導致這些新增產能無處可去，傾銷造成整個亞洲市場價格崩壞，「現在東北亞的國家，很多公司都在討論要怎麼把生產線直接結束掉。」產業人士跟CTWANT記者說，而台化董事長洪福源在6月股東會時感嘆「中國產能太荒唐，都是天文數字」的供給過剩，恐怕到明年都難以解決。中國大陸正在興建的煉油化工廠產量驚人。（圖／新華社）「中國石化業正以前所未有的速度擴張，台灣花30年才能推進100萬噸的產能，中國大陸在2、3年間就直接超車達到200 萬噸。」長期低調的長春集團之大連化工董事長林顯東也看到了石化業的隱憂；身為林書鴻的長子，且做為長春集團常務董事、長捷士科技公司董事長，同時擁有石化與電子兩種領域之管理經驗，他在這場中國低價傾銷風暴中，選擇的應對作法，就是善用AI預測與「斜槓」。長春集團與台大資工系、資管系，以及和碩、長庚醫院、欣興電子等業者，剛在7月共同宣布要開發臺灣繁中大型語言模型（LLM）計畫Project TAME，以70億參數的開源模型Llama-3 70B為基礎，使用5000億個Token和NVIDIA開發者計畫技術訓練而成，希望未來可用於原物料價格預測、企業戰情中心資訊分析和機器人大腦等3大領域。台大團隊與長春、和碩、長庚醫院、欣興電子等業者共同推出Project TAME。（圖／業者提供）就戰情中心來說，長春集團資訊中心將過去2年的內部銷售與財務資料，加上外部的關鍵經濟指標，發現LLM真的可給出人類分析師沒注意到的意見。而高齡96歲的長春集團總裁林書鴻也力挺集團數位轉型，直接買下一台輝達DGX H100放在集團運算中心進行AI訓練，更在2023年10月投入機器人研發，與台大團隊合作，計畫在一年內開發出通用型機器人，結合AI大語言模型，可以聽指令做家事、陪伴老人，更能進入危險的石化工廠出任務。像是台灣大學機械系教授郭重顯的研究團隊，最近推出台灣首創且自主研發的AI機器狗NTU DogBot，93公分長、40公斤重的工作型機器狗Dustin，就可應用於工業巡檢與物品遞送，搭載各式工業用途的感測器，包括音噪、視覺、溫度、氣體等，並結合Line Bot即時訊息回報，今年底希望能學會爬樓梯，2025年至2027年加上防水、防塵的戶外場域應用，可用於長春集團提出的化工廠智慧巡檢需求。左為寵物型機械狗Oliver、右為工作型機械狗Dustin。（圖／記者劉耿豪攝）長春石化資訊中心IDX協理黃至善表示，現在切入機器人產業時機點正好，因為全世界起跑點一樣，石化產業競爭激烈，機器人會是集團數位轉型的好方向，計畫明年6月前打造出機器人原型，聽懂主人指令跟操控手指等細部動作，接下來希望能順應不同地形、在虛擬環境做自主訓練，然後在集團工廠服役。「未來石化業若有危險場域都可以由機器人執行任務，即使機器人爆炸了，由於知識儲存在雲端，可以馬上複製。」黃至善得意地說。
老黃簡報提3次提「他」 APMIC帶AI解決方案反攻美國市場
今年台北國際電腦展COMPUTEX掀起AI教父、輝達（NVIDIA）執行長黃仁勳炫風，他在演講簡報提及的台灣公司股票都大漲一波，有一家軟體公司的名稱出現三次，那就是主打企業自主AI解決方案的台灣新創公司APMIC。APMIC創辦人暨執行長吳柏翰27日表示，旗下的大型語言模型「CaiGunn開講」將引進北美市場，讓企業擁有能力打造自己的AI大腦、人人輕鬆參與AI時代，協助全球企業邁向AI轉型。「CaiGunn開講」，名稱取自台語「聊天」發音，是APMIC團隊打造的在地化大型語言模型與平台框架。吳柏翰介紹，企業人員只要將現有的文章、網站或是文件資料上傳，不需寫任何程式，就能打造出地端的企業AI大腦，不上傳到雲端，所以不怕機密洩漏，每個員工都能一鍵套用、用對話的方式使用AI工具。「CaiGunn開講」已獲得Google、台北市政府、NEC、台塑生醫、中國信託銀行及亞太電信等800多家橫跨健康、製造、金融、航空、零售等產業採用，為企業服務效率提升超過30%，也是2023年全台唯一上榜全球知名開源語言模型平台Hugging Face百大排名的模型。輝達也在27日宣布推出四款全新NVIDIA NIM微服務，讓開發人員能輕鬆建置與部署高效能的生成式AI應用，針對地區需求量身打造，在台灣使用Llama 3-Taiwan 70B NIM微服務，可降低生產環境中運行模型的總成本，並減少延遲。輝達新聞稿提到，像是長庚醫院正在以此建置該院專屬的AI推論服務，集中管理醫院體系內的所有LLM應用；和碩用來開發內外部的應用，將這款微服務與旗下的AI系統整合，提升製造與營運效率。其他包括長春集團、欣興電子，媒體公司，以及線上合約服務公司律果科技與新創公司APMIC等都有在開放模型上進行合作。數據顯示，目前企業做AI生成，用小模型加上RAG準確率只能達到83.9%，若想更精準，就必須花更多的錢、買更大的設備與模型，但APMIC的技術就是用他們「微調」，使用輝達H100的顯卡，達到H200擁有的90%以上的精準度。吳柏翰表示，今年他到美國參加輝達的GTC大會時，發現美國雖然AI發展得早，但缺乏相關的框架業者，而他們已能跟輝達生態圈合作打團體戰，包括硬體、軟體與系統整合等廠商，進軍美國市場。
劍指谷歌！OpenAI與多家新聞媒體出版商合作 計畫推出AI搜尋引擎「SearchGPT」
美國人工智慧研究實驗室「OpenAI」正在測試一款人工智慧（AI）線上搜尋引擎「SearchGPT」，其將使用生成式AI收集資訊並以對話的語氣回答問題和搜尋結果，幫助用戶更快、更輕鬆地找到他們的查詢內容，目前僅向一小部分用戶開放測試，且尚未透露正式的推出時間，預計「SearchGPT」最終可能會整合到「OpenAI」的「ChatGPT」聊天天機器人中。據科技雜誌《連線》（Wired）的報導，「OpenAI」發言人伍德（Kayla Wood）拒絕向《連線》提供演示新工具「SearchGPT」的詳細資料，但證實該公司已向若干合作夥伴和新聞媒體出版商取得訪問權限，並根據他們的反饋內容改進搜尋引擎的功能，此舉被外界解讀是正面劍指搜尋引擎龍頭「Google」。「OpenAI」的主要投資者微軟（Microsoft）是最早向大眾發布生成式AI搜尋引擎的公司之一，該公司於2023年把AI聊天機器人「ChatGPT」背後的人工智慧技術整合到旗下的網路搜尋引擎「Bing」，以及瀏覽器「Edge」中。微軟的人工智慧搜尋引擎現已更名為「Microsoft 365 Copilot」。隨後，「Google」以及由AI聊天機器人驅動的研究和會話搜尋引擎「Perplexity AI」等多個競爭對手，都向用戶推出了自己的AI搜尋服務。例如「Google」就在搜尋引擎中推出名為AI概述（AI overview）的新功能，替用戶一次整合所有搜尋結果，不需點擊多個連結。而「OpenAI」的「SearchGPT」則看起來與「Perplexity AI」更為相似，其聊天機器人可使用自然語言預測文字回答查詢，並使用網路來源產生答案，引用文字回應中的連結。「OpenAI」在2022年11月首次推出ChatGPT後，許多用戶看到聊天機器人從網路中挖掘和總結資訊的能力，預期AI聊天機器人有可能取代傳統的網路搜尋引擎。然而，大型語言模型（large language model，LLM）的缺點使得聊天機器人的搜尋功能不完全，這些模型所利用的訓練數據通常已經過時數月或數年，因此當不確定答案時，AI聊天機器人就會編造「錯誤的事實」。對此，「OpenAI」的「SearchGPT」可能會使用結合了搜尋檢索和生成能力的自然語言處理架構「檢索增強生成」（Retrieval-Augmented Generation，RAG），來降低聊天機器人的錯答率。透過RAG架構，人工智慧工具將引用可信任資訊，例如首選新聞網站，同時將產生搜尋結果的資料和數據來源。不過這個方法具有潛在的版權侵犯問題。例如「Perplexity AI」就遭到包括《連線》在內的網站或新聞媒體出版商的批評，因為其AI搜尋引擎涉嫌抄襲原創新聞網站的內容，並且刻意忽略資料來源。因此「OpenAI」改進了這項缺失，並對新聞媒體出版商承諾：「SearchGPT」將透過在搜尋結果中特別引用和連結到出版商的內容，讓用戶與出版商建立更多聯繫和瀏覽。據悉，包括沃克斯傳媒（Vox Media）、大西洋月刊（The Atlantic）、新聞集團（News Corp）和金融時報（Financial Times）在內的多家新聞媒體公司，今年都已與「OpenAI」簽署了內容授權協議。
輝達H100顯卡PChome賣139萬秒殺 網直呼：你還嫌貴早完售
近年來全球走入AI世代，而輝達NVIDIA H100 GPU近日在網購平台PChome開賣，售價為139萬，一開賣就秒殺，讓網友直呼，「當你還在那嫌貴的時候，商品早已完售。」據了解，NVIDIA H100 80GB Tensor 核心 GPU PCIe在PChome售價為139萬元。原PO在PTT發文，「不知道什麼時候上架的XD。」而下單還可以折2024元，讓他直呼佛心，「重整才發現已經賣完了QQ。」此文曝光後，網友紛紛留言「AI靠這張」、「未來一戶一張」、「要不是賣完了，不然我一定買」、「能24hr到貨嗎」、「一張一台車賺爛了」、「中國公司買來屯」、「當你還在那嫌貴的時候，商品早已完售」、「這東西塞的進我家電腦裡面嗎」、「聽起來買這個會變成穩賺不賠的投資」。據悉，近日馬斯克在X發文，新推出的AI聊天機器人Grok3會很特別，因為AI用10萬張H100晶片訓練。據悉，H100又稱Hopper，是輝達圖形處理單元，用於大型語言模型，而隨著AI發展逐漸進步，也成為科技公司搶購的資源。
輝達建數據中心各縣市爭搶 經濟部長：2030年前有10座資料中心要建置
輝達(NVIDIA)要在台設第二座研發中心與數據中心，各縣市爭搶，經濟部長郭智輝今(5日)呼籲，除輝達外，還有許多數據中心要來，各縣市都有機會。據了解，他上任後積極到各供應鏈拜訪，已掌握2030年前應該還有10座資料中心要設置。他上任18天，期間積極拜訪國內產業與供應鏈，第一線與業者交換，因應AI浪潮，業者表示會籌設更多資料中心，包括外商與本土商。經濟部初步掌握，到2030年前應該還有10座資料中心會建置。至於是本地運算中心，還是要建構大型語言模型(LLM)，目前還不確定。不過資料中心用電量很大，以G開頭的外商公司彰化資料中心相比，其一座每年耗電就高達8.4億度，相當龐大。相對如果是 輝達在高雄的「台北1號」超級電腦中心，每年耗電量約584萬度，衝擊就較小。對於資料中心龐大用電量。郭智輝說， 如果來5到6家數據中心，還可支持。但如果一次來10家，就要考慮怎麼最快支援它們需要的電。台電的規劃是大量增加綠電，會先從光電開始做，並透過儲電、水力抽蓄輔助。他強調蓋新燃煤電廠要6年，光電只要2年，這是最快辦法。但是民眾黨立委張啟楷提醒，風力發電在夏天最需要用電的 6到9月，卻是發電最低，其次太陽能也是不夠穩定的電 。如果要用燃氣新電廠，但四接、五接都還在環評 ，都有珊瑚生態、漁業經濟 、白海豚生態爭議，還不知道。
臺大醫院發展AI智慧醫療 數位護理師可望紓解人力荒
臺大醫院遠距照護中心在臺大醫學院副院長何奕倫教授帶領之下，致力於自然語言處理與生成式AI在遠距醫療的研究與應用。中心利用非結構式語音資料，整合生理資訊與電子病歷紀錄，藉由生成式AI的長處，協助遠距醫療的診斷、處置與風險分級預測。生成式AI結合語音、搜尋與生成式臉型等模型，可以實現數位護理師的功能。數位護理師將能分析語音、症狀與生理參數等綜合診斷、根據症狀給予非處方用藥或藥物調整建議，最後將對話過程自動總結，紀錄於電子病歷中。此計畫所開發的數位護理師，除了將對遠距醫療的進行有幫助之外，也可推廣至其他相關的臨床應用情境。臺大醫院影像醫學部AI團隊過去數年在結合心臟內科及臺灣大學的合作下，成功開發且無償捐給國民健康署用來篩檢國人心臟病的AI 診斷平台HeaorNet 成果豐碩，供全世界使用，讓世界看見台灣的貢獻 TAIWAN can help。同時，將進一步共同開發全球首個支援通用人工智慧(GAI)的RIS+PACS系統 - VSRad(Visual Studio Rad)。這個創新平台旨在滿足全球放射科醫生的未被滿足的需求，將基於網頁的整合開發環境(IDE)與專門為世界放射診斷專科量身定製的PACS(影像存檔和通訊系統)和RIS(放射資訊系統)功能相結合。VSRad系統將提供先進的功能，例如：自由文字自動完成、將自由文字轉換為定製的結構化報告、空間分配文字關聯、文字 - 圖像空間關聯 以及 自動背景搜尋相似病例的歷史記錄。這些功能將簡化放射診斷專科的工作流程、減少倦怠 並為 全球放射科醫生提供智能助手，以提高其工作效率和決策過程。胰臟癌是致死率最高的癌症，早期胰臟癌在電腦斷層攝影（CT）上不明顯，因而近四成小於兩公分的胰臟癌在 CT上難以被發現，常因而喪失治療機會。臺大醫院首創AI胰臟癌輔助偵測工具，能提高早期胰臟癌的偵測率。此創新除獲衛福部智慧醫材許可證，也榮獲美國FDA認證為「突破性醫療器材（Breakthrough Device）」，為首獲此殊榮的台灣AI醫療產品。以臺大醫院健康管理中心的亞健康世代長期追蹤資料與全醫療體系整合醫療資料庫的大數據，訓練開源大型語言模型，藉此將可充分運用個人多模式健康醫療資料，並協助醫護人員對各種非傳染性疾病進行動態風險預測並提供建議與臨床決策。臺大醫院早在2020年即導入兩部AI運算主機，建立醫療大型語言模型與多模態語言模型，開發智慧疾病分類編碼系統、報告撰寫助手、風險預測、問答系統等醫療場域落地應用，2024年結合醫療與人工智慧，帶領團隊打世界盃，將台灣醫療的影響力發揮到全球，為智慧醫療開啟嶄新的面貌。
輝達擴大與中華電信合作 董座股東會宣布「每股配息4.758元」
輝達（NVIDIA）執行長黃仁勳上周抵台後行程備受關注，不僅和台積電（2330）董事長創辦人張忠謀、廣達（2382）創辦人林百里一同逛夜市，也與其他科技大佬會面，其中，中華電信（2412）董事長郭水義、總經理林昭陽也出現在宴客清單中。有消息傳出，「中華電信確定與NVIDIA擴大合作。」據消息來源表示，中華電信已向輝達購買DGX伺服器，未來將藉由開源LLM大型語言模型、檢索增強生成（Retrieval-Augmented Generation，RAG）等資源技術，發展並提供內外部AI應用服務。中華電信公司5月31日舉行113年股東常會，由董事長郭水義主持，承認該公司112年度營業報告書、財務報表及盈餘分配案，並通過公司章程修正案及解除董事競業禁止限制案。關於112年度盈餘分配案，股東會通過配發現金股利每股4.758元，配發金額合計新台幣36,909,930,661元。中華電信表示，112年現金股利維持近100%的配發率，未來仍將繼續維持穩定股利政策。今天中華電開盤127.5元，最高來到128元，不過最終收盤價為127元，跌幅0.78%。
「3兆男」只是開始！ 外媒分析輝達股價繼續高歌猛進「6年後再翻2.5倍」
近期輝達（Nvidia）執行長黃仁勳來台參加Computex，同時還幫中職球團進行開球，寫下中職開球嘉賓中「身價最高」的紀錄。但有外媒報導指出，如今黃仁勳雖然身價已達到千億美元（折合新台幣約3.26兆元），但這僅僅是開始，多數分析師認為，輝達股價會持續高歌猛進，在未來6年內，公司市值會再翻2.5倍。根據《For Tune》報導指出，在過去的一年中，AI晶片領域的領頭羊輝達市值就飆升200%之多，截至5月31日，輝達的市值約為2.7兆美元，公司市值已經逼近微軟與蘋果。而I/O Fund 首席科技分析師貝絲（Beth Kindig）則預測，在未來數年內，輝達的市值將會再提升270%，公司市值會達到10兆美元。貝絲表示，由於近期AI熱潮，再加上訓練大型語言模型的資料中心很要求晶片，輝達計畫在今年內推出的Blackwell晶片，其效能被視為遠超早期的Hopper晶片。也因為如此，貝絲認為，輝達如今的榮景，只是一個很早期的開始階段。而且貝絲也預估，即便有AMD與INTEL的搶占，但輝達仍然能拿下最大部分的市場份額。至於輝達何時會達到公司市值的里程碑，貝絲推估，這個里程碑將在2030年內達成。
不計代價開發通用AI OpenAI執行長：一年燒500億美元也在所不惜
美國人工智慧（AI）開發公司OpenAI執行長奧特曼（Sam Altman）日前在史丹佛大學發表演說時表示，他不計代價要成為首家開發「通用AI」（AGI）公司，即使一年要燒掉500億美元也不在乎，只要找到支付帳單的方法就會全力投入。奧特曼認為在開發AGI上，不管要付出多高代價都是值得。但他拒絕預測需要多少時間才能達成AGI目標。雖然有人因商業考量而擔心OpenAI在開發AGI上會投入過量資金，但他強調自己一點也不在乎要燒掉多少錢。他說：「不管我們要一年燒錢5億美元或50億美元，甚至是500億美元，我都不在，我真的不在乎。只要我們能找到支付帳單的方法，我們就會繼續開發AGI。其代價將是昂貴的。」AGI是研發AI領域裡的終極目標之一，要在各種領域與任務裡，具有能媲美甚至超越人類表現的系統，但其定義模糊。像馬斯克在指控OpenAI的訴狀中，就認為其大型語言模型GPT-4已達到AGI程度。雖然OpenAI的聊天機器人ChatGPT表現讓人驚豔，但奧特曼認為ChatGPT表現並不驚人，充其量是令人有點不好意思。外界認為其說法有點太過自貶，但也可能是其對於OpenAI目前研究計劃仍未能商業化的一種回應。在開發AGI的過程裡，如何讓大眾了解AI的發展程度，和讓包括OpenAI等AI開發商明白到外界對AI的期待，對於促使社會與AI一起共同演進來說是十分重要。奧特曼舉例，若AI是默默地研發而外界對此不了解，這肯定不會被大家接受。跟砸鉅資開發相比，他更擔心社會能否適應其公司在AI上取得的進展，所以AI突飛猛進至令人驚訝程度其實並不適合。因為大家希望AI成果是逐步推出，讓人有能力去駕馭這些系統。
聯發科聚焦AI應用 三大外資目標喊上1300元
IC設計龍頭廠聯發科（2454）日前預估第二季營收將季減9%。外資雖示警中國智慧型手機庫存調整較預期嚴重，但看好聯發科有望在AI轉型路上成要角。三大外資出具最新報告，維持原評等，目標價最高來到1300元。今天（29日）聯發科股價開高震盪，截至發稿上漲0.5%來到1010元。聯發科將在下半年推出新的天璣9400晶片，市場聚焦聯發科AI轉型策略。該晶片擁有更強大的AI運算單元，支援至少7B或13B參數的LLM（大型語言模型），在生成式AI帶動下，有望佔營收比逾5成。美系外資高盛指出，預計聯發科今年營收成長將達到15%左右，管理層尤其對智慧型手機高階市場充滿信心，估將貢獻今年營收年增5成以上，而且聯發科技預計下半年推出新一代Dimentisy 9400，採用台積電N3處理器，對AI ASIC TAM的積極態度逐漸增強，因此調高目標價至1300元，維持買進評等。另一美系外資大摩指出，中國手機庫存調整比預期嚴重，但聯發科也服務於其它新興市場，因此看好下半年隨時都可能出現強勁的庫存補貨，且智慧型手機出貨結構正在向高端市場轉移。大摩預估下半年旗艦款天璣9400可支援更多AI應用，平均售價將達到140美元，因此重申聯發科優於大盤評級，並調高目標價至1288元。大和資本則表示，聯發科第一季的業績強勁，但第二季的前景黯淡，雖然智慧型手機銷量下降，但對聯發科結構性業務的積極看法仍好。並強調，過去兩季供應商積極推動AI智慧型手機的更換需求，導致聯發科捕獲強勁，隨著需求可視性的提高，預計今年收入將以美元計算至少成長15%，因此重申買進評等，目標價1155元。
iOS 18預計今年內推出 各大功能全面翻新「堪稱歷代變化之最」
在2024年6月即將登場的蘋果開發者大會，外界預計iOS最新作業系統iOS 18會在這次的展期中登場。雖然目前針對iOS 18的變化並沒有一個明確的定數，但《彭博社》的科技專欄線作家古爾曼（Mark Gurman）認為，這次iOS 18的變革可能可以說是「劃時代」的更新，其中的變化有可能成為「歷代之最」，當中也有不少涉及到AI人工智慧的功能，以及許多傳統的功能將會迎來大幅度的更新。根據《macrumors》報導，他們將目前坊間傳聞有關於iOS 18的全新功能與變革做個整理，方便各位讀者做個初步的理解：AI功能在生成式AI普及的如今，蘋果為了趕上Google、微軟，甚至是挑戰OpenAI等已經具有AI優勢的公司，蘋果先前就宣布要在大語言模型的研究所需的硬體上投資超過10億美元，在iOS 18中也傳聞會內建許多AI功能來增強原有軟體的能力，像是在Apple Music中，蘋果能提供自動生成的Apple Music播放列表，在Pages和Keynote等軟體中，可以提供AI輔助的寫作和簡報的製作功能。但目前蘋果的計畫是讓AI功能直接在本地端的設備上運作，不仰賴雲端伺服器，因此AI功能的問世，可能僅侷限在某些搭載強力晶片的機種上，像是iPhone 16。至於是否會放置生成式聊天機器人進入iOS 18中，目前外界傳聞是會有，但並非是蘋果自家研發，極有可能選擇使用Google或是OpenAI的技術。蘋果正與Google討論將Gemini AI引擎整合到iOS 18的iPhone中，也與OpenAI進行談判，研究如何將OpenAI和Google的AI功能整合到操作系統中。Siri目前已經確定，蘋果會在iOS 18中導入AI，其中最直接影響的，就是蘋果的語音助理Siri，外界傳聞，蘋果會使用大型語言模型（LLMs）徹底改造Siri，古爾曼也提到，蘋果目前正在開發一套軟體，可以改善Siri與Messages之間的互動，這讓Siri有機會以高效的方式完成、回答複雜的語句。除此之外，外界也傳聞，為了讓導入AI的Siri能夠擁有更自然的對話能力，以及改善用戶的使用體驗，未來這項功能可能會允許Siri從每個設備中備份對話訊息到另外一個設備。主螢幕據傳聞在iOS 18中，用戶將擁有更多的選擇來自定義自己的桌面，讓使用者能依照自己的習慣、喜好，創建更多專屬於自己風格的桌面。Apple Maps在iOS 18中，蘋果地圖傳聞會有定義路線的功能，像是用戶可以輸入自選路線給蘋果地圖，而並不會侷限蘋果提供的預設選項，自定義路線將允許用戶可以基於想欣賞風景，還是想趕路來設定前進路線。Notes預計iOS 18的Notes將支援在程式中直接錄製語音備忘錄，錄音可以嵌入到筆記中，目前外件還傳聞未來會支持顯示數學符號，以包括更多類型的方程式到筆記中。與Android用戶的文字通訊Apple 將在「2024年稍後」採用RCS服務標準作為 SMS/MMS 的替代方案。iMessage還是會保留，未來會用於iOS裝置間的預設對話，但 RCS 將以多種方式改善 iPhone 至 Android 的對話。從 iPhone 向 Android 用戶發送照片和影片將不再出現錯誤，且群組聊天的性能將得到提升。功能如跨平台表情反應、已讀通知和即時打字指示也在新增功能的行列中。無障礙功能外界傳聞Apple正為iOS 18和macOS 15開發新一個自適應語音快捷方式的無障礙功能。該項功能將讓用戶創建一個自定義短語，然後選擇一個無障礙設置與該短語連接。說出該短語後，就可以啟動無障礙選項，如 VoiceOver、Voice Control、Zoom 等。兼容性iOS 18 預計將運行在所有能夠運行 iOS 17 的 iPhone 上，包括 iPhone XR、iPhone XS、iPhone SE 2 及更新型號。iOS 18相關日期 將在 6 月 10 日的全球開發者大會上首次亮相。WWDC 之後，iOS 18 將提供給開發者進行測試，公開測試版可能在 7 月某個時間推出。
iPhone將引入AI功能？ 傳蘋果與OpenAI和谷歌進行談話
據知情人士透露，蘋果已重啟與OpenAI的談判，打算使用這家新創公司的技術來為今年下半年推出的iPhone的一些新功能提供支持。外媒引述知情人士消息報導，兩家公司已經開始討論可能達成的協議的條款，以及OpenAI的功能將如何整合到蘋果的下一代iPhone操作系統iOS 18中。此舉標誌著兩家公司重啟對話。今年早些時候，蘋果曾與OpenAI就一項交易進行過談判，但自那以來，雙方的合作一直很少。與此同時，蘋果據稱還在與Alphabet旗下的谷歌就授權使用後者的Gemini聊天機器人進行談判。有鑑於此，不難看出蘋果還沒有最終決定將與哪家公司進行合作，也不能保證會達成協議。該公司有可能最終與OpenAI和谷歌均達成協議，或者完全選擇另一家供應商。今年早些時候還有報導稱，蘋果在與人工智慧新創公司Anthropic進行討論。蘋果準備在全球開發者大會上推出新的人工智慧軟體和服務。蘋果CEO庫克（Tim Cook）此前承諾，公司今年將在人工智慧領域取得重大突破，而即將發佈的iOS 18被認爲是實現這一目標的重要途徑之一。據了解，Siri預計將成為iOS 18人工智慧改進的受益者之一。此前有消息人士透露，蘋果計劃利用大型語言模型全面革新Siri，使其成爲「終極虛擬助手」。另有媒體報導稱，蘋果正在開發的一項具體功能是改善Siri與訊息應用的交互，例如讓Siri更有效地自動完成句子並回答覆雜問題。去年，庫克表示，他個人使用OpenAI的ChatGPT，但有許多問題需要解決。他承諾，新的人工智慧功能將在非常周到的基礎上進入蘋果的平台。有分析人士指出，依靠合作伙伴將有助於蘋果加速進軍聊天機器人領域，並避開一些風險。通過將生成式人工智慧功能外包給另一家公司，庫克可能會減輕其平台的責任。
輝達在台設亞洲首座AI研發中心！2年聘用400人 經濟部：對我人才素質滿意
AI大廠輝達（NVIDIA）前年來台設首座亞洲AI研發中心，總投資金額243億台幣，至今已僱用400名員工。經濟部技術司26日表示，輝達目前研發順利，也將協助我廠商進行AI應用開發，對我人才素質感到滿意，相信將來會有在台設第二座研發中心考量。輝達是2021年申請人工智慧創新研發中心計畫，經濟部補助67億元，2022年起台灣AI研發中心成立，地點設在台北內湖，同時承諾2027年要僱用到1000名員工。這座亞洲第一個研發中心，主要進行AI晶片研發與GPU圖形處理器，還建立了全台最大的超級電腦「Taipei 1」，日前經濟部代為宣布，「Taipei-1」要免費提供AI算力給產官學研究與新創作研發使用，可幫助我國投入生成式AI、大型語言模型、數位孿生等前瞻研發。經濟部技術司長邱求慧說，輝達在台投資計畫不只設研發中心，還包含分享超級電腦資源給業界，並參與台大、清大的AI人才培育，已有6、700人受惠。另外，讓我研究機關、產業界參與AI技術與產品研發專案，支持中小企業與新創導入AI應用等。技術處官員表示，已對輝達研發中心做了三次驗證，2年來已聘用400人，都符合當初計畫要求。目前輝達對台灣人力素質與成本都表示滿意，相信未來會考慮在台設第二座研發中心。對輝達創辦人黃仁勳選擇台灣，邱求慧說明，主要是台灣在硬體、基礎建設、人才方面都有優勢，人才具高度專業和工作紀律，加上半導體生態體系完整等。輝達研發中心除了帶動對台投資外，官員表示，也具有提升台灣研發能力效益。該中心目前運用GPU技術，與台灣廠商共同進行AI應用開發，聚焦在人工智慧領域，包括鑑別式AI和生成式AI。其他還有與國內ICT業界的研發合作，協助我推動智慧工廠轉型。