AI模型
」 AI 輝達 黃仁勳 OpenAI ChatGPT中租策略論壇深度剖析:數位轉型為驅動企業創新與打造未來競爭力的關鍵力量
在瞬息萬變的全球經濟與產業環境中,數位轉型對企業的影響愈加深遠。由中租控股主辦的「中租中小企業策略論壇」近日圓滿落幕。論壇中匯集了來自產業界、經濟研究與科技領域的專家,深入探討數位轉型、全球經濟走向以及地緣政治風險對企業的影響等議題,為台灣中小企業提供具體的策略和洞見。 中租迪和南區分處副總經理陳又彰指出,中租的數位轉型策略聚焦於三個方向:數位優化、數據科學運用及數位新產品與平臺的建立。中租透過一系列數位轉型舉措,為產業數位化樹立標竿。(圖片提供/中租)數位轉型的實踐與挑戰數位轉型已成為現代企業競爭力提升的核心,尤其在快速變化的全球市場中更具關鍵性。中租迪和南區分處副總經理陳又彰指出,中租的數位轉型策略聚焦於三個方向:數位優化、數據科學運用,以及數位新產品與平臺的建立。數位優化提升公司內外流程的效率,包括改善內部工作流程和客戶體驗,使運營更流暢,並縮短不必要的耗時環節。數據科學運用則透過精準行銷與風險管理,讓中租能靈活應對市場需求,提前預見並調整潛在風險,降低損失。數位新產品與平臺的開發,使中租將原有業務數位化升級,還針對不同客群進行市場細分,提供線上線下無縫連接的客戶體驗。陳又彰強調,語音機器人及影像辨識等數位工具的引進,有效減少人力資源的消耗,大幅提升作業效率與準確性。讓員工得以專注於創造性任務,進一步提升公司的運營效能。如此可見,中租透過一系列數位轉型舉措,在提升自身競爭力的同時,也為產業數位化樹立了標竿。台灣經濟研究院景氣預測中心主任孫明德強調,地緣風險已經不再是短期現象,企業需要持續關注,將其納入長期的經營策略中。(圖片提供/中租)地緣政治風險已成為全球經濟的慢性病,影響著各國的貿易、自主化以及企業經營成本與銷售市場。台灣經濟研究院景氣預測中心主任孫明德強調,從英國脫歐到美中貿易戰,再到俄烏戰爭及以巴衝突,地緣政治風險對全球供應鏈和能源價格帶來前所未有的挑戰。這種地緣風險已經不再是短期現象,企業需要持續關注,並將其納入長期的經營策略中。孫明德進一步指出,雖然全球外需市場如石化和金屬等產業陷入低迷,但台灣的AI伺服器和高階晶片仍是出口主力。此外,台灣的內需市場表現強勁,尤其是在金融、零售業,顯示出「外冷內熱」的經濟態勢。這表明中小企業在應對外部市場挑戰時,可以借助內需市場的穩定性,尋找更多的成長機會。東台精機協理曾文鵬分享東台精機開發了T-Bot數位助理,其能即時解決客戶在操作過程中遇到的問題,提供了有效的數位轉型方案。(圖片提供/中租)智慧製造與數位科技的應用在數位轉型的進程中,智慧製造同樣面臨著挑戰,特別是中小企業如何平衡質量與生產靈活性。東台精機工具機事業處協理曾文鵬表示,企業從傳統量產向少量多樣甚至單件生產轉型時,需要確保質量不受影響。此外,現代的生產競爭更注重數據分析與AI技術的應用,以實現生產效率的進一步提升。曾文鵬分享東台精機如何透過AI技術增強產品競爭力。他提到,公司將AI技術分為「間諜式AI」和「深層式AI」兩大類,前者已在入料與瑕疵檢測上取得良好進展,而後者則應用於售後、研發等領域,幫助中小企業逐步推進數位轉型。此外,東台精機開發了T-Bot數位助理,這一工具能夠即時解決客戶在操作過程中遇到的問題,為中小企業提供了有效的數位轉型方案。國家資通安全研究院通報應變中心主任孫偉哲強調,資安風險是一個持續的管理過程,如何訓練AI模型並確保其結果的可靠性,是在數位轉型中的重要考量。(圖片提供/中租)資安風險與AI的可信度而隨著數位化的進展,資訊安全風險也日益增長,尤其是在AI技術被廣泛應用的背景下。國家資通安全研究院通報應變中心主任孫偉哲強調,資安風險是一個持續的管理過程,企業必須明確風險來源並做好資源分配,針對高風險的環節進行重點防護。他還指出,AI的可信度是企業需要關注的核心問題,尤其是AI在資安領域中的應用,如何訓練AI模型並確保其結果的可靠性,將成為未來企業在數位轉型過程中的重要考量。與會者聚精會神,深入探討數位轉型和市場趨勢,現場氣氛熱烈。專家們分享見解,參與者積極交流,展現對中小企業未來發展的熱情與期待。(圖片提供/CTWANT)經過各專家的解析與洞察,不難發現,無論是數位轉型、智慧製造還是資訊安全,中小企業都應以長遠視角應對這些挑戰,並在面對地緣風險時靈活調整策略。中租中小企業策略論壇的專家們,為中小企業在轉型過程中提供了寶貴見解,幫助他們在充滿不確定性的環境中,尋找穩定的成長道路。
輝達獨大? 超微蘇姿丰:市場不會只有一種運算架構
超微(AMD)執行長蘇姿丰近日接受《CNBC》訪問,談及超微與輝達(NVDIA)之間的競爭。蘇姿丰表示:「我的看法是運算市場沒有一家獨大這回事。市場上不會只存在一種運算架構,而是每種應用都需要對應適合的運算架構。」自從ChatGPT爆紅推動AI市場起飛後,各大科技公司爭相投資發展AI模型及資料中心,讓輝達AI晶片大賣,短短一年內即在AI晶片市場搶下超過80%市占率,隨著超微、英特爾不斷推陳出新,市場競爭日漸激烈。蘇姿丰認為科技生態圈不會只有競爭,而是競爭合作並存。她表示同業之間即便在某些市場相互競爭,在某些領域仍可以是合作夥伴。蘇姿丰相信AI的長久趨勢。她表示目前各界還在摸索AI的能力範圍,但相信10年後大家不會再質疑AI的投資報酬率,屆時AI將成為人類生活主體,從商業、教育到醫療保健等生活環節都與AI密不可分。蘇姿丰預期AI加速器市場規模將在2027年前達到4,000億美元。她表示:「我真的相信AI會改變每個人的生活。一切才剛起步,所以大家要保持耐心。科技趨勢通常需要多年時間發展成熟,而非幾個月就能看見結果。」在超微急起直追之際,輝達也持續強化自身的實力。Information網站報導輝達近日打算投資1.65億美元收購AI新創公司OctoAI。OctoAI開發的軟體能優化生成式AI模型,與輝達NIM軟體開發工具組整合後能為企業用戶提升AI模型的深度學習推理能力。
全村挺一人1/輝達AI革命引焦慮 半導體巨頭罕見齊聚台北大談矽光子
「那就是輝達呀!如果不是他們的AI晶片需求,台積電根本不需要去研究『矽光子』,這個完全不是他們的專業。」產業專家不諱言地告訴CTWANT記者,台積電去年提及研究「矽光子」,今年罕見攜手日月光,在9月3日宣布成立矽光子產業聯盟,號召30家廠商一起制定矽光子封裝產業標準,合作面對這項大挑戰。2022年底ChatGPT崛起而引爆的生成式AI,以及因應而生的大量GPU晶片需求後,對整體半導體的架構產生翻天覆地的變化,也是為因應「全村的希望」、AI晶片龍頭輝達執行長黃仁勳的需求。9月11日的高盛技術會上,黃仁勳講了兩個「難以置信」,一是客戶對最新一代Blackwell晶片的需求難以置信地旺,二是台積電在這領域裡的「敏捷性和響應需求能力,令人難以置信」。然而這場AI掀起史無前例的機會與焦慮,不但讓台灣最強的業者總動員,還引發全球科技廠的集體焦慮。9月初,全球半導體巨擘齊聚台北南港展覽館的SEMICON Taiwan國際半導體展,各國媒體蜂擁而至、彭博社還設攤直播,就連昔日「王不見王」的台積電與三星這兩家國家級護國神山,也破天荒坐在一起談未來。CTWANT記者三天觀察發現,包括歐洲、美國及韓國等各國最頂尖的廠商來台結盟綁樁,演講中不像以往大幅吹捧產品,反而把握機會在半導體產業盛會上敞開自家遇上的瓶頸與困難。邁威爾Marvell公司首席技術官Noam Mizrahi認為,光學是唯一可連結技術,去符合AI算力傳輸需求。(圖/陳曼儂攝)「輝達的GPU和所耗費的電力真的很貴,要確保頻寬、電力、延遲沒問題,不然錢就白花了。」邁威爾Marvell公司首席技術官Noam Mizrahi在半導體論壇上表示,目前用GPU做AI運算,有57%時間在等資料交換,對時間和金錢都是一大損失,「光學是唯一可以連結技術,去符合這麼大規模需求,以及解決頻寬延遲等問題,不同數據中心的串聯,也要靠光纖才能辦到。」「現在GPU和AI加速器是用電連結,若要變成光傳輸,要有不同調變方式、要縮小產品、不同的頻寬密度,才能減少耗能、達到率與成本問題,但這技術沒這麼容易,可能要等兩代之後,才會摸索出對的方向,進入光學無所不在的世界。」Noam Mizrahi提到矽光子技術的困難,是當前最大的挑戰。微軟全球副總裁 Rani Borkar在論壇說,「我從事這產業30年,第一次看到所有業者都在辯論未來,因為AI是半導體的文藝復興!」就算是龍頭微軟,他們也面臨三大瓶頸,第一是硬體系統沒有趕上AI模型需求,「前端需要的運算,每兩年成長十倍,這速度是摩爾定律的五倍,目前的基礎建置與產品都無法達到他的需求,整個領域面臨平台的重新設計,需要整個產業動起來,包括晶片、封裝、記憶體、基礎建設、冷卻方案、網路、電力等,才能推動AI所需的數據流動。」微軟全球副總裁 Rani Borkar提到目前AI面臨三大瓶頸,需要全產業鏈的新變革。(圖/翻攝自SEMI國際半導體產業協會臉書)第二個瓶頸就是高耗能,Rani Borkar說,AI導致全球電力會在2020年到2026年成長一倍,運算和冷卻方式都要變革;第三瓶頸就是產能展望,「我們看到AI高速成長,要買更多晶片、高效記憶體、更多加速器,說來容易,做起來一點都不輕鬆,打造工廠是重大投資,三四年前就要決定,但預測需求非常困難。」「現在真正的問題是維持供應鏈的韌性,因為需求起起落落,」Rani Borkar也了解台灣產業在革命的陣痛期,他向在場業者們呼喊「我從心底感謝大家,是你們做出了重大推動。」在克服重大瓶頸的關鍵時刻,「我們現在做的決定,將改變未來。」這些話也證明,台灣業者在這場革命中,已難以置身事外,而且還是在最花錢的第一線。就算是競爭對手,也得坐下來一起面對。4日登場的「大師論壇」,首度請到台積電共同營運長米玉傑和三星電子總裁李禎培(Jung-Bae Lee)同台,儘管他們在台上沒互動、相敬如賓,但也引發日韓媒體熱議。「韓國和台灣半導體業者『罕見』尋求更密切關係」,日經亞洲(Nikkei Asian)報導,李禎培這次在台灣說,「三星努力為我們的客戶提供代工靈活性,這意味著合作不僅限於三星」,儘管三星有一條龍自己來的能力,但也暗示著會與外部業者有更多合作。而韓媒《經濟日報》及《Business Korea》直接加碼報導,三星和台積電要破天荒結盟、共同研發無緩衝(bufferless)的HBM4晶片,計畫2025年下半年量產。而SK海力士總裁金柱善更直接在半導體論壇上「示愛」,這是他今年第10次來台灣,因為台灣半導體重要性與日俱增,台灣與韓國應緊密合作,「如果沒有合作,AI目標不可能達成。」
錢給你給我貨!甲骨文創辦人自爆聯手馬斯克 找黃仁勳求AI GPU晶片
在AI熱潮下,科技巨頭爭奪AI硬體資源的競爭也日益激烈,近日甲骨文(Oracle)創始人埃里森(Larry Ellison)透露,自己曾與特斯拉執行長馬斯克(Elon Musk)一同在帕洛阿爾托(Palo Alto)的餐廳晚宴中,向輝達(Nvidia)執行長黃仁勳(Jensen Huang)懇求,希望他能接受更多資金,以此來換取更多AI GPU晶片。根據《tomshardware》報導指出,埃里森把這場晚宴描述成一場「懇求大會」,他和馬斯克不斷請求黃仁勳接受更多的資金,以換取更多的GPU供應。而低聲下氣的哀求似乎也獲得了成效,近期甲骨文就宣布將打造一個由131,072個輝達GB200 NVL72 Blackwell GPU組成的Zettascale AI超級集群(supercluster),其AI運算能力達到2.4 ZettaFLOPS,甚至超過了馬斯克的xAI公司所擁有的孟菲斯(Memphis)超級集群。為了支持如此龐大的AI計劃,甲骨文已獲准建造3座模塊化核反應堆。在核反應堆完工前,公司可能會效仿馬斯克的做法,使用大型移動發電機來滿足電力需求。報導中也提到,儘管甲骨文在雲端基礎設施(OCI)的規模不及亞馬遜、微軟和Google等巨頭,但甲骨文在靈活性和客製化服務方面十分具有優勢。OCI能夠滿足特定客戶的獨特需求,甚至提供運行在自有網絡基礎設施上的離線服務器,以確保最高級別的安全性。埃里森對AI的未來發展持樂觀態度,他預測未來三年內,前沿AI模型的訓練費用將達到驚人的1000億美元。這一觀點與Anthropic CEO阿莫代(Dario Amodei)的看法不謀而合。
機器仁來瘋2/廣告猛男選對平台三個月變身AI達人 助漁民一秒神算「連阿嬤都會用」
在南港展覽館舉辦「台北國際自動化工業大展」一樓展區的一角, CTWANT記者見到一位留著一臉大鬍子、皮膚黝黑的大叔,拿著手機對著游來游去、讓人眼花撩亂的1公分小魚群拍張照,只花1秒,AI就算好這裡有37隻魚。「大部分傳統工廠都有轉型問題,我把門檻降低,如果連養魚的都會用AI、誰還不會用!」,「AI對那些科技大廠來說,就像是iPhone15換到iPhone16,雖然有升級、但就是『加速器』的感覺,錦上添花,但對根本沒用過的人來說,就是翻天覆地的變化」,這位大叔是光速海盜創辦人孫偉強。根本不會寫程式的孫偉強告訴記者,他以前是拍廣告的,因為有影片處理的繪圖卡需求,很早就發現跟輝達合作的麗臺有推出簡單好用的AIDMS(AI管理系統),可以輕輕鬆鬆地使用AI來做自己的專案,所以他買下百萬的機器做訓練,只花了三個月,做出有拍照點魚功能的APP,9月開始正式販售。 「因為我是南部人,過年回去找朋友玩,發現做農業的朋友們,都還是用最傳統的方式,」孫偉強舉例,魚場販售時,一次都是10萬隻、20萬隻這樣在賣,出貨時要找有經驗的阿姨,用湯匙邊唱邊撈,最厲害的十分鐘可以點1300隻,「但其實會越點越慢,因為人會累,最重要的是,現在根本找不到人做這一行。」厲害的老手10分鐘可點千隻小魚,但新手用AI可以點一萬隻。(圖/翻攝自光速海盜YT)「有了AI,沒經驗的人,十分鐘可以點好一萬隻」,孫偉強在魚池旁,把一群魚撈到專門拍照的容器內,拍照、上傳,一張照片運算只要一秒,不管是細小的魚苗,或是巨大的成魚,都可以用這個APP數,他以台南的虱目魚業為例,過去要找八個人頂著烈日、泡在水裡,一整個上午最多只能數出十萬隻,光是這些人算時薪就要花一萬元以上,同樣的數量,現在只花三個人、兩小時就能完工。「AI的生成式技術,在2024年的快速發展,成本甚至已比AOI(自動光學檢查)還少。」「如果我們能用手槍去解決事情,何必抱著這麼重的飛彈呢?」孫偉強使用麗臺的AIDMS平台做好訓練系統,現在只要拍幾張照片,就能辨識新的魚種,甚至是螃蟹、小蝦或螺等都可以,現在「最花時間的其實是跟漁民吃檳榔搏感情。」孫偉強說,過去若要教程式什麼是小紅帽金魚,要有硬體、軟體工程師,以及產業專家去解析魚體不同大小、角度、花色等細節,至少花半年到一年、幾萬張的照片去訓練一個模型,但AI能自主學習,等同於兩三位AI工程師,在你睡覺的時候,還在瘋狂訓練程式。善用AI,不管是細小的產品檢視、或是巨大的物流設計,都能短時間完成。(圖/方萬民攝)「以前訓練AI需要會程式碼的工程師,現在完全不用,就可訓練AI模型,我們的團隊都測試好,讓一般人都能直接用,主要是圖形辨識。」麗臺科技協理連明仁跟CTWANT記者說。麗臺科技是1986年創立的電腦產品製造商,以生產專業顯示卡與繪圖卡為主,也幫輝達製造顯示卡,很早就見識與發展AI,推出AIDMS AI管理系統,以零編碼 (no-code)方式,協助用戶加速實現AI應用落地。
AI新勢力2/「不拿坦克車鑽巷子!」 劉峻誠力推高效省電NPU讓人工智慧更普及
「CPU (中央處理器)像坦克車,一開始設計功能主要是打仗用,GPU(圖形處理器)就像是卡車,主要拿來載貨物;NPU(神經處理器)則是小客車,能在小城市內跑來跑去,專為AI而生。」耐能(Kneron)創辦人暨執行長劉峻誠向CTWANT記者解釋,AI時代大家最常聽見的三種處理器差異何在。輝達(Nvidia)創辦人兼執行長黃仁勳在今年6月的台大演講時提及,從1964年IBM創造出第一片CPU到現在,電腦已誕生60年,但 CPU升級速度已減低,須處理的資料量卻大幅成長,而輝達在2006年推出CUDA技術,讓GPU可應用於圖像處理以外的計算,也成為AI計算的主要動力。「CPU+GPU的平行運算模式,才能提供等量的加速運算能力」黃仁勳表示,若以單顆CPU運算需要1秒時間的資料量,搭配GPU加速運算,則只需要0.01秒的時間,且僅需3倍能耗、1.5倍的裝置成本,等於省下了98%的裝置成本、97%的能源,「所以你買越多GPU,就省更多錢」。業內人士向CTWANT記者解釋,因手機與電腦的應用及計算變多,業界在標準積體電路(IC)外,另外訂製ASIC專用(特殊應用)電路,畢竟「專用的比通用的好」,例如Google研發出TPU(Tensor Processing Unit張量處理器),用於大量低精度計算,但生產廠商少,價格昂貴,劉峻誠的NPU和TPU的概念很像,但「他抓住低價的利基市場,所以在終端使用量會比較多。」業內人士進一步說明,如果沒有NPU,傳統筆電使用AI助手,很容易遇到效能網路塞車的問題,而耐能的NPU主打在沒有網路狀態下也能運算,特別是物體與人臉辨識,如今AI應用更廣泛,使用GPU有成本貴及耗電問題,讓NPU業者更有底氣推廣,「讓CPU、GPU去做它本來要做的事,就是解方。」高通驍龍X系列處理器,有專為AI應用設計的NPU。(圖/黃鵬杰攝)而現在常聽見的NPU,就是劉峻誠2015年創業時打造的全新計算模型「神經網路處理器」(Neural Networks Processing Unit),這個「可重組式人工智慧神經網路」的專利,像一堆樂高積木,當要支持語音AI模型時,可透過指令集重組,要支持圖像AI時再次重新組合,由於可支援多種神經網絡模型,保持架構精簡,處理 AI 模型運算時,具有性能和功耗上的優勢。早在2018年,CTWANT記者曾訪問過劉峻誠,當時AI議題還不熱,他在解釋NPU概念時,主打是在離線狀態下,能讓手機或電腦繼續學習和執行複雜的深度學習演算,能讓AI更平民化。時隔六年,他跟CTWANT記者的解釋更具象,「CPU就像是坦克車,但有一天人類蓋了小型城市,大家發現GPU這卡車比較方便,「我們的NPU就是小客車,雖然市面上的駕駛都習慣開卡車,但若有一天油價漲了兩、三百倍,大家就會被逼迫去試著開小客車。」劉峻誠說「國際級的雲端大廠是目前GPU的主要買家,但因為實在太貴、太耗電,就像某個貨運公司的卡車隊伍,正在強迫司機要換小客車,這件事情正在發生,你就等著看吧!」除了雲端,NPU晶片架構在終端產品上的能見度的確越來越多,目前高通驍龍X系列處理器,就是主打專為AI應用設計的NPU,高效能、更省電;耐能去年3月也宣布自研的人工智慧系統晶片KL720打入高通的產品線,用在高通機器人RB1平台與RB2平台中。Arm在4月發表因應邊緣AI運算的第三代NPU產品「Arm Ethos-U85」,其效能相比上一代Ethos-U65提升4倍、功耗能源轉換效率提高20%,可用在工廠自動化和商用監視器或智慧家庭攝影機等應用。技嘉的筆電也有採用NPU。(圖/業者提供)今年6月的Computex電腦展上,CTWANT記者就在Intel展區中,看到多項跟NPU有關的實機展示。像是技嘉Aorus 15筆電的展示,過去可用手勢撥放或停止影音播放程式,當時是利用CPU與GPU來處理分析,透過鏡頭來識別手勢,現在則使用NPU獨立處理。劉峻誠曾引用大摩報告指出,到2027年,NPU的市占率將會超過GPU,不過Google DeepMind傑出科學家紀懷新向CTWANT記者說,「我認為五到十年內,GPU的地位還不會被取代」不過現在的確有很多人在思考用更多元的方式去解決,也是好事一件。
OpenAI新推「SearchGPT」 挑戰搜尋引擎霸主Google
OpenAI上週四(25日)宣布,開始測試新的AI搜尋功能「SearchGPT」,該服務結合了OpenAI的各個模型與網路上的資訊,同時附上清楚與相關的來源,目前的版本為暫時性的原型,將開放給少數使用者及出版商進行測試並提供回饋意見。該AI軟體開發商此舉意在對抗Alphabet旗下的Google。根據該公司發布的一篇部落格文章,「SearchGPT」將結合AI模型和網路訊息,為用戶提供「清晰且相關的來源」。這款AI搜尋產品將向一小部分用戶和出版商推出,以獲取回饋。公司表示:「雖然這一原型暫時存在,但我們計劃未來將這些最佳特性直接整合到ChatGPT中。」OpenAI表示,在網路上得到所需的答案通常需要多次嘗試才能獲得相關結果,相信若藉由網路上的即時資訊來強化模型的對話能力,將可更快且更輕鬆地找到使用者想要的內容,而SearchGPT的目的就是使用來自網路的最新資訊,快速且直接地回答問題,同時提供相關資訊的來源連結。在結合了AI模型與即時網路資訊之後,SearchGPT得以記住使用者的搜尋/輸入脈絡,於是能在同一個主題上與使用者持續對話,並會有一個側邊欄專門呈現SearchGPT所提供答案的資訊來源/連結列表。目前Google掌控了全球9成的搜尋市場,這麼多年來在該市場並無明顯的競爭對手,且市占率還愈來愈高,但生成式AI卻可能改變這個現況。除了2022年就上線的Perplexity AI之外,於搜尋領域始終追不上Google的微軟,也在本周開始測試整合生成式AI的Bing搜尋,如今OpenAI亦加入了戰場。
微軟7/30公布財報 投資者聚焦「這3大」核心業務進展
微軟將於美東時間7月30日(下週二)盤後,發佈2024財年第四季(截止2024年六月底的三個月)財報。展望本次財年,投資者仍將聚焦於Azure雲端運算服務、人工智慧領域和個人計算機等核心業務的進展,另外,經歷了上週的全球當機事件後,市場也預期從微軟的反饋中獲得一些信心。機構普遍預期,微軟將實現營收644.14億美元,年增14.64%;每股收益2.93美元,同比增加8.99%。今年以來,微軟一度刷新股價高點,於7月上旬曾觸及468.35美元的歷史新高,彼時市值曾逼近3.5兆美元。然而,隨著7月下旬宏觀不利因素增加、大規模當機事件拖累股價,微軟自高點回調超10%,年內累計漲幅縮窄至14%。市場預計,包括Azure、Windows服務器、AI語音辨識系統Nuance和GitHub的智慧雲端業務(Intelligent Cloud)仍是微軟營收增長最快、貢獻最多的部門,預計智慧雲端本季營收將創287.16億美元、年增19.5%,增速小幅放緩,但仍保持強勁趨勢。在上一季,智慧雲端增長強於預期是推動該股績後飆升的主要原因之一,Azure和其他雲端服務的收入增長了31%,保持高增速並超出市場預期,且人工智能給Azure收入貢獻了7個百分點的增幅。因此,該業務增長情況備受市場關注,華爾街分析師一直期待AI給微軟貢獻更高收入。值得注意的是,微軟前一季的資本支出年增幅暴增至79%,創下140億美元的歷史新高,主要用於Azure雲端運算部門建立和運行AI模型相關的基礎設施。同時,微軟首席財務官Amy Hood告訴投資者,預計未來幾年資本支出將增加,以支持雲端產品的增長以及我們在AI基礎設施和培訓方面的投資。另,谷歌在不久前的季報中,公佈了高額的資本支出,引起了市場對於AI投資過度的擔憂。如今,微軟等同類公司的巨額AI投資是否能得到回報,將繼續引起投資者的注意。
Meta計劃23日發布「最強Llama 3模型」 外媒:將以4050億參數制霸市場
OpenAI開發的ChatGPT為AI聊天機器人競賽揭開序幕,如今,Meta帶上Llama 3新模型加入戰局。美東時間7月12日周五,媒體援引一名Meta Platforms的員工消息稱,Meta計劃7月23日發佈旗下第三代大語言模型(LLM)Llama 3的最大版本。這一最新版模型將擁有4050億参数,多模態模型,這意味着它將能夠理解和生成圖像和文本。去年7月Meta發佈的Llama 2有三個版本,最大版本70B的參數規模爲700億。今年4月,Meta發佈Llama 3Meta,稱它爲「至今爲止能力最強的開源LLM」。當時推出的Llama 3有8B和70B兩個版本。Meta CEO祖克伯當時稱,大版本的Llama 3將有超過4000億參數。Meta並未透露會不會將4000億參數規模的Llama 3開源,當時它還在接受訓練。對比前代,Llama 3有了質的飛躍。Llama 2使用2萬億個token進行訓練,而訓練Llama 3大版本的token超過15萬億。Meta稱,由於預訓練和訓練後的改進,其預訓練和指令調優的模型是目前8B和70B兩個參數規模的最佳模型。在訓練後程序得到改進後,模型的錯誤拒絕率(FRR)大幅下降,一致性提高,模型響應的多樣性增加。在推理、代碼生成和指令跟蹤等功能方面,Llama 3相比Llama 2有極大改進,使Llama 3更易於操控。4月Meta展示,8B和70B版本的Llama 3指令調優模型在大規模多任務語言理解數據集(MMLU)、研究生水平專家推理(GPQA)、數學評測集(GSM8K)、編程多語言測試(HumanEval)等方面的測評得分都高於Mistral、谷歌的Gemma和Gemini和Anthropic的Claude 3。8B和70B版本的預訓練Llama 3多種性能測評優於Mistral、Gemma、Gemini和Mixtral。英偉達高級科學家Jim Fan認爲,Llama 3的推出已經脫離了技術層面的進步,更是開源模型與頂尖閉源模型可分庭抗禮的象徵。不同於OpenAI等開發商,Meta致力於開源LLM,不過,這個賽道也越來越擁擠。谷歌、特斯拉CEO馬斯克旗下的xAI和Mistral等競爭對手也發佈了免費的AI模型。據傳OpenAI正在準備GPT-5模型,有望再次超越業界其他公司,帶來更多強大功能。對此Meta祖克伯向外媒透露,Meta已在考慮Llama 4、Llama 5的開發。
OpenAI遭駭!公司裝死不願通報 員工提建言疑遭報復性開除
有外媒爆料指出,其實OpenAI曾於2023年遭到駭客入侵,但當時OpenAI高層認為駭客損害程度不高,所以並未依法向主管機關聯邦調查局(FBI)通報。但是面對到內部員工提出妨害的建言時,OpenAI卻反手將該名員工開除。根據《紐約時報》報導指出,整起事件發生於2023年初,當時OpenAI公司內部的論壇遭到身分不明的駭客入侵成功。該名駭客雖然並未觸及到OpenAI內部的機密文件,但是還是竊取了論壇內的大部分討論內容。而整起事件爆發後,OpenAI高層認為駭客所觸及的資料層級不高,再加上公司的網路安全基礎防護並未被攻破,所以並沒有依法向主管機關FBI通報此事件。但這起事件還是引起OpenAI一名研究員阿申布倫納(Leopold Aschenbrenner)的注意,阿申布倫納向OpenAI董事會發送一份報告,內容中主要是在警告,目前公司沒有完全針對駭客或其他「國家級支持」的威脅行為的防範AI模型防護技術。事後,阿申布倫納將這份文件的內容,在刪除技術與商業敏感內容後,便將其公開在網路上。但阿申布倫納此舉卻遭到OpenAI董事會的問責,最後在2024年4月被公司以洩密為由遭到開除。但阿申布倫納對於自己遭到開除一事,阿申布倫納還是認為這就是一起「政治性報復」,因為他直接在報告中嚴重質疑OpenAI是否有能力抵禦來自中國的駭客。但OenAI則否認這一說法,強調阿申布倫納的解聘與駭客事件無關。阿申布倫納也認為,目前OpenAI所建構的AGI,是個非常強大的技術,除了可以做很多事情外,也有足夠的能力去執行涉及國家安全的壞事。而駭客事件讓阿申布倫納敲響警鐘,認為現在多數的AI巨頭公司,尤其是在研究AGI領域的公司,都要去判別自己的公司防駭能力,要清楚知道是否能保護AGI的機密不被中國、中東獨裁者或是美國政府所掌握把空。
AI戰神輝達27日股東會 台股「黃仁勳概念股」8成走高
AI教主黃仁勳創辦的輝達NVIDIA,將在台灣時間27日凌晨舉行股東會,近期股價遭遇亂流,但昨日漲近7%,市值重回3兆美元俱樂部,而台股先前被點名的「黃仁勳概念股」在26日也相對強勢,43檔中有37家上漲,華爾街分析師們也認為輝達產品需求仍強,近來以唱多為主。輝達2022年底以來股價已上漲9倍,目前在訓練、AI應用的市場中有超過80%市占率,將在27日凌晨舉行股東會,在2024年致股東報告書中,黃仁勳表示,AI伺服器取得領導地位後,將會聚焦未來AI車用領域、智慧製造的布局。輝達已與台積電、聯發科等台廠在車用AI領域合作,黃仁勳透露,車用領域已有數10億美元的營業額,未來智慧醫療、機器人技術還有另外數10億美元機會。黃仁勳6月2日在台大演講時,背板上點名43檔供應鍊名單,被視為「黃仁勳明牌股」,26日有37檔上漲,其中以弘憶股(3312)10點多就亮燈漲停在75.4元,水冷伺服器機殼廠勤誠(8210)上漲6%以上,約在308元,迎廣(6117)最高衝上4%,後續漲勢收斂在2%左右,像是廣運(6125)、艾訊(3088)、醫揚(6569)、益登(3048)一度也都有3%以上的漲幅。大型權值股方面,聯發科(2454)、日月光(3711)漲幅在2.5到3%以上,廣達(2382)、台積電(2330)漲約1%。摩根士丹利25日對輝達發表樂觀研究報告,認為需求面依舊強勁,且H100還有需求,H200有限擴產的狀況逐漸明朗,而Blackwell架構GPU直到2025年中的產能已全被訂光,專為中國市場推出的降規版H20也大幅放量,從各種跡象來看,輝達展望仍不錯。瑞銀調查也發現企業高層對輝達深具信心,在執行AI模型的訓練、推論任務時,仍以輝達產品為首選,目前傾向選擇Hopper架構GPU(H100 + H200),而非舊款和低階的GPU,而機櫃級系統有望迎來更多需求。
蘋果傳與Meta討論合作 使用臉書開發的AI系統
Facebook母公司Meta平台已討論將Meta的生成式AI模型整合到蘋果公司最近宣布的iPhone AI系統中。路透引述《華爾街日報》報導,除了Google和Meta之外,AI初創公司Anthropic和Perplexity也與蘋果進行了討論,以將他們的生成式AI引入蘋果智能系統。蘋果、Meta、Perplexity和Anthropic未立即回應置評請求。《華爾街日報》報導稱,這些討論尚未最終確定,可能會失敗,並補充說與蘋果達成協議將幫助AI公司獲得更廣泛的產品分銷。潛在的財務收益規模尚不清楚,但報導稱,談判涉及AI公司通過蘋果智能系統銷售其服務的高級訂閱。這家iPhone製造商本月宣布了期待已久的AI戰略,表示將在其應用程式套件(包括Siri)中整合新的蘋果智能技術,並將微軟支持的OpenAI聊天機器人ChatGPT引入其設備。
收盤大漲3.6%!成功超越微軟、蘋果 輝達成全球最高市值公司
由於AI熱潮的關係,讓AI領頭羊輝達的股價一直不斷上漲,輝達甚至在6月時公司市值突破3兆美元大關,成為可以比肩微軟、蘋果的科技公司。而在18日當天,輝達股價上漲3.6%,使得公司市值達到3.34兆美元,成功超越微軟、蘋果,成為全球市值最高的公司。根據《CNBC》報導指出,輝達的股價在18日當天上漲3.6%,這讓公司市值達到3.34兆美元,超過微軟、蘋果。在收盤時以3.63%上漲幅度坐收,目前公司市值有3.33兆美元。而在當天,蘋果的股價下跌1.28%,市值下降為3.27兆美元。微軟則是下跌0.18%。市值為3.32兆美元。報導中也提到,創立於1991年的輝達,原本深耕於顯示晶片的研發,但後來隨著技術的進步,逐步涉足雲端遊戲訂閱與加密貨幣,近期由於AI領域的興盛,讓輝達的股價持續攀升,單是在今年,輝達的股價已經上漲有170%之多,這也讓創辦人黃仁勳以1,170 億美元的身價,成為排名全球第11名的富豪。除此之外,外界普遍認為輝達的公司市值還有在持續增加的機會,因為如今僅是AI領域的發展初期,輝達的在AI晶片市場上有80%的市佔率,隨著幾家大型公司搶建AI模型伺服器,輝達的資料中心業務也持續攀升中,目前年增達到427%,佔輝達整體銷售額的86%。全球前五大市值公司排行。(圖/翻攝自社群網站X)
AI改變生活?陸工程師用AI「一鍵脫衣」 女同事裸照一張賣7塊
中國官媒央視17日曝光一起「AI脫衣」事件,北京軟體工程師白某在網路社交平台上刊登廣告,聲稱可以為客戶提供的女明星、女同事、女同學照片進行「一鍵脫衣」服務,單價每張1.5塊人民幣(約新台幣6.7元)。在他落網之前,已經接受客戶訂製,賣出了近7000張AI製裸照,獲利萬元(約新台幣4.5萬元)。目前北京市海淀區檢察院已經對白某提起公訴,要追究其刑事責任。據央視《法治在線》節目報導,北京一名從事軟體工作的白姓男子,2023年6月起使用AI圖像生成模型「Stable Diffusion」作為框架,配合特定AI模型,在網路社交平台上宣傳提供「一鍵脫衣」的服務,將客戶提供的女明星、女同事、女同學等照片,製作成裸體不雅照,再透過QQ、微信等通訊軟體進行轉帳交易。北京警方依其在社交軟體上所留下的線索,成功拘捕白姓男子,後經調查,他在2個月內已製作近7000張不雅照,獲利近萬元人民幣,且對大量女性受害者的名譽造成嚴重損失。北京市海淀區檢察院已對白某以涉嫌製作販賣淫穢物品牟利罪起訴,要追究其刑事責任和對大量受害者造成的名譽嚴重損失。CTWANT提醒您:根據刑法第235條規定,散布、播送或販賣猥褻之文字、圖畫、聲音、影像或其他物品,或公然陳列,或以他法供人觀覽、聽聞者,處2年以下有期徒刑、拘役或科或併科三萬元以下罰金。意圖散布、播送、販賣而製造、持有前項文字、圖畫、聲音、影像及其附著物或其他物品者,亦同。提醒大家勿加入跪求、私給等行列以免觸法。
助攻台灣百工百業創新!《AI基本法》盼10月底前提草案
國科會、數發部於5日赴立法院教委會報告人工智慧推動現況與未來方向,就《AI基本法》制定上,國科會期望在2024年10月底前提出草案。對於外界關切人類會不會被AI掌控,輝達創辦人兼執行長黃仁勳強調「絕對不會」!國科會主委吳誠文表示,ChatGPT發布後,AI成為新時代工業革命啟動引擎,國際大廠相繼推出多模態AI模型,我國則有可信任生成式AI對話引擎「TAIDE」,已應用於農業知識檢索系統、中小學生台語教學等領域。談到我國超級電腦發展,吳誠文說,我國目前由超級電腦「台灣杉二號」布建9個Petaflops(10的15次方)算力,預計2028年完成200個Petaflops以上運算能量,將補助33個學研機構、200多名學者,開發AI前瞻技術。考量到AI技術通行以來,個人隱私、智慧財產權受到威脅,吳誠文說,預計10月底將由跨部會提出《AI基本法》草案,並將透過「台灣AI行動計畫2.0」與「晶創台灣方案」等,助攻百工百業創新。數發部次長葉寧也說,持續推動AI應用,促成AI產業化、產業AI化等目標。人才方面,數發部也將攜手國際大廠,在高中職開設AI課程、與企業及培訓單位開設產業需求課程,同步致力育才與協助產業發展。AI伺服器大廠美超微總裁暨執行長梁見後,5日在台北國際電腦展發表主題演講,黃仁勳特別站台,不過2人在開玩笑的同時,梁見後突然問到,AI的效能這麼強大,未來會不會控制人類,黃仁勳先是愣住2秒才回答「絕對不會」。黃表示,現在飛機用自動駕駛搭配各種監測、管制系統,未來人類也會對AI做類似的事情,像是用AI監控AI、真人監控AI等方式,可以擬定政策確保AI的安全性。值得注意的是,為培育人才,台積電5日舉行董事會,核准捐贈台灣大學、陽明交通大學、清華大學、成功大學,以及國內獲選高中,總計不超過新台幣40億元,用於長期半導體研究教學及人才培育。
看黃仁勳演講「越自信我越焦慮」 台大生嘆:未來有什麼不會被AI淘汰?
輝達(NVIDIA)執行長黃仁勳2日晚間7時在台大綜合體育館發表演說,不但吸引數萬人在網路上同步收看,更讓數千名聽眾願意提前1小時冒雨排隊,只為一睹「AI教父」風采。當天黃仁勳也在台上介紹了中央央氣象署目前正在採用的「Earth-2氣候數位孿生雲端平台」,也就是利用生成式AI模型,精準地預測天氣及氣候變遷災害。他更預言,透過NVIDIA打造人工智慧工廠和資料中心,世界將迎來下一場工業革命。然而,網路上卻哀鴻遍野,直言「看完黃仁勳就開始就業焦慮了。」由NVIDIA、OPEN AI帶起的AI浪潮席捲全球,許多人都擔心自己會失業,如今更有台大女學生聽完黃仁勳的演講後在3日於Dcard上發文直言「他越自信我越焦慮」,感嘆「不是理工、不會程式的公務員系,之後就是被淘汰的那群人了…」貼文曝光後也引發台大學生及校友的同感,「認同你的說法」、「文法商全死」。就連台大電機系的學生看完後也是垂頭喪氣,「我不搞AI,也是非常焦慮…」「非電資跟機械自控的其他理工,基本上也死去」,「看完最後那段AI在工廠的願景,實現的那一天大概就是搞傳統力學工程師的辭職日了。除了控制以外,也只剩機構可以稍微碰一下,講那麼多反正以後我也要去當條碼師了。」也有台大人直言,「會理工、會程式還不是一樣可能會被淘汰,應該是說在這個世代沒有一直自我提升的話,那機器某天肯定能取代你,沒有所謂鐵飯碗這種東西了,舊時代的觀念已經被淘汰了,我想這是這些AI大佬想要表達的東西」、「AI也會寫程式之後,連程式人員的需求量也會減少吧,可能轉作訓練AI?但感覺需求量不會像之前那麼多,想知道未來到底有什麼不會被淘汰」、「我以為文組最好的出路是算命,我一堆哲學系、人類學系的朋友都走這條路,這個AI很難取代吧,畢竟需要神性的加持。」不過又有網友稱,「覺得就只是用電更多、花錢更多、股價更高的AI技術推銷演講,以他講的神級AI,就算理工會程式,也有可能被淘汰」、「等到工地綁鋼筋會被AI取代再跟我說」、「不用怕,台灣公家機關沒那麼跟得上時代」、「沒看老天爺不給他臉面(下雨),要自信點,現在第四世代工業革命主要是把高中職學歷淘汰掉,販賣焦慮讓你去跑AI燒顯卡才是割韭菜。」
用AI預測氣候來躲避天災 黃仁勳介紹「數位孿生地球」氣象署已採用
強烈的颱風可能會帶來強風、大量降雨和風暴潮,造成洪水、建築物損毀和人員傷亡,因此若能預測天氣就能提早預防。輝達(NVIDIA)執行長黃仁勳日前演講時,介紹「Earth-2氣候數位孿生雲端平台」,利用人工智慧來預測氣候變化。黃仁勳於6月2日在台大體育館進行演講,並介紹「Earth-2氣候數位孿生雲端平台」,紹了「Earth-2氣候數位孿生雲端平台」,這是一個利用AI、物理模擬和電腦圖形技術來預測全球氣候的平台。據了解,Earth-2氣候數位孿生雲端平台是NVIDIACUDA-X™微服務的一部分,而且它在NVIDIADGXCloud™上的新雲端API能夠讓任何使用者創建AI驅動的模擬,從而加速提供對全球大氣、本地雲層覆蓋、颱風和不穩定氣流等高解析度模擬。黃仁勳表示,當Earth-2平台與氣候科技公司的專有資料結合時,其應用程式介面(API)能夠在幾秒鐘內提供警告和更新的預報,而傳統的CPU驅動建模則需要數分鐘甚至數小時。Earth-2的API提供AI模型,其中包括採用名為CorrDiff的新型NVIDIA生成式AI模型,能夠修正粗分辨率預測的不準確性,並綜合對決策至關重要的指標。據悉,台灣交通部中央氣象署已率先採用了這一新平台的雲端API,以更精確地預測颱風登陸位置,並在颱風警報發佈時提供高品質資訊以進行早期疏散,從而降低人員傷亡的風險。國家災害防救科技中心也指出,自2000年以來,颱風已經襲擊台灣超過136次,因此使用Earth-2平台來減輕災害影響是提高災害資訊品質和解析度的重要途徑。
「人類史上最具野心的計畫」 黃仁勳打造虛擬地球和下一代平台Rubin
輝達(NVIDIA)執行長黃仁勳2日晚間在台大體育館進行主題演講時,首度透露輝達「很多員工不知道的機密」、就是新一代GPU平台,叫做Rubin,引發全場一陣驚呼。他也再度介紹跟台灣合作的「Earth-2 氣候數位孿生雲端平台」,以及「數位人」服務,預計未來所有PC都將變成AI,幫助人們執行多種任務。黃仁勳表示,NVIDIA Earth-2是一個生成式AI模型,以更高解析度生成,速度比傳統物理方法快1000倍,在台灣的中央氣象局,已經用這些模型預測颱風登陸地點,接下來可模擬建築物周圍氣流,預測像是「下沖」現象,了解是否會損壞街道或影響行人,這樣精準地預測天氣、以及氣候變遷帶來的危害,可讓人類事先規劃對天災的對策,期望未來能提供地球每一個角落的氣候預報,讓大眾無時無刻知道氣候現況,是「人類史上最具野心的計畫之一」 。特別的是,黃仁勳在介紹這個野心勃勃的計畫時,影片中他用標準的中文介紹,他還笑著詢問觀眾「我的國語標準嗎?」,然後坦白這是由「Jensen AI」生成的中文影片。除了工業用機器人,輝達也在研發服務業的「數位人」微服務,也就是製作生成式AI數位化身,NVIDIA ACE已在雲端環境裡提供使用,並於RTX AI PC搶先體驗,已獲戴爾科技、ServiceNow、Aww Inc.、英業達、完美世界遊戲等多間客戶服務、遊戲和醫療保健領域的公司採用。另一個演講亮點,包括輝達今年才剛推出Blackwell架構,黃仁勳就曝光新一代的開發產品是Rubin GPU,將採用8顆高頻寬記憶體HBM4,Rubin Ultra GPU將採用12顆HBM4,預計在2025年第4季量產、2026年推出。Rubin的命名來自女性美國天文學家Vera Rubin,是研究暗物質的先驅。
蘋果WWDC大會6/10主打AI 外媒:iOS 18將引入
蘋果公司全球開發者大會(WWDC)將於6月10日舉行。彭博知名記者古爾曼(Mark Gurman)報導稱,蘋果已與OpenAI達成協議,將為今年的iOS 18系統提供一系列生成式AI功能,且蘋果在WWDC會上將花很大篇幅介紹其AI工具。報導指出,蘋果已與OpenAI達成協議,將其聊天機械人ChatGPT引入到iOS 18,預計將在WWDC上宣布,屆時蘋果公司據稱還將發布改進後的Siri語音助理。不過由於OpenAI的公司架構和管理層不穩,蘋果也希望「不要把所有的雞蛋放在一個籃子裡」,該公司努力與Google達成協議,試圖將Gemini作為另一種可選擇的方案內置在iOS系統中。此外,蘋果即將推出的iOS 18和macOS 15將加入AI功能,用戶可在兩個系統中應用核心AI工具Project Greymatter,基本上可完全在設備上處理,如果需要更多AI運算能力,則會推送至雲端,系統會自行判斷處理方式。同時,Project Greymatter將會整合到Safari、Photos和Notes核心應用和部分操作系統。先前有消息稱,蘋果正在開發自己的AI模型,用於設備上的文字分析、智慧回覆和摘要。因此,ChatGPT和其他OpenAI技術將用於分析較長的文字、影像生成以及類似的高要求任務。古爾曼也總結了蘋果即將在iOS18中推出的多款AI功能,今年推出的功能涉及語音轉備忘錄、AI修圖、Spotlight搜尋優化、Safari網頁搜尋改進、自動建議電子郵件或短信回覆,以及智能生成摘要等。
下一波課綱將納入數位學習與AI應用 教師籲勿強迫「為用而用」
人工智慧(AI)科技正在改變人類生活,教育部長鄭英耀27日至立法院教育及文化委員會進行業務報告,預定宣告啟動下一波課綱研修前置作業,將數位學習與人工智慧應用納入課綱。不過教師們認為,AI只是教學的輔助及工具,請勿強迫教師「為用而用」,否則將出問題。108課綱實施5年,鄭英耀520上任後,27日是他第一次到立法院教育及文化委員會進行業務報告及備詢,根據教育部提出的書面報告,未來以鞏固、精進和前瞻3個面向,推動課綱研修工作,「前瞻」部分是將數位學習與AI應用納入課綱、英語文教育更能與國際接軌並加強生活應用。因應AI人工智慧發展運用,教育部預計今年10月完成新版「中小學數位教學指引3.0」,以系統性規畫AI課程,協助教師備課,打造AI素養及其運用知能。同時,將協同國科會合作研發EDU-TAIDE在地化生成式AI模型,提供免費生成式AI應用服務,並整合至教育部數位學習平台,包括因材網、酷英網。擔任全國中小學校長協會理事長的新北市新莊國小校長張信務說,新課綱預計在118學年實施,如果AI應用納入課綱,師資僅剩5年可以準備。他觀察自己學校老師,目前約僅3成老師靠自學後可粗淺地將AI融入教學中,絕大多數不具AI教學知能,教育部有必要提供進修管道。全國教師工會總聯合會理事長侯俊良表示,現正在推動的「生生用平板」政策,曾經出現有縣市教育局處要求「開機率」的現象,但教學現場上,並不是每個課程都需要用到平板,地方教育局處要求開機率造成老師「為用而用」,造成亂象。「AI時代來臨,基層教師已認知到這種趨勢無法迴避。」侯俊良說,對於AI將怎麼融入教學,老師開始重視,但希望教育主管機關將AI定位為一種輔助教學的工具,而不是要每個老師去開AI課程,這樣才有辦法推動。中華適性教育發展協會26日主辦「適性教育論壇-生成式AI對教與學的影響」,教育部次長葉丙成致詞時說,ChatGPT出現後,學生用這個工具寫文章,能做出更好的東西,但可能造成手寫技能退化,大家是否願意接受這樣的改變?他認為,社會要有共識讓新科技在教育上廣泛使用,可能要花3年至5年時間。