AI模型
」 AI OpenAI 輝達 ChatGPT 黃仁勳
外傳ChatGPT將推「6.5萬元」超高訂閱服務 OpenAI財務長：想想AI可以幫你省多少
近期OpenAI修改訂閱方案，在每個月20美元ChatGPT Plus的訂閱方案為基礎上，推出了一個月要200美元（折合新台幣約6500元）訂閱費用的GPT Plus，當時消息曝光後，引起不少網友咋舌，近期甚至有報導指稱，OpenAI內部正在研究月費2千美元（折合新台幣約6.5萬元）的訂閱方案。OpenAI弗里爾（Sarah Friar）近日在接受訪問時表示，對於商業用戶而言，支付數千美元來訂閱AI工具是合理的「想想沒有AI的話，你要花多少錢來完成工作」。根據外媒報導指出，目前OpenAI提供2種訂閱方案，分別是每月20美元的ChatGPT Plus方案，以及剛推出的每月200美元的ChatGPT Pro高階訂閱方案，這兩個方案燈可以讓用戶使用公司最新、最強大的AI模型，但是在使用次數上有所不同。此外，OpenAI對於企業用戶採取的是按用戶計費的固定收費模式。但OpenAI財務長弗里爾表示，未來可能會改成根據用戶從AI工具中獲得的實際價值進行收費。尤其是在企業領域，像是律師利用AI提供隨時可用的法律助理，或者學者依靠AI達成研究突破，這些應用的價值都遠超出傳統的固定訂價模式。弗里爾解釋，這種基於價值的收費模式有助於平衡AI系統龐大的開發成本。弗里爾解釋，開發、運行先進的AI技術需要大量的資金與資源，而這些成本最終需要通過合理的定價來彌補。弗里爾甚至舉例提出一個問題「如果沒有AI技術，企業需要花多少錢、聘請更多人力來完成同樣的工作？」，弗里爾認為，AI技術在某些領域的應用不僅能提升效率，還能替代部分人力，因此需要找到一個公平且合理的收費標準。
曾爆料OpenAI有違反版權嫌疑 26歲吹哨者被發現陳屍家中…警方認定「自殺」
曾接受媒體訪問、爆料OpenAI有觸犯版權之嫌疑，這位居住在舊新山的前OpenAI員工巴拉吉（Suchir Balaji），日前傳出陳屍在家中的消息。而經過警方勘驗後，認定巴拉吉的死因是「自殺」。根據《Tech Crunch》報導指出，26歲的巴拉吉於11月26日被發現陳屍在舊金山布坎南街（Buchanan Street）的自家公寓內。舊金山首席驗屍官辦公室表示，巴拉吉死因為自殺，警方在現場初步調查後，並未發現任何他殺跡象。報導中提到，巴拉吉過去曾在OpenAI工作近四年，主要參與WebGPT和ChatGPT的研發。他在2023年10月接受《紐約時報》採訪時批評OpenAI，表示其技術應用上涉嫌侵犯版權，並認為這對網路生態造成損害。巴拉吉也提到，自己之所以會離職，就是自己意識到這項技術對社會的危害大於好處，特別是OpenAI在使用受版權保護的數據時的做法，讓他深感憂慮。巴拉吉畢業於加州大學柏克萊分校（University of California, Berkeley），在學期間曾在OpenAI和Scale AI實習，畢業後正式加入OpenAI。在OpenAI的工作期間，他曾參與多個重要項目，包括WebGPT的開發，這是GPT-3的網路搜尋版本，後來成為SearchGPT的前身。此外，他也在GPT-4的預訓練團隊、o1推理團隊以及ChatGPT的後訓練團隊中任職。而在巴拉吉死亡的前一天，他成為一起指控OpenAI侵犯版權的訴訟證人。作為和解協商的一部分，OpenAI同意調查巴拉吉所掌握的相關文件，而這些文件，也與巴拉吉提出版權問題有直接相關。報導中也提到，過去雖然有多名前員工對OpenAI的安全文化提出質疑，但巴拉吉是其中少數對資料來源、版權問題公開表示反對的員工。巴拉吉認為，ChatGPT的訓練數據未符合法律上的「合理使用」標準，這種問題不僅限於OpenAI，許多生成式AI產品都存在類似爭議。目前OpenAI和微軟（Microsoft）仍因為AI的訓練面臨多起版權相關訴訟，其中包括《紐約時報》等媒體機構指控OpenAI在訓練AI模型時，未經授權使用自家內容。
企圖阻止OpenAI轉型營利公司 馬斯克遞交訴狀要求實施禁制令
美國科技富豪馬斯克（Elon Musk）近日向美國加州北區地方法院提交申請，要求對OpenAI及其聯合創辦人、合作夥伴微軟（Microsoft）實施初步禁制令，希望能以此阻止OpenAI進行他所認為的「反競爭行為」。根據《Tech Crunch》報導指出，馬斯克的訟指控包括OpenAI的CEO阿特曼（Sam Altman）、總裁布羅克曼（Greg Brockman）、微軟、LinkedIn聯合創辦人霍夫曼（Reid Hoffman）及前OpenAI董事會成員坦普爾頓（Dee Templeton）在內的多位被告，訴狀中指控這些人涉及多項不法行為，請求法院下達禁制令停止違法行為。馬斯克的律師指出，OpenAI正在將原本「非營利組織」的性質轉變為「營利結構」，同時將知識產權在內的重要資產轉移給OpenAI的附屬公司或合作夥伴，這完全違背了該組織成立之初的公益承諾。訴狀中也提到，為保護OpenAI的非營利性質，法院應該批准禁制令，否則等到案件有結果時，OpenAI原本對公眾的承諾可能早已蕩然無存。除此之外，馬斯克也指出，自己捐贈給OpenAI的4400萬美元資金被濫用，並且OpenAI利用了馬斯克本人擔憂「對AI存在的威脅」一事進行欺騙。馬斯克的律師也提出指控，表示OpenAI透過與微軟的合作不正當地獲取競爭敏感訊息，並利用這些資訊壓制競爭對手，包括馬斯克自己的AI公司xAI。根據《金融時報》的報導，OpenAI在最新一輪融資中要求投資者不得同時支持其競爭對手，包括xAI，這導致至少一位主要投資者拒絕向xAI提供資金。然而，xAI最近仍成功完成了一筆50億美元的融資，吸引了Andreessen Horowitz和富達（Fidelity）等知名投資者。訴狀中還提到，OpenAI和微軟非法共享專有訊息，同時指控包括阿特曼在內的多位被告從事「自我交易」，損害市場公平。例如，OpenAI選擇Stripe作為其支付平台，而阿特曼對Stripe有實質的財務利益。除此之外，微軟自2019年初開始支持OpenAI，並逐步加強合作，總計投資約130億美元，以換取公司收益的49%股份，並允許OpenAI廣泛使用其雲端硬體資源，幫助訓練和運行AI模型。而LinkedIn聯合創辦人霍夫曼同時擔任微軟和OpenAI的董事會成員，並且是投資公司Greylock的合夥人，這使得他在公司交易中擁有特殊視角。前OpenAI董事會成員坦普爾頓則在微軟短暫任命其為OpenAI非投票董事觀察員期間，據稱促成一些違反反壟斷規則的協議。報導中提到，馬斯克其實先前就提出類似的訴狀，但在今年夏天時撤回，如今又捲土重來，控訴對象也新增了微軟、霍夫曼以及坦普爾頓等人。根據馬斯克的主張，OpenAI並未遵守原本的公益使命，而是逐步轉向以盈利為目標。馬斯克與OpenAI的矛盾始於2018年，當時他因理念分歧退出了這家公司。據了解，OpenAI於2015年成立之時是一家非營利組織，並於2019年轉型為「封頂盈利」模式，即「非營利部分」成為「營利子公司」的管理實體。如今，OpenAI計畫進一步轉型為完全營利的企業，儘管仍希望保持非營利的地位。馬斯克對此表示強烈不滿，認為OpenAI未能履行最初的公益承諾。對於這些指控，OpenAI發言人表示，這是馬斯克「第四次嘗試」，依然是重複相同的毫無根據的指控，並強調這些訴訟毫無意義。此前，OpenAI已試圖駁回馬斯克的訴訟，稱之為「誇張且毫無根據的指控」。
主委加碼！ 亞馬遜端40億美元再投OpenAI競敵
電商巨擘亞馬遜致力與其他科技巨頭競爭之際，向OpenAI對手Anthropic加碼投資40億美元（約新台幣1303億元），總計已對Anthropic投入80億美元。Anthropic表示，將亞馬遜的AWS網路服務作為主要雲端與培訓合作夥伴。根據路透社報導，這筆新資金類似亞馬遜先前投資的40億美元，將以可轉換公司債的形式分階段挹注，首筆金額為13億美元。亞馬遜將逐漸成為Anthropic的主要雲端合作夥伴，並與微軟及Alphabet旗下的谷歌激烈競爭，為雲端客戶提供AI驅動工具。 Anthropic計劃以亞馬遜的Trainium和Inferentia晶片訓練、部署基礎模型。由於訓練AI模型的過程需要強大處理器，確保能取得昂貴的AI晶片是新創公司的首要任務。投資公司D.A. Davidson分析師路里亞（Gil Luria）指出：「投資Anthropic對亞馬遜在AI領域保持領先地位至關重要。」亞馬遜加碼投資Anthropic凸顯出，過去一年有數以十億計美元資金流入AI新創公司。OpenAI於2022年底推出AI聊天機器人ChatGPT後，AI技術大受歡迎，投資人希望從這股熱潮中獲利。過去一年來，有許多像亞馬遜這樣的大型雲端服務供應商，與AI新創公司結成夥伴的合作案，展望未來將有更突破性的成長。
SearchGPT正式上線 直攻Google搜尋引擎
OpenAI不只有聊天機器人ChatGPT，還結合搜尋引擎回答用戶問題，新功能ChatGPT search 10月31日正式上線，執行長奧特曼（Sam Altman）表示，這是他目前「最喜歡的功能」，搜尋引擎巨擘谷歌則首當其衝，母公司Alphabet股價盤前聞訊嚇跌2％。「SearchGPT」提供付費訂閱者即時對話資訊能力，免費用戶、企業用戶和教育用戶也將在未來幾週內陸續獲得存取權。該功能覆蓋 ChatGPT 的網頁版，以及手機、桌面應用。「SearchGPT」突破聊天機器人以往受限於模型資料的時效性，就如同做了瀏覽器的外掛，透過即時網路搜尋，加上與新聞和數據供應商間的合作支援，得以提供最新的體育賽事比分、股票報價、新聞、天氣等訊息。這款ChatGPT新版本發布將直接衝擊谷歌的搜尋引擎霸主地位。自2022年11月ChatGPT上市以來，Alphabet股東就擔心消費者可能改變線上搜尋資訊的方式，進一步從谷歌手中搶下市占率。據官方介紹，結合搜尋功能的模型是OpenAI的旗艦AI模型GPT-4o，經過微調後，利用第三方搜尋提供商以及 OpenAI 的合作夥伴直接提供的內容。用戶可以更自然、直觀的方式進行搜尋，「就像在對話一樣」提出後續問題。
MacBook搭配M4 Max晶片霸氣登場 挑戰最強AI筆電寶座
沒錯！這一周就是蘋果周。Apple今天發布搭載 M4 系列晶片：M4、M4 Pro 和 M4 Max的MacBook Pro。M4版本的的MacBook Pro為14吋，提供太空黑色和銀色2種顏色，具備M4的超快速效能和3個Thunderbolt 4連接埠；搭載M4 Pro和M4 Max晶片的有14 吋和16 吋機型，均提供Thunderbolt 5，可達成更快的傳輸速度和先進連接功能。所有機型均配備Liquid Retina XDR 顯示器，提供全新奈米紋理顯示器選項，讓顯示器更升級。 受惠於M4系列晶片的超快速效能，新款MacBook Pro變得更加強大。（圖／Apple提供）相較於搭載Intel的MacBook Pro，新款 MacBook Pro為AI工作提供近 10 倍快的效能提升，而針對圖形密集型工作，使用者獲得高達20倍快的效能提升。新款 MacBook Pro的電池續航力現在長達 24 小時，升級裝置者還可體驗到長達14小時的額外續航力。M4系列採用第二代3奈米技術打造，是最先進的個人電腦系列晶片。M4系列具備強大的單執行緒CPU效能和世界最快的CPU核心；以及出色的多執行緒CPU效能，可滿足最繁重的工作量。Apple 晶片結合CPU中的機器學習加速器、先進的 GPU，以及更快、更有效率的神經網路引擎，從裡到外都是為AI提供優異效能而打造。搭配更快速的統一記憶體，各個晶片都有更擴增的記憶體頻寬，因此大型語言模型 (LLM) 和其他大型專案可以在裝置端順暢運行。此外，M4系列領先業界的每瓦效能，讓使用者能享有長達24小時的電池續航力。 新款 MacBook Pro搭載M4、M4 Pro和M4 Max晶片，是歷來為專業級筆電打造出的最先進晶片系列。（圖／Apple提供）至於M4 Pro則配備強大的14核心CPU，其中包含10個效能核心和4個節能核心，帶來多核心效能的飛躍，同時還配備高達20核心的GPU，其效能是M4的兩倍。有了M4 Pro，新款MacBook Pro 的記憶體頻寬比前一代大幅增加75％，是任何AI PC 晶片的兩倍。搭載 M4 Pro 的新款 MacBook Pro 速度比搭載 M1 Pro 的機型快達3倍，能加速如地理測繪、結構工程和資料建模等工作流程。那麼M4 Max能有多神呢？搭載M4 Max的MacBook Pro特別為資料科學家、3D藝術家和作曲家等專業人員而設計，將他們的工作流程推向極限，以往只能用桌上型電腦完成的專案，現在使用筆電就能完成。M4 Max配備最多16核心CPU、最多40核心GPU、每秒超過0.5 TB的統一記憶體頻寬，以及比M1 Max快3倍以上的神經網路引擎，使得運行裝置端AI模型空前快速。有了M4 Max，MacBook Pro的效能高達M1 Max 的3.5 倍，能夠輕而易舉地處理視覺特效、3D動畫和電影配樂等繁重的創意工作。它還支援最高128GB 的統一記憶體，因此開發者可以輕鬆與擁有近2000億個參數的眾多大型語言模型 (LLM) 進行互動。得益於M4 Max配備兩個 ProRes 加速器的強大媒體引擎，即便使用 iPhone 16 Pro 拍攝並在Final Cut Pro 中剪輯 4K120 fps ProRes 影片，MacBook Pro也能輕鬆應付。跟剛剛發布的iMac一樣，MacBook Pro配備全新 1200萬畫素的Center Stage 相機，即使在艱難的照明條件下也能拍出更強化的視訊品質。「人物居中」讓視訊通話使用者能更投入交談。四處移動時，此功能會自動將使用者維持在畫面中央。新相機還支援「桌上視角」，為視訊通話增添全新維度。藉助錄音室品質的麥克風和支援「空間音訊」的6揚聲器音響系統，無論使用者聆聽音樂或是以杜比全景聲看電影，都有更好的體驗。新款的MacBook Pro當然少不了Apple Intelligence功能，前，這項技術在 macOS Sequoia 15.1 中支援美式英文。Apple Intelligence 在做到這一切的同時，每一步都保護著使用者隱私。其核心是裝置端處理，對於更複雜的任務，「私密雲端運算」讓使用者可以取用 Apple 更大的、基於伺服器的模型，同時以創新突破的方式保護個人資訊。MacBook Air是世界最受歡迎的筆記型電腦，雖然沒有M4系列晶片。但有了Apple Intelligence，它的表現更加出色。現在，搭載M2和M3的機型起始記憶體容量增為雙倍，達到16GB。大家最關心的售價，搭載M2和M3機型的MacBook Air，售價依舊是3萬2900元起，有午夜色、星光色、銀色和太空灰色可供挑選；搭載M4的 14 吋MacBook Pro售價5萬4900元起；搭載M4 Pro的14吋MacBook Pro 售價為6萬7900元起；16 吋M4 Pro晶片的MacBook Pro售價則為8萬4900起，MacBook Pro系列所有機型均有太空黑色和銀色可供選擇。10 月 30 日起，包括美國在內的 28 個國家和地區的顧客可至 apple.com／store 以及 Apple Store App 預訂新款 MacBook Pro。產品將於日後在台灣開放訂購。
算力即國力！ 鴻海劉揚偉：台灣發展AI最大挑戰是「這件事」
鴻海（2317）董事長劉揚偉23日出席台北國際電子產業科技展（TAITRONICS）與「AI創新應用聯盟（AIIA）」啟動儀式時表示，他贊同「算力即國力」、將會是世界上最珍貴的商品，AI不會泡沫化，但台灣發展AI的第一大挑戰，就是能源問題。鴻海在今年6月20日首度衝破市值3兆元大關，10月23日股價逆勢上漲至216元、漲0.23%，市值回到2.99兆元，距3兆僅一步之遙，劉揚偉被媒體問到股價看法時，他說股價表現就是反映一家公司的經營狀況，聚焦在「把公司做好」；被問到鴻海是否搭上AI列車，劉揚偉表示，「硬件」上有、「軟件」沒有。劉揚偉在午宴時以「台灣成為AI影響力中心的機會與挑戰」為題演講，他認為，目前市場正處於通用人工智慧階段，已實現聊天機器人，正在進展仿人類推理者的能力，下一步則是行動代理人、發明創新者、最後目標是組織協作者。也就是說，發展只是剛開始而已，未來還有很龐大的空間。劉揚偉說，有人擔心AI是虛假市場會泡沫化，但以目前AGI的發展、對算力的無止盡需求來看，AI不會是泡沫，已有基礎的商業模式，AI模型的推理成本，每年也以10倍的速度下降，預期未來AI在各領域的運用越來越廣泛，可望影響百工百業。台灣具有許多發展AI的優勢，劉揚偉表示，包括台灣有先進的半導體產業、非常完整的科技供應鏈、強大的研發能力、國際合作與拓展潛力，並抓住智慧化升級趨勢。而台灣的第一大挑戰，就是能源及環保的壓力，劉揚偉表示，AI算力需要用大量的電，尤其是當台灣全面轉向綠色能源的時候，挑戰也會更大；第二是地緣政治的風險，恐讓供應鏈面臨重組；第三則是技術人才的短缺，儘管經濟部計畫透過不同機制提供海內外20萬名AI人才，但「20萬不一定足夠。」第四個挑戰是全球競爭加劇，每個國家都在思考如何發展自己的AI，第五挑戰則是市場變化很快，每年AI算力都是2、3倍的提升，能源需求也大幅成長，這都會影響企業選擇科技與方向，因此除了要抓對方向，也要跟得上。
智慧醫療新世代 衛福部成立三大AI中心
衛生福利部於今（7）日正式宣布成立「負責任AI執行中心」、「臨床AI取證驗證中心」，以及「AI影響性研究中心」。各中心將透過建立跨層級、跨體系醫院之合作，有效解決AI應用於臨床場域所面臨的「落地」、「取證」及「給付」三大關鍵議題。此將不僅為國內AI醫療應用重要里程碑，更展現臺灣政府推動智慧醫療之前瞻性政策。三大類型AI中心補助計畫於今年7月23日公告並舉辦全國性教育訓練，8月1日截止收件，各層級醫院熱烈參與，共計30家醫院提交48案，經過國內外委員三階段評選，共計16家國內醫院通過決選（19案），包含臺大、中榮、北榮、成大、中醫大、三總、林口長庚等指標醫院。衛福部說明，各國在推動智慧醫療時，面臨的挑戰包括 AI 軟體在臨床應用時可能出現的偏見、不透明性以及資安與隱私問題。此外，AI 產品在取得食品藥物管理署（TFDA）認證過程中，需要廣泛的數據來進行驗證，驗證數據取得困難。最後，一些關鍵應用如何透過科學方法來評估其健保給付，並驗證臨床效果，這些都是智慧醫療推動時所面臨的主要挑戰。因此，衛福部指出，先進國家開始推出一些法案架構和共識指南，作為監管的指引方向，例如世界衛生組織（WHO）之負責任AI六大原則，歐盟之AI法案，以及美國AI運算法透明及資訊共享規則（HTI-1）等。然而，這些政策宣示尚未在各國具體落實成為推動中心。為前瞻布局，衛生福利部輔導臺灣醫院成立三大類型AI中心，作為解決推動智慧醫療最後一哩路。以下分別對三大類型AI中心進行介紹：第一類「負責任AI執行中心」透過制定符合資安與隱私保護的管理辦法，公開AI模型、資料和效能等重要資訊，提供可解釋性分析結果，提升AI透明度，同時建立AI模型生命周期管理辦法，以確保AI在臨床使用具有持續可靠性。第二類「臨床AI取證驗證中心」為衛生福利部資訊處和TFDA合作，旨在解決國內醫療AI軟體取證過程冗長及蒐集具臺灣人群代表性驗證資料集的困難，以往AI外部驗證機制缺乏跨層級醫院協作、系統性常設機構和專責人員，該類中心將預先組成醫院聯盟，常設機構和專責人員串接跨體系及跨層級之電子病歷資料，藉以協助廠商驗證AI模型，提升驗證速度以及在臺灣人群的準確性，促進產品商業化進程，幫助國內民眾更快速享受到高品質的智慧醫療產品。第三類「AI影響性研究中心」為衛生福利部資訊處和中央健康保險署合作，旨在解決國內AI醫療應用爭取納入健保給付的挑戰，由於AI產品的價格無法依循傳統醫療器材從製造端進行成本評估，中心將建立跨體系、跨層級的臨床試驗機制，並由多專業團隊設計研究，進行AI臨床效益評估，確保AI產品兼具臨床有效性與健康效益，同時建立科學性的定價基礎。衛福部也與健保署合作，透過AI影響性研究中心協助國內AI醫療應用爭取納入健保給付，由於AI沒有耗材，難以比照傳統醫療器材從製造端進行成本評估，中心將建立臨床試驗機制，進行AI臨床效益評估，確保在臨床的有效性與健康效益，再交由專家評估是否納入健保。三大AI中心召集人、臺大醫院院長吳明賢表示，全世界百工百業都在使用AI，唯獨醫療產業進展最滿，由於醫療牽涉到健康、生命、法律問題，要在確保服務品質安全的前提下處理。吳明賢認為，台灣醫院數位資料庫完整，已具良好大數據基礎，也有法規協助推動，三大AI中心的成立，證明台灣能在醫療產業領航全球。
Meta 新推AI影像工具Movie Gen 競敵Sora 負責人突離職
生成式人工智慧（AI）競爭激烈，OpenAI的Sora推出期間，Meta在週五（4日）首度公開自家的AI影像生成工具Movie Gen。而同一天在這關鍵時刻，OpenAI的Sora負責人突然宣佈離職，跳槽加入Google Deepmind團隊。Meta於官網上秀出AI影像生成工具，藉由文字或圖片提供客製化的生成影片。Meta還強調AI工具不能取代動畫師和藝術家的工作，而是幫助大眾以創新方式表達自己，並且提供更多人機會。影片呈現還可配合要求，調整成不同長寬尺寸。在Meta發布的展示短片中，一名跑者透過AI編輯，在其中一個片段中拿著彩球；在另一個片段背景則被改為沙漠；還有一個片段是跑者穿上恐龍裝。這些改變都是通過文字提示來進行變動。Meta執行長馬克祖克柏表示，Movie Gen明年會上線Instagram。並在個人Instagram帳號發佈了一段Movie Gen生成的視頻，顯示他在用腿部推舉機，隨着他開始鍛鍊，背景發生了變化。Meta產品副總裁海斯（Connor Hayes）表示，目前如果用戶在Instagram上使用影片編輯或影片生成功能，可能會發現速度不如預期，「我們可以想像，這些AI模型在Reels創作和編輯方面會非常強大，這是我們正在探索的應用方向」。
中租策略論壇深度剖析：數位轉型為驅動企業創新與打造未來競爭力的關鍵力量
在瞬息萬變的全球經濟與產業環境中，數位轉型對企業的影響愈加深遠。由中租控股主辦的「中租中小企業策略論壇」近日圓滿落幕。論壇中匯集了來自產業界、經濟研究與科技領域的專家，深入探討數位轉型、全球經濟走向以及地緣政治風險對企業的影響等議題，為台灣中小企業提供具體的策略和洞見。 中租迪和南區分處副總經理陳又彰指出，中租的數位轉型策略聚焦於三個方向：數位優化、數據科學運用及數位新產品與平臺的建立。中租透過一系列數位轉型舉措，為產業數位化樹立標竿。(圖片提供／中租)數位轉型的實踐與挑戰數位轉型已成為現代企業競爭力提升的核心，尤其在快速變化的全球市場中更具關鍵性。中租迪和南區分處副總經理陳又彰指出，中租的數位轉型策略聚焦於三個方向：數位優化、數據科學運用，以及數位新產品與平臺的建立。數位優化提升公司內外流程的效率，包括改善內部工作流程和客戶體驗，使運營更流暢，並縮短不必要的耗時環節。數據科學運用則透過精準行銷與風險管理，讓中租能靈活應對市場需求，提前預見並調整潛在風險，降低損失。數位新產品與平臺的開發，使中租將原有業務數位化升級，還針對不同客群進行市場細分，提供線上線下無縫連接的客戶體驗。陳又彰強調，語音機器人及影像辨識等數位工具的引進，有效減少人力資源的消耗，大幅提升作業效率與準確性。讓員工得以專注於創造性任務，進一步提升公司的運營效能。如此可見，中租透過一系列數位轉型舉措，在提升自身競爭力的同時，也為產業數位化樹立了標竿。台灣經濟研究院景氣預測中心主任孫明德強調，地緣風險已經不再是短期現象，企業需要持續關注，將其納入長期的經營策略中。(圖片提供／中租)地緣政治風險已成為全球經濟的慢性病，影響著各國的貿易、自主化以及企業經營成本與銷售市場。台灣經濟研究院景氣預測中心主任孫明德強調，從英國脫歐到美中貿易戰，再到俄烏戰爭及以巴衝突，地緣政治風險對全球供應鏈和能源價格帶來前所未有的挑戰。這種地緣風險已經不再是短期現象，企業需要持續關注，並將其納入長期的經營策略中。孫明德進一步指出，雖然全球外需市場如石化和金屬等產業陷入低迷，但台灣的AI伺服器和高階晶片仍是出口主力。此外，台灣的內需市場表現強勁，尤其是在金融、零售業，顯示出「外冷內熱」的經濟態勢。這表明中小企業在應對外部市場挑戰時，可以借助內需市場的穩定性，尋找更多的成長機會。東台精機協理曾文鵬分享東台精機開發了T-Bot數位助理，其能即時解決客戶在操作過程中遇到的問題，提供了有效的數位轉型方案。(圖片提供／中租)智慧製造與數位科技的應用在數位轉型的進程中，智慧製造同樣面臨著挑戰，特別是中小企業如何平衡質量與生產靈活性。東台精機工具機事業處協理曾文鵬表示，企業從傳統量產向少量多樣甚至單件生產轉型時，需要確保質量不受影響。此外，現代的生產競爭更注重數據分析與AI技術的應用，以實現生產效率的進一步提升。曾文鵬分享東台精機如何透過AI技術增強產品競爭力。他提到，公司將AI技術分為「間諜式AI」和「深層式AI」兩大類，前者已在入料與瑕疵檢測上取得良好進展，而後者則應用於售後、研發等領域，幫助中小企業逐步推進數位轉型。此外，東台精機開發了T-Bot數位助理，這一工具能夠即時解決客戶在操作過程中遇到的問題，為中小企業提供了有效的數位轉型方案。國家資通安全研究院通報應變中心主任孫偉哲強調，資安風險是一個持續的管理過程，如何訓練AI模型並確保其結果的可靠性，是在數位轉型中的重要考量。(圖片提供／中租)資安風險與AI的可信度而隨著數位化的進展，資訊安全風險也日益增長，尤其是在AI技術被廣泛應用的背景下。國家資通安全研究院通報應變中心主任孫偉哲強調，資安風險是一個持續的管理過程，企業必須明確風險來源並做好資源分配，針對高風險的環節進行重點防護。他還指出，AI的可信度是企業需要關注的核心問題，尤其是AI在資安領域中的應用，如何訓練AI模型並確保其結果的可靠性，將成為未來企業在數位轉型過程中的重要考量。與會者聚精會神，深入探討數位轉型和市場趨勢，現場氣氛熱烈。專家們分享見解，參與者積極交流，展現對中小企業未來發展的熱情與期待。(圖片提供／CTWANT)經過各專家的解析與洞察，不難發現，無論是數位轉型、智慧製造還是資訊安全，中小企業都應以長遠視角應對這些挑戰，並在面對地緣風險時靈活調整策略。中租中小企業策略論壇的專家們，為中小企業在轉型過程中提供了寶貴見解，幫助他們在充滿不確定性的環境中，尋找穩定的成長道路。
輝達獨大？ 超微蘇姿丰：市場不會只有一種運算架構
超微（AMD）執行長蘇姿丰近日接受《CNBC》訪問，談及超微與輝達（NVDIA）之間的競爭。蘇姿丰表示：「我的看法是運算市場沒有一家獨大這回事。市場上不會只存在一種運算架構，而是每種應用都需要對應適合的運算架構。」自從ChatGPT爆紅推動AI市場起飛後，各大科技公司爭相投資發展AI模型及資料中心，讓輝達AI晶片大賣，短短一年內即在AI晶片市場搶下超過80％市占率，隨著超微、英特爾不斷推陳出新，市場競爭日漸激烈。蘇姿丰認為科技生態圈不會只有競爭，而是競爭合作並存。她表示同業之間即便在某些市場相互競爭，在某些領域仍可以是合作夥伴。蘇姿丰相信AI的長久趨勢。她表示目前各界還在摸索AI的能力範圍，但相信10年後大家不會再質疑AI的投資報酬率，屆時AI將成為人類生活主體，從商業、教育到醫療保健等生活環節都與AI密不可分。蘇姿丰預期AI加速器市場規模將在2027年前達到4,000億美元。她表示：「我真的相信AI會改變每個人的生活。一切才剛起步，所以大家要保持耐心。科技趨勢通常需要多年時間發展成熟，而非幾個月就能看見結果。」在超微急起直追之際，輝達也持續強化自身的實力。Information網站報導輝達近日打算投資1.65億美元收購AI新創公司OctoAI。OctoAI開發的軟體能優化生成式AI模型，與輝達NIM軟體開發工具組整合後能為企業用戶提升AI模型的深度學習推理能力。
全村挺一人1／輝達AI革命引焦慮 半導體巨頭罕見齊聚台北大談矽光子
「那就是輝達呀！如果不是他們的AI晶片需求，台積電根本不需要去研究『矽光子』，這個完全不是他們的專業。」產業專家不諱言地告訴CTWANT記者，台積電去年提及研究「矽光子」，今年罕見攜手日月光，在9月3日宣布成立矽光子產業聯盟，號召30家廠商一起制定矽光子封裝產業標準，合作面對這項大挑戰。2022年底ChatGPT崛起而引爆的生成式AI，以及因應而生的大量GPU晶片需求後，對整體半導體的架構產生翻天覆地的變化，也是為因應「全村的希望」、AI晶片龍頭輝達執行長黃仁勳的需求。9月11日的高盛技術會上，黃仁勳講了兩個「難以置信」，一是客戶對最新一代Blackwell晶片的需求難以置信地旺，二是台積電在這領域裡的「敏捷性和響應需求能力，令人難以置信」。然而這場AI掀起史無前例的機會與焦慮，不但讓台灣最強的業者總動員，還引發全球科技廠的集體焦慮。9月初，全球半導體巨擘齊聚台北南港展覽館的SEMICON Taiwan國際半導體展，各國媒體蜂擁而至、彭博社還設攤直播，就連昔日「王不見王」的台積電與三星這兩家國家級護國神山，也破天荒坐在一起談未來。CTWANT記者三天觀察發現，包括歐洲、美國及韓國等各國最頂尖的廠商來台結盟綁樁，演講中不像以往大幅吹捧產品，反而把握機會在半導體產業盛會上敞開自家遇上的瓶頸與困難。邁威爾Marvell公司首席技術官Noam Mizrahi認為，光學是唯一可連結技術，去符合AI算力傳輸需求。（圖／陳曼儂攝）「輝達的GPU和所耗費的電力真的很貴，要確保頻寬、電力、延遲沒問題，不然錢就白花了。」邁威爾Marvell公司首席技術官Noam Mizrahi在半導體論壇上表示，目前用GPU做AI運算，有57%時間在等資料交換，對時間和金錢都是一大損失，「光學是唯一可以連結技術，去符合這麼大規模需求，以及解決頻寬延遲等問題，不同數據中心的串聯，也要靠光纖才能辦到。」「現在GPU和AI加速器是用電連結，若要變成光傳輸，要有不同調變方式、要縮小產品、不同的頻寬密度，才能減少耗能、達到率與成本問題，但這技術沒這麼容易，可能要等兩代之後，才會摸索出對的方向，進入光學無所不在的世界。」Noam Mizrahi提到矽光子技術的困難，是當前最大的挑戰。微軟全球副總裁 Rani Borkar在論壇說，「我從事這產業30年，第一次看到所有業者都在辯論未來，因為AI是半導體的文藝復興！」就算是龍頭微軟，他們也面臨三大瓶頸，第一是硬體系統沒有趕上AI模型需求，「前端需要的運算，每兩年成長十倍，這速度是摩爾定律的五倍，目前的基礎建置與產品都無法達到他的需求，整個領域面臨平台的重新設計，需要整個產業動起來，包括晶片、封裝、記憶體、基礎建設、冷卻方案、網路、電力等，才能推動AI所需的數據流動。」微軟全球副總裁 Rani Borkar提到目前AI面臨三大瓶頸，需要全產業鏈的新變革。（圖／翻攝自SEMI國際半導體產業協會臉書）第二個瓶頸就是高耗能，Rani Borkar說，AI導致全球電力會在2020年到2026年成長一倍，運算和冷卻方式都要變革；第三瓶頸就是產能展望，「我們看到AI高速成長，要買更多晶片、高效記憶體、更多加速器，說來容易，做起來一點都不輕鬆，打造工廠是重大投資，三四年前就要決定，但預測需求非常困難。」「現在真正的問題是維持供應鏈的韌性，因為需求起起落落，」Rani Borkar也了解台灣產業在革命的陣痛期，他向在場業者們呼喊「我從心底感謝大家，是你們做出了重大推動。」在克服重大瓶頸的關鍵時刻，「我們現在做的決定，將改變未來。」這些話也證明，台灣業者在這場革命中，已難以置身事外，而且還是在最花錢的第一線。就算是競爭對手，也得坐下來一起面對。4日登場的「大師論壇」，首度請到台積電共同營運長米玉傑和三星電子總裁李禎培（Jung-Bae Lee）同台，儘管他們在台上沒互動、相敬如賓，但也引發日韓媒體熱議。「韓國和台灣半導體業者『罕見』尋求更密切關係」，日經亞洲（Nikkei Asian）報導，李禎培這次在台灣說，「三星努力為我們的客戶提供代工靈活性，這意味著合作不僅限於三星」，儘管三星有一條龍自己來的能力，但也暗示著會與外部業者有更多合作。而韓媒《經濟日報》及《Business Korea》直接加碼報導，三星和台積電要破天荒結盟、共同研發無緩衝(bufferless)的HBM4晶片，計畫2025年下半年量產。而SK海力士總裁金柱善更直接在半導體論壇上「示愛」，這是他今年第10次來台灣，因為台灣半導體重要性與日俱增，台灣與韓國應緊密合作，「如果沒有合作，AI目標不可能達成。」
錢給你給我貨！甲骨文創辦人自爆聯手馬斯克 找黃仁勳求AI GPU晶片
在AI熱潮下，科技巨頭爭奪AI硬體資源的競爭也日益激烈，近日甲骨文（Oracle）創始人埃里森（Larry Ellison）透露，自己曾與特斯拉執行長馬斯克（Elon Musk）一同在帕洛阿爾托（Palo Alto）的餐廳晚宴中，向輝達（Nvidia）執行長黃仁勳（Jensen Huang）懇求，希望他能接受更多資金，以此來換取更多AI GPU晶片。根據《tomshardware》報導指出，埃里森把這場晚宴描述成一場「懇求大會」，他和馬斯克不斷請求黃仁勳接受更多的資金，以換取更多的GPU供應。而低聲下氣的哀求似乎也獲得了成效，近期甲骨文就宣布將打造一個由131,072個輝達GB200 NVL72 Blackwell GPU組成的Zettascale AI超級集群（supercluster），其AI運算能力達到2.4 ZettaFLOPS，甚至超過了馬斯克的xAI公司所擁有的孟菲斯（Memphis）超級集群。為了支持如此龐大的AI計劃，甲骨文已獲准建造3座模塊化核反應堆。在核反應堆完工前，公司可能會效仿馬斯克的做法，使用大型移動發電機來滿足電力需求。報導中也提到，儘管甲骨文在雲端基礎設施（OCI）的規模不及亞馬遜、微軟和Google等巨頭，但甲骨文在靈活性和客製化服務方面十分具有優勢。OCI能夠滿足特定客戶的獨特需求，甚至提供運行在自有網絡基礎設施上的離線服務器，以確保最高級別的安全性。埃里森對AI的未來發展持樂觀態度，他預測未來三年內，前沿AI模型的訓練費用將達到驚人的1000億美元。這一觀點與Anthropic CEO阿莫代（Dario Amodei）的看法不謀而合。
機器仁來瘋2／廣告猛男選對平台三個月變身AI達人 助漁民一秒神算「連阿嬤都會用」
在南港展覽館舉辦「台北國際自動化工業大展」一樓展區的一角， CTWANT記者見到一位留著一臉大鬍子、皮膚黝黑的大叔，拿著手機對著游來游去、讓人眼花撩亂的1公分小魚群拍張照，只花1秒，AI就算好這裡有37隻魚。「大部分傳統工廠都有轉型問題，我把門檻降低，如果連養魚的都會用AI、誰還不會用！」，「AI對那些科技大廠來說，就像是iPhone15換到iPhone16，雖然有升級、但就是『加速器』的感覺，錦上添花，但對根本沒用過的人來說，就是翻天覆地的變化」，這位大叔是光速海盜創辦人孫偉強。根本不會寫程式的孫偉強告訴記者，他以前是拍廣告的，因為有影片處理的繪圖卡需求，很早就發現跟輝達合作的麗臺有推出簡單好用的AIDMS（AI管理系統），可以輕輕鬆鬆地使用AI來做自己的專案，所以他買下百萬的機器做訓練，只花了三個月，做出有拍照點魚功能的APP，9月開始正式販售。 「因為我是南部人，過年回去找朋友玩，發現做農業的朋友們，都還是用最傳統的方式，」孫偉強舉例，魚場販售時，一次都是10萬隻、20萬隻這樣在賣，出貨時要找有經驗的阿姨，用湯匙邊唱邊撈，最厲害的十分鐘可以點1300隻，「但其實會越點越慢，因為人會累，最重要的是，現在根本找不到人做這一行。」厲害的老手10分鐘可點千隻小魚，但新手用AI可以點一萬隻。（圖／翻攝自光速海盜YT）「有了AI，沒經驗的人，十分鐘可以點好一萬隻」，孫偉強在魚池旁，把一群魚撈到專門拍照的容器內，拍照、上傳，一張照片運算只要一秒，不管是細小的魚苗，或是巨大的成魚，都可以用這個APP數，他以台南的虱目魚業為例，過去要找八個人頂著烈日、泡在水裡，一整個上午最多只能數出十萬隻，光是這些人算時薪就要花一萬元以上，同樣的數量，現在只花三個人、兩小時就能完工。「AI的生成式技術，在2024年的快速發展，成本甚至已比AOI（自動光學檢查）還少。」「如果我們能用手槍去解決事情，何必抱著這麼重的飛彈呢？」孫偉強使用麗臺的AIDMS平台做好訓練系統，現在只要拍幾張照片，就能辨識新的魚種，甚至是螃蟹、小蝦或螺等都可以，現在「最花時間的其實是跟漁民吃檳榔搏感情。」孫偉強說，過去若要教程式什麼是小紅帽金魚，要有硬體、軟體工程師，以及產業專家去解析魚體不同大小、角度、花色等細節，至少花半年到一年、幾萬張的照片去訓練一個模型，但AI能自主學習，等同於兩三位AI工程師，在你睡覺的時候，還在瘋狂訓練程式。善用AI，不管是細小的產品檢視、或是巨大的物流設計，都能短時間完成。（圖／方萬民攝）「以前訓練AI需要會程式碼的工程師，現在完全不用，就可訓練AI模型，我們的團隊都測試好，讓一般人都能直接用，主要是圖形辨識。」麗臺科技協理連明仁跟CTWANT記者說。麗臺科技是1986年創立的電腦產品製造商，以生產專業顯示卡與繪圖卡為主，也幫輝達製造顯示卡，很早就見識與發展AI，推出AIDMS AI管理系統，以零編碼 (no-code)方式，協助用戶加速實現AI應用落地。
AI新勢力2／「不拿坦克車鑽巷子！」 劉峻誠力推高效省電NPU讓人工智慧更普及
「CPU （中央處理器）像坦克車，一開始設計功能主要是打仗用，GPU（圖形處理器）就像是卡車，主要拿來載貨物；NPU（神經處理器）則是小客車，能在小城市內跑來跑去，專為AI而生。」耐能（Kneron）創辦人暨執行長劉峻誠向CTWANT記者解釋，AI時代大家最常聽見的三種處理器差異何在。輝達（Nvidia）創辦人兼執行長黃仁勳在今年6月的台大演講時提及，從1964年IBM創造出第一片CPU到現在，電腦已誕生60年，但 CPU升級速度已減低，須處理的資料量卻大幅成長，而輝達在2006年推出CUDA技術，讓GPU可應用於圖像處理以外的計算，也成為AI計算的主要動力。「CPU+GPU的平行運算模式，才能提供等量的加速運算能力」黃仁勳表示，若以單顆CPU運算需要1秒時間的資料量，搭配GPU加速運算，則只需要0.01秒的時間，且僅需3倍能耗、1.5倍的裝置成本，等於省下了98%的裝置成本、97%的能源，「所以你買越多GPU，就省更多錢」。業內人士向CTWANT記者解釋，因手機與電腦的應用及計算變多，業界在標準積體電路（IC）外，另外訂製ASIC專用（特殊應用）電路，畢竟「專用的比通用的好」，例如Google研發出TPU(Tensor Processing Unit張量處理器)，用於大量低精度計算，但生產廠商少，價格昂貴，劉峻誠的NPU和TPU的概念很像，但「他抓住低價的利基市場，所以在終端使用量會比較多。」業內人士進一步說明，如果沒有NPU，傳統筆電使用AI助手，很容易遇到效能網路塞車的問題，而耐能的NPU主打在沒有網路狀態下也能運算，特別是物體與人臉辨識，如今AI應用更廣泛，使用GPU有成本貴及耗電問題，讓NPU業者更有底氣推廣，「讓CPU、GPU去做它本來要做的事，就是解方。」高通驍龍X系列處理器，有專為AI應用設計的NPU。（圖／黃鵬杰攝）而現在常聽見的NPU，就是劉峻誠2015年創業時打造的全新計算模型「神經網路處理器」（Neural Networks Processing Unit），這個「可重組式人工智慧神經網路」的專利，像一堆樂高積木，當要支持語音AI模型時，可透過指令集重組，要支持圖像AI時再次重新組合，由於可支援多種神經網絡模型，保持架構精簡，處理 AI 模型運算時，具有性能和功耗上的優勢。早在2018年，CTWANT記者曾訪問過劉峻誠，當時AI議題還不熱，他在解釋NPU概念時，主打是在離線狀態下，能讓手機或電腦繼續學習和執行複雜的深度學習演算，能讓AI更平民化。時隔六年，他跟CTWANT記者的解釋更具象，「CPU就像是坦克車，但有一天人類蓋了小型城市，大家發現GPU這卡車比較方便，「我們的NPU就是小客車，雖然市面上的駕駛都習慣開卡車，但若有一天油價漲了兩、三百倍，大家就會被逼迫去試著開小客車。」劉峻誠說「國際級的雲端大廠是目前GPU的主要買家，但因為實在太貴、太耗電，就像某個貨運公司的卡車隊伍，正在強迫司機要換小客車，這件事情正在發生，你就等著看吧！」除了雲端，NPU晶片架構在終端產品上的能見度的確越來越多，目前高通驍龍X系列處理器，就是主打專為AI應用設計的NPU，高效能、更省電；耐能去年3月也宣布自研的人工智慧系統晶片KL720打入高通的產品線，用在高通機器人RB1平台與RB2平台中。Arm在4月發表因應邊緣AI運算的第三代NPU產品「Arm Ethos-U85」，其效能相比上一代Ethos-U65提升4倍、功耗能源轉換效率提高20%，可用在工廠自動化和商用監視器或智慧家庭攝影機等應用。技嘉的筆電也有採用NPU。（圖／業者提供）今年6月的Computex電腦展上，CTWANT記者就在Intel展區中，看到多項跟NPU有關的實機展示。像是技嘉Aorus 15筆電的展示，過去可用手勢撥放或停止影音播放程式，當時是利用CPU與GPU來處理分析，透過鏡頭來識別手勢，現在則使用NPU獨立處理。劉峻誠曾引用大摩報告指出，到2027年，NPU的市占率將會超過GPU，不過Google DeepMind傑出科學家紀懷新向CTWANT記者說，「我認為五到十年內，GPU的地位還不會被取代」不過現在的確有很多人在思考用更多元的方式去解決，也是好事一件。
OpenAI新推「SearchGPT」 挑戰搜尋引擎霸主Google
OpenAI上週四（25日）宣布，開始測試新的AI搜尋功能「SearchGPT」，該服務結合了OpenAI的各個模型與網路上的資訊，同時附上清楚與相關的來源，目前的版本為暫時性的原型，將開放給少數使用者及出版商進行測試並提供回饋意見。該AI軟體開發商此舉意在對抗Alphabet旗下的Google。根據該公司發布的一篇部落格文章，「SearchGPT」將結合AI模型和網路訊息，為用戶提供「清晰且相關的來源」。這款AI搜尋產品將向一小部分用戶和出版商推出，以獲取回饋。公司表示：「雖然這一原型暫時存在，但我們計劃未來將這些最佳特性直接整合到ChatGPT中。」OpenAI表示，在網路上得到所需的答案通常需要多次嘗試才能獲得相關結果，相信若藉由網路上的即時資訊來強化模型的對話能力，將可更快且更輕鬆地找到使用者想要的內容，而SearchGPT的目的就是使用來自網路的最新資訊，快速且直接地回答問題，同時提供相關資訊的來源連結。在結合了AI模型與即時網路資訊之後，SearchGPT得以記住使用者的搜尋/輸入脈絡，於是能在同一個主題上與使用者持續對話，並會有一個側邊欄專門呈現SearchGPT所提供答案的資訊來源/連結列表。目前Google掌控了全球9成的搜尋市場，這麼多年來在該市場並無明顯的競爭對手，且市占率還愈來愈高，但生成式AI卻可能改變這個現況。除了2022年就上線的Perplexity AI之外，於搜尋領域始終追不上Google的微軟，也在本周開始測試整合生成式AI的Bing搜尋，如今OpenAI亦加入了戰場。
微軟7／30公布財報 投資者聚焦「這3大」核心業務進展
微軟將於美東時間7月30日（下週二）盤後，發佈2024財年第四季（截止2024年六月底的三個月）財報。展望本次財年，投資者仍將聚焦於Azure雲端運算服務、人工智慧領域和個人計算機等核心業務的進展，另外，經歷了上週的全球當機事件後，市場也預期從微軟的反饋中獲得一些信心。機構普遍預期，微軟將實現營收644.14億美元，年增14.64%；每股收益2.93美元，同比增加8.99%。今年以來，微軟一度刷新股價高點，於7月上旬曾觸及468.35美元的歷史新高，彼時市值曾逼近3.5兆美元。然而，隨著7月下旬宏觀不利因素增加、大規模當機事件拖累股價，微軟自高點回調超10%，年內累計漲幅縮窄至14%。市場預計，包括Azure、Windows服務器、AI語音辨識系統Nuance和GitHub的智慧雲端業務（Intelligent Cloud）仍是微軟營收增長最快、貢獻最多的部門，預計智慧雲端本季營收將創287.16億美元、年增19.5%，增速小幅放緩，但仍保持強勁趨勢。在上一季，智慧雲端增長強於預期是推動該股績後飆升的主要原因之一，Azure和其他雲端服務的收入增長了31%，保持高增速並超出市場預期，且人工智能給Azure收入貢獻了7個百分點的增幅。因此，該業務增長情況備受市場關注，華爾街分析師一直期待AI給微軟貢獻更高收入。值得注意的是，微軟前一季的資本支出年增幅暴增至79%，創下140億美元的歷史新高，主要用於Azure雲端運算部門建立和運行AI模型相關的基礎設施。同時，微軟首席財務官Amy Hood告訴投資者，預計未來幾年資本支出將增加，以支持雲端產品的增長以及我們在AI基礎設施和培訓方面的投資。另，谷歌在不久前的季報中，公佈了高額的資本支出，引起了市場對於AI投資過度的擔憂。如今，微軟等同類公司的巨額AI投資是否能得到回報，將繼續引起投資者的注意。
Meta計劃23日發布「最強Llama 3模型」 外媒：將以4050億參數制霸市場
OpenAI開發的ChatGPT為AI聊天機器人競賽揭開序幕，如今，Meta帶上Llama 3新模型加入戰局。美東時間7月12日周五，媒體援引一名Meta Platforms的員工消息稱，Meta計劃7月23日發佈旗下第三代大語言模型（LLM）Llama 3的最大版本。這一最新版模型將擁有4050億参数，多模態模型，這意味着它將能夠理解和生成圖像和文本。去年7月Meta發佈的Llama 2有三個版本，最大版本70B的參數規模爲700億。今年4月，Meta發佈Llama 3Meta，稱它爲「至今爲止能力最強的開源LLM」。當時推出的Llama 3有8B和70B兩個版本。Meta CEO祖克伯當時稱，大版本的Llama 3將有超過4000億參數。Meta並未透露會不會將4000億參數規模的Llama 3開源，當時它還在接受訓練。對比前代，Llama 3有了質的飛躍。Llama 2使用2萬億個token進行訓練，而訓練Llama 3大版本的token超過15萬億。Meta稱，由於預訓練和訓練後的改進，其預訓練和指令調優的模型是目前8B和70B兩個參數規模的最佳模型。在訓練後程序得到改進後，模型的錯誤拒絕率（FRR）大幅下降，一致性提高，模型響應的多樣性增加。在推理、代碼生成和指令跟蹤等功能方面，Llama 3相比Llama 2有極大改進，使Llama 3更易於操控。4月Meta展示，8B和70B版本的Llama 3指令調優模型在大規模多任務語言理解數據集（MMLU）、研究生水平專家推理（GPQA）、數學評測集（GSM8K）、編程多語言測試（HumanEval）等方面的測評得分都高於Mistral、谷歌的Gemma和Gemini和Anthropic的Claude 3。8B和70B版本的預訓練Llama 3多種性能測評優於Mistral、Gemma、Gemini和Mixtral。英偉達高級科學家Jim Fan認爲，Llama 3的推出已經脫離了技術層面的進步，更是開源模型與頂尖閉源模型可分庭抗禮的象徵。不同於OpenAI等開發商，Meta致力於開源LLM，不過，這個賽道也越來越擁擠。谷歌、特斯拉CEO馬斯克旗下的xAI和Mistral等競爭對手也發佈了免費的AI模型。據傳OpenAI正在準備GPT-5模型，有望再次超越業界其他公司，帶來更多強大功能。對此Meta祖克伯向外媒透露，Meta已在考慮Llama 4、Llama 5的開發。
OpenAI遭駭！公司裝死不願通報 員工提建言疑遭報復性開除
有外媒爆料指出，其實OpenAI曾於2023年遭到駭客入侵，但當時OpenAI高層認為駭客損害程度不高，所以並未依法向主管機關聯邦調查局（FBI）通報。但是面對到內部員工提出妨害的建言時，OpenAI卻反手將該名員工開除。根據《紐約時報》報導指出，整起事件發生於2023年初，當時OpenAI公司內部的論壇遭到身分不明的駭客入侵成功。該名駭客雖然並未觸及到OpenAI內部的機密文件，但是還是竊取了論壇內的大部分討論內容。而整起事件爆發後，OpenAI高層認為駭客所觸及的資料層級不高，再加上公司的網路安全基礎防護並未被攻破，所以並沒有依法向主管機關FBI通報此事件。但這起事件還是引起OpenAI一名研究員阿申布倫納（Leopold Aschenbrenner）的注意，阿申布倫納向OpenAI董事會發送一份報告，內容中主要是在警告，目前公司沒有完全針對駭客或其他「國家級支持」的威脅行為的防範AI模型防護技術。事後，阿申布倫納將這份文件的內容，在刪除技術與商業敏感內容後，便將其公開在網路上。但阿申布倫納此舉卻遭到OpenAI董事會的問責，最後在2024年4月被公司以洩密為由遭到開除。但阿申布倫納對於自己遭到開除一事，阿申布倫納還是認為這就是一起「政治性報復」，因為他直接在報告中嚴重質疑OpenAI是否有能力抵禦來自中國的駭客。但OenAI則否認這一說法，強調阿申布倫納的解聘與駭客事件無關。阿申布倫納也認為，目前OpenAI所建構的AGI，是個非常強大的技術，除了可以做很多事情外，也有足夠的能力去執行涉及國家安全的壞事。而駭客事件讓阿申布倫納敲響警鐘，認為現在多數的AI巨頭公司，尤其是在研究AGI領域的公司，都要去判別自己的公司防駭能力，要清楚知道是否能保護AGI的機密不被中國、中東獨裁者或是美國政府所掌握把空。