語言模型
」Meta計劃23日發布「最強Llama 3模型」 外媒:將以4050億參數制霸市場
OpenAI開發的ChatGPT為AI聊天機器人競賽揭開序幕,如今,Meta帶上Llama 3新模型加入戰局。美東時間7月12日周五,媒體援引一名Meta Platforms的員工消息稱,Meta計劃7月23日發佈旗下第三代大語言模型(LLM)Llama 3的最大版本。這一最新版模型將擁有4050億参数,多模態模型,這意味着它將能夠理解和生成圖像和文本。去年7月Meta發佈的Llama 2有三個版本,最大版本70B的參數規模爲700億。今年4月,Meta發佈Llama 3Meta,稱它爲「至今爲止能力最強的開源LLM」。當時推出的Llama 3有8B和70B兩個版本。Meta CEO祖克伯當時稱,大版本的Llama 3將有超過4000億參數。Meta並未透露會不會將4000億參數規模的Llama 3開源,當時它還在接受訓練。對比前代,Llama 3有了質的飛躍。Llama 2使用2萬億個token進行訓練,而訓練Llama 3大版本的token超過15萬億。Meta稱,由於預訓練和訓練後的改進,其預訓練和指令調優的模型是目前8B和70B兩個參數規模的最佳模型。在訓練後程序得到改進後,模型的錯誤拒絕率(FRR)大幅下降,一致性提高,模型響應的多樣性增加。在推理、代碼生成和指令跟蹤等功能方面,Llama 3相比Llama 2有極大改進,使Llama 3更易於操控。4月Meta展示,8B和70B版本的Llama 3指令調優模型在大規模多任務語言理解數據集(MMLU)、研究生水平專家推理(GPQA)、數學評測集(GSM8K)、編程多語言測試(HumanEval)等方面的測評得分都高於Mistral、谷歌的Gemma和Gemini和Anthropic的Claude 3。8B和70B版本的預訓練Llama 3多種性能測評優於Mistral、Gemma、Gemini和Mixtral。英偉達高級科學家Jim Fan認爲,Llama 3的推出已經脫離了技術層面的進步,更是開源模型與頂尖閉源模型可分庭抗禮的象徵。不同於OpenAI等開發商,Meta致力於開源LLM,不過,這個賽道也越來越擁擠。谷歌、特斯拉CEO馬斯克旗下的xAI和Mistral等競爭對手也發佈了免費的AI模型。據傳OpenAI正在準備GPT-5模型,有望再次超越業界其他公司,帶來更多強大功能。對此Meta祖克伯向外媒透露,Meta已在考慮Llama 4、Llama 5的開發。
輝達H100顯卡PChome賣139萬秒殺 網直呼:你還嫌貴早完售
近年來全球走入AI世代,而輝達NVIDIA H100 GPU近日在網購平台PChome開賣,售價為139萬,一開賣就秒殺,讓網友直呼,「當你還在那嫌貴的時候,商品早已完售。」據了解,NVIDIA H100 80GB Tensor 核心 GPU PCIe在PChome售價為139萬元。原PO在PTT發文,「不知道什麼時候上架的XD。」而下單還可以折2024元,讓他直呼佛心,「重整才發現已經賣完了QQ。」此文曝光後,網友紛紛留言「AI靠這張」、「未來一戶一張」、「要不是賣完了,不然我一定買」、「能24hr到貨嗎」、「一張一台車賺爛了」、「中國公司買來屯」、「當你還在那嫌貴的時候,商品早已完售」、「這東西塞的進我家電腦裡面嗎」、「聽起來買這個會變成穩賺不賠的投資」。據悉,近日馬斯克在X發文,新推出的AI聊天機器人Grok3會很特別,因為AI用10萬張H100晶片訓練。據悉,H100又稱Hopper,是輝達圖形處理單元,用於大型語言模型,而隨著AI發展逐漸進步,也成為科技公司搶購的資源。
暑假打工新趨勢!不分科系都能做AI「這類」工作機會最多
夏日炎炎,不少大學生放暑假想找打工賺點零用錢,104人力銀行與官方頻道大學生IG (@104student) 合作最新調查,平均每四位大學生就有1人計畫在暑假打工,且今年工作機會增加,若想快速上工,餐飲業提供1.6萬個工作機會,第二多的是門市人員;今年比較特別的是,不少跟AI相關的打工機會,非理工科系背景的也可以做,還有像是影音直播打工機會也明顯變多。104人力銀行行銷長張寶玲表示,疫情之後,餐飲、門市等民生消費服務業人力需求大爆發,缺工已成2022年以來的新常態,各家企業積極徵才迎戰暑假消費商機,104打工探吉以餐飲工作機會最多,目前超過1.6萬個,比去年同期成長7.2%;門市人員超過7千9百個,年成長9.2%。另外,影音直播打工機會年增7.2%,和餐飲並列第二大,顯示社群流量經濟刺激打工機會發展。而AI熱潮也帶動招募需求,104人力銀行與「AI」關鍵字相關的打工機會數已超過2000個,例如AI影像標註、工程實習、語言模型資料整理等工作,這些都不限科系,非理工背景也可跨域打工。AI影像標註員是要協助資料科學家整理、標註訓練用資料,及AI產品測試與回饋,建立訓練數據庫;AI深度學習文字生成應用問答人員是負責收集法規資料、整理、產生問答集等,應用支援文字生成、QA問答、對話生成等任務;AI工程實習生則須具備python程式撰寫和API的串接能力,協助AI的提示工程進行和測試。而AI高薪打工族,第一名為「AI相關講師」時薪最高可達1500元,課程包括Python程式設計語言、數位編程、機器學習、影像辨識、資訊安全與GPT運用、AI音樂創作等,第二到四名依序排名為「ios工程師」、「系統維護/操作人員」、「機電技師/工程師」,皆為軟體設計、工程研發、資訊管理、資料科學等專業的實習工作,需要相關科系的大學生,也可提前透過實習機會累積AI實務經驗,第五名則是「英文翻譯/口譯人員」,具備英語與中文流暢的雙語溝通能力,便能參與人工智慧的開發任務,像是影像標記、影片註釋、語音轉錄等。
受惠AI熱潮廣達訂單龐大 林百里:這2年「忙得不得了」
電子代工大廠廣達(2382)14日召開股東會,董事長林百里表示,受惠AI熱潮來臨,大型雲端服務供應商(CSP)業者為了開發生成式AI應用,不斷建立與擴大AI資料中心,廣達在手訂單「非常龐大」,這兩年會忙得不得了。預期公司營收與獲利將呈現強勁成長。林百里表示,各大CSP廠皆持續建資料中心,用來開發生成式AI,且愈來愈多語言模型。目前客戶正在開發中的大語言模型,現在ChatGPT 4.0版本是生成文字,未來從文字走向圖像、影片,後續也會有更大的應用。廣達也因此不斷被追加訂單,看好未來需求將不斷增加。廣達2023年合併營收1.09兆元,較前一年的1.28兆元下滑,但因產品結構調整及成本控制得當,仍呈現「三率三升」,分別是毛利率7.8%、營業利益率4%、淨利率3.7%;營業毛利848.88億元寫下新高,年增19.7%,每股淨利(EPS)10.29元,配息9元也寫下新高紀錄。林百里肯定廣達同仁、幹部皆非常努力,尤其是努力在新產品開發,相當不容易。林百里指出,筆電每年推出新機型,AI伺服器每兩年就改款下一代,車用AI電腦則是每3年換新世代,產品的更新都會激勵「以設計、研發雙軌並重」的廣達業績成長,這就是廣達的核心競爭力。談到AI PC,林百里說,由於發展相關應用所需的資料庫規模仍在增加,今年不會有太多消費性應用應,預期明年才會有較大的成長幅度。消費市場的AI應用仍由微軟(Microsoft)主導發展方向,加上其於Windows作業系統與Office 365系列產品的滲透率高,讓微軟具備戰略性競爭力。林百里強調,廣達會繼續聚焦智慧製造、智慧醫療與智慧交通,其中,研判先進輔助駕駛系統(ADAS)將廣受消費者青睞,所使用到的車載電腦正走向AI化,且產品複雜度極高,設計作業與實際推出各需要3年時間,因此廣達在此領域的布局已經推進到2030年。
全球晶圓代工產值Q1季減4.3% 「這家中企」連超兩位竄升季軍
調研機構集邦科技(TrendForce)12日公布最新調查顯示,今年第一季消費性終端進入傳統淡季,動能稍顯疲軟,僅AI伺服器在全球CSP巨頭投入大量資本競逐、企業建置大語言模型風潮下異軍突起,成為支撐第一季供應鏈唯一亮點,第一季全球前十大晶圓代工產值季減4.3%至292億美元,第二季產值也可能僅有低個位數的增幅;值得注意的是,中芯國際受惠於IC國產替代趨勢,第一季營收季增4.3%至17.5億美元,反而優於同業,市占達5.7%、一舉超越格羅方德與聯電,躍升至第三名。全球晶圓代工龍頭台積電12日股價收在909元歷史天價,常被外界拿來比較的中國最大晶圓代工廠中芯國際,儘管外媒不斷唱衰,認為美國實施晶片出口管制,打壓中國半導體產業發展,但最新數據顯示,其威力仍不容小覷。TrendForce調查顯示,第一季消費性終端進入傳統淡季,雖供應鏈偶有急單出現,但多半是個別客戶庫存回補行為,動能稍顯疲軟;與此同時,車用與工控應用需求在通膨、地緣衝突、能源等總經風險不減反增情境下,前景悲觀而持續修正。第一季的排行也出現明顯變動,中芯國際受惠於消費性庫存回補訂單及國產化趨勢,第一季排行超過格羅方德(GlobalFoundries)與聯電躍升至第三名;格羅方德則遭車用、工控及傳統資料中心業務修正衝擊,滑落至第五名。儘管AI相關的HPC(高速運算)需求相當強勁,台積電第一季仍遭逢智慧型手機、NB等消費性備貨淡季,營收季減約4.1%,收斂至188.5億美元,不過其他同業也面臨消費淡季挑戰,因此市占得維持在61.7%;第二季隨著主要客戶Apple進入備貨週期,及AI伺服器相關HPC晶片需求持續穩健,有機會帶動營收呈個位數季成長率走勢。韓國的三星第一季同樣遭逢智慧型手機季節淡季衝擊,加上中系智慧型手機及周邊企業同樣轉以國產替代,先進製程與周邊IC動能清淡,營收季減7.2%至33.6億美元,市占維持11%;考量Apple在中國市占恐持續遭中系品牌侵蝕,加上Samsung 5/4nm、3nm先進製程尚缺乏具規模客戶、產能利用率低迷,整體營運動能受到抑制,估營收將持平或僅較前季略增。《華爾街日報》報導,ASML艾司摩爾新任執行長福凱(Christophe Fouquet)近日表示,美國對ASML出售EUV微影設備至中國的禁令,可能帶來意料之外的結果,因為美國的限制措施不能阻止中國使用這些設備製造晶片,反而讓ASML無法追蹤這些設備的具體位置和使用狀況;且美國對晶片技術的管制反而激勵了中國,讓中國加快發展自身的技術和生產能力。
輝達建數據中心各縣市爭搶 經濟部長:2030年前有10座資料中心要建置
輝達(NVIDIA)要在台設第二座研發中心與數據中心,各縣市爭搶,經濟部長郭智輝今(5日)呼籲,除輝達外,還有許多數據中心要來,各縣市都有機會。據了解,他上任後積極到各供應鏈拜訪,已掌握2030年前應該還有10座資料中心要設置。他上任18天,期間積極拜訪國內產業與供應鏈,第一線與業者交換,因應AI浪潮,業者表示會籌設更多資料中心,包括外商與本土商。經濟部初步掌握,到2030年前應該還有10座資料中心會建置。至於是本地運算中心,還是要建構大型語言模型(LLM),目前還不確定。不過資料中心用電量很大,以G開頭的外商公司彰化資料中心相比,其一座每年耗電就高達8.4億度,相當龐大。相對如果是 輝達在高雄的「台北1號」超級電腦中心,每年耗電量約584萬度,衝擊就較小。對於資料中心龐大用電量。郭智輝說, 如果來5到6家數據中心,還可支持。但如果一次來10家,就要考慮怎麼最快支援它們需要的電。台電的規劃是大量增加綠電,會先從光電開始做,並透過儲電、水力抽蓄輔助。他強調蓋新燃煤電廠要6年,光電只要2年,這是最快辦法。但是民眾黨立委張啟楷提醒,風力發電在夏天最需要用電的 6到9月,卻是發電最低,其次太陽能也是不夠穩定的電 。如果要用燃氣新電廠,但四接、五接都還在環評 ,都有珊瑚生態、漁業經濟 、白海豚生態爭議,還不知道。
臺大醫院發展AI智慧醫療 數位護理師可望紓解人力荒
臺大醫院遠距照護中心在臺大醫學院副院長何奕倫教授帶領之下,致力於自然語言處理與生成式AI在遠距醫療的研究與應用。中心利用非結構式語音資料,整合生理資訊與電子病歷紀錄,藉由生成式AI的長處,協助遠距醫療的診斷、處置與風險分級預測。生成式AI結合語音、搜尋與生成式臉型等模型,可以實現數位護理師的功能。數位護理師將能分析語音、症狀與生理參數等綜合診斷、根據症狀給予非處方用藥或藥物調整建議,最後將對話過程自動總結,紀錄於電子病歷中。此計畫所開發的數位護理師,除了將對遠距醫療的進行有幫助之外,也可推廣至其他相關的臨床應用情境。臺大醫院影像醫學部AI團隊過去數年在結合心臟內科及臺灣大學的合作下,成功開發且無償捐給國民健康署用來篩檢國人心臟病的AI 診斷平台HeaorNet 成果豐碩,供全世界使用,讓世界看見台灣的貢獻 TAIWAN can help。同時,將進一步共同開發全球首個支援通用人工智慧(GAI)的RIS+PACS系統 - VSRad(Visual Studio Rad)。這個創新平台旨在滿足全球放射科醫生的未被滿足的需求,將基於網頁的整合開發環境(IDE)與專門為世界放射診斷專科量身定製的PACS(影像存檔和通訊系統)和RIS(放射資訊系統)功能相結合。VSRad系統將提供先進的功能,例如:自由文字自動完成、將自由文字轉換為定製的結構化報告、空間分配文字關聯、文字 - 圖像空間關聯 以及 自動背景搜尋相似病例的歷史記錄。這些功能將簡化放射診斷專科的工作流程、減少倦怠 並為 全球放射科醫生提供智能助手,以提高其工作效率和決策過程。胰臟癌是致死率最高的癌症,早期胰臟癌在電腦斷層攝影(CT)上不明顯,因而近四成小於兩公分的胰臟癌在 CT上難以被發現,常因而喪失治療機會。臺大醫院首創AI胰臟癌輔助偵測工具,能提高早期胰臟癌的偵測率。此創新除獲衛福部智慧醫材許可證,也榮獲美國FDA認證為「突破性醫療器材(Breakthrough Device)」,為首獲此殊榮的台灣AI醫療產品。以臺大醫院健康管理中心的亞健康世代長期追蹤資料與全醫療體系整合醫療資料庫的大數據,訓練開源大型語言模型,藉此將可充分運用個人多模式健康醫療資料,並協助醫護人員對各種非傳染性疾病進行動態風險預測並提供建議與臨床決策。臺大醫院早在2020年即導入兩部AI運算主機,建立醫療大型語言模型與多模態語言模型,開發智慧疾病分類編碼系統、報告撰寫助手、風險預測、問答系統等醫療場域落地應用,2024年結合醫療與人工智慧,帶領團隊打世界盃,將台灣醫療的影響力發揮到全球,為智慧醫療開啟嶄新的面貌。
輝達擴大與中華電信合作 董座股東會宣布「每股配息4.758元」
輝達(NVIDIA)執行長黃仁勳上周抵台後行程備受關注,不僅和台積電(2330)董事長創辦人張忠謀、廣達(2382)創辦人林百里一同逛夜市,也與其他科技大佬會面,其中,中華電信(2412)董事長郭水義、總經理林昭陽也出現在宴客清單中。有消息傳出,「中華電信確定與NVIDIA擴大合作。」據消息來源表示,中華電信已向輝達購買DGX伺服器,未來將藉由開源LLM大型語言模型、檢索增強生成(Retrieval-Augmented Generation,RAG)等資源技術,發展並提供內外部AI應用服務。中華電信公司5月31日舉行113年股東常會,由董事長郭水義主持,承認該公司112年度營業報告書、財務報表及盈餘分配案,並通過公司章程修正案及解除董事競業禁止限制案。關於112年度盈餘分配案,股東會通過配發現金股利每股4.758元,配發金額合計新台幣36,909,930,661元。中華電信表示,112年現金股利維持近100%的配發率,未來仍將繼續維持穩定股利政策。今天中華電開盤127.5元,最高來到128元,不過最終收盤價為127元,跌幅0.78%。
「3兆男」只是開始! 外媒分析輝達股價繼續高歌猛進「6年後再翻2.5倍」
近期輝達(Nvidia)執行長黃仁勳來台參加Computex,同時還幫中職球團進行開球,寫下中職開球嘉賓中「身價最高」的紀錄。但有外媒報導指出,如今黃仁勳雖然身價已達到千億美元(折合新台幣約3.26兆元),但這僅僅是開始,多數分析師認為,輝達股價會持續高歌猛進,在未來6年內,公司市值會再翻2.5倍。根據《For Tune》報導指出,在過去的一年中,AI晶片領域的領頭羊輝達市值就飆升200%之多,截至5月31日,輝達的市值約為2.7兆美元,公司市值已經逼近微軟與蘋果。而I/O Fund 首席科技分析師貝絲(Beth Kindig)則預測,在未來數年內,輝達的市值將會再提升270%,公司市值會達到10兆美元。貝絲表示,由於近期AI熱潮,再加上訓練大型語言模型的資料中心很要求晶片,輝達計畫在今年內推出的Blackwell晶片,其效能被視為遠超早期的Hopper晶片。也因為如此,貝絲認為,輝達如今的榮景,只是一個很早期的開始階段。而且貝絲也預估,即便有AMD與INTEL的搶占,但輝達仍然能拿下最大部分的市場份額。至於輝達何時會達到公司市值的里程碑,貝絲推估,這個里程碑將在2030年內達成。
不計代價開發通用AI OpenAI執行長:一年燒500億美元也在所不惜
美國人工智慧(AI)開發公司OpenAI執行長奧特曼(Sam Altman)日前在史丹佛大學發表演說時表示,他不計代價要成為首家開發「通用AI」(AGI)公司,即使一年要燒掉500億美元也不在乎,只要找到支付帳單的方法就會全力投入。奧特曼認為在開發AGI上,不管要付出多高代價都是值得。但他拒絕預測需要多少時間才能達成AGI目標。雖然有人因商業考量而擔心OpenAI在開發AGI上會投入過量資金,但他強調自己一點也不在乎要燒掉多少錢。他說:「不管我們要一年燒錢5億美元或50億美元,甚至是500億美元,我都不在,我真的不在乎。只要我們能找到支付帳單的方法,我們就會繼續開發AGI。其代價將是昂貴的。」AGI是研發AI領域裡的終極目標之一,要在各種領域與任務裡,具有能媲美甚至超越人類表現的系統,但其定義模糊。像馬斯克在指控OpenAI的訴狀中,就認為其大型語言模型GPT-4已達到AGI程度。雖然OpenAI的聊天機器人ChatGPT表現讓人驚豔,但奧特曼認為ChatGPT表現並不驚人,充其量是令人有點不好意思。外界認為其說法有點太過自貶,但也可能是其對於OpenAI目前研究計劃仍未能商業化的一種回應。在開發AGI的過程裡,如何讓大眾了解AI的發展程度,和讓包括OpenAI等AI開發商明白到外界對AI的期待,對於促使社會與AI一起共同演進來說是十分重要。奧特曼舉例,若AI是默默地研發而外界對此不了解,這肯定不會被大家接受。跟砸鉅資開發相比,他更擔心社會能否適應其公司在AI上取得的進展,所以AI突飛猛進至令人驚訝程度其實並不適合。因為大家希望AI成果是逐步推出,讓人有能力去駕馭這些系統。
聯發科聚焦AI應用 三大外資目標喊上1300元
IC設計龍頭廠聯發科(2454)日前預估第二季營收將季減9%。外資雖示警中國智慧型手機庫存調整較預期嚴重,但看好聯發科有望在AI轉型路上成要角。三大外資出具最新報告,維持原評等,目標價最高來到1300元。今天(29日)聯發科股價開高震盪,截至發稿上漲0.5%來到1010元。聯發科將在下半年推出新的天璣9400晶片,市場聚焦聯發科AI轉型策略。該晶片擁有更強大的AI運算單元,支援至少7B或13B參數的LLM(大型語言模型),在生成式AI帶動下,有望佔營收比逾5成。美系外資高盛指出,預計聯發科今年營收成長將達到15%左右,管理層尤其對智慧型手機高階市場充滿信心,估將貢獻今年營收年增5成以上,而且聯發科技預計下半年推出新一代Dimentisy 9400,採用台積電N3處理器,對AI ASIC TAM的積極態度逐漸增強,因此調高目標價至1300元,維持買進評等。另一美系外資大摩指出,中國手機庫存調整比預期嚴重,但聯發科也服務於其它新興市場,因此看好下半年隨時都可能出現強勁的庫存補貨,且智慧型手機出貨結構正在向高端市場轉移。大摩預估下半年旗艦款天璣9400可支援更多AI應用,平均售價將達到140美元,因此重申聯發科優於大盤評級,並調高目標價至1288元。大和資本則表示,聯發科第一季的業績強勁,但第二季的前景黯淡,雖然智慧型手機銷量下降,但對聯發科結構性業務的積極看法仍好。並強調,過去兩季供應商積極推動AI智慧型手機的更換需求,導致聯發科捕獲強勁,隨著需求可視性的提高,預計今年收入將以美元計算至少成長15%,因此重申買進評等,目標價1155元。
iOS 18預計今年內推出 各大功能全面翻新「堪稱歷代變化之最」
在2024年6月即將登場的蘋果開發者大會,外界預計iOS最新作業系統iOS 18會在這次的展期中登場。雖然目前針對iOS 18的變化並沒有一個明確的定數,但《彭博社》的科技專欄線作家古爾曼(Mark Gurman)認為,這次iOS 18的變革可能可以說是「劃時代」的更新,其中的變化有可能成為「歷代之最」,當中也有不少涉及到AI人工智慧的功能,以及許多傳統的功能將會迎來大幅度的更新。根據《macrumors》報導,他們將目前坊間傳聞有關於iOS 18的全新功能與變革做個整理,方便各位讀者做個初步的理解:AI功能在生成式AI普及的如今,蘋果為了趕上Google、微軟,甚至是挑戰OpenAI等已經具有AI優勢的公司,蘋果先前就宣布要在大語言模型的研究所需的硬體上投資超過10億美元,在iOS 18中也傳聞會內建許多AI功能來增強原有軟體的能力,像是在Apple Music中,蘋果能提供自動生成的Apple Music播放列表,在Pages和Keynote等軟體中,可以提供AI輔助的寫作和簡報的製作功能。但目前蘋果的計畫是讓AI功能直接在本地端的設備上運作,不仰賴雲端伺服器,因此AI功能的問世,可能僅侷限在某些搭載強力晶片的機種上,像是iPhone 16。至於是否會放置生成式聊天機器人進入iOS 18中,目前外界傳聞是會有,但並非是蘋果自家研發,極有可能選擇使用Google或是OpenAI的技術。蘋果正與Google討論將Gemini AI引擎整合到iOS 18的iPhone中,也與OpenAI進行談判,研究如何將OpenAI和Google的AI功能整合到操作系統中。Siri目前已經確定,蘋果會在iOS 18中導入AI,其中最直接影響的,就是蘋果的語音助理Siri,外界傳聞,蘋果會使用大型語言模型(LLMs)徹底改造Siri,古爾曼也提到,蘋果目前正在開發一套軟體,可以改善Siri與Messages之間的互動,這讓Siri有機會以高效的方式完成、回答複雜的語句。除此之外,外界也傳聞,為了讓導入AI的Siri能夠擁有更自然的對話能力,以及改善用戶的使用體驗,未來這項功能可能會允許Siri從每個設備中備份對話訊息到另外一個設備。主螢幕據傳聞在iOS 18中,用戶將擁有更多的選擇來自定義自己的桌面,讓使用者能依照自己的習慣、喜好,創建更多專屬於自己風格的桌面。Apple Maps在iOS 18中,蘋果地圖傳聞會有定義路線的功能,像是用戶可以輸入自選路線給蘋果地圖,而並不會侷限蘋果提供的預設選項,自定義路線將允許用戶可以基於想欣賞風景,還是想趕路來設定前進路線。Notes預計iOS 18的Notes將支援在程式中直接錄製語音備忘錄,錄音可以嵌入到筆記中,目前外件還傳聞未來會支持顯示數學符號,以包括更多類型的方程式到筆記中。與Android用戶的文字通訊Apple 將在「2024年稍後」採用RCS服務標準作為 SMS/MMS 的替代方案。iMessage還是會保留,未來會用於iOS裝置間的預設對話,但 RCS 將以多種方式改善 iPhone 至 Android 的對話。從 iPhone 向 Android 用戶發送照片和影片將不再出現錯誤,且群組聊天的性能將得到提升。功能如跨平台表情反應、已讀通知和即時打字指示也在新增功能的行列中。無障礙功能外界傳聞Apple正為iOS 18和macOS 15開發新一個自適應語音快捷方式的無障礙功能。該項功能將讓用戶創建一個自定義短語,然後選擇一個無障礙設置與該短語連接。說出該短語後,就可以啟動無障礙選項,如 VoiceOver、Voice Control、Zoom 等。兼容性iOS 18 預計將運行在所有能夠運行 iOS 17 的 iPhone 上,包括 iPhone XR、iPhone XS、iPhone SE 2 及更新型號。iOS 18相關日期 將在 6 月 10 日的全球開發者大會上首次亮相。WWDC 之後,iOS 18 將提供給開發者進行測試,公開測試版可能在 7 月某個時間推出。
iPhone將引入AI功能? 傳蘋果與OpenAI和谷歌進行談話
據知情人士透露,蘋果已重啟與OpenAI的談判,打算使用這家新創公司的技術來為今年下半年推出的iPhone的一些新功能提供支持。外媒引述知情人士消息報導,兩家公司已經開始討論可能達成的協議的條款,以及OpenAI的功能將如何整合到蘋果的下一代iPhone操作系統iOS 18中。此舉標誌著兩家公司重啟對話。今年早些時候,蘋果曾與OpenAI就一項交易進行過談判,但自那以來,雙方的合作一直很少。與此同時,蘋果據稱還在與Alphabet旗下的谷歌就授權使用後者的Gemini聊天機器人進行談判。有鑑於此,不難看出蘋果還沒有最終決定將與哪家公司進行合作,也不能保證會達成協議。該公司有可能最終與OpenAI和谷歌均達成協議,或者完全選擇另一家供應商。今年早些時候還有報導稱,蘋果在與人工智慧新創公司Anthropic進行討論。蘋果準備在全球開發者大會上推出新的人工智慧軟體和服務。蘋果CEO庫克(Tim Cook)此前承諾,公司今年將在人工智慧領域取得重大突破,而即將發佈的iOS 18被認爲是實現這一目標的重要途徑之一。據了解,Siri預計將成為iOS 18人工智慧改進的受益者之一。此前有消息人士透露,蘋果計劃利用大型語言模型全面革新Siri,使其成爲「終極虛擬助手」。另有媒體報導稱,蘋果正在開發的一項具體功能是改善Siri與訊息應用的交互,例如讓Siri更有效地自動完成句子並回答覆雜問題。去年,庫克表示,他個人使用OpenAI的ChatGPT,但有許多問題需要解決。他承諾,新的人工智慧功能將在非常周到的基礎上進入蘋果的平台。有分析人士指出,依靠合作伙伴將有助於蘋果加速進軍聊天機器人領域,並避開一些風險。通過將生成式人工智慧功能外包給另一家公司,庫克可能會減輕其平台的責任。
輝達在台設亞洲首座AI研發中心!2年聘用400人 經濟部:對我人才素質滿意
AI大廠輝達(NVIDIA)前年來台設首座亞洲AI研發中心,總投資金額243億台幣,至今已僱用400名員工。經濟部技術司26日表示,輝達目前研發順利,也將協助我廠商進行AI應用開發,對我人才素質感到滿意,相信將來會有在台設第二座研發中心考量。輝達是2021年申請人工智慧創新研發中心計畫,經濟部補助67億元,2022年起台灣AI研發中心成立,地點設在台北內湖,同時承諾2027年要僱用到1000名員工。這座亞洲第一個研發中心,主要進行AI晶片研發與GPU圖形處理器,還建立了全台最大的超級電腦「Taipei 1」,日前經濟部代為宣布,「Taipei-1」要免費提供AI算力給產官學研究與新創作研發使用,可幫助我國投入生成式AI、大型語言模型、數位孿生等前瞻研發。經濟部技術司長邱求慧說,輝達在台投資計畫不只設研發中心,還包含分享超級電腦資源給業界,並參與台大、清大的AI人才培育,已有6、700人受惠。另外,讓我研究機關、產業界參與AI技術與產品研發專案,支持中小企業與新創導入AI應用等。技術處官員表示,已對輝達研發中心做了三次驗證,2年來已聘用400人,都符合當初計畫要求。目前輝達對台灣人力素質與成本都表示滿意,相信未來會考慮在台設第二座研發中心。對輝達創辦人黃仁勳選擇台灣,邱求慧說明,主要是台灣在硬體、基礎建設、人才方面都有優勢,人才具高度專業和工作紀律,加上半導體生態體系完整等。輝達研發中心除了帶動對台投資外,官員表示,也具有提升台灣研發能力效益。該中心目前運用GPU技術,與台灣廠商共同進行AI應用開發,聚焦在人工智慧領域,包括鑑別式AI和生成式AI。其他還有與國內ICT業界的研發合作,協助我推動智慧工廠轉型。
繁中守護者1/「不會做才更要做!」解密蔡明介督軍 聯發科為台灣訓練LLM輝達也相挺
「不會做,才更要做!」台灣晶片一哥聯發科技4月9日發表繁體中文語言模型MR BreeXe,以450億參數超越中文版ChatGPT3.5,奪下世界最強的繁體中文大語言模型(LLM)。儘管外界看熱鬧,也有酸民說贏了ChatGPT3.5沒什麼好驕傲,但台灣科技圈人士深知,聯發科努力「緩解了一場迫切危機!」近年全球爭相砸錢啟動的AI及LLM軍備競賽中,以歐美思維為主流,英語稱霸,中文則以中國大陸簡體中文的語意邏輯掛帥,繁體中文相對弱勢,直到聯發科的MR BreeXe出現,緩解了被「邊緣化」的危機。CTWANT記者採訪多位關鍵人士,得知了這場艱辛的技術研發過程,其實是一場文化保衛戰,連輝達聞訊後也上門,將去年底新推的AI超級電腦Taipei -1,交與聯發科訓練模型。業內人士表示,聯發科在1997年從聯華電子多媒體部門分出來後,「拿到的牌都是最差的那一種」,要人沒人、要錢沒錢,主攻的產業都是世界上最競爭最難的,然而蔡明介一路走來的經營理念,就是有一個頂級的公司,才能把人才留在台灣。聯發科從光碟機晶片組開始,一路做到全球行動通訊晶片第二大廠,蔡明介引領技術創新之際,也觀察到AI科技將扭轉局勢,2019年他親自拍板、督軍,成立聯發創新基地,負責AI的前瞻研究,「比很多業者都早發現AI的重要性,將會形成『革命性的轉變,就像一種新的電力。』」聯發科技協理葉家順表示。輝達去年底推出最新的AI超級電腦Taipei-1,讓聯發科第一個做訓練。(圖/翻攝自GoogleMap)「AI最重要的基礎就是大語言模型,聯發科是以技術力為主的公司,要做、就做對世界有影響的技術。」業內人士表示,聯發創新基地最初研究的是自然語言處理(NLP),是一種人工智慧的分支,可讓電腦理解、產生及處理人工語言,「最一開始的AI研究真是萬事起頭難,常改到死。」2022年6月蔡明介下令基地放棄舊研究,改成全力押寶生成式人工智能GenAI,並啟動首個開源繁中大語言模型,跟一級主管這樣說,「沒有人做,所以我們要做!」聯發科員工跟CTWANT記者說,當時董事長下軍令,但大家都面面相覷,OpenAI當時還默默無名,ChatGPT更是在2022年11月30日才發布,等於沒有任何前例可循,更何況是要做台灣為主的繁體中文系統,幾乎是從零開始。「聽到這個消息,我們的合作夥伴都很關切,頻頻問我們,怎麼做、你會嗎?當然不會呀!」聯發科員工表示,因為大家都知道做大語言模型的難度大、門檻高,一般單位是做不來的,聯發科在研究過程中也「踩了不少坑、撞得頭破血流」,但在其他陣營開發速度陸續放緩後,「這件事反而成了『社會對我們的期望』,得到很多夥伴的協助。」「最難的就是一開始,找不到適合的人才」聯發創新基地負責人許大山是加州柏克萊大學電機博士,曾任台大副教授,被學生廣為流傳的「年年書卷獎的台大電機學霸」。他跟CTWANT記者說,當時聯發科在AI頂級科學家圈內是沒有名氣的,花了很大力氣才能招募到人才,有了成果、上了幾篇國際級的論文,學者們認識我們,後續才比較順利。目前聯發創新基地在台大、劍橋、倫敦都有據點,「成員就像是個小的聯合國。」業內人士說。聯發創新基地負責人許大山。(圖/記者黃耀徵攝)聯發科「MR BreeXe」是以法國AI業者推出的Mixtral 8x7B開源模型為基礎去開發,繼承Mixtral多專家模型特有的節省運算資源、提升速度優勢,再加上聯發創新基地的訓練,在繁體中文測試項目(TMMLU+、MT Bench TW)超越GPT-3.5,並優化台灣常見之地端應用,提升產業界檢索增強生成(RAG)的體驗,還能一口氣處理4萬字的長篇資料,而Mixtral只能四千字。AI龍頭輝達得知聯發科在做繁體中文大語言模型,特別拿出他們去年底才推出最新的AI超級電腦Taipei -1,讓聯發科第一個跑數據、做訓練。截至4月初MR BreeXe正式發表,450億參數,比OpenAI兩年前發表的中文版ChatGPT3.5模型參數規模270億,遠超出一大截。「其實聯發科以繁體中文切入做大語言模型,是『緩解了一個非常迫切的危機』,」成功大學資工系教授黃敬群跟CTWANT記者解釋,以網路搜索來說,使用者14億人、源自中國的簡體資料在世界上的點擊量絕對高過台灣的,像是Google台灣就花了百人團隊去「平衡」,才讓台灣人看到的網頁搜尋符合需求,但到了AI時代,這些人工干預就失靈了。