HBM3E
」 AI 美光
AI領域再添新兵 外媒：三星通過輝達測試將量產HBM3晶片
首爾經濟日報報導，三星電子已開始大規模生產第三代高頻寬記憶體（HBM3）晶片，此消息援引未具名的業內消息來源。此次生產是在輝達（Nvidia）成功完成資格測試之後進行的，這標誌著三星在先進HBM3E晶片供應給輝達方面邁出了重要一步，預計這些晶片也將達到所需標準。HBM晶片因其卓越的記憶體頻寬和效率，在當前的人工智慧（AI）浪潮中扮演著核心角色，能夠實現資料處理速度的提升和AI應用效能的增強。它們透過提供對大數據集的快速存取並減少延遲，滿足了AI工作負載如深度學習和神經網路訓練所需的高運算需求。若報導屬實，這將是三星的重大突破。此前，路透社曾在今年稍早報導，三星的HBM晶片在熱管理和功耗方面遇到問題，導致無法通過輝達用於AI處理器的測試。相較之下，三星的國內競爭對手SK海力士自2022年6月起，已成功向輝達供應HBM3晶片，並於今年3月底開始向未公開的客戶發貨HBM3E晶片。同時，另一家主要HBM製造商美光科技也宣布計劃向輝達提供HBM3E晶片。對於HBM製造商來說，達到輝達的標準至關重要。鑑於輝達在全球GPU市場中佔約80%的份額，特別是在AI應用領域，因此，能否成功通過輝達的測試不僅關係到企業的聲譽，也是推動利潤成長的關鍵因素。而美光科技目前獲利能力並不亮眼，加上上述消息，美光科技失去在HBM領域的獨佔地位，投資人或需要警惕公司財務表現走弱。
受惠輝達HBM需求增長＋記憶體市場供應緊張 美光股價一年飆漲100％
AI熱潮受益者之一的美光科技隨著支出的增加，加上記憶體市場的廣泛反彈，該股在過去12個月裡上漲了近100%。瑞穗證券表示，美光的「好日」子可能會持續，因為該公司正在提升其高頻寬記憶體（HBM）領域第五代高頻寬記憶體（HBM3E）產品，以獲得市場份額，這可能會推動美光的股價上漲。美光股價最新價格小跌2.03%，報125.29美元。HBM3E是第五代高頻寬記憶體，瑞穗認為這是美光與韓國SK海力士之間的「2匹馬競賽」。瑞穗表示，在輝達不斷增長的需求下，HBM供應緊張，這對美光來說是個好兆頭。瑞穗證券分析師認為，潛在的收益率問題是，在一個關鍵供應商處，其1-alpha HBM3e的堆疊高度綁定延遲，這將使美光和海力士在B100/B200/GB200平台上獲得HBM3e的占比，從而推動從目前的增加路徑上升到2025年的約25%。HBM3E產品耗電量比競爭對手低了30%。分析師重申了對美光的「買進」評級，並將目標價上調至150美元，因為該公司有能力向輝達推銷其HBM3E封裝。同時由於記憶體價格預估上調，瑞穗表示，今年2月開始量產HBM3E晶片的美光公司，2024年和2025年大部分時間的高頻寬記憶體可能已經賣光。由於整個行業仍然「緊張」，供應可能處於最低水平，從而推高價格。下一版的高頻寬記憶體HBM4可能最終需要台積電的CoWoS-L，因為處理器放寬堆疊高度標準。分析師說，美光正在使用一種名為熱壓縮非導電薄膜的技術。美光認為，與SK海力士的產品相比，該技術有助於提高封裝密度、厚度一致性、更快的規格、更小的凸起和更好的堆疊高度間距。瑞穗的分析師認為，美光科技可能會在HBM4之後看到混合/3D鍵合進入商業評估階段，可能會在2027或2028年之後。而這可能有助於HBM市場以約65%的複合年增長率成長，到2026年達170至180億美元。
海力士攜手台積電 拚2026年量產HBM4晶片
世界第二大記憶體製造商南韓SK海力士上周五（19日）表示，已與全球最大的晶片製造商台積電簽署了一份合作備忘錄，齊力開發生產下一代高頻寬記憶體（HBM）晶片。通過與台積電的合作，SK海力士的目標是在2026年開始量產HBM4晶片。SK海力士和台積電是AI晶片市場領導者輝達的主要供應商。目前全球晶片製造商競相利用人工智慧熱潮，這推動了對處理器和記憶體晶片等邏輯半導體的需求。其中HBM對生成式AI領域至關重要，它是生成式AI的關鍵零組件。目前，只有SK海力士、三星電子和美光能夠提供HBM晶片，這些晶片可以與強大的GPU配對，如輝達的H100系統，用於AI計算。SK海力士是HBM領域龍頭，據集邦（Trendforce）諮詢估計，SK海力士今年可能獲得全球市場52.5%的占比，其次是三星（42.4%）和美光（5.1%）。而台積電的先進封裝技術則有助於HBM晶片和圖形處理單元（GPU）高效協同工作。SK海力士總裁兼AI Infra負責人Justin Kim日前表示，期待與台積電建立牢固的合作伙伴關係，以幫助加快該公司與客戶的開放合作，並開發業界性能最佳的HBM4，「通過此次合作，我們將通過增強客製化記憶體平台領域的競爭力，進一步加強我們作為整體AI記憶體供應商的市場領導地位。」通過與台積電的合作，SK海力士的目標是在2026年開始量產HBM4晶片。這家韓國公司目前向輝達供應其HBM3晶片，並預計今年將向該公司運送更先進的HBM3e晶片。
美光領軍衝新高 記憶體族群嗨翻補漲外資喊上群聯720元
AI浪潮下，美光(Micron Technology)近來股價持續登上歷史最高，NAND Flash控制IC廠群聯（8299）以及模組廠威剛（3260）、宜鼎（5289）、十銓（4967）等相關供應鏈今年有望受惠，這也讓群聯28日股價一度衝破700大關，創下波段新高，最後收在690元、漲1.77%。外資報告提到，美光2024年的所有HBM3e供應量都已售罄、2025年的供應也已分配得差不多，顯示團隊能從客戶佈署AI、加速運算伺服器的行動中受惠。美光會計年度第二季營收58.2億美元，年增57.7%，季增15.6%，高於分析師預期的53.5億美元。美光預計，會計年度第三季營收在64億至68億美元，年增率拉高到71%到81.3%，遠優分析師預期的59.9億美元均值。利多消息讓美光在台灣時間28日收盤價漲到119.25美元，創歷史收盤新高，也是連續9個交易日上漲，創下2019年12月以來最為久的漲勢。外資券商與本土法人近期也都調升群聯股價預期為720元，考量NAND價格趨勢向上，群聯還有不少低價庫存，AI落地應用服務方案「aiDAPTIV＋AOI」也導入金士頓與華泰等十家客戶的SMT產線自動光學檢測（AOI）系統，推估股價「優於大盤」。群聯2月合併營收46.65億元，月減8.3%，但年成長率高達42.5%；累計其今年前2月營收為 97.51億元，較去年同期增加58.5%。調研機構集邦科技（TrendForce）表示，除了鎧俠（Kioxia）和威騰（WDC）自今年第一季起提升產能利用率外，其它供應商大致維持低投產策略，儘管第二季NAND Flash採購量較第一季小幅下滑，但整體市場氛圍持續受供應商庫存降低，以及減產效應影響，預估第二季NAND Flash合約價將強勢上漲約13到18%。
AI利好！美光財報「閃瞎分析師」 股價周漲幅逾13％
隨著「閃瞎分析師」的業績出爐，搭上AI熱潮的美國記憶體晶片製造商美光科技（Micron）在上周四（21日）美股市場，盤後股價大漲超過18%，一舉刷新歷史新高，截至上周五（22日）美光收盤價為110.21美元，周漲幅13.84%。從深陷困境到一飛沖天，美光的境遇也成了AI概念炒作的最新代言。首先需要說明的是，美光的財年一般是到8月底結束。所以上周三（20日）公佈的2024財年第二財季報告，是截至2月29日的一季數據。而截至去年8月底的2023財年，美光營業收入下降49%，至少是上世紀80年代末以來最差數據，同時還鉅虧57億美元，同樣是10多年來最大虧損。緊接著AI的春風來得非常迅速，也令押注「困境反轉」的投資人很快就嚐到了甜頭。截至去年11月的第一財季，營收增速轉正；剛剛發佈的第二季報營收年增速達到58%；最新指引顯示，當前財季的營收增速將達到76%。這樣的數字足以讓華爾街分析師兩眼放光。當然，最關鍵的是，美光終於成了AI概念股中的核心玩家。近期有關美光的報導中，最常見的一個詞就是「HBM晶片」。在數據中心中，輝達的GPU只能解決運算能力的需求，但記憶體速率和容量也是完成整個運算過程不可或缺的一環。在這樣的時代背景下，高頻寬記憶體（HBM）自然成為時代的寵兒。值得一提的是，美光是在2月底剛宣佈量產HBM3E晶片的消息，所以這部分利好只能說剛剛開始。美光的HBM3E晶片，將供給輝達用在H200系統中。同時黃仁勳在上周發佈的Blackwell架構系統，用到的HBM記憶體要比前代產品多出三分之一。值得注意的是，美光副總裁兼首席商務長Sumit Sadana對媒體透露，公司的HBM業務已經與尚未接露的其他客戶簽下契約。HBM記憶體的供不應求不僅意味著美光將具有強大的定價權，同時也有望合理化傳統內存市場的產能，從而提振價格。
美光20日發布業績 花旗：看好HBM營收成長「還能再漲6成」喊上150美元
美國記憶體大廠美光科技將於美東時間20日發佈第二財季業績，在此之前，華爾街大行花旗預計該科技巨頭的季數據及下一季業績指引將全面超預期。因該公司受益於AI晶片需求激增，帶來強勁的HBM記憶體需求。花旗上周四（14日）重申買進評等，並將目標價大幅調高至150美元。另一知名機構TD Cowen則在同日將美光目標價從此前予以的100美元上調至120美元。受到華爾街上調目標價帶來的催化，美光上周五（15日）美股盤初一度交易上漲超2%，至93.60美元。在全球企業佈局AI技術的熱潮之下，美光股價自2023年以來持續上漲，2023年漲幅高達70%，今年以來則屢創新高，年內漲幅接近10%花旗知名分析師Christopher Danely在一份投資者報告中表示，鑑於消費電子端的DRAM價格強勁上漲，以及綁定輝達新款AI 晶片的HBM記憶體系統售價更高、利潤率則遠高於DRAM，預計該公司將公佈高於市場預期的業績，並將大幅上調2024財年第三季度的業績預期。Danely重申該機構對於美光的買進評等，並將目標價從95美元大幅調高至150美元，意味的未來12個月的潛在上行空間高達60%。此外，Danely預計美光第三財季的總營收將高達60億美元，並且由季度虧損轉為獲利，預計第三季的每股收益約0.26美元，主要基於HBM記憶體系統需求激增以及DRAM銷售額大幅增加。截至2022年，三大原廠HBM市佔率分別爲SK海力士50%、三星電子約40%、美光約10%，由於SK海力士在HBM領域最早發力，早在2016年已涉足這一領域，因此佔據着絕大多數市場份額。美光在HBM領域的發展相對較晚，但是近期HBM行業的動態消息顯示，佔據HBM僅10%份額的美光將後發制人。美光計劃於2024年初開始大批量發貨HBM3E新型記憶體產品，同時還透露輝達是其新型HBM產品的主要客戶之一。此外，該公司強調其全新HBM產品受到了整個行業的極大興趣，暗示著輝達可能不是唯一最終使用美光HBM3E的大型客戶。知名研究機構Mordor Intelligence預測數據顯示，HBM記憶體產品的市場規模預計將從 2024年的約25.2億美元激增至2029年的79.5億美元，預測2024至2029年複合年增長率為25.86%。
美光擴大對台投資迎AI浪潮 台中DRAM四廠11／6啟用
美國記憶體大廠美光（Micron）持續深耕台灣，下周一（6日）舉行台中四廠開幕典禮，總裁暨執行長梅羅特拉（Sanjay Mehrotra）近日前往中國拜會商務部長王文濤之後，預計下周一將親自來台主持台中四廠開幕典禮。台灣是美光生產動態隨機存取記憶體（DRAM）重鎮，美光表示，台中四廠啟用是美光深化在台承諾的一部分，將進一步強化台灣身為美光DRAM卓越製造中心的定位，將備受矚目。美光指出，因應AI浪潮，美光推出高頻寬記憶體HBM3e，促進AI應用發展，隨著台中四廠啟用，將進一步推動AI及各式創新應用發展，為AI世代及各式創新應用揭開新篇章。美光台中四廠開幕典禮，梅羅特拉將偕同美光技術開發事業部資深副總裁陳德拉斯卡蘭（Naga Chandrasekaran）、美光前段製造企業副總裁暨台灣美光董事長盧東暉及美光先進封裝技術開發處副總裁辛赫（Akshay Singh）出席。外界預期梅羅特拉將對記憶體市況及半導體釋出最新看法。美光有高達逾6成DRAM產品由台灣廠生產，目前台灣廠已開始量產1-beta製程技術，新世代的1-gamma製程首採極紫外光（EUV）技術，預計在2025年上半年量產。值得注意的是，中國商務部在周五（3日）發布簡短聲明，部長王文濤在會議上向美光表示，中國將優化外商投資環境，為外國企業提供服務保障。王文濤強調，「歡迎美光科技在遵守中國法律法規前提下，實現更好發展」。中美關係看似正在緩和，但幾個月前，中國才出手禁美光產品。今年5月，中國網路空間監管機構表示，美光科技未能通過網路安全審查，並禁止中國關鍵基礎設施營運商，從這家美國最大的儲存晶片製造商購買產品。
集邦看好今明兩年 AI伺服器出貨成長皆逾37%
全球市場研究機構集邦科技(TrendForce)17日針對明年的科技產業發展做重點整理，可看出AI產業一片欣欣向榮，包括伺服器、高頻寬記憶體、加速晶片等會迎來喜訊，像是今年AI的伺服器（包含搭載GPU、FPGA、ASIC等）出貨量逾120萬台，年增高達37.7%，而預計明年將再成長逾38%。集邦科技表示，CSP（雲端服務供應商）業者如Microsoft、Google、AWS等近期都在加大AI投資力道，推升AI伺服器需求上揚，估算2023年AI伺服器出貨量逾120萬台，年增37.7%，占整體伺服器出貨量達9%，2024年將再成長逾38%，AI伺服器占比將逾12%。除了NVIDIA與AMD的GPU解決方案外，大型CSP業者也擴大自研ASIC晶片將成趨勢，Google自2023年下半加速自研TPU導入AI伺服器，年成長將逾7成，2024年AWS亦將擴大採用自研ASIC，出貨量有望翻倍成長，其他如Microsoft、Meta等亦規劃擴展自研計畫，GPU部分成長潛力恐受到侵蝕。預計在2024年後，將延伸至更多應用領域業者投入專業AI模型及軟體服務開發，帶動搭載中低階GPU（如L40S等系列）等邊緣AI Server成長，預期2023到2026年邊緣AI伺服器出貨平均年成長率將逾兩成。AI伺服器也帶動了AI加速晶片需求，其中高頻寬記憶體（HBM）為加速晶片上的關鍵性DRAM產品。以規格而言，除了現有的市場主流HBM2e外，今年HBM3的需求比重亦隨著NVIDIA H100/H800以及AMD MI300系列的量產而提升。展望2024年，三大記憶體廠商將進一步推出新一代高頻寬記憶體HBM3e，一舉將速度提升至8Gbps，提供2024到2025年新款AI加速晶片更高的性能表現。AI加速晶片市場除了Server GPU龍頭廠商NVIDIA、AMD外，CSP業者也加速開發自研AI晶片的腳步，產品共通點為皆搭載HBM。伴隨訓練模型與應用的複雜性增加，預期將帶動HBM需求大幅成長。HBM相比其他DRAM產品的平均單位售價高出數倍，預期2024年將對記憶體原廠的營收將有顯著挹注，預估2024年HBM營收年增長率將達172%。
美光Q4營收優於預期 陸行之揭露8點「長期投資記憶體沒搞頭」
記憶體大廠美光（Micron）日前公佈第四季營運指引，營收季增5至15%，優於市場預期，但資深半導體分析師陸行之發文評論，營收明顯高於市場預期，但虧損並未大幅改善。他也表示，雖然美光股價已從去年底谷底48.43元回升41%，但目前數字仍無法讓投資人有「WOW」的感覺，所以盤勢還是「肉肉的」。陸行之在臉書粉專分享他從季報中整理出的8項重點如下：一、美光預期四季度營收季增5至15%，平均10%，比市場預期好5個百分點，年比大幅轉正為8%，比三季度的負40% 明顯改善；依照四季度指引及彭博社分析師預期，美光今年營收將衰退42%，2024年將成長46%（但不確定分析師們是否還會下修）。二、美光預期四季度毛利率負6%，比三季度的負11%及二季度的負18%有明顯改善，主要是因為DRAM產品結構改善，加上賣了一些之前在會計帳上打掉的庫存。三、美光雖然預期四季的營業利潤率大幅改善至負6%（2023第三季負37%），但預期四季度的負31%淨利潤率只比三季度好5個百分點，而且低於市場預期的負27%，主要是因為所得稅的變化（2023年第三季稅收抵免，2023年第四季基本稅率）。四、第三季庫存月數明顯下滑到5.66個月，季減13%，年增68%，但好像比之前公司預期的庫存月數來得高些，上個季度我們曾預期存儲器記憶體大廠第四季可以一起來漲下游廠商的價格了（目前好像開始啟動了），下游廠怕明年漲價，可能被強迫要加庫存。五、公司公布三季度資本開支是14.6億美元，2023會計年度是76.8億，公司並預期2024會計年度資本開支比2023年好一些，這樣資本装備率（資本支出／營業額）仍將逐步下滑，算是正面訊息，且對記憶體設備廠而言，訂單也將持穩。六、美光還說PC、智慧型手機、車用記憶體客戶庫存都到了正常水位（老實說我們的數據建議模組商被記憶體大廠強迫吃下一堆庫存），但數據中心客戶要等到2023年第四季到2024年第一季才會正常。七、給AI伺服器用的1 beta HBM3E（記憶體）還在給輝達（Nvidia）做驗證，公司預期有機會在2023年第四季開始量產，2024年第二季到第三季明顯貢獻營收。八、公司公布2023年第三季DRAM位元成長率15%（2023年第二季季增10%），價格季減8至9%（2023年第二季季減10%）；NAND位元成長率大於40%（2023年第二季季增38至39%），價格季減15%。陸行之也批評，不明白NAND記憶體大廠的價格每季都暴跌15%，但為了搶市占，產能仍然逐季增加近40%。他指出，降價或讓客戶堆庫存對獲利的影響才大，並直呼「長期投資存儲記憶體行業真沒啥搞頭」。
賺到手軟！市場估輝達H100賣破165億美元 華爾街喊價上看800美元
輝達（Nvidia）本周將於美國時間23日公布財報，據外媒報導，輝達預計今年會賣出超過50萬個高端H100 GPU，市場則預估其AI晶片H100相關產品有望賣破165億美元。輝達股價今年迄今已上漲約200%，多家華爾街分析師便在其財報公布前夕蓄勢待發，紛紛調高目標價，喊到800至1000美元。輝達的H100是目前訓練大語言模型最需要的圖形處理器（GPU），它可以應用於各種AI場景，如AI聊天機器人、視覺AI、推薦引擎、高性能計算、資料分析等，價值數百億美元。執行長黃仁勳在本月8日時宣布，將推出下一代GH200 Grace Hopper超級晶片平台，該平台由72核Grace處理器和H100 80GB HBM3E GPU組成，不過目前尚未公布H100 SXM、H100 NVL和GH200 Grace Hopper產品的售價。該公司中頂級H100包括H100 SXM 80GB HBM3及H100 NVL 188GB HBM3雙卡解決方案。若將輝達每款基於H100產品的售價訂在3萬美元（約新台幣95萬）左右，光在最新一代GPU上，輝達今年銷售額就將達到165億美元。外媒認為，雖然沒辦法精準確預估輝達GPU的販售收入，但從其數據中心業務所公布的2024財年第一季（截至4月30日）有42.84億美元的收入，若能呈AI熱潮繼續前行，輝達GPU在第二季度的收入可能會更高。巴倫週刊（Barron's）報導，據投行瑞傑金融（Raymond James）估計，輝達每枚H100晶片的製造成本為3320美元，而給客戶的售價卻高達25000至30000美元，利潤率高達1000%。不過有分析師指出，產品開發需要時間和資源，必須考慮到開發過程中，工程師和其他參與者的付出之研發成本。華爾街共59位分析師預期，輝達的目標價平均落在501美元；投資機構Rosenblatt將輝達目標股價調升至800美元，並把股票評等訂在「買進」，Aletheia證券則喊地最高，達1000美元。投資機構Piper Sandler也看好H100系列的資料中心晶片需求快速擴大，預期輝達上季財報優於預期，本季營收及EPS也將優於華爾街預期；Rosenblatt分析師預估，未來幾季輝達的晶片需求量，將比供應量高出50%，預期明年輝達的EPS將落在15至19美元之間，遠高於先前預測的10.35美元。