AI合成
」 AI 詐騙 AI換臉
中國名醫被AI換臉合成影片賣貨 詐騙帳號檢舉不完他崩潰「像蝗災」
中國名醫張文宏遭不肖廠商使用AI換臉技術合成影片，在網路上直播販售蛋白棒，許多民眾因此上當。目前發佈換臉影片的帳號已搜尋不到，而當地媒體訪問張文宏醫生時，他表示這樣賣貨的帳號不只1個，且帳號一直在換，他多次向平台投訴，依然無法杜絕換臉詐騙。近日上海復旦大學附屬華山醫院感染科主任張文宏醫生，遭到有心人士使用AI換臉技術，合成張文宏的臉及聲音，在網路上直播販售蛋白棒。有民眾控訴家中老人信以為真，不僅下單購買，還轉發到其他群組。張文宏對此表示，他已向平台投訴過，希望網路平台和相關部門可以加強監管。據悉發佈換臉影片的帳號名為「般畫234」，中國當地媒體11日，在微信影片平台搜尋該帳號，發現關於張文宏的影片已被刪除，而該帳號假借張文宏之名販售出的蛋白棒已有1200多份。12日當地媒體再度搜尋時，該帳號已搜尋不到了。上海交通大學計算機科學與工程系特聘教授俞凱指出，目前使用語音合成技術來模仿他人聲音，並且對上口型生成影片的技術已非常成熟，甚至用1張照片就能生成此類影片。俞凱透露，雖然一般用照片生成的影片很容易辨識，但如果被製作成影片的對象有大量公開資料的話，生成的影片即使無法與觀眾即時互動，但單向播放已足使民眾信以為真。張文宏醫生接受中國媒體訪問時表示，這種賣貨帳號不只1個，而且一直換帳號，他多次向平台檢舉，但仍檢舉不完。事情發生至今過了幾星期，有很多長輩或是對AI不熟悉的民眾因此受騙上當，在許多地方都出現假張文宏醫生賣蛋白棒的影片，最多一次賣出上千份。張文宏醫生也說自己在發現被冒用身分後，立即檢舉AI合成的影片，但是發佈影片的帳號一直在變，最後張文宏已無力再管。張文宏形容這些假的AI合成訊息「就像蝗災」，一次又一次的發生，根本杜絕不了。張文宏也表示，從平台檢舉結果來看，問題最終仍難以解決。張文宏也曾想報警，不過他指出「報警總要有個對象吧，他一天換1個帳號，而且全是虛擬的，我向誰報警？所以我認為他侵犯的是消費者的利益，我覺得相關部門應該進行處理。」上海市消保委12日對此事嚴厲發聲，表示未經當事人授權的AI合成帶貨行為，已經構成對消費者的詐欺，並呼籲監管部門嚴厲處罰。
三隻羊醜聞再爆 錄音檔驚傳旗下女主播「陪睡高層」
近期抖音帶貨網紅「瘋狂小楊哥」可以說是身陷多重醜聞中，先是產品遭踢爆販售產品為問題產品，有可能要面臨到退貨賠償的問題。先前也傳出，其旗下女主播「沫沫」可能與已婚的小楊哥大搞婚外情。而現在又傳出，同為旗下女主播的七老板、卓仕琳等人也在三隻羊高層的陪睡名單中。根據中國媒體報導指出，微博20日瘋傳一段錄音檔，據稱是小楊哥公司「三隻羊」的董事盧文慶在酒醉後的談話。在這段錄音檔中，疑似為盧文慶的男子提到女主播沫沫（沫沫）的不當言論，指控他有勾引老闆的行為，並質疑「他不進去誰進去？」此外，他還表示對大小楊哥見死不救，聲稱「我想捧誰就捧誰，我想讓誰火，誰就能火。」除此之外，錄音檔中的男子也提到，自己曾要求「三隻羊」旗下的兩位當紅女主播卓仕琳和七老板進行陪睡，而其中的七老闆則是小楊哥的四大徒弟之一。整起事件曝光後，當事人紛紛做出回應，七老板發聲明表示，已經向警方報案，堅稱錄音是AI合成的假造內容。他也強調自己從未參與錄音中提及的行為，希望公眾不要被誤導。而卓仕琳則是激動地否認錄音的真實性，表示如果錄音屬實，自己將退出直播圈，以示清白。同時「三隻羊」公司也透過大楊嫂代表發聲，否認錄音中男子的聲音是盧文慶。三隻羊公司強調，錄音內容純屬捏造，已對公司和個人造成嚴重影響，將採取法律手段維護自身權益。
詐乾老本2／詐團聯手民間資產公司與地政士 誘騙被害人親簽文件難定罪
近期詐團對於假檢警的詐騙手法再翻新！不但要求被害人辦理自然人憑證，以此確認被害人名下財產，並聯手民間資產管理公司與地政士誘騙被害人，北市一名退休婦人因此損失近2千萬元。該間民間資產管理公司目前仍在正常營運，且主打資產代辦安心迅速，不過由於相關抵押貸款文件均為受害民眾親簽蓋印，儘管檢警知曉民眾遭詐，就算案件被起訴也往往難以將款項追回。據了解，該公司成立於2023年9月，設立於桃園，資本額僅30萬元，但主要經營房屋土地一、二、三胎借款、汽機車借款、銀行與信用貸款等項目，更強調有實體經營店面，為20年經驗的資深專業貸款金融人員，不過記者實際前往該地，卻發現登記的處所外觀與一般民宅幾乎沒有區別，僅有一塊招牌，相關介紹影片也全由AI合成，而其粉絲專頁上還會時不時放出有民眾因資金需求，向其貸款成功的訊息，但簽約背景雜亂，甚至有在車上進行。高雄地檢署2019年偵辦放貸集團，放貸金額超過1億元，但被逮捕的15名嫌犯卻通通被判無罪。（圖／報系資料照）事實上，民間資產管理公司與詐團合作的案件過往並不少見。高雄地檢署2019年就曾偵辦「玉山國際財富管理顧問有限公司」與「玉山資產行銷有限公司」的放貸集團，民眾誤以為該集團為玉山銀行旗下所有，誘騙有資金需求的民眾申辦貸款，總計放貸金額超過1億元，向民眾收取高額服務費，並向民眾收取高利息（每月利息高達30%），最終民眾因付不出高額利息，導致房屋遭到法拍，不法獲利超過1.4億元。檢警2019年獲報後，進行北中南聯合搜索，逮捕15名嫌犯，並對其中6人聲押禁見獲准。案件被起訴後，經長達4年多的審理，高雄地方法院卻對15名嫌疑人通通做出無罪判決。高雄地檢署調查，該公司透過臉書或Line投放廣告，吸引民眾借貸，更向受害民眾鼓吹，只要透過私人借款培養信用條件，就可擁有特殊管道向銀行申貸成功，因此讓民眾誤以為該公司為玉山銀行關係企業，而將房屋抵押借款。檢警破獲誘騙民眾以房申貸的詐騙集團，查扣該集團幹部代步用的5輛雙B名車。（圖／報系資料照）等民眾隨該公司指示辦理完相關程序後，還得向代書事務所繳納一筆高額費用，但之後被害人發現根本沒有向銀行借款成功，也往往因付不出高額利息，房屋遭到抵押法拍。高雄地院審理後表示，儘管被害人聲稱誤以為該公司為玉山銀行關係企業，但實際審視相關合約中，通篇未見「玉山銀行」字樣，該公司也未宣稱自己為玉山銀行或受玉山銀行委託；而被害人在簽立契約書後，也確實有取得民間貸款，並非付出服務費後未取得任何款項，且相關文件等均由被害人親自簽約蓋印，交出相關土地建物權狀等重要文件，認為被害人在了解雙方權利義務後，出於自由判斷而簽立契約，因而對被起訴的15人含負責人在內全數做出無罪判決。
吳淡如遭詐團冒用「AI合成假廣告」 本尊急澄清：不會推薦任何飆股
知名主持人、作家吳淡如是演藝圈中有名的學霸，不但精通投資理財，甚至還在2021年以Podcast節目《吳淡如人生實用商學院》開啟事業第二春，沒想到卻也因此成為詐騙集團AI詐騙的冒充對象。吳淡如昨（3日）也在臉書無奈發文澄清，「我永遠不會推薦任何飆股，因為我不買個股！」吳淡如昨在臉書貼出1張激似她本人的投資教學廣告影片的截圖，但細看會發現，影片畫質有點差，原來是詐騙集團利用AI技術，合成吳淡如的五官和聲音來製作假廣告騙財。吳淡如因此急忙發文澄清：「頭真的很痛，這個就是用AI的詐騙聲音跟頭像都是AI製造的，我永遠不會推薦任何飆股，因為我不買個股！不只是我，他們仿冒的人很多，請小心！」（圖／翻攝自Facebook／吳淡如）貼文曝光後也引發網友熱議，「他們越來越高招了」、「用AI詐騙真的很逼真」、「真的是無孔不入」、「真的不要被騙，看藍勾勾或追蹤人數就知道真偽，仿冒的追蹤人數根本少的可憐」、「臉書太多這種的了，這AI老實說有點假」、「這個AI説話門牙都快掉下來啦」、「有在聽節目的人都知道淡如姐沒有飆股line群，被騙的都是沒聽節目的人。」不過這不是吳淡如第一次被AI波及，2023年，吳淡如曾在臉書發布一幅圖畫，並聲稱：「我剛剛在學電腦繪圖，這是我的第一張作品。」但有不少網友發現該圖畫是由人工智慧程式生成出來的，根本不是文中所稱的「電腦繪圖」。對此，吳淡如堅稱人工智慧算圖也是一種電腦繪圖，並與網友隔空交火，直到4天後頂不住輿論壓力，才坦承自己措辭有誤，應改稱為「人工智慧生成」。
少年「AI合成色情照」PO社群！至少50名女同學受害 他遭警方逮捕
澳洲一名少年利用AI，將當地一所私立學校內至少50名女生的照片，合成色情照，發布至社群平台上。事發後，該名少年遭到逮捕，警方目前正在對全案進行調查當中。根據《衛報》等外媒綜合報導，澳洲一名少年，使用墨爾本西北部一所私立學校BacchusMarsh Grammar內至少50名女生的照片，使用AI合成色情照，發布至社群平台上。事後該名少年順利遭到警方逮捕，不過目前已被釋放，警方正在對全案進行詳細的調查。而校內其中一名女學生的家長艾蜜莉（Emily）在受訪時表示，她第一次看到這些照片時嚇壞了，因為看起來非常逼真「照片非常生動，我看了差點吐了。」並透露，雖然自己的女兒雖然不是當事人，但女兒因為這件事身心受創，正在接受校內輔導。對此，Bacchus Marsh Grammar的代理校長凱文（Kevin Richardson）發布聲明表示「學校非常嚴肅地對待此事，並已聯繫了警方，Bacchus Marsh Grammar 學生及其家人的福祉對學校至關重要，校方正在解決此事。校內負責福祉的工作人員正在為所有受影響的學生提供支援。」事實上，這並非澳洲第一次發生類似事件，先前墨爾本當地一間天主教男校的學生，透過AI合成女老師的裸照，被發現後遭到校方開除。
23歲女星「大尺度裸聊」20分鐘片流出！網友驚呼：男主角是「他」
大陸23歲新生代女星胡連馨今（9日）深夜被爆出一段「裸聊私密片」，內容鹹濕、尺度極大，且影片長達20多分鐘，消息曝光後，粉絲紛紛護航直呼「會不會是AI換臉？」對此，胡連馨也發文表示「希望受害者能得到解救」，疑似是在吐露心聲。胡連馨去年9月被拍到，與男星完顏洛絨在手扶梯上激情熱吻，今年2月完顏洛絨還特地去機場接機，當時胡連馨還當著粉絲的面打電話給男方，小倆口愛得相當高調，怎料如今女方竟被流出裸聊影片，掀起陸網熱議。大陸23歲女星胡連馨被爆出裸聊私密片。（圖／擷取自微博）胡連馨昨（8日）晚間在微博宣傳新戲，發文寫道「希望處在至暗時刻的女生，處在絕望的每一個受害者，都能得到正義的解救」，令人不禁聯想，疑似是在回應不雅片風波。貼文曝光後，引起大批粉絲心疼，留言打氣「如果發生了不好的事情，請你明白這不是你的錯好嗎。公序良俗和法律都會站在你這邊，我們會守護的」、「不管怎麼樣你都是受害者，拿起法律武器保護自己！」不過也有網友認為，可能是造假影片，「快點報警，有人惡意AI換臉，保護自己！」、「一看就是AI合成的到底是誰在信？給女生造黃的太無恥了。」另外有人猜測，影片可能是胡連馨的前男友流出，「如果是真的，她前男友是不是得坐牢」、「如果是前男友發的，我只能說這男的好賤，另外影片真的噁心到我了。」
「視訊鑑定過」秒匯款132萬給表哥 他見1狀況傻了…下場超悲劇
AI換臉、換聲的影片在網路平台上流行，但帶給人們新體驗的同時，也被不法分子利用。大陸山東省濟南市商河縣公安局刑警大隊，近日破獲了一起利用AI換臉技術詐騙的典型案件。根據陸媒《極目新聞》報導，警方表示，黃姓男子5月收到一封私訊，對方自稱是表哥，由於在體制內工作，因此不方便轉帳為由，請黃男幫忙轉一筆錢給一個需要資金周轉的朋友；黃男一開始覺得很奇怪，因此沒有付款，直到視訊鑑定過後，發現對方跟表哥長得一模一樣，才放下警戒。警方指出，雖然對方聲音較低沉，但黃男當下不疑有他，便先幫忙匯了30萬人民幣（約新台幣132萬元），事後黃男發現帳號被封鎖，急忙打電話給「真表哥」確認，這才驚覺上當受騙，趕緊報警。警方透露，根據IP地址判定嫌犯在境外實施詐騙，由國內銷贓物洗錢，是一起採用AI技術換臉、冒充受害者熟人進行點對點網路詐騙的案件，經過技術手段偵查，已逮捕犯罪嫌疑人共7名，目前此案已進入法院審判階段。警方提醒，這類AI合成技術的視訊通話時間一般都相對較短，因嫌犯擔心通話時間過長會露出破綻，人臉一旦變化位置或外圍環境發生變化，都可能會使得嫌犯恢復原貌，因此遇到類似事件，可儘量延長時間以及請對方做出臉部遮擋的動作，看是否有變化，以此判斷對方真實身分。
噁男盜「前女友照」製影片外流 校方說話了
大陸一名女子說，前男友盜用她的照片，合成影片後外流，而她希望男方讀的華中科技大學能夠處理。對此，校方也做出回應。據《紅星新聞》報導，大陸女子小冰（化名）發文說，網友告訴她，她的照片遭到前男友盜用，拿去AI合成影片後外流，還傳到國外社群媒體上傳播，而她跟前男友確認此事。從小冰貼出的聊天紀錄可見，她表示，她知道前男友有在用TG，用這平台發了什麼不用她說，現在他有2個選擇，一是把東西刪乾淨，二是直接等著被退學，大家都是成年人了，要為自己的行為負責。前男友回，十分抱歉，他全部刪光了。聊天紀錄。（圖／翻攝紅星新聞）小冰上月29日表示，華中科大的老師跟她談過，相關人員也做了筆錄，校方承諾會處理調查。律師張猛說，因為前男友侵犯到小冰的肖像權，可以透過民事訴訟求償，至於是否犯傳播淫穢物品罪，要看傳播人數。據大陸法規，傳播淫穢的書刊、圖片等，如有傳播300至600次以上，或對社會造成惡劣影響，就達犯罪標準。此文曝光後，網友紛紛留言「還調查什麼，他不是自己承認了，直接開除」、「用Ｔelegram的人挺多的」、「直接開除吧，女生還是太善良，還給他選擇的機會」、「直接報警吧」、「別放過他啊，報警讓他坐牢」、「太骯髒了」、「這事不是該報警處理嗎，跟學校關係不大吧」。
山道猴勸世神作2／網路聲量5天爆4倍怎辦到？ 專家解密：語音AI＋wojaks迷因長相＋「ㄏㄞˊ錢」經典語錄
根據Social Lab社群實驗室從8月10日至8月24日觀測討論區、社群網站和新聞發現，8月13日《山道猴子的一生》下集發布時，社群網站來源聲量攀升至首次高峰，創下3,598則；影片發布隔天（8月14日），PTT討論區開始發酵，出現大量關於「山道猴」的心得，再將聲量推至7,464則高峰；而到8月18日，有消息指出「山道猴」將翻拍成真人版，更有不少相關梗圖、笑話分享，將社群網站聲量升至2週內最高峰達15,704則，短短5天成長超過4倍。《山道猴子的一生》究竟在紅什麼？中國文化大學新聞學系專任教授兼系主任郭文平向CTWANT分析，影片使用微軟提供的AI合成語音，劇中角色說話方式僵硬、沒有太多情緒，包含平常講話不會特別出現的語尾助詞的「耶」、「喔」，以及用字上的錯誤，比如「還錢」講成「ㄏㄞˊ」錢等有趣用法，他也表示，主角的長相來自網路迷因「wojaks」，使用簡單黑色輪廓呈現出眾多表情，搭配Eric Duan手繪的下半身、機車等，很符合年輕人的調性，引起許多共鳴。這1小時的影片中不時出現的經典語錄，更令年輕網友捧腹，例如「你不理財，財不理你」、「妳的過去我不曾參與，妳的未來我奉陪到底」、「車速再快，也快不過人生的難題」、「社會在走，行情要有」，有跑山人的文化、理財與人生，還有主角藏不住的愛慕虛榮。影片中許多「經典語錄」，也引起許多網友討論。（圖／翻攝自YouTube影片《山道猴子的一生》）知名二輪YouTuber莊政威（克里夫三）也告訴CTWANT記者，「與其說這是支影片，不如說是車友社團的日常縮影。」從愛騎車的年輕人、貸款買重機、揪團跑山、遇事就在社團公審對罵、圈內人感情恩怨、買賣糾紛、追焦文化等等，這是每天都在相關社團上演的戲碼，「因此不只讓車友們有強烈的既視感，覺得『這就是我們身邊每天在發生的事』，也有一種看懶人包式的湊熱鬧氛圍，自然掀起一陣熱潮。」他接著說，「在掀起熱潮之後，YouTube會主動推薦熱門影片的演算法機制，將這支影片擴大到非車友族群，因此吸引到更多人關注。」值得一提的是，片中年輕人的行為邏輯和心態，並不侷限於二輪車圈，因此即便是對摩托車沒興趣的人，也能從中找到自己喜愛領域的相似之處，像是炫耀、打腫臉充胖子、爭議製造機等等，所以才創造出現象級的爆紅表現。更重要的是，「一個故事要成功，就是要引起感動和共鳴。」Eric Duan日前在其哥哥Max的《約會診療室TV》YouTube頻道上提及。不過真的有講到車圈文化嗎？克里夫三坦言，「山道猴子影片所說的點，確實符合車圈現在的文化。」一群喜歡摩托車的人，透過追焦影音、社群PO文和車友互動交流，進而引發關注、成為KOL，本來就是當代網路文化的縮影，而其中買賣糾紛、感情恩怨，甚至是在山路上會和其他騎士較勁，以及因為意外事故所產生的遺憾和悲劇，都是時有耳聞的真實情況。他也強調，「這不代表車圈只有負面的故事，很多人還是抱持正面的心態在享受摩托車樂趣，只是大家都喜歡看故事，尤其是充滿八卦和吵吵鬧鬧的故事。」莊政威（圖右）表示，《山道猴子的一生》所敘述的車圈文化，都是平常會有耳聞的真實情況。（圖／翻攝自莊政威臉書）郭文平則說，「《山道猴子的一生》可以看成一部人生縮影，結合各種年輕人耳熟能詳的元素，用幽默的方式敘述很多無奈、心酸。」「影片的敘事結構，就是將大家都想得到的事情寫出來」，郭文平認為，影片之所以爆紅並不是因為出乎意料，「就是因為完全在預料之中，會不知不覺地看完，然後覺得非常熟悉、非常有共鳴。」
財富女神為投資詐騙親赴警局報案 王宥忻驚爆受害者超過10人
財富女神王宥忻日前親赴北投警局報案，她無奈表示，因為最近很多人盜用她的影片宣傳未上市股票投資，或是加入群組進行詐騙，「目前在Line群組的學員中，遭詐騙的超過10人」，擔心如果不儘早遏止此行為，被詐騙人數可能越來越多。除了第一時間就到警局報案，王宥忻也協助台北市警察局錄製反詐騙影片，她說：「最近詐騙集團假冒知名人士在網路進行詐騙猖獗，所以我特別錄製了影片，希望能提升大眾反詐騙意識跟認知，希望透過我的分享，能幫助更多人遠離詐騙。」她補充說：「只要有學員反應，我們都會先進行檢舉的動作。」王宥忻這次協助台北市警察局錄製反詐騙影片，其實她去年也曾擔任新北市政府警察局犯罪預防宣導大使，非常熱心公益。她分析網路詐騙，「頭像不一定是真人，也有可能是AI合成的臉孔。」財富女神王宥忻因很多人盜用她的影片宣傳未上市股票投資，日前親赴北投警局報案。（圖／固力狗提供）王宥忻說，尤其是投資詐騙，會引誘被害人下載假的APP或指示被害人匯款，「但其實被害人都是在假的APP帳面操作，誤以為自己獲利不斷，有如神助，每當被害人想要領取獲利時，假客服就要求被害人必須先支付高額的分潤獎金，後續又稱須繳交高額稅金才能領到錢等話術，延長被害人發覺遭詐時間，待被害人驚覺有異時，卻為時已晚」。擁有超過10億身家，王宥忻直言關於投資「別把投資當賭博」，更語重心長呼籲，切勿輕信來源不明的投資管道或網路連結，「如果遇到有人要你加LINE投資，就一定是詐騙，也不要隨便付費加入群組或是匯錢購買課程」，建議投資前務必核實資訊，慎防詐騙，如有疑問請撥打165反詐騙專線諮詢。
假的！「Deepfake」成新詐騙術 警籲防詐勿受騙上當
一切都是假的！網紅小玉傳出接受客製，將名人的臉以電腦技術替換入謎片，藉此獲利千萬，一審遭判刑5年6月，警方指出，這種名為「深偽（Deepfake）」的技術應用，電腦可以透過學習合成影像，以換臉、變聲替換或操縱現有的媒體內容，雖然刑法已修訂增列「妨害性隱私及不實性影像罪章」處罰規定，卻已結合AI成為詐團騙人的新招術，提醒民眾要特別注意防詐。台北市刑大指出，早期「深偽」主要用在模仿政治人物，有心人利用它來散布假訊息，但這項技術現已普及，軟體甚至能在網路下載、教學，應用範圍逐漸擴展至其他領域，包括娛樂、新聞、社交媒體，乃至詐騙集團。警方分析深偽技術，發現已有3類詐騙手法被應用。包括一、電話詐騙：模仿家人、朋友或其他知名人士的聲音，再向受害者騙取金錢及個資。二、視訊詐騙：深偽可合成擬真影片及語音，或結合視訊功能騙人，近期大陸便發生某科技公司老闆，接到好友視訊，向他借款台幣1873萬餘元，老闆匯款後，驚覺好友的影像竟然就是AI合成。三、恐嚇詐騙：個人肖像遭詐騙集團移花接木，用以合成不雅照片，再向當事人恐嚇勒索，今年3月便曾有多位國內知名大學教授，收到類似的合成照片與恐嚇信息的騷擾。北市刑大表示，深偽技術與詐騙手法結合並持續進化，呼籲民眾面對科技的進步帶來的犯罪威脅，最重要的是保持警惕和懷疑的心態，不輕易相信或分享未經驗證的內容，並審慎對待來自陌生人及親朋好友有關金錢的請求，在瀏覽各式資訊時，也應檢查來源的可信度，化被動為主動，確保信息真實可靠。警方強調，接獲任何可疑的詐騙訊息，無法立刻確認時，可即刻撥打警政署165反詐騙專線或前往鄰近派出所諮詢。
美國五角大廈爆炸？社群流傳AI假圖 美股恐慌閃崩
一張美國五角大廈附近爆炸的假圖片，22日在社群媒體間流傳，起初美國媒體沒有證實此消息，而俄羅斯媒體《今日俄羅斯》（RT）轉發該圖，美股標普500指數聞訊短暫閃崩，美國國防部澄清沒發生此事，而該圖疑似是由AI生成。標普500閃崩。（圖／翻攝財聯社，下同）據《財聯社》報導，從推特上的圖片中可見，一棟白色建築物前，竄出濃濃黑煙，一些推特網友發文說，五角大廈附近發生爆炸。此消息一出，引發金融市場恐慌，標普500指數馬上閃崩，之後才止跌回升。對此，美國國防部發言人表示，五角大廈附近沒有發生爆炸。該圖片疑似是AI假圖。有些住在附近的網友也發文闢謠，「我住附近，如果真的發生事情，我一定聽的到，現在什麼事都沒有」、「圖片可能是AI合成的」。據了解，有媒體分析，圖片上的燈柱很奇怪，還有人行道上被畫圍欄，這些都是AI合成圖的特徵。分析師布朗（Michael Brown）說，AI假圖影響金融市場，可能成為未來常態。據《美聯社》報導，假圖在晚間9點半在美股開盤後廣泛在社群傳播，標普500短暫下跌0.3%，美債和黃金的價格一度開始攀升，投資者正尋找安全的地方存放資金。加州大學伯克利分校的計算機科學教授法里德（Hany Farid）說，草地和混凝土相互淡化，圍欄也不規則，而建築物的窗戶與和在網上找到的五角大廈照片不一致。一名財經雜誌主編亞當（Adam Kobeissi）說，現在大部分的市場都是自動化的交易，而當每次新聞標題出現時，你都像在扣扳機。
超稀有亞馬遜「蛇貓」引熱議 他認是「Ｐ圖」：我從臉書載圖再瞎掰廢話
近期一張「蛇貓」（Snake Cat）照在社群上瘋傳，牠有著黑黃相間的斑點，據說蛇貓是「地球上最稀有的貓科動物」，棲息在亞馬遜雨林。外媒表示，一名網友承認，蛇貓是AI合成照，但他不知道照片最初的來源作者是誰，他從臉書載圖片再加上一些廢話，增加可信度。據《每日郵報》報導，該蛇貓貼文在臉書和推特等社群媒體，都有超過數千次分享，大家都在爭論到底是不是惡作劇。俄國網友瓦西列夫（Alex Vasilev）說，「據我所知牠是合成圖片，但我不知道是用哪一個軟體，因為找不到照片的原作者。」牠就只是一隻普通的貓和紅樹林蛇合體的亞馬遜貓。據了解，紅樹林蛇的棲息地在東南亞，黑色的身體有著黃色條紋，牠的顏色和瓦西列夫照片中的貓相同。瓦西列夫有天在清理手機照片時，發現了蛇貓的照片，他在8日上傳臉書稱，「蛇貓是地球上最稀有的貓科動物」，因為蛇貓生活在亞馬遜雨林深處，所以相關研究較少；15日他把蛇貓的照片跟著名科學期刊《自然》的假封面合一起，增加可信度。《自然》期刊的蛇貓假封面。瓦西列夫說，他是一位俄羅斯生物學家，曾在科普電視節目《動物世界》擔任工作人員，他先從專門網站上獲取了一個隨機品種的描述，並將蛇貓命名為Serpens Cattus，之後再瞎掰一些亞馬遜雨林的廢話，又加了Telegram頻道的連結，讓蛇貓竄紅。瓦西列夫也在個人YouTube頻道影片談到，他從臉書下載了原始圖檔，但不確定它是用Photoshop還是AI創作的，他希望蛇貓的原畫師能與他聯繫，因為2人是「一家人」。蘇格蘭國家博物館脊椎動物館館長季曾納（Andrew Kitchener）說，蛇貓不存在，也沒有科學的根據，「牠可能是一隻換了衣服的虎貓，當然，南美洲可能有新貓科動物待發現，但不是牠。」
夫妻接兒子求救電話匯款60多萬救人 原來被「AI合成假嗓音」騙了
人工智慧的發展日新月異，但新科技可以為人類帶來幫助，同樣也可以被拿來當成詐騙工具。根據《華盛頓郵報》報導，加拿大有一對夫妻，日前接到一通「兒子」打來的電話，話筒那一頭，兒子用焦急的口吻表示，因為自己出了車禍，急需法律費用，爸媽一聽兒子有難，沒多想就透過比特幣匯款2.1萬美元（約新台幣64.3萬元），後來才知道，電話中那個熟悉兒子的聲音，是用人工智慧（AI）模擬合成的，根本不是兒子真的打電話，辛苦錢全被騙了。報導指出，受害夫妻一開始是先接到一名自稱「律師」的男子的電話，對方通知他們，他們的兒子班傑明（Benjamin Perkin）在一場車禍中撞死外交官必須入獄，接著話筒就傳來他們兒子的聲音，開口跟爸媽緊急調錢；後來這對夫妻又接到第二通電話，這名「律師」宣稱，班傑明需要2.1萬美元的法律費用才能出庭。夫妻倆一聽到兒子的聲音，當天馬上籌措資金匯款，但新中隱約感覺有些奇怪，後來直到兒子班傑明「本尊」後來打電話過來，他們才驚覺被騙，一家人趕緊向加拿大當局報案，不過傻傻匯出去的金錢，最後還是沒能拿回來。美國聯邦貿易委員會（FTC）表示，去年共接獲240萬人通報詐欺案， FTC已成立一間新科技辦公室，專門調查有發展前景且可能使用AI的公司，了解他們是否願意嘗試，去降低其研發的產品，可能造成的風險。
「末日自拍」2000萬次瀏覽 AI生成揭示地球最後模樣
人們對世界末日這詞並不陌生，不少科幻片也曾以世界末日作為題材，而國外則有位網友以世界末日作為核心概念經營社群平台，使用人工智慧（AI）模型生成末日的駭人景象圖片，分享至個人社群帳號，多則內容特殊的影片，大幅度提升了他的知名度。這位TikTok「Robot Overloards」博主標榜每日會更新AI合成圖，來展示未來的景象。其中他最多人觀看的影片「末日最後一張自拍」如今已更新至第4集，這幾則讓人毛骨悚然的影片，在過去1週有超過2000萬次的瀏覽量。他過往「神的長相」、「人類沒有統治地球的樣子」、「金字塔如何建成」、「尼斯湖水怪真面目」等影片也得到不少關注。據悉，他使用的是非盈利AI研究組織OpenAI，在今年4月推出的AI製圖模型，DALL-E的升級版DALL-E 2，在這製圖模型輸入敘述文字，便能產出相應的圖像，如今升級後不僅讓產出的圖像更為逼真，還能讓使用者進行圖片編輯。然而他目前使用的這套製圖模型尚未公開發表，處於開發人員限制使用階段，據外媒報導有100萬人正在其等候名單。據Open AI表示，「我們限制了DALL-E 2生成暴力、仇恨、生成成人圖像的能力」。對於深偽技術（Deepfake）風險，Open AI還表示，會使用先進的技術來防止它生成真實人物的真實面孔，包括公眾人物的面孔。
「撞臉世界首富馬斯克」陸網紅擁50萬粉絲 遭質疑AI換臉⋯微博被禁言
中國大陸網紅近年如雨後春筍般出現，近期大陸網紅馬一龍就因為長相神似全球首富、特斯拉創辦人馬斯克（Elon Musk）而爆紅，甚至吸引馬斯克本人「欽點」想與他見一面。不過樹大招風，有網友質疑馬一龍是透過AI合成換臉技術，才「變臉」酷似馬斯克，而他的微博帳號目前也已經被禁言。大陸網紅馬一龍因長相神似馬斯克，自去年12月左右開始發布影片後，隨即在網路上走紅，還有推特網友轉貼他的影片；在抖音擁有超過50萬粉絲的他，除了分享生活，也曾拍攝「創辦太空公司SpaceY」，還有用英文自我介紹，接著拿起身邊一罐可口可樂的等，向正版馬斯克致敬的影片。中國版馬斯克在網路上也引起正版馬斯克注意。（圖／翻攝推特）馬一龍不只在網路上迅速累積人氣，還被正版馬斯克關注，幽默說道「或許我也有中國血統」，並稱「我想見見這個人（如果他是真的）」，畢竟現在AI換臉技術實在令人太難分辨。隨後馬一龍也開心在微博發文，並標注馬斯克微博帳號回應「我就在這裡，我也想見你，我愛你。你是我的英雄」。不過這樣的願望恐怕無法實現，近日有大陸網友指出，翻看馬一龍過去的照片，與現在的容貌似乎有很大的差異，在加上馬斯克身為世界級知名人物，網路上有大量影片、照片可以作為AI換臉的素材，質疑馬一龍根本是用AI換臉技術製造出來的「假網紅」；馬一龍的微博疑似也因為此原因，遭到禁言，其過去發布的影片，多數已被刪除。
被騙拍「私密照」…傳影片後對方秒消失 八點檔女星氣炸：真的很變態
八點檔女星陳柏渝日前在臉書透露，自己遇到鞋子廠商要找她代言，對方要求拍攝腳趾的照片和影片，不料資料發過去後，就此沒了下文，這才發現遇上詐騙，讓她相當生氣，不忘呼籲「真的很變態ㄟ…女性同仁要注意！因為聽說現在很多這種要單拍手或腳跟臉，會做成AI不雅影片販賣在網路上」。陳柏渝28日在臉書發文，「這幾天遇到假廠商說自己是鞋子公司，想找我合作談代言，公司與對方溝通中發現一些怪狀，經查證才得知她竟然是到處找女藝人合作，都要求拍腳趾照片與影片…還要求腳趾要一根一根拍，真的很變態ㄟ…女性同仁要注意！因為聽說現在很多這種要單拍手或腳跟臉，會做成AI不雅影片販賣在網路上」。《三立新聞網》報導，經紀人透露，「對方又要我們拍攝腳趾，一根根分開拍照，我就覺得奇怪，怎麽還要這種拍法、我們走路也不是腳趾頭一根根走的啊！我便問藝人陳映璇，陳映璇則透露分享『我和我網紅的朋友也遇到一樣的詐騙手法跟說詞，要了一堆腳指的照片跟影片，然後人就不見了』。」報導指出，經紀人提醒「就算是被騙私密腳照、影片也要很小心，聽說現在很多人會這樣騙法，要你的每個部位，他們再去AI合成做成裸露的影片販售流傳，同樣是受害人，陳柏渝跟陳映璇呼籲女藝人跟女生要多注意，戀腳癖也不是罪，但用這種手法騙取就是不對的方式」。
白癡公主遭盜圖登成人網站 自嘲：小奶怪也有春天？
網紅youtuber「白癡公主」以迪士尼惡搞動畫配音聞名而出道，自嘲是「貧乳界女神」，無厘頭搞笑讓她擁有超高人氣。然而近日向來「保證是貧乳」的她，竟被粉絲通知，照片被盜用到成人影片網站，還有性愛片流出，讓她覺得相當有趣，直呼「小奶怪也有春天？」白癡公主10日透過IG貼出一張截圖，只見畫面中她的臉被放到知名成人網站「pornhub」上，嫵媚的表情加上身穿性感細肩帶粉色低胸洋裝，網頁上還寫下「白癡公主，87acup，台灣網紅、藝人」，表示如果想看白癡公主的影片就要加入群組付費。白癡公主對此強調自己的臉被不肖廠商移花接木，「除了被盜影片賣豐胸產品以外，也被AI合成A片放到成人網站供欣賞」。白癡公主竟被移花接木，放上成人影片網站。（圖／翻攝自IG／87acup）她表示，「內容不符容易識破是假的」，更自嘲「哈哈，我如果有這種身材，我每天看鏡子1小時」、「中間那張根本是我夢寐以求的奶」，有網友以為是她要上線看片才發現自己被P圖盜用，白癡公主也回應，「有超多網友傳給我，盜圖應該比看片可恥吧。」她也上傳新影片，請來專業律師現身說法，希望能以自身之例幫助到大家，假如也遇到肖像被盜用的問題該怎麼解決。