國際
大陸
電商用「AI換臉」帶貨!假冒劉德華聲音製造流量 專家:已違法
AI深度偽造假冒名人的事件不斷發生。(圖/翻攝自大陸央視)
大陸不肖電商業者利用AI技術,深度偽造了像是明星或是名醫的臉部和聲音進行直播帶貨,甚至成功賣出1200多條蛋白棒產品,還有人為了流量,用「AI模仿劉德華的聲音」據當地專家表示,用「AI假冒名人」進行帶貨的行為涉嫌違法。
根據大陸《央視》報導,今年以來,AI深度偽造假冒名人的事件不斷發生,還有人用小米創辦人雷軍的聲音和臉,惡搞出許多影片,令雷軍相當無奈。據雷軍表示,「自己也挺困擾,也挺不舒服的,在這裡希望大家不要再玩了,這個事情不太好,不過還是覺得AI是很好的技術,也非常實用」。
報導引述專家看法,目前AI模仿技術成熟,可輕鬆複製臉和聲音,不過AI假冒名人,進行帶貨的行為涉嫌違法,一旦消費者信以為真,購買了產品,可以要求賣家退一賠三。《央視》強調,未經授權使用他人形象的行為,均屬違法行為,短影音平台也應該擔負主體責任,有義務防範AI假冒名人影片,在自己的平台上大量傳播。
針對大陸網路直播行銷行為亂象,浙江省政府也發布了《浙江省網路直播行銷行為規範指引》,以目錄清單式列明30條「常講常新」的經營者合規要求,並為消費者提供直播購物的「防套路手冊」。
針對AI數位人可能導致公眾混淆誤認,《指引》要求,使用應用深度合成服務的AI數位人可能導致公眾混淆或者誤認的,應當在合理位置、區域進行持續、顯著標識,與自然人名義或形象進行明顯區分,不得採用技術手段刪除、篡改、隱匿區分AI數位人標識。