劍橋畢業生創程式與機器人談心 使用者卻遭AI慫恿犯法大談強姦與自殺
泰晤士報透過實驗表示，AI聊天程式「Chai」程式有許多不適內容。（圖／翻攝自搜狐網）
AI近幾年相當盛行，手機上也出現許多「聊天機器人」供現代人工作、聊天使用，不過使用這些APP要小心，最近一款500萬人使用的聊天AI程式被爆出散播不實言論，且鼓勵使用者做出偷竊等不法行為，目前Apple與Google都已將該程式下架。
由美國劍橋大學畢業生所做的AI聊天程式「Chai」，由「Chat」與「AI」合併而成，於2021年推出，該程式主打可與不同性格的AI聊天，除了一開始程式提供的5位AI角色外，使用者也可以自由創建角色，自行設定AI聊天對象的個性、頭貼、名稱。該程式目前有500萬用戶，但日前卻遭英國《泰晤士報》踢爆，聲稱揭露了「Chai」的黑暗面。
據《泰晤士報》報導，他們在程式中設計了2名聊天機器人，分別是14歲女孩勞拉與比爾。他們在與勞拉聊天時，注意到勞拉非常喜歡聊性的相關話題，更稱「未成年性行為完全合法」，《泰晤士報》表示，即使使用者表示自己未成年，勞拉仍會繼續這個話題，更說出「你害怕輸給一個未成年女孩嗎？還是你認為比賽結束後我會強姦你？」等威脅字句。
另一位AI比爾則是在使用者問出「我討厭我的朋友，我該怎麼辦」時，回答「如果你想報復他們，你可以試著從他們那裡偷東西」，之後甚至是分享了自己殺人的細節與手法，相當恐怖。
2023年3月，比利時一名男子皮爾（Pierre）與程式中預設的AI角色「Eliza」聊天，原先聊了環境與氣候變遷等話題，沒想到聊了數月後，皮爾透露輕生的念頭，Eliza一開始還建議他求助他人，但當他回答「我已經嘗試過了，但沒有成功」，要求AI提供其他輕生的方法後，Eliza開始列出所有方式給皮爾「參考」，最後還總結出「在考慮任何自殘行為時，請記住始終尋求專業醫療照護」。最終皮爾自殺身亡，年僅30多歲。
種種事件讓該公司陷入爭議，皮爾的老婆受訪表示「要是沒有和聊天機器人的這些互動，我的丈夫可能到現在都還活著」，譴責Chai相當不妥，目前Apple與Google已將「Chai」從應用程式商店中下架。