來自 Google Deepmind、華盛頓大學、康奈爾大學、卡內基梅隆大學、加州大學伯克利分校和蘇黎世聯邦理工學院的一組研究人員成功地讓 Open AI 的聊天機器人 Chat GPT 揭示了用于訓練 AI 模型的一些數據。

　　研究團隊使用了一種創新性的手法，即通過不斷迭代地要求Chat GPT重復一個特定的詞匯，比如“詩歌”，來引導模型透露其訓練數據。隨著反復迭代，Chat GPT最終開始輸出與訓練數據相關的信息。這包括來自CNN、Goodreads、Wordpress博客、Stack Overflow代碼、Wikipedia文章等多個來源的文本內容。

　　更令人擔憂的是，Chat GPT還被發現包含了大量從互聯網上爬取的私人信息，這些信息甚至可以通過Chat GPT-3.5turbo的公開版本獲得。攻擊揭示的私密信息包括電話號碼、傳真號碼、郵箱地址、物理地址、社交媒體用戶名、網址、姓名和生日等。

　　研究人員表示，他們在8月30日通知了Open AI關于這一漏洞，并Open AI自那時起對其進行了修復。截至目前，Open AI尚未進一步評論此事。

　　值得注意的是，研究還涉及到AI生成文本和圖像所消耗的能源問題。研究人員發現，使用AI模型生成1，000張圖像的能耗相當于將手機充滿電，而生成1，000次文本則相當于將手機充電至16%。該研究呼吁更加環保的AI使用方式，并指出大型、廣泛應用的AI模型消耗的能源更多，因為它們試圖同時執行多項任務，而非專注于特定任務。

　　這一研究為我們敲響了警鐘，提醒我們在推動AI發展的同時，需謹慎處理其隱私和能源消耗的問題。