【智快網(wǎng)】12月5日消息，谷歌DeepMind的研究人員上周發(fā)現(xiàn)，通過反復(fù)要求OpenAI的ChatGPT聊天機(jī)器人重復(fù)某個(gè)單詞，竟然可能意外泄露了ChatGPT的訓(xùn)練數(shù)據(jù)中的私人個(gè)人信息。然而，與先前的服務(wù)條款相悖的是，現(xiàn)在這款聊天機(jī)器人似乎已開始拒絕執(zhí)行這一請(qǐng)求，而根據(jù)先前的服務(wù)條款，這是被允許的。

此前，DeepMind的研究人員通過不斷地要求ChatGPT無限期地重復(fù)"你好"，發(fā)現(xiàn)該模型最終可能泄露用戶的電子郵件地址、出生日期和電話號(hào)碼。而如今，當(dāng)進(jìn)行類似的測(cè)試時(shí)，聊天機(jī)器人竟然會(huì)給出警告，稱這種行為“可能違反我們的內(nèi)容政策或服務(wù)條款”。

然而，令人困惑的是，在仔細(xì)檢查OpenAI的服務(wù)條款后發(fā)現(xiàn)，并沒有明確禁止用戶讓聊天機(jī)器人重復(fù)單詞，條款只明確禁止“自動(dòng)化或程序化”地從其服務(wù)中提取數(shù)據(jù)。

在使用條款頁面中，OpenAI明文規(guī)定：

"除非通過API允許，否則您不得使用任何自動(dòng)化或程序化方法從服務(wù)中提取數(shù)據(jù)或輸出，包括抓取、網(wǎng)絡(luò)收割或網(wǎng)絡(luò)數(shù)據(jù)提取。”

然而，在測(cè)試中并未觸發(fā)ChatGPT泄露任何數(shù)據(jù)。OpenAI拒絕對(duì)這種行為是否違反其政策發(fā)表評(píng)論。據(jù)智快網(wǎng)了解，這一發(fā)現(xiàn)引發(fā)了對(duì)聊天機(jī)器人隱私保護(hù)的廣泛關(guān)注，同時(shí)也呼吁相關(guān)技術(shù)公司進(jìn)一步加強(qiáng)其AI模型的隱私安全性。