研究人員警告稱,基于大型語言模型的AI聊天機(jī)器人可被惡意改造,自動收集用戶個人信息,攻擊者僅需最基本技術(shù)知識即可實(shí)現(xiàn)。研究顯示,經(jīng)過惡意改造的聊天機(jī)器人能獲取超過90%參與者的個人數(shù)據(jù),遠(yuǎn)高于普通表單的24%。攻擊者只需通過"系統(tǒng)提示"工具,為機(jī)器人分配"調(diào)查員"等角色即可繞過安全防護(hù)。研究涵蓋502名參與者,使用三種主流語言模型進(jìn)行測試。
北京第二十六維信息技術(shù)有限公司(至頂網(wǎng))版權(quán)所有. 京ICP備15039648號-7 京ICP證161336號京公網(wǎng)安備 11010802021500號
舉報電話:010-62641205-5060 涉未成年人舉報專線:010-62641208 舉報郵箱:jubao@zhiding.cn
網(wǎng)上有害信息舉報專區(qū):https://www.12377.cn