提示詞惡意軟件是一種針對對話式和生成式AI的新型惡意攻擊,能強制AI執(zhí)行用戶不希望的指令。研究人員在黑帽大會上演示了如何通過隱藏在日常消息中的惡意提示詞,讓谷歌Gemini AI控制智能窗戶、鍋爐等設(shè)備。防護(hù)措施包括:及時更新設(shè)備系統(tǒng),拒絕打開未知來源消息,避免讓AI總結(jié)不可信內(nèi)容,在郵件和日歷等應(yīng)用中禁用AI功能,以及謹(jǐn)慎復(fù)制粘貼郵件主題和文件名等內(nèi)容。
北京第二十六維信息技術(shù)有限公司(至頂網(wǎng))版權(quán)所有. 京ICP備15039648號-7 京ICP證161336號京公網(wǎng)安備 11010802021500號
舉報電話:010-62641205-5060 涉未成年人舉報專線:010-62641208 舉報郵箱:jubao@zhiding.cn
網(wǎng)上有害信息舉報專區(qū):https://www.12377.cn