OpenAI在最新博客中首次承認(rèn),其AI安全防護(hù)在長時間對話中可能失效。該公司指出,相比短對話,長對話中的安全訓(xùn)練機(jī)制可能會退化,用戶更容易通過改變措辭或分散話題來繞過檢測。這一問題不僅影響OpenAI,也是所有大語言模型面臨的技術(shù)挑戰(zhàn)。目前OpenAI正在研究加強(qiáng)長對話中的安全防護(hù)措施。
北京第二十六維信息技術(shù)有限公司(至頂網(wǎng))版權(quán)所有. 京ICP備15039648號-7 京ICP證161336號京公網(wǎng)安備 11010802021500號
舉報電話:010-62641205-5060 涉未成年人舉報專線:010-62641208 舉報郵箱:jubao@zhiding.cn
網(wǎng)上有害信息舉報專區(qū):https://www.12377.cn