影子AI指員工在企業(yè)IT政策和數(shù)據(jù)治理控制之外私自使用未經(jīng)授權(quán)的人工智能服務(wù)。研究顯示,2024年企業(yè)生成式AI流量激增890%,與生成式AI相關(guān)的數(shù)據(jù)泄露事件增長一倍以上。開發(fā)人員為提高效率和縮短產(chǎn)品上市時間,常繞過AI安全防護(hù)措施,使用未經(jīng)審查的開源大語言模型或AI代碼生成工具,這可能導(dǎo)致知識產(chǎn)權(quán)泄露、系統(tǒng)安全漏洞和供應(yīng)鏈完整性問題。專家建議采用統(tǒng)一平臺方法,將AI治理和開發(fā)者工作流程整合到單一系統(tǒng)中。