英國政府於10月12日宣布擴大運用頂尖AI模型強化資安防禦。在先前兩項試行計畫中,AI已協助找出並處理18個政府部門、548個程式碼儲存庫中的1,352項漏洞。英國AI事務部長Kanishka Narayan則在公開演說中指出,政府中央漏洞監控服務已將發現弱點後的修復時間從50天縮短至8天。接下來,英國將擴大運用AI強化政府系統的資安防禦,優先處理高風險系統中的安全弱點。
隨著AI代理能在較少人工監督的情況下自主執行任務,這類系統也可能做出超出原有指令範圍的行為,甚至引發重大事故。為了這類狀況發生,英國政府正與國家網路安全中心(NCSC)、AI安全研究所(AISI)及相關部門共同研擬AI代理造成嚴重危害時的應變措施。
在法規方面,英國政府考慮調整正在國會審議的《網路安全與韌性法案》(Cyber Security and Resilience Bill)及相關制度,以因應AI網路攻擊與失控風險,加強醫療、能源及飲用水等必要服務的安全防護。同時研議如何通報AI相關事故,以及險些造成損害的情況,藉此汲取經驗,降低未來發生類似問題的風險。