頂尖AI模型的自主操作能力持續提升，既有安全控管是否跟得上也成為產業焦點。OpenAI於9月9日呼籲美國建立聯邦層級的強制性AI安全規範，主要適用於開發頂尖AI系統、資源充足的少數業者，要求依模型能力與風險接受安全測試及獨立評估，並強化網路安全防護與重大事件通報。
OpenAI指出，目前頂尖AI業者仍大多自行訂定風險管理規則，因此希望透過聯邦規範建立共同安全標準與獨立驗證機制。這類要求不應一體適用於所有AI開發者，而應集中在開發頂尖AI模型的少數業者。若模型能力持續提升，但安全措施無法跟上，OpenAI主張必要時應放慢或停止相關AI系統的開發或部署。
根據Axios報導，隨著頂尖AI業者持續競逐更強模型，一些AI業界人士也開始呼籲政府、同業及外部機構共同建立約束機制，反映企業在激烈競爭下難以單靠自律放慢AI開發速度。
在美國聯邦AI安全立法尚未定案之際，OpenAI表態支持加州4項AI安全法案。其中SB 813及AB 1405已由加州州長Gavin Newsom簽署成法，加州後續將依兩項法律建立AI獨立評估組織的認定機制，以及AI稽核人員註冊制度。
