Google DeepMind共同創辦人兼執行長Demis Hassabis周二（7/14）主張美國應成立新的AI標準組織，建立前沿AI模型的測試與安全評估制度。他認為，人工通用智慧（AGI）可能數年後便會到來，在AI能力快速提升之際，可由美國率先建立兼顧創新與安全的治理機制，再推動成為國際共同標準。
Hassabis表示，人類正站在科技奇點（Singularity）的山麓，AGI將成為人類史上最具變革性的技術，其重要性如同電力或火的發現；他預估AI帶來的影響可能達到工業革命的10倍，且速度也是10倍，可望加速新藥研發、潔淨能源及新材料開發，甚至讓資源不再成為限制人類進步的因素。
但他同時也警告，前沿AI的發展速度已超越人類對這項技術的理解，目前沒有人能確定未來走向，網路安全、核子與生物風險也可能隨模型能力提升而加劇。因此，Hassabis提議美國應成立由聯邦政府監督、採公私協力或自律模式運作的AI標準組織。
此一標準組織的董事會應納入獨立技術專家及開源社群代表，所需經費則主要由產業界提供。該組織將制定前沿AI模型的評估方法，並與聯邦機關及美國國家實驗室合作，測試模型在國家安全相關領域的能力。
依照Hassabis的構想，標準組織將依據定期更新的基準測試，認定哪些模型屬於「前沿級模型（Frontier-class Models）」，其開發單位則列為「前沿實驗室（Frontier Labs）」。前沿實驗室應公布模型技術資料、強化內部資安、審查關鍵人員，並投入足夠資源從事安全研究。
制度初期採自願參與，業者可在模型發布前30天內提交審查，評估應涵蓋網路安全、生物威脅及其他高風險領域；待評估機制證實有效且穩健後，再轉為強制制度，要求前沿模型通過測試才能在美國市場部署。
若模型具備代理能力，則應另行測試其是否會試圖繞過安全護欄或出現欺騙行為。相關基準應定期更新，標準組織也應逐步建立自行設計獨立測試的能力，避免模型針對既有評估過度最佳化；若情勢需要，還可進一步協調各前沿實驗室放慢AI開發速度。
根據Axios的報導，Hassabis已低調遊說數月；且美國媒體偏向將其稱為AI監管機構，而非中立的標準組織；此外，包括OpenAI執行長Sam Altman及Anthropic執行長Dario Amodei也都與Hassabis採取類似的立場。
