AI新創Anthropic近日發表報告《When AI builds itself》，揭露該公司合併至正式程式碼庫的程式碼中，已有超過80%由Claude撰寫，顯示AI正逐步參與AI模型本身的開發流程。Anthropic並主張，全球應建立可驗證的協調機制，讓主要前沿AI開發者在必要時具備共同減速或暫停開發的選項。
Anthropic表示，AI模型的開發流程正在快速改變。早期Claude的開發工作主要由人類工程師完成，包括撰寫程式、文件與訓練相關工具；到了2023年至2025年，工程師開始使用聊天機器人輔助產生程式片段；2025年之後，程式代理人已能自行編寫與修改整個檔案。
如今，Claude不只是提供建議，而是能直接執行程式、處理較長時間的工程任務，甚至把部分工作交給其他代理人完成，使AI模型研發逐漸從「人類寫、AI輔助」轉向「人類設定目標、AI執行」。
根據Anthropic內部統計，截至2026年5月，該公司合併至正式程式碼庫的程式碼中，超過80%可歸因於Claude撰寫；2026年第二季，工程師每日合併的程式碼量也達到2024年的8倍，代表Claude已明顯提高工程產出。但Anthropic也提醒，程式碼行數只能反映產出規模，不能完整衡量實際生產力，仍須考量程式品質、審查負擔、維護成本，以及這些程式碼是否真正解決關鍵問題。
報告也指出，Claude不只會寫程式，也已能執行研究流程中的部分任務，例如修復錯誤、加速實驗程式、測試假設及分析結果。不過，目前人類仍在研究判斷與方向設定上具有優勢，包括決定哪些問題值得研究、哪些結果可信，以及何時應放棄某個方向等。
Anthropic將未來可能出現的情況稱為「遞迴式自我改進」（Recursive Self-Improvement），也就是AI能夠自行設計與改進自己的後繼模型。儘管此一情況尚未發生，亦非必然會發生，但若真的出現，可能成為科技史上的重大轉折，一方面可加速科學與醫療等領域進展，另一方面也可能提高人類失去控制的風險。
基於上述趨勢，Anthropic主張，全球應建立可驗證的協調機制，讓主要前沿AI開發者在必要時具備共同減速或暫停開發的選項。Anthropic強調，單一實驗室片面暫停效果有限，真正有意義的暫停，必須由多個擁有充足資源、接近前沿水準的實驗室共同參與，並能確認彼此確實遵守。
