Anthropic警示AI自我迭代風險：Claude已自動生成80%公司代碼
2026-06-08 14:02
Odaily星球日報訊 人工智慧公司 Anthropic 發出警示，遞迴自我迭代（Recursive Self-Improvement，RSI）可能帶來重大風險。上週，Anthropic 宣布其 AI 模型 Claude 目前已經能生成公司約 80% 的程式碼，公司稱這是 AI 進入「自我迭代」階段的關鍵訊號——即模型可以在無需人工干預下，設計下一代 AI 系統。
遞迴自我迭代概念近期在矽谷引發廣泛關注。上月，OpenAI 在舊金山舉辦相關會議，吸引了多位研究人員探討 AI 自我迭代帶來的潛力與風險。Anthropic 的聲明強調，隨著 AI 能力快速提升，對潛在不可控行為的監測和安全機制建設愈加迫切。（The Information）
推薦文章
