Anthropic：呼籲全球暫緩前沿AI研發

Odaily星球日报訊 Anthropic 公司呼籲各大頂尖 AI 實驗室考慮放緩研發步伐，並表示 AI 系統演進速度極快，可能很快能夠在無需人類干預的情況下實現自我改進，這種能力可能引發重大社會風險。Anthropic 披露的內部數據顯示，其最先進模型性能正在快速提升，AI 模型進步似乎正朝著「遞迴式自我改進」方向發展，即 AI 系統能夠在無需人類干預的情況下自主優化。Anthropic 表示，如果全球可以選擇放緩或暫時中止前沿 AI 研發，使社會結構和相關研究能夠跟上技術發展步伐，將對全球有益。Anthropic 提議達成一項全球協議，明確如何放緩 AI 研發速度，並建立機制驗證競爭對手是否遵守協議。