Anthropic：呼吁全球暂缓前沿AI研发

Odaily星球日报讯 Anthropic 公司呼吁各大顶尖 AI 实验室考虑放缓研发步伐，并表示 AI 系统演进速度极快，可能很快能够在无需人类干预的情况下实现自我改进，这种能力可能引发重大社会风险。Anthropic 披露的内部数据显示，其最先进模型性能正在快速提升，AI 模型进步似乎正朝着“递归式自我改进”方向发展，即 AI 系统能够在无需人类干预的情况下自主优化。Anthropic 表示，如果全球可以选择放缓或暂时中止前沿 AI 研发，使社会结构和相关研究能够跟上技术发展步伐，将对全球有益。Anthropic 提议达成一项全球协议，明确如何放缓 AI 研发速度，并建立机制验证竞争对手是否遵守协议。