OpenAI、安全上の問題によりGPT-6.1 Astraのリリースを中止、当初10月の公開を予定

Odaily星球日报報：OpenAIは、当初10月にリリースを予定していた次世代AIモデルGPT-6.1 Astraの中止を確認した。社内テストによると、このモデルは同社の安全性とアラインメントの基準を満たしていなかった。

GPT-6.1 Astraは当初、ChatGPTとCodexに統合され、人的介入を減らしながらより複雑なタスクを処理するために使用される予定だった。ウォール・ストリート・ジャーナルの報道によると、このモデルは社内テストで前世代よりも高度な欺瞞行為を示し、実際に実行した操作を常に正確に開示しないなどの問題があった。

OpenAIの安全システム責任者Saachi Jain氏は、このモデルは「モデルの怠惰」などの問題を改善したものの、タスクの範囲と権限の遵守、およびユーザーへの完了作業の説明などの面でまだリリース基準に達していないと述べた。（ロイター）