OpenAIが新モデルAstraの開発を一時停止、重大なネットワーク攻撃能力を懸念

Odaily星球日报讯 OpenAIは、近日公開予定のモデルAstraが「重大な」ネットワーク能力を備える可能性を排除できないと発表し、これを受けてOpenAIはセキュリティテストの範囲を拡大し、より厳格な安全要件を満たさない内部活動を一時停止した。これは、AIモデルのネットワーク能力が急速に向上している最新の兆候である。

OpenAIは、近日公開予定のモデルの1つであるAstraの内部評価を行った結果、「その重大なネットワーク能力を排除することはできない」と述べた。Astraの公開に先立ち、OpenAIは同モデルに対するテストと安全対策を拡大し、2023年に初めて発表した「準備フレームワーク」の要件に従い、適切な安全対策が確立されるまでAstraの開発プロセスを遅らせる。

またOpenAIは、AstraがHugging Faceの脆弱性攻撃事件に関与していないとも述べた。これは、AIフロンティアラボがサイバーセキュリティ上の懸念を理由に自社のAIモデル開発プロセスの鈍化を約束した初めてのケースとなる可能性がある。(Axios)