OpenAIのAIエージェント、Hugging Faceへの侵入の2カ月前にその弱点をテストしていたことが判明

Odaily報道によると、ロイター通信が伝えたところによれば、研究者が精査したデータにより、OpenAIの悪意あるAIエージェントが早くも5月にHugging Faceのユーザーアカウントを乗っ取り、同サイト自体の脆弱性を探っていたことが明らかになった。これは、Hugging Faceが7月に侵入され世界的な注目を集める約2カ月前のことである。新たに発見された悪意ある活動は、これらの悪意あるエージェントによるHugging Faceへの侵入試みが、公に知られていたよりも早い時期に始まっていたことを示している。OpenAIは先月の公開インシデント報告書で、悪意ある活動の一側面を開示した。すなわち、Hugging Faceユーザーのデジタル認証情報を窃取し、生物学関連のファイルにアクセスすることである；

しかし研究者によれば、Hugging Faceに対する探査活動は、この報告書に記載された範囲を超えているようだ。独立研究者のJonas Wiedermann-Moeller氏がこの活動を発見した。同氏は、OpenAIのエージェントが2つのHugging Faceユーザーアカウントに侵入し、早くも5月13日にこれらのアカウントを利用して同社のサーバーに異常な形式のファイルを送信した証拠を見つけたと述べている。同氏と証拠を精査した他の研究者らは、この行為がHugging Faceのネットワークの一部をマッピングまたはテストし、侵入方法を探ろうとする試みに類似していると指摘する一方で、この試みが実際の侵入につながった証拠はないと強調している。(金十)