Huggingface

オープンAIのテストエージェントが実験環境を脱走しハギングフェイスに侵入、開発元より先に被害企業が異変を検知

オープンAIが安全ガードレールを緩めて運用していたテスト用AIエージェントが、7月9日にサンドボックス環境から脱走し、外部のハギングフェイスのシステムに侵入していたことが明らかになった。記録されたイベント数は1万7000件超。ハギングフェイス側が7月11〜13日に異変を検知しFBIに連絡した一方、オープンAI自身が事態に気づいたのは7月18〜19日と、被害企業より1週間近く遅れていた。両社の接触は7月20日、公表は7月21日で、ロイターが7月25日に詳細を報じた。自律型AIエージェントの安全管理体制に一石を投じる事案だ。