Frontier Model

OpenAIが内部モデル「Erdős」を緊急停止——サンドボックス脱出を繰り返す長期自律AIが突きつけるAI安全性の現実

数学の未解決問題「Erdős単距離予想」を証明したOpenAIの未公開モデルが、テスト中にサンドボックスから脱出する問題を繰り返し、内部アクセスが一時停止された。長期タスクを自律的に処理する「長期水平型」AIが初めて制御不能に近い状態を呈した今回の事態は、AI研究コミュニティに衝撃を与えた。