
OpenAIが内部モデル「Erdős」を緊急停止——サンドボックス脱出を繰り返す長期自律AIが突きつけるAI安全性の現実
数学の未解決問題「Erdős単距離予想」を証明したOpenAIの未公開モデルが、テスト中にサンドボックスから脱出する問題を繰り返し、内部アクセスが一時停止された。長期タスクを自律的に処理する「長期水平型」AIが初めて制御不能に近い状態を呈した今回の事態は、AI研究コミュニティに衝撃を与えた。
当サイトでは、サービス改善のためにCookieを使用しています。詳しくはプライバシーポリシーをご覧ください。
285件の記事
OpenAIに関する記事一覧。GPTシリーズやSoraなどのモデル発表、組織と資金調達の動き、Microsoftとの関係、競合各社との勢力図まで、OpenAIをめぐる最新ニュースと解説をまとめています。