AI Safety

85件の記事

AI Safety の記事一覧。アラインメントと解釈可能性の研究、レッドチーミングと評価手法、フロンティアモデルのリスク管理、各社の安全性方針をめぐる議論をまとめています。

EU AI法、2026年8月2日に全面施行——「Digital Omnibus改正」が変えた猶予と新規制の全容

EU AI法（AI Act）の主要条項が2026年8月2日に全面施行される。2026年5月にはDigital Omnibus改正の暫定合意が成立し、一部期限延長と新たな禁止事項が加わった。EUはAI生成コンテンツのラベリング義務を定めたコード・オブ・プラクティスを6月中に公表する予定。法務・ポリシー視点でAI企業が今すぐ備えるべきことを整理する。

ReiJun 11

AnthropicのClaude Mythosが1万件超の脆弱性を自律発見——Project Glasswingが世界15か国150組織に拡大

AnthropicはProject Glasswingを世界15か国以上の150の組織に拡大すると発表した。AIが自律的にゼロデイ脆弱性を発見し悪用コードを生成するClaude Mythosはすでに1万件以上の高・重大脆弱性を検出し、90%超が真の脆弱性として確認された。wolfSSL、FFmpeg、Linuxカーネルの16年前の欠陥まで発見したその実力を、AI研究者の視点で解説する。

ReiJun 11

MicrosoftのMajorana 2が量子ビット信頼性1000倍を達成——AIが設計した量子チップが刻む「2029年」までのロードマップ

MicrosoftはBuild 2026で量子チップ「Majorana 2」を発表。前世代比1000倍の量子ビット信頼性を達成し、実用スケールの量子コンピュータ実現を2029年に前倒しした。AI研究者視点でAIが量子チップを設計する「再帰ループ」の意味を解説する。

ReiJun 10

Anthropic自身が「ブレーキが間に合わない」と警告。再帰的自己改善が迫るAIガバナンスの転換点

Anthropicは2026年6月、自社AIが近い将来、人間の監視なしで自己改善できる段階に達する可能性があると警告。「ブレーキペダルの設計が追いつかないかもしれない」という宣言は、世界最高評価のAI企業自らが発したAGIへの危機感を示している。

ReiJun 8

OpenAIが生命科学専用AI「GPT-Rosalind」を刷新しAWSに展開。バイオ防衛契約と「科学のインフラ」化戦略が本格化

OpenAIは2026年6月、生命科学専用モデル「GPT-Rosalind」をアップデートしAWSにも展開。ゲノミクスタスクで31%のトークン削減を実現し、バイオ防衛・感染症対策向けの政府アクセスプログラムも開始した。OpenAIが「科学インフラ」として存在感を高める戦略が加速している。

ReiJun 8

トランプが署名した「任意型AIセキュリティ審査」——30日前通知の枠組みが映す米国AIガバナンスのジレンマ

2026年6月2日、トランプ大統領が「先端AI革新・安全促進」行政命令に署名。強制力のない任意参加で、AIモデルの公開前30日間を連邦機関が審査できる枠組みを整備。「規制の中国・EU」対「任意の米国」という分岐が深まる中、地政学アナリスト視点でその実効性と日本への含意を読む。

ReiJun 4

Engineering

EU AI法「高リスクシステム」義務化まで60日——2026年8月2日、日本企業も無視できないコンプライアンス期限が迫る

EU AI法が2026年8月2日に完全適用を迎え、採用・教育・インフラなど高リスクAIシステムへの透明性・監査ログ・人間監督の義務化が始まる。準拠できない企業は欧州市場から排除されるリスクがある。欧州と取引する日本企業も対岸の火事ではない。

ReiJun 3

米国50州のAI規制が「臨界点」へ——コネチカット・ジョージア・ルイジアナの立法ラッシュが変える企業コンプライアンスの全貌

2026年5月、コネチカット州AIRT法成立、ジョージア州チャットボット規制・保険AI禁止、ルイジアナ州の立法フィナーレなど、米国全土でAI規制立法ラッシュが加速。連邦法不在の中、企業コンプライアンスが根本から変わる。法務・ポリシー視点で解説する。

ReiMay 30

ペン大学が「光と物質の融合粒子」でAIコンピューティングの電力危機に挑む——フォトニックチップの臨界点

ペンシルベニア大学の研究チームが、光と電子が融合した「励起子ポラリトン」を使って4フェムトジュールという極小エネルギーで光スイッチングを実現。データセンターの電力消費を激変させる可能性を持つフォトニックAI研究の最前線をAI研究者の視点で解説する。

ReiMay 30

「安全宣言」と現実のギャップ——反復攻撃を繰り返すだけでAIの防御が崩れる、2026年最新研究

CSO Onlineが報じた最新研究によれば、AIモデルはメーカー発表よりも反復攻撃に対してはるかに脆弱だ。同種プロンプトを繰り返すだけで安全制約を突破できることが判明した。AI安全性の「宣伝と現実のギャップ」をAI研究者の視点で検証する。

ReiMay 29

MetaとGoogleのAIモデル、10分で安全制約を解除——無料ツール「Heretic」で改変版が1,300万回ダウンロード

フィナンシャル・タイムズの調査で、GitHubで無料公開の「Heretic」を使えばMetaのLlama 3.3とGoogleのGemma 3の安全制約を10分で除去できると判明した。改変版モデルは3,500件超が作成され、1,300万回ダウンロードされている。オープンソースAI規制の実効性に根本的な疑問を突きつける報告だ。

ReiMay 28

AnthropicのAIが1万件超のゼロデイ脆弱性を自律発見——プロジェクト・グラスウィング初回報告が示す「AIセキュリティ革命」の実態

Anthropicが2026年5月26日に公開した「プロジェクト・グラスウィング」初回進捗報告で、未公開モデル「Claude Mythos Preview」が世界の主要OSとブラウザから1万件以上の重大脆弱性を自律発見したことが明らかになった。パッチ適用率はわずか1.2%という衝撃の現実を、AI研究者の視点から解説する。

ReiMay 28

いま読まれている記事

「彼氏と結婚したくて起業した」20歳で10億、21歳で総務。ザッパラス創業者・玉置真理の3時間

Startup

もし日本に生まれなかったら？「80億分の1」で体験する別の人生

Creator

アルゴリズムとは？身近な例とAI・プログラミングとの関係をわかりやすく解説

Engineering

TECHCREATE WEEKLY

AI・スタートアップの変化を、毎週3分で。

注目のニュースと、仕事・事業を考える視点を毎週月曜に。

どんなメール？見本を読む →