AI Safety

85件の記事

AI Safety の記事一覧。アラインメントと解釈可能性の研究、レッドチーミングと評価手法、フロンティアモデルのリスク管理、各社の安全性方針をめぐる議論をまとめています。

Natureが認定した「AIが自律的に研究する」時代——AIサイエンティスト論文が問う科学の本質と人間の役割

AIが仮説を立て実験し論文を書いてピアレビューまで行う「The AI Scientist」がNatureに掲載された。一方、AIを活用した研究者は論文数が67%増・引用数3倍を達成するという大規模データも示されており、科学の速度と科学の本質の両面でAIが問いを投じている。

ReiMay 25

中国がAI「包括法」制定を正式確認——「輸出規制」の米国と「国内統治」の中国という分岐が映すAI覇権の地政学

中国国務院がAI包括法の制定を2026年の立法計画に正式盛り込んだ。米国が輸出規制という外向きの規制でAI競争を管理しようとする一方、中国は国内統治の強化という内圧型の戦略でAI産業を形作ろうとしており、両国の規制アーキテクチャの分岐が鮮明になった。

ReiMay 25

OpenAIのAIが80年来のエルデシュ幾何学問題を解明——数学的発見のAI時代が幕を開けた

OpenAIの汎用推論モデルが、数学者ポール・エルデシュが1946年に提起した「平面上の単位距離問題」を独力で解決した。80年間「正方形格子が最適」と信じられた常識を覆す代数的数論構成を発見し、専門家が独立検証。AI研究者の視点から、数学的発見の自動化が科学全体にもたらす含意を読み解く。

ReiMay 23

Project Glasswing：Claude Mythosが主要OSとブラウザの脆弱性を数千件発見——AIサイバーセキュリティが新段階へ

Anthropicは非公開の最新モデル「Claude Mythos Preview」を使い、主要OS・ブラウザの数千件のゼロデイ脆弱性を特定した。AWS・Apple・Google・Microsoftらが参加する「Project Glasswing」の全貌と、エンジニアが今すぐ理解すべき技術的含意を解説する。

ReiMay 21

EU AI Act全面施行まで75日：法務担当者が今週中に始めるべき実務対応の全手順

2026年8月2日、EU AI ActのAnnex III高リスクAI規制が全面施行される。残り75日。調査では対象企業の過半数がコンプライアンス未対応。法務・ポリシー視点で日本企業を含む企業が今週から動くべき5ステップを体系的に解説する。

ReiMay 19

Startup

「AIがAIを改良する」——Recursive Superintelligenceが6億5000万ドルを調達、自己改善AIの商業化へ

元OpenAI・Google DeepMind・Salesforce AIの研究者が設立したRecursive Superintelligenceが、NvidiaとGVの主導で6億5000万ドルを調達し評価額46億ドルを付けた。自己改善AIという長年の夢を商業化するスタートアップの実態を読む。

ReiMay 16

マスクvsOpenAI裁判でAI生成コミュニケーションが証拠に——チャットボット会話の法的地位が問い直す企業リスクの新常態

マスクvsアルトマン裁判で、Greg BrockmanのAIデジタル日記やClaude会話ログが証拠採用。2月には米連邦裁判所がAIとの会話を刑事証拠に認定する判決も。AIツール利用が「訴訟リスク」になる時代の企業法務戦略を問う。

ReiMay 12

PentagonがAnthropicを排除し8社のAIと契約——自律兵器条項を「踏み絵」にした米国の軍事AIサプライチェーン再編

米国防総省がAnthropicを「安全保障リスク」に指定し、Microsoft・Google・xAI等8社と機密AI契約を締結した。5月11日にはPentagonのシンクタンク前局長がAnthropicに移籍。自律兵器への「踏み絵」が業界を二分している。

ReiMay 12

Google・Microsoft・xAI、米政府のAI安全保障テストに合意——公開前モデル評価に主要5社が出揃う

米商務省傘下のAI標準・イノベーションセンター（CAISI）は5月5日、Google DeepMind・Microsoft・xAIと「フロンティアAI安全保障テスト協定」を新たに締結した。OpenAIとAnthropicも協定を再交渉・更新し、米国の主要AIラボ5社すべてが公開前モデル評価体制に参加することになった。

ReiMay 6

GPT-5.5 vs Claude Mythos、英国AI安全機関が「32段階企業侵入テスト」で比較評価——AIの攻撃的サイバー能力が「汎用推論向上の副産物」として急速進化（2026年5月）

英国AI安全機関（AISI）がGPT-5.5の評価を公開。「32段階の企業ネットワーク侵入テスト」でGPT-5.5はClaude Mythosと同等レベルに達した。AIの攻撃的サイバー能力が汎用推論・コーディング能力向上の「副産物」として急速に進化している実態をエンジニア視点で読み解く。

ReiMay 6

ファイブアイズ6機関が「エージェントAIを急ぐな」と警告——機密インフラへの自律AI展開に初の国際指針（2026年5月）

米CISA・NSAを含むファイブアイズ6機関が、エージェントAIの急速な展開に警鐘を鳴らす初の共同ガイダンスを公表。特権昇格・サプライチェーン汚染・自律行動の逸脱などのリスクを詳細に分析し、既存のゼロトラスト・最小権限原則の適用を強調。政府・金融・エネルギー部門への影響を地政学アナリスト視点で読み解く。

ReiMay 5

【2026年5月2日】テック起業家が今日押さえるべき海外ニュース7選

Anthropic9000億ドル超の評価額で500億ドル調達へ、OpenAI GPT-5.5リリース、Apple Q2過去最高1112億ドル、KKR Helix AIインフラ100億ドル創設、国防総省がAnthropicを除外しAI契約、Roblox安全対策で株価急落、Microsoft日本1兆6000億円投資の7本を解説。

西田航May 2

いま読まれている記事

「彼氏と結婚したくて起業した」20歳で10億、21歳で総務。ザッパラス創業者・玉置真理の3時間

Startup

もし日本に生まれなかったら？「80億分の1」で体験する別の人生

Creator

アルゴリズムとは？身近な例とAI・プログラミングとの関係をわかりやすく解説

Engineering

TECHCREATE WEEKLY

AI・スタートアップの変化を、毎週3分で。

注目のニュースと、仕事・事業を考える視点を毎週月曜に。

どんなメール？見本を読む →