ルールが、プロダクトの形を決める

AI規制の話は、長らく「いずれ来るもの」として扱われてきた。

それが今は、プロダクトのリリース時期と提供地域を実際に左右する要因になっている。

三つのレイヤー

法規制。EU AI Actがリスクベースの分類を持ち込み、高リスク用途には適合性評価を求める。違反時の制裁金は売上高に対する比率で設計されており、無視できる規模ではない。

業界の自主規制。フロンティアモデルの公開前評価、レッドチーミング、安全性に関する公約。政府による審査枠組みの議論と並行して、各社の公約が後退しているという指摘もある。監督強化と自主規制の後退が同時に進む、という矛盾した状況が続いている。

企業内ガバナンス。AI利用ポリシー、ログの保持、人間による最終確認。導入する側の企業が整えるべき部分だ。

事業者が見るべき点

規制の全文を読む必要はない。ただし、自社のユースケースがどのリスク区分に落ちるかだけは把握しておいたほうがいい。

採用選考、与信、医療、教育。この四領域は多くの枠組みで高リスクに分類される。ここに触れるプロダクトは、設計段階から説明可能性と記録の要件が乗ってくる。

規制は制約であると同時に、参入障壁でもある。先に整えた側が有利になる領域だ。