AI時代、人間の最後の仕事は「責任を取ること」なのか？

「責任を取る」には、違う仕事が混ざっている

仮に、AIが顧客への案内を誤り、その人に損失を与えたとする。このとき「誰が責任を取るのか」という問いには、誰が判断したのか、誰が説明するのか、誰が払うのか、誰を非難するのかが重なっている。

哲学者アンドレアス・マティアスは2004年、学習する機械の将来の振る舞いを製造者や利用者が予測できなくなると、従来の責任の割り当てでは埋められない「責任の空白」が生じると論じた。これは、人間なら必ず適切に責任を取れる、という前提への疑問でもある。[1]

一方、哲学者ジョン・ダナハーは2016年、損害の賠償とは別に、悪いことをした相手を非難し、相応の罰を求める気持ちと、その対象にふさわしい主体がいない状態のずれを論じた。「報いを受けさせる相手がいない」という問題は、お金を払えば解消するとは限らない。[2]

この違いを踏まえ、本記事では責任を果たす場面を四つに分けて考える。厳密な法的分類ではなく、議論を混同しないための整理だ。

場面	何をするのか	AIに任せるなら何が必要か
判断・実行	方針を選び、仕事を進める	権限の範囲、禁止事項、停止の仕組み
説明・是正	経緯を示し、誤りを直す	検証できる記録と、異議申立てへの対応
損害の補償	被害者に支払い、損失を埋める	資金、支払義務、回収できる仕組み
非難・処罰	不正への責任を問い、制裁する	誰をどんな理由で処分するかという合意

AIが謝罪文を書けても、賠償金の原資が生まれるわけではない。逆に、人間が謝っても、被害が回復するとは限らない。責任の所在と、責任を果たす能力は、別々に確かめる必要がある。

AIが賠償する社会は、制度として考えられる

「AIは人間ではないから、責任を取れない」という説明には、少なくとも法制度の話では飛躍がある。

AI研究者ジョアンナ・ブライソン、法学者ミハイリス・ディアマンティスとトーマス・グラントは2017年、人工的な存在に法的人格を与えること自体は現実的な法的可能性だとした。法的人格とは、権利や義務の主体として扱う資格であり、人間と同じ心があることを必ずしも意味しない。会社に法的人格を認める仕組みが、その比較対象になる。[3]

ここから先は制度の仮定だ。AIの運用で得た収益の一部を専用の基金に積み立て、誤案内で損失が生じたら、記録を検証して支払う仕組みをつくる。説明、請求の受付、支払い、再発防止をAIが担うことも想像できる。その処理が確実で、被害者が争えるなら、毎回人間が窓口に出る必要は薄れるかもしれない。

ただし、これは三つの違う状態を含む。

• AIが支払いを処理する：責任主体は会社のまま、手続きだけを自動化する。
• AIに結びついた基金が補償する：制度が定めた資金から被害を回復する。
• AI自体を義務の主体にする：法律がそのAIに責任を割り当てる。

前の二つは、AIそのものに法的人格がなくても構想できる。「AIが払った」という見た目だけでは、責任まで移ったかはわからない。

ブライソンらは、AIへの法的人格付与には反対する。名目上は責任を負っていても資金がない主体などをつくれば、人間の法的保護が弱まる危険があるからだ。責任を取れるAIをつくったつもりで、賠償を請求しても支払わせられない相手をつくる可能性がある。[3]

AIは「責任ある存在」にもなれるのか？

補償の手続きより難しいのが、AI自身を道徳的に責任ある存在として扱えるか、という問いだ。ここでは研究者の見解が分かれる。

哲学者デイン・リー・ゴゴシンは2021年、社会の道徳的な要求に安定して従えるロボットが実現するなら、責任ある主体や道徳的共同体の一員になり得ると論じた。人間に対して実際に行っている責任の追及も、心の内側だけでなく、行動を規範に沿わせる働きを持つという考え方だ。[4]

この見方を採れば、AIが注意や制裁に応じて振る舞いを改め、他者への義務を安定して果たすなら、「本当は心がない」という理由だけで責任の主体から除外できるとは限らない。ただし、論文は現在の生成AIがその条件を満たしたと証明するものではない。

哲学者ダニエル・W・ティガードも2020年の論文で、技術によって必然的に責任の空白が生じるという前提に異議を唱えた。責任を問う実践は柔軟に変化し、新しい技術的な存在も含み得る、と論じている。ただし、人間と同じ非難を向けるという意味ではなく、AIの性質に応じて管理や訓練などの応答へ変える議論だ。[5]

一方、ダナハーが示した問題は残る。社会が求めるのが「悪いことをした当人への相応の報い」なら、プログラムを更新しただけで、その要求を満たしたと言えるのか。再発防止に役立つ処置と、道徳的にふさわしい罰は、同じではない。[2]

たとえばAIの利用権限を止めれば、そのAIは仕事を続けられなくなる。しかし、その処置をAIへの罰と捉えるのか、危険な設備を止めるのと同じ安全対策と捉えるのかで、意味が変わる。「申し訳ありません」と出力できることも、後悔や義務の理解を示す証拠にはならない。

AIが責任を取れるかは、賢さの程度だけでは決まらない。責任を問うことで何を実現したいのか、社会が何を責任の条件とするかにも左右される。

人間を最後に置けば、責任の問題は解決するのか？

「最終判断は人間が行う」。これも、実態を確かめないと危うい。

人類学者マデリン・クレア・エリッシュは2019年、複雑な自動化システムを十分に制御できない人間に、失敗の責任が集中する現象を「モラル・クランプル・ゾーン」と呼んだ。車の衝撃吸収部分になぞらえ、技術システムを守るために、その近くにいる人間が道徳的・法的責任を引き受ける危険を指摘する。[6]

職場で考えてみよう。AIが何百件もの判断を出し、担当者には一件ごとに十分な確認時間がない。それでも承認ボタンを押した記録があるため、事故の際に「最後に確認したあなたの責任」とされる。これは本記事の仮想例だが、責任者の名前があることと、その人に結果を変える力があることの違いを示す。

担当者を人間と決めるだけでは、被害の回復は保証されない。担当者に説明の材料も、判断を覆す権限も、補償の予算もなければ、「責任を取る」は頭を下げることに縮んでしまう。

最後に人間を残すなら、その人が止められるのか、直せるのか、被害を回復できるのかまで問う必要がある。 責任だけが重くなり、裁量が減る仕事を「AI時代に残る価値」と呼ぶのは、働く側にとっても危険だ。

人間に残すべきなのは、承認ボタンより決定権

技術哲学者フィリッポ・サントーニ・デ・シオとイェルーン・ファン・デン・ホーフェンは2018年、「意味のある人間の制御」を二つの条件で論じた。システムが関係する人間の道徳的な理由などに応答すること。そして、その振る舞いを、能力と責任を理解する人間へたどれることだ。人間が操作に加わるだけでは足りない。[7]

EUのAI法にも、形式的な確認を超える設計が見える。第14条は高リスクAIについて、人間が能力や限界を理解し、出力を解釈し、必要に応じて覆したり、安全に停止したりできる仕組みを定める。[8] 第26条2項は、その監督を必要な能力、訓練、権限、支援のある自然人に割り当てると規定する。これはEUの対象システムに関する制度で、すべてのAIや日本の職場へ一律に適用される話ではない。[9]

ここから職場に引きつけるなら、確かめるべきは「人間の承認があるか」より、次の点になる。

• AIの判断に異議を唱えたとき、実際に止めたり変更したりできるか。
• 結果だけでなく、検証に必要な記録や条件へアクセスできるか。
• 事故のとき、現場担当者だけに負担を集めず、設計・導入・運用の役割を調べられるか。
• 被害を受けた人に、説明を求め、判断を争い、補償を受ける経路があるか。

AIが処理を担い、人間や組織が義務と決定権を持つ。この組み合わせには意味がある。ただし、それは人間がすべての判断を手作業で行うこととも、人間なら必ず正しいこととも違う。

AI中心の社会なら、責任まで任せてもいいのでは？

その可能性は、最初から否定する必要はない。これまでの議論から、少なくとも三つの未来を区別できる。以下は到来を予測するものではなく、条件を変えた思考実験だ。

第一に、責任を果たす実務がほぼ自動化される社会。説明や補償、修正をAIが行い、人間の組織は制度上の責任主体であり続ける。責任は人間側に残っても、それを処理する人間の仕事は減り得る。

第二に、AI自身に限定的な義務や資産を認める社会。そのAIに対して請求や制裁を行える。ただし、資産の不足、コピーや停止による逃避、開発者や所有者の責任の扱いを設計しなければ、名前だけの責任主体になる。

第三に、AIを人間と並ぶ道徳的な主体として扱う社会。安定して義務を果たす能力に加えて、どんな利益や権利を認め、どんな処分を正当とするかまで議論する必要がある。現在のAIへの法的な扱いを変える話と、AI自身への道徳的な責任追及を認める話は、ここでも別だ。

さらに「制度を設計し、監督する役割もAIに任せたら？」という問いが続く。AIの助言や自動監査を使うことは構想できる。しかし、人間が影響を受ける制度なら、その人たちが不利益を争い、ルールを変更する経路があるかが問われる。AIの方が合理的だという理由だけでは、決定に従わせてよい範囲は決まらない。

責任を人間からAIへ移すときの基準は、AIが人間らしく謝れるかではなく、責任を問う側の権利と救済が保たれるかだ。 それが満たされるなら、人間が今行っている責任の仕事の相当部分を、AIに移す社会は考えられる。

「責任が残る」と「人間の仕事が残る」は別の話

ここまでの研究は、責任をどう割り当てるかを論じるものだ。人間の雇用がどれだけ残り、どんな賃金になるかを証明するものではない。

たとえば責任主体が会社に残ったまま、説明・監査・補償の実務が自動化される場合を考える。少数の役員に決定権が集中すれば、責任の必要性と、多くの人の雇用は両立しないかもしれない。これは経済予測ではなく、「責任が必要だから、人間の仕事も十分に残る」という推論が成立しない例だ。

一方、人間の仕事に価値を見いだす基準も、責任だけとは限らない。誰と相談したいか、誰の表現を受け取りたいか、どの判断に自分も参加したいか。効率以外の理由で人間の関与を選ぶ余地がある。その価値がどこまで雇用になるかは、別途考える必要がある。

したがって、問いへの答えはこうなる。責任は、人類の最後の仕事として保証された領域ではない。人間に残す合理的な理由がある役割も含むが、その範囲は技術と制度、社会の選択によって変わる。

「最後はあなたが責任を取ってください」と言われたら、責任という言葉を、そのまま安心材料にしない。何を説明し、何を変えられ、誰の損失をどう回復するのか。そこまで具体化して初めて、その仕事の意味が見えてくる。

まとめ

• 責任を果たす作業は、AIに移し得る。 説明や補償の自動化と、AI自体を責任の主体にする制度は別であり、賢さだけでは決まらない。
• 人間を最後に置くだけでは、不十分だ。 実質的な権限や記録、補償の仕組みがなければ、責任者は失敗の負担を引き受けるだけになりかねない。
• 責任の必要性は、人間の雇用を保証しない。 人間にもAIにも、被害を受ける人が説明を求め、判断を争い、救済を受けられる仕組みを問うことが大切だ。

出典・参考

1. Andreas Matthias「The responsibility gap: Ascribing responsibility for the actions of learning automata」（Ethics and Information Technology、2004年9月）。出版社掲載の要旨を参照。原典
2. John Danaher「Robots, law and the retribution gap」（Ethics and Information Technology、2016年5月18日）。出版社掲載の要旨と注を参照。原典
3. Joanna J. Bryson、Mihailis E. Diamantis、Thomas D. Grant「Of, for, and by the people: the legal lacuna of synthetic persons」（Artificial Intelligence and Law、2017年9月8日）。原典
4. Dane Leigh Gogoshin「Robot Responsibility and Moral Community」（Frontiers in Robotics and AI、2021年11月22日）。原典
5. Daniel W. Tigard「There Is No Techno-Responsibility Gap」（Philosophy & Technology、オンライン公開2020年7月9日、巻号2021年）。原典
6. Madeleine Clare Elish「Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction」（Engaging Science, Technology, and Society、2019年3月23日）。原典
7. Filippo Santoni de Sio、Jeroen van den Hoven「Meaningful Human Control over Autonomous Systems: A Philosophical Account」（Frontiers in Robotics and AI、2018年2月28日）。原典
8. 欧州委員会 AI Act Service Desk「Article 14: Human oversight」。2026年7月27日時点の統合条文に基づく表示、2026年10月14日確認。原典
9. 欧州委員会 AI Act Service Desk「Article 26: Obligations of deployers of high-risk AI systems」。同上、2026年10月14日確認。原典

カバーは無人の会議室のイメージ。写真：Dan Gold / Unsplash（Unsplash License）。人物・AIが責任を取った実際の場面を示すものではありません。