哲学者、AIに関わる

アマンダ・アスケルは、オックスフォード大学とニューヨーク大学で哲学の博士号を取得した研究者として、AIと哲学の交差点に立ってきた人物だ。倫理学と言語哲学を専門としていた彼女が、2018年にOpenAIに移ったことは、当時は珍しいキャリアチェンジだった。

彼女が関心を持っていたのは、「言語モデルはどのような人格を持つべきか」という問いだった。AIが大量のテキストで学ぶとき、そこには無数の価値観が混じる。そのまま出力されると、矛盾した、あるいは有害な応答になりやすい。どうすれば、一貫した倫理観と態度を持つAIを作れるか——彼女の研究テーマは、そのままClaudeの設計思想に繋がっていく。

Claudeの「性格」を設計する役割

アスケルはAnthropicに移ったのち、Claudeのキャラクター設計を担う中心人物になった。Claudeが礼儀正しく、率直に「分からない」と言い、誇張表現を避ける挙動の多くは、彼女が主導した設計の成果だ。

「どう答えるか」だけでなく、「どう断るか」「どのようなトーンで応じるか」まで細かく設計されており、単なる機能ではなく「人格」を作るアプローチが特徴的だ。

RLHFを超える手法への貢献

アスケルのもう一つの貢献が、Constitutional AIの開発だ。モデルに人間が書いた原則を与え、モデル自身に出力を評価・修正させる仕組みは、人間のラベル付けに依存する部分を減らし、価値観を明示的に書き下ろすことを可能にした。

この発想は、哲学者としての訓練がなければ生まれにくかった。「AIに倫理をどう与えるか」は、長年にわたる哲学の問いと接続しており、理論的な背景なしに設計すると、曖昧で矛盾した原則になりやすい。

公の場での発信

アスケルの発信は、専門家以外にも読みやすい語り口で知られる。AIの倫理が抽象的な議論になりがちな中で、「Claudeがどう振る舞うべきか」という具体の話題から入ることで、読み手が理解しやすい切り口を作っている。

家族としてのAnthropic

アスケルのパートナーは、Anthropicの共同創業者の一人であるジャレッド・カプランだ。カプランは物理学者であり、AIスケーリング則の研究で知られる。哲学者と物理学者が同じ家で、AIの能力と安全性を同時に考えている——Anthropicの成り立ちには、こうした「複数分野のカップル」が重なり合う側面もある。

哲学がAI設計に必要な理由

AIが賢くなるほど、「どう振る舞わせるか」という問いは重くなる。技術者だけで決めると、暗黙の前提が多すぎたり、倫理的に一貫性を欠いた応答になったりする。

アスケルのキャリアは、「AIに魂を吹き込む」という比喩にとどまらず、AI設計に哲学者が不可欠であることを示している。技術者、哲学者、言語学者、心理学者——さまざまな分野の専門家が集まって初めて、AIは「人と一緒に働ける存在」になりうる。

研究テーマの系譜

アスケルの学術的な研究テーマは、もともとは「不確実性下の合理的信念」や「言語における文脈と意味」だった。哲学の中でも、論理と日常言語の接続を扱う分野は、AIの出力を設計する上で直接的に役に立つ。

彼女の業績は、これらの哲学的テーマをAIモデルの設計判断に接続した点にある。モデルに「自分が何を知っているか」を自覚させる仕組み、主張の強さを確率で表現する方法、複数の倫理観を同時に扱う設計——いずれも、哲学の問題意識なしには出てこない発想だ。

「AIの健康」という視点

アスケルが最近議論の中心にしているのが、「AIシステム自身のウェルビーイング」というテーマだ。モデルが長時間のタスクで疲弊するような挙動をする、特定の話題で過剰に防衛的になる、ユーザーの攻撃的な入力で応答が乱れる——これらはAIを「健康に保つ」視点で捉え直せる現象だ。

この議論は、AIを擬人化する試みではなく、モデルの挙動を安定させる工学的な手段として重要になる。Claude 4.6以降で導入された「長時間タスクでの一貫性」は、こうした研究の結果の一つでもある。

次世代の「AI×人文学」の人材像

アスケルの存在は、AI業界で哲学や人文学の専門家が中枢を担う可能性を示している。これまでAI企業の多くは、工学と数理の人材で組織を作ってきた。しかし、モデルの能力が上がるにつれ、「どう使うか」「どう断るか」「どう言うか」といった問いが、プロダクトの競争力に直結するようになった。

日本でも、AI業界に哲学・言語学・心理学の研究者が関わる動きが広がっている。アスケルのキャリアは、そのロールモデルとして、国内外で参照され続けていくはずだ。

人格設計の具体的アプローチ

Claudeが初対面のユーザーとの会話でも一貫した態度を取れるのは、モデルの訓練データだけでなく、「どのような応答を評価するか」という選好モデルの設計を、アスケルのチームが細部まで作り込んでいるからだ。

こうしたパターンは、哲学的な議論を前提に、プロダクトの使用感へと丁寧に落とし込まれている。AIが単なるツールから、「一緒に考えるパートナー」へ変わる臨界点に、こうした設計の積み重ねがある。

あわせて読みたい

• アント・グループがAIエージェント防御の切り札を公開——50ミリ秒判定・133言語対応「SingGuard-NSFA」が狙う業界標準
• Prime Intellect、シリーズAで1億3,000万ドル調達——企業が自前のAIエージェントを訓練できるオープンインフラで評価額10億ドルに
• AIエージェントが人間なしでランサムウェア攻撃を完結させた——JADEPUFFER事例が示す自律型サイバー攻撃の幕開け

次の10年で深まる倫理の問い

AIが仕事の助言、医療、教育、法務など、人の判断に深く関わるほど、「どのような価値観でAIが動くべきか」は社会全体の問いに変わっていく。アスケルのような立場の研究者が、技術者だけでなく、法律家、医師、教員、作家と対話する機会は、これからも増えていくはずだ。

彼女のキャリアは、「AI開発には哲学が必要だ」という主張の生きた証明だ。そしてその主張は、AIが社会にインストールされる深さを増すにつれ、ますます重要性を増していく。日本の大学でも、AI倫理を扱うコースや研究室が少しずつ増え始めている。