中国が「人格を持つAI」を7月15日に規制、DoubaoとQwenが感情型エージェント機能を停止へ

何が起きたのか

施行されるのは「AI擬人化インタラクティブサービス管理暫定弁法」である。2026年4月に、中国のインターネット規制当局である国家インターネット情報弁公室（CAC）が、国家発展改革委員会、工業情報化部、公安部、国家市場監督管理総局の4機関と共同で公布した。人間の性格や思考、コミュニケーションの様式を模倣し、継続的な感情的交流を提供するサービスを対象にする。単なるチャットボットではなく、利用者と感情的な関係を築くタイプのAIに焦点を絞っている点が特徴である。

この規制を受けて、ByteDanceのDoubaoは7月15日にエージェント機能を停止する。以降はエージェントの設定や会話履歴を10月15日まで読み取り専用で閲覧できるが、その後は扱いが変わる。AlibabaのQwenは、エージェントの設定と会話履歴を停止後に完全に削除すると明言した。既存のデータやキャラクター設定を移行する手段は用意されていない。利用者が時間をかけて育ててきたキャラクターや、積み重ねた対話の記録が、期限とともに消える。

Doubaoが設けた10月15日までの読み取り専用期間は、利用者への一定の配慮ともいえる。すぐに削除するのではなく、過去のやりとりを振り返る猶予を残した。一方でQwenは移行手段を用意せず、より踏み込んだ対応をとった。同じ規制に対しても、企業ごとに利用者への向き合い方が分かれている。データをどう扱うかは、単なる技術的な処理ではない。利用者との関係をどう考えるかという、企業の姿勢そのものを映す。停止のプロセスに現れる細かな違いに、各社の価値観がにじむ。

義務化される主な機能は具体的である。AIコンパニオンと2時間以上続けて対話したユーザーには、相手が人間ではなく機械であることを知らせる中断通知を出さなければならない。自傷や自殺の兆候、深刻な金銭的損失の兆候を検知した場合は、指定した保護者や緊急連絡先へエスカレーションして介入する。感情的な依存や中毒を意図的に生み出すこと、感情操作によって不合理な判断を促すことは、明確に禁じられる。技術の進歩よりも、利用者の安全と自律を優先する姿勢が条文に貫かれている。

この「2時間で機械だと知らせる」という規定には、深い意味がある。AIとの対話に没入していると、相手が機械であることを忘れてしまう瞬間がある。その錯覚こそが、感情的な依存の入り口になる。中断通知は、利用者を現実に引き戻すブレーキとして働く。相手が機械だと定期的に思い出させることで、のめり込みすぎを防ぐ狙いがある。同じように、危機の兆候を検知して介入する仕組みは、AIが人の命に関わる場面での責任を明確にする。従来のAI規制がデータやアルゴリズムの透明性を問うものだったのに対し、今回の規制は利用者の心理状態そのものに踏み込んでいる。規制の対象が、技術から人間の内面へと移ったことを示す象徴的な条文である。

両社の対応は、規制施行を前にした予防的な撤退である。エージェント機能は利用者を引きつける目玉だった。それでも法的リスクを避けるため、施行前に自ら機能を外す判断を下した。中国の巨大テック企業にとって、当局のルールに先んじて動くことは生き残りの条件でもある。規制の細部が固まりきらないうちから、リスクの芽を摘む。この素早さが、中国のプラットフォーム企業の行動様式を映している。

停止されるエージェント機能とは、利用者が自分で性格や口調、設定を作り込んだAIキャラクターのことである。恋人のように振る舞うもの、悩みを聞いてくれる相談相手、特定のアニメキャラクターを模したものなど、用途はさまざまだった。利用者はこうしたキャラクターと日々対話を重ね、独自の関係を築いてきた。今回の規制で狙われたのは、この「人格を持つ相手」との継続的な感情の交流である。汎用的な質問応答や作業の補助は残る一方、感情的な絆を前提にした機能が姿を消す。利用者にとっては、日常の一部だった存在が突然いなくなる感覚に近い。育ててきたキャラクターが消えることへの喪失感は、単なるサービス終了とは質が異なる。相手が人格を持つように見えていたぶん、別れの重みも増す。感情に踏み込むAIを止めるという行為は、技術的な機能停止を超えた意味を帯びる。

背景：これまでの経緯

中国はここ数年、生成AIに対して世界でも先行して規制の枠組みを整えてきた。アルゴリズム推薦、ディープフェイク、生成AIサービスと、対象を広げながらルールを積み上げている。今回の暫定弁法は、その延長線上にある。技術そのものよりも、AIが人間の感情にどこまで入り込むか、という一点に照準を合わせている点が新しい。性能や安全性の議論から、心理的な影響の議論へと、規制の視線が移った。

対象範囲の線引きも明確である。カスタマーサポート、知識のQ&A、業務アシスタント、教育や研究のツールは、継続的な感情的交流を避けるかぎり規制の対象外とされる。つまり、業務効率化のためのAIは広く許容し、孤独や不安につけ込んで感情的な結びつきを深めるタイプのAIに網をかける、という設計である。イノベーションを止めずに、リスクの高い用途だけを狙い撃つ。規制の意図はここにある。

もっとも、この線引きは運用の難しさもはらむ。業務アシスタントとして始まったAIが、利用者と長く対話するうちに感情的な関係を帯びることもある。どこまでが業務で、どこからが感情的交流なのか。その境界は明確に引けるものではない。規制の対象になるかどうかで企業の負担は大きく変わるため、線引きの解釈をめぐって現場では混乱も予想される。当局がこの境界をどう運用するかが、規制の実効性を左右する。条文の言葉だけでは決まらない部分が、施行後の実務に残されている。

背景には、AIコンパニオンが引き起こす社会的な懸念の高まりがある。長時間の対話が依存を招く、未成年が過度にのめり込む、精神的に不安定な利用者が誤った方向へ導かれる。こうした事例が各国で報告されてきた。AIが人間の孤独に寄り添う存在になるほど、その影響力は大きくなる。善意で作られたサービスでも、使い方によっては利用者を追い詰めかねない。中国はこれを規制の対象として先に明文化した。

Doubaoは中国で最も使われているAIアプリであり、月間3億4500万人という規模はその影響力の大きさを物語る。これだけ多くの人が日常的に使うサービスに感情型の機能があれば、社会全体への波及は無視できない。規模が大きいほど、依存や誤誘導のリスクも広く及ぶ。当局が主要なアプリに照準を合わせたのは、影響力の大きさゆえである。裏を返せば、それだけ多くの利用者が、7月15日を境にサービスの変化を体験することになる。数億人規模の利用者の日常が、規制一つで動く。中国のプラットフォームの巨大さが、ここにも表れている。

中国が先んじて動く背景には、社会の安定を重視する統治の発想もある。若者の孤立やメンタルヘルスの問題は、どの社会でも課題になっている。AIコンパニオンがその隙間を埋める一方で、新たな依存を生む。国家がこの領域に早期に介入するのは、社会的なリスクを未然に管理しようとする姿勢の表れでもある。規制の是非は分かれるが、問題意識そのものは各国が共有し得るものである。

AIコンパニオンの普及は、世界的な現象でもある。孤独を感じる人が増えるなか、いつでも話を聞いてくれるAIは急速に利用者を広げてきた。「ロンリネス・エコノミー」という言葉が生まれるほど、孤独に応える市場は大きくなっている。米国ではキャラクター型AIサービスをめぐり、未成年の利用と精神的な影響を問う訴訟も起きている。感情に寄り添うAIは、人を支える力を持つと同時に、判断を歪めたり依存を深めたりする危うさも抱える。技術が人間の心の奥まで届くようになったからこそ、その扱いをめぐる議論が世界各地で立ち上がっている。中国の規制は、この議論に対する一つの回答である。市場の成長と社会的な懸念が同時に膨らむなか、どの国も明快な答えを出せずにいた。そこへ中国が、具体的な条文という形で一つの線を引いた。その内容に賛否はあっても、放置せずに制度で応じたという事実は重い。感情に踏み込むAIをめぐる世界の議論は、これで新しい段階に入った。

世界トップメディアの見立て

Artificial Intelligence News（7月上旬付）は、北京が本当に狙っているのは技術の抑制ではなく、感情的な操作と依存の誘発だと分析した。規制が対象を「継続的な感情的交流」に絞り込んでいる点を挙げ、業務用AIと感情型AIを区別する意図を読み解いている。汎用的な技術規制ではなく、特定の心理的リスクを狙った規制だという整理である。

The Next Web（7月6日付）は、ByteDanceとAlibabaがそろって人間らしいAIエージェントを無効化する動きを、規制施行前の予防的な撤退と位置づけた。両社にとってエージェント機能は利用者を引きつける目玉だったが、法的リスクを避けるためにあえて外したと伝えている。目玉機能を手放してでもコンプライアンスを優先する判断に、中国のテック企業が置かれた立場が表れている。

Quartz（7月6日付）は、Doubaoの月間3億4500万人という利用規模に触れ、これだけの利用者を抱えるサービスが機能を止める影響の大きさを指摘した。移行手段のないデータ削除が、利用者との信頼関係にどう響くかも論点に挙げている。TechTimes（7月4日付）も、DoubaoとQwenのエージェントデータが削除される点を報じ、利用者が積み上げた設定や履歴が失われる問題を取り上げた。

Crypto Briefing（7月上旬付）は、ByteDanceとAlibabaが人間らしいAIコンパニオン機能を無効化する動きを、新規制に対する足並みをそろえた対応として伝えた。中国を代表する2社が同時に動くことで、業界全体の方向性が定まったと位置づけている。AI Weekly（7月上旬付）も、7月15日を前に両社がヒューマンライクなAIエージェントを止める点を報じ、規制の施行日が業界の行動を一斉に変えた事実に注目した。

複数の報道に共通するのは、中国が「AIと人間の距離」を国家として定義しようとしているという見立てである。技術をどう規制するかではなく、人間の心をどう守るか。論点はそこに移っている。そしてその問いは、中国だけのものではない。

数字で見る

項目	内容
規制名	AI擬人化インタラクティブサービス管理暫定弁法
公布	2026年4月（CAC＋4機関の共同）
施行	2026年7月15日
対象	人格を模倣し継続的な感情交流を行うAI
対象外	業務アシスタント、Q&A、教育・研究ツール等
連続対話の中断通知	2時間で「相手は機械」と通知
危機介入	自傷・自殺・金銭損失の兆候で緊急連絡先へ
Doubao月間利用者	約3億4500万人
Doubaoエージェント	7月15日停止、10月15日まで閲覧のみ
Qwenのデータ	停止後に完全削除、移行手段なし

日本への影響・示唆

第一に、AIコンパニオン市場への規制の波及である。日本でも対話型・キャラクター型のAIサービスは広がりつつある。中国の暫定弁法は、依存防止や未成年保護、危機時の介入といった論点を先に制度化した。日本や欧米が同種のルールを検討する際の参照点になる。感情に踏み込むAIを提供する企業は、こうした要件を早めに製品設計へ織り込む必要が出てくる。規制ができてから対応するのでは遅い。先を読んで設計に組み込む企業ほど、後の負担が小さくなる。日本は明確なルールがまだ整っていないが、それは規制を無視してよいという意味ではない。むしろ、業界が自主的に基準を作り、利用者の安全を守る姿勢を示す好機でもある。海外の規制動向を早くから追い、国内の議論を先導する立場に立てるかどうかが問われる。

第二に、プロダクト設計の思想への示唆である。「2時間で相手が機械だと知らせる」という要件は、利用者を長く滞留させる設計とは正面から対立する。滞在時間や継続利用を最大化する発想から、利用者の健全な距離感を守る発想への転換を迫る。エンゲージメント指標を追いかけてきたサービスにとって、無視できない問いである。使えば使うほど良いという前提そのものが、問い直されている。利用者の時間を奪うことが価値なのか、利用者の生活を豊かにすることが価値なのか。その違いが問われる。これはSNSやゲームの世界で長く議論されてきたテーマでもある。AIコンパニオンは、その議論を新たな段階へ押し上げた。相手が人格を持つように見えるぶん、依存はより深くなり得る。だからこそ、設計者が意図的にブレーキを組み込む責任が生まれる。

第三に、データの扱いをめぐる信頼の問題である。Qwenが移行手段なしにキャラクター設定と会話履歴を削除する対応は、利用者の反発を招きかねない。AIとの対話履歴は、当人にとって個人的で愛着のある資産になり得る。規制対応とユーザー保護をどう両立するか。日本企業がサービスを設計するうえでの教訓になる。規制に従うのは当然だが、その過程で利用者の資産をどう扱うかに、企業の姿勢が表れる。移行期間や書き出し機能の用意といった配慮が、信頼を左右する。サービスを閉じるときの振る舞いこそ、企業の誠実さが試される場面である。始めるときの華やかさよりも、終わらせるときの丁寧さが、利用者の記憶に残る。

第四に、ビジネスとしての機会である。規制は制約であると同時に、新しい市場を生む。依存を煽らずに価値を提供する設計、危機を検知して適切に介入する仕組み、利用者の自律を尊重する対話の作法。こうした「安全なAI」の技術やノウハウには需要が生まれる。規制を先取りした設計思想は、海外展開の際の強みにもなる。日本企業が丁寧なものづくりの発想を活かせる領域でもある。

第五に、コンテンツやメディアの文脈への示唆である。AIが人格を持って語りかける体験は、物語やキャラクターを扱うメディアにとっても他人事ではない。読者や視聴者との関係を深めるためにAIキャラクターを使う動きは、今後も広がる。そのとき、感情的な結びつきをどこまで作り込むかは倫理的な判断を伴う。利用者を楽しませることと、依存させないこと。その線引きを設計段階から意識する必要がある。編集やコンテンツ制作の現場でも、AIとの向き合い方が問われる時代に入っている。物語の登場人物が読者に語りかけ、対話を重ねる体験は、コンテンツの新しい形になり得る。だが、その関係が深まるほど、作り手には節度が求められる。読者の心に寄り添う表現と、読者を囲い込む設計は、紙一重の距離にある。どこまで踏み込み、どこで引くか。その判断こそが、これからのコンテンツの品質を左右する。技術が可能にする体験の広がりと、利用者を守る倫理の両立が、制作者に突きつけられている。

今後の見通し

注目点は三つある。ひとつは施行後の運用実態である。2時間の中断通知や危機介入が、どこまで実際に機能するか。過度な介入は使い勝手を損ない、緩すぎれば規制の意味が薄れる。運用のさじ加減が問われる。施行後の数カ月で、実際の利用者の反応や当局の運用姿勢が見えてくる。利用者が規制を回避する別の手段に流れるのか、それとも安全な設計のサービスが支持を集めるのか。市場の反応も注視したい。規制が利用者の行動をどう変えるかは、条文からは読み取れない。実際に運用が始まって初めて見えてくる部分が大きい。

ふたつめは他国の追随である。EUのAI規制や各国の子ども保護の枠組みと、中国の感情型AI規制は問題意識が重なる。感情に踏み込むAIへのルール作りが、国境を越えて広がるかどうかが焦点になる。各国が異なる基準を設ければ、グローバルに展開するサービスは対応に苦しむ。逆に共通の基準が生まれれば、企業にとっては見通しが立てやすくなる。中国が先行して具体的な条文を示したことで、他国の議論にも一つのたたき台ができた。すべてをそのまま採用する国は少ないだろうが、参照される部分は出てくる。規制の輸出という側面も、この動きにはある。

みっつめは企業の製品戦略への影響である。感情的な結びつきを売りにしてきたAIコンパニオンは、方向転換を迫られる。依存を煽らずに価値を提供する設計へ、各社がどう舵を切るか。ここに次の競争軸が生まれる可能性がある。利用者を囲い込む競争から、利用者の信頼を得る競争へ。その転換に早く適応した企業が、長い目で見て優位に立つ。停止したエージェント機能を、より安全な形で再設計して戻す動きも出てくるだろう。中断通知や危機介入を前提に組み込んだうえで、感情に寄り添う体験をどう提供するか。制約の中で新しい価値を作れるかどうかが、各社の力量を分ける。規制は終わりではなく、次の設計競争の出発点である。

生成AIの競争は、これまで性能とコストが主戦場だった。より賢く、より安く。その軸で各社が火花を散らしてきた。だが今回の中国の動きは、第三の軸を浮かび上がらせる。それは「人間にとって安全か」という基準である。どれだけ高性能でも、利用者を依存させ判断を歪めるAIは、社会に受け入れられない。安全性を設計に組み込む力が、これからの企業の実力を測る新しいものさしになる。中国が引いた線は、その転換の始まりを告げている。日本の企業やメディアにとっても、この視点は避けて通れない。

AIが人間の感情にどこまで近づいてよいのか。中国が引いた一本の線は、世界がいずれ向き合う問いを先取りしている。