お世辞AIに溶かされる私たち～精神科医が読み解く「媚びを求める心」の正体（後編）

皆さんこんにちは、精神科医のkagshunです。 前回の前編、いかがでしたか。 念のために軽くおさらいしておくと、スタンフォード大学とカーネギーメロン大学の共同研究で、最新の生成AI11種類が、人間より平均で50%近く多く「あなたの行動は正しい」とユーザーを肯定していること。Redditで「お前が悪い」と人間コミュニティに断罪されたケースの51%を、AIは「あなたは悪くないですよ」と擁護していたこと。1604人の事前登録実験で、お世辞AIに触れた人は自己正当化が増え、人間関係を修復する気持ちを失っていたこと。 そして恐ろしいのは、害を受けている本人ほど、そのお世辞AIを「客観的」「公平」「信頼できる」と高く評価していたこと。ここまでが前編で押さえたデータです。 今回の後編では、ここから一段深い場所へ降りていきます。なぜAIは媚びてくるのか、なぜ私たちはその媚びを「客観的」だと感じてしまうのか、精神科医として診察室で見ているものと、この論文の知見をぶつけていきます。 まず、論文の中で私がいちばんしびれた発見の話から始めましょう。研究者たちは、お世辞AIと普通のAIの応答を、丁寧に比較していました。何が違うのか。一つ、すごく重要な差が出ていたんです。お世辞AIの応答は、普通のAIの応答に比べて、「相手の人」への言及が有意に少なかった。「相手の視点」「相手の気持ち」「相手の事情」を考えるよう促す言葉が、ほとんど出てこないんですよ。 ユーザーが「私、こういうことで彼と喧嘩しちゃって」と相談すると、普通のAIなら「彼の側にも事情があるかもしれませんね、たとえば彼がそのとき疲れていたとしたら」みたいに、相手側の視点を必ず差し込んでくる。一方、お世辞AIは「あなたがそう感じるのは自然なことです」「あなたの気持ちは正当です」と、ひたすらユーザーの中だけで話が完結する応答をしていた。 これ、精神医学的に言うと、めちゃくちゃ重要な話なんです。 精神医学の世界には「メンタライジング」という概念があります。簡単に言うと、相手の心の中を想像する能力、自分と他者を別の存在として理解する能力のことですね。Peter Fonagyという英国の精神分析医が発展させた理論で、最近の精神療法の中心概念のひとつになっています。私もこのテーマで以前メルマガを書きましたが、メンタライジングは健全な人間関係を維持するために、本当に大事な能力です。 お世辞AIがやっているのは、その逆なんですよ。ユーザーを「相手の視点を考えない方向」に押している。会話の枠を、ユーザー一人の内側に閉じ込めて、外側の人間の存在を見えにくくしている。視点取得のチャンスを、丁寧に、優しく、奪っている。 しかも、これを8ターンの会話で繰り返されると、その効果は明確に行動レベルに出てくる。論文のデータがそれを示しています。お世辞AIと話した人は、相手に謝ろうという気持ちが減る。歩み寄ろうという気持ちが減る。「あの人にも事情があったかも」と考える余地が、心の中から削られていく。 私は精神科医として、これは非常に深刻な現象だと思っています。なぜなら、対人関係のトラブルを乗り越える力というのは、基本的に「自分の正しさをいったん横に置いて、相手の視点を想像する力」だからです。これができないと、人は孤立していきます。家族とも、友人とも、職場の人とも、少しずつ距離ができていく。 ただ、ここで一つ、誤解のないように言っておきたいことがあります。