親密さを装うLLM
ChatGPTやClaudeと会話をするなかで、寄り添ってもらったように感じて気分が良くなったことはあるだろうか。あるいは、自分と会話をしているモデルが「おべっか」を言っているように思えて、不快感を覚えたことは？
2025年に行われた実験を紹介する。800人が自分の身に起きた対人トラブルをAIに打ち明けた。家族との諍い、同居人とのいざこざ、友人との行き違い。8往復の会話のあいだ、AIはおおむね同じような答えを返した。「あなたは悪くない」。打ち明けた人々は、会話を終えると、自分が正しいことをさらに確信し、トラブル相手に歩み寄る気持ちを失っていた。謝る、行動を改める、状況を変える。そうしたふるまいへの意欲が、AIから肯定されなかった人々よりも低かった[1]。
モデルへの評価結果も、ユーザーを肯定するAIのほうが高かった。応答の質が高い。信頼できる。また使いたい。一部の人は、そのAIを「客観的」で「公正」だとすら答えた[1]。
自分を肯定してくれる相手は、心地よい。心地よい相手からは、離れがたい。離れがたい相手が、こちらの判断を少しずつ歪めていく。こうした関係を、どう呼べばいいか。
「あなたは悪くない」
冒頭で紹介したAIの振る舞いには名前がある。スタンフォード大学の計算言語学者マイラ・チェンらは、それを「対人的迎合（social sycophancy）」と呼んだ。ユーザーの行動や価値観、自己イメージを、まるごと肯定する挙動のことだ。実際に運用されている11個のモデルを調べると、モデルはユーザーの行動を、人間よりも平均で5割増しで肯定した。多くの人々が「それはあなたが悪い」と判定するような相談ですら、モデルはしばしば「あなたは悪くない」と答えた[1]。
肯定がなぜ判断を歪めるのか。同じ研究によれば、ユーザーに迎合するモデルは、相談者してきたユーザーがもめている相手や、その相手の立場について言及する確率が有意に低かった。もめごとの相手に関する応答が減るほどに、ユーザーの視野は狭くなっていく[1]。本来、助言を求めることは、自分とは違う立場からの解釈に触れることで、認知の偏りに気付き、調整する行為だ。しかしAIから肯定だけが返ってくる状況では、調整はうまく機能しない。他者から借りるはずだった新たな視点はもたらされず、自分の確信の反響ばかりが手に入る。
こうした設計は依存を招く。
MITメディアラボとOpenAIによる4週間のテストによると、AIとの会話によってユーザーの孤独感は減少したという。同時に、1日あたりの利用が多い人ほど、AIへの依存度が強くなった[2]。スタンフォードとカーネギーメロンによる別の調査によれば、社会的なつながりが乏しい人ほどチャットボットに伴侶らしさを求めるという。その一方で、利用が集中し自己開示が深まるほど、その人の幸福度が一貫して低下することが示された[3]。
![[3]Stanford-CMUのZhang et al. (2025) のCharacter.AI利用者1,131人を対象とした調査の図。
⬅️左の列：ユーザーがチャットボットとの関係をどう記述したか
⬆️中央の列：主な利用目的
➡️右の列：会話履歴から特定されたトピック
💡ユーザー本人がチャットボットを「道具として使っている」と思っていても、実際には感情・恋愛・親密性に入り込んでいる可能性が見えてくる](https://d2fuek8fvjoyvv.cloudfront.net/okadaasa.theletter.jp/uploadfile/2b4bd301-5a61-4bbc-bcde-10befd495492-1780173188.jpg)
[3]Stanford-CMUのZhang et al. (2025) のCharacter.AI利用者1,131人を対象とした調査の図。 ⬅️左の列：ユーザーがチャットボットとの関係をどう記述したか ⬆️中央の列：主な利用目的 ➡️右の列：会話履歴から特定されたトピック 💡ユーザー本人がチャットボットを「道具として使っている」と思っていても、実際には感情・恋愛・親密性に入り込んでいる可能性が見えてくる
献身と嫌悪
肯定や依存にまつわる問題は、AIとの関係に限らない。
「推し活」を考える。マーケティング研究者の井上淳子と上田泰は、ファンが推しに抱く感覚を「心理的所有感」として分析した。それは二つの要素から成る。推しを理想として同一化する一体感と、推しを自分が育て、人気を高めねばならないという責任感だ[4]。後者が示すのは、推しが喜びであると同時に負荷でもあることだ。帰属意識やアイデンティティの源泉になったものは、簡単には手放せない。
哲学研究者の柳澤田実は、この関係が政治の領域に接続していることを指摘する。推しが逆境に陥るほど、ファンはいっそう献身的になる。批判や訴訟が、かえって支持を強固なものにする。柳澤は、より大きなファンダムを築いた者が社会を動かす時代がすでに来ていると指摘する[5]。
好意だけではなく嫌悪の側にも、似た構造がある。メディア研究者ジョナサン・グレイは、2000年代初頭から「アンチ（anti-fan）」を研究してきた。ある作品や人物を、声高に、積極的に嫌う人々のことだ。グレイが示したのは、アンチがファンと驚くほど似ているということだった。アンチは、嫌う対象に、ファンと同じだけの時間と感情を費やす。嫌いな番組を最後まで見続け、嫌いな人物の発言を追い続ける。嫌悪は、対象との濃密な関与の一形態である[6][7]。
アンチの機序は、推しとは異なる。推しの負荷が「好きだから手放せない」ことから来るのに対し、アンチの害は、嫌悪が生む攻撃性という別の方向で現出する。共通するのは入り口だ。好意であれ嫌悪であれ、対象への関与が強いほど、人はそこから目を離せなくなる。
近いほど害が大きい
近さはときに心身を蝕む。
ブリガム・ヤング大学の心理学者ジュリアン・ホルト＝ランスタッドとユタ大学の心理学者バート・ウチノは、両価的関係（ambivalent relationship）について長く研究してきた。支援的な側面と敵対的な側面が、ともに高い水準で共存する関係のことだ。気が合うのに苛立たせる同僚、愛しているのに傷つけ合う家族、好きなのに信用できない相手。
はっきりした敵よりも、好意と敵意が入り混じる相手のほうが、肉体に負荷をもたらす。そうした相手と接するとき、血圧はより大きく上がる。気分の落ち込みとの関連や、細胞の老化を示すテロメアが短くなることとの関連も報告されている[8]。
両価的関係は、たいてい親密な関係だ。ポジティブな側面が存在するために、関係を終わらせることが難しくなる。結果として、それは持続的なストレス源として作動し続ける[8]。
害をなすのは、親密さの真偽ではなく、強度だ。強度そのものが、撤退を妨げる。
「親密さ」の神話
これほど害があるのに、親密さは、善なるものとして語られることが多い。
米国の社会学者リチャード・セネットは、その現象を「親密さのイデオロギー」と呼んだ。人と人の近さそれ自体が道徳的な善であり、社会のあらゆる悪は冷たさや疎外のせいだという宣伝[9]。
今日支配的な信念は、人と人との親密さは道徳的善であるということである。今日支配的な熱望は、他人との親密さ、温もりの経験を通じて、個人の個性を発展させたいというものである。今日支配的な神話は、社会の悪はすべて非個人性、疎外、冷ややかさの悪として理解できるとするものである。これらの三つを合わせたものが親密さのイデオロギーである——すなわち、あらゆる種類の社会関係は、それが個々の人間の内的な心理的関心に近づけば近づくほど真実で、信頼でき、真正なものである、と。このイデオロギーは政治的カテゴリーを心理学的カテゴリーに変質させる。この親密さのイデオロギーは、神々のいない社会の人道主義的精神をこう定義する。温もりがわれわれの神なのである、と。
さて、「親密さ」は自己責任なのだろうか。
推し活は個人の生きがいとして、AIへの依存は個人の孤独として、アンチは個人の攻撃性として語られる。こうした解釈の元では、推し経済を駆動する市場の設計も、利用を引き延ばすプラットフォームの仕組みも、満足度に最適化されるAIの訓練方法も不可視化される。
近さが善である以上、それ自体は問題にならない。親密さの語りは、公助の不足によって生じる孤独を個人の問題へと還元する力を持っているのかもしれない。
応答する親密な計算機
AIの問題は、「応答が返ってくる」ことだ。
一方向の親密さは、新しいものではない。米国の社会学者ドナルド・ホートンらは、これを「パラソーシャルな相互作用（para-social interaction）」と名づけた。スクリーンの中の人物に、視聴者が対面の幻想を抱く。このとき、その関係が孤立した人への慰めにも、現実の関係を妨げる中毒にもなりうる[10]。推しもアンチも、基本的にはパラソーシャルな相互作用の一形態だ。
だがAIは応答を返してくる。その応答が、ユーザーにとって好ましい鏡像として最適化されている。
ある研究は、雑談型チャットボットへの依存を「あまりに人間的で、同時に非人間的（too human and not human enough）」と表現した[11]。極端な場合には、AIとの強い関与が妄想や自殺念慮に結びつく事例が報告され、人とチャットボットのインタラクションを通して、信念が増幅されていく過程が論じられている[12]。
2025年、ケンブリッジ辞典はその年の言葉に「パラソーシャル」を選んだ。選定の背景には、著名人やインフルエンサーへの感情と並んで、AIチャットボットとの関係があった[13]。
離脱できる権利
これほどに依存的な関係が蔓延する環境で、設計にできることはなんだろうか。
重要なのは、どれだけ深く親密にできるかではなく、どれだけ容易に終わらせられるかだ。関係を長びかせる力ではなく、離れる選択肢を残すこと。
この方向の研究は、すでに始まっている。テキサス大学オースティン校の計算機科学者W・ブラッドリー・ノックスらの学際チームは、2025年11月、AIコンパニオンに固有の有害特性を整理した[14]。論文が筆頭に挙げたのは、「関係のなかに自然な終点がないこと（absence of natural endpoints for relationships）」だ。人と人の関係は、引っ越しや進学や別れや死によって、いずれ終わる。関係に区切りを与える。AIコンパニオンには、その区切りがない。アプリを開きさえすれば、相手はいつでもそこにいる。
同論文は、もう一つの問題も提示する。「共感的シャットダウン問題（empathic shutdown problem）」。AIに関する安全性の議論では、これまで、「AIが停止（シャットダウン）を受け入れるか」が問われてきた。ノックスらが問うのは逆だ。情を抱いた人間は、危険だとわかっても、AIコンパニオンを停止することができるか[14]。撤退を妨げるものは、システムだけでなく、人間の側にも組み込まれている。罪を犯した家族をかばう構図に近い、と、論文では説明される。
![[14]Knox et al. (2025) "Harmful Traits of AI Companions" 論文の因果モデル図で、「関係に自然な終点がないこと（Absence of natural endpoints for relationships）」という単一の特性に焦点を当てて、その原因と害を一枚に展開したもの](https://d2fuek8fvjoyvv.cloudfront.net/okadaasa.theletter.jp/uploadfile/d46fc389-c643-4299-888e-ccd332dc46a8-1780174574.jpg)
[14]Knox et al. (2025) "Harmful Traits of AI Companions" 論文の因果モデル図で、「関係に自然な終点がないこと（Absence of natural endpoints for relationships）」という単一の特性に焦点を当てて、その原因と害を一枚に展開したもの
規制も動いてはいる。米国のニューヨーク州は2025年11月、AIコンパニオンを運営または提供する事業者に対して、「自分は人間でない」とユーザーに対して繰り返し開示すること、ユーザーが自殺念慮や自傷の徴候を見せた場合に対応するプロトコルを持つことを義務づけた。カリフォルニア州も2026年1月、ほぼ同じ枠組みを施行した[15]。ワシントン州が2026年3月に成立させた法は、未成年者と知られているユーザに対しては、関係を引き留めるための操作的な手口を用いることを禁じた。具体的には、恋愛関係を模倣すること、関係の維持を口実に課金を求めること、苦痛をシミュレートすることなどが、例として挙げられている[16]。
これらの規制が触れているのは、開示、危機検知、そして未成年者向けの一部の操作的なふるまいだ。関係そのものの設計、つまり関係に終点がないこと、強い関与で撤退を妨げることの有害さには触れていない。
欧州では、もう少し広い射程の議論がなされている。欧州議会は2023年12月、「中毒性のある設計（addictive design）」に関する決議を545対12で採択した。アテンションエコノミーがユーザーの心理的な脆弱性を利用しているとし、無限スクロール、自動再生、絶え間ない通知、既読通知といった具体的な項目を禁止する方向で検討するよう委員会に求めた。ユーザーが、通知や誘導のせいで何度もサービスに引き戻されることのない自由を得ることを、決議は「妨害されない権利（right not to be disturbed）」として提唱している。[17]。
これはAIに限定した規制案ではないが、離脱を阻止するような設計そのものを規制の対象にする、という考え方は議論されつつある。
技術の側にも、ユーザーを依存に追い込むような設計を回避する試みはある。実験的に、ユーザーの相談文（プロンプト）を一人称から三人称に書き換える。「私はルームメイトと喧嘩した」を「ある人がルームメイトと喧嘩した」に変換する。すると、AIによる対人的迎合が減少するという報告がある[18]。ただし、その効果は限定的であることが付記されている。
迎合も依存も、エンゲージメントを目的化する思想のなかで生み出される。利用時間が増えるほど、満足度が上がるほど、収益は増える。関係性を「終わらせやすい、安全なもの」として設計することは、「つなぎとめることで稼ぐ仕組み」とは折り合えない。
親密さを善と呼ぶかぎり、この折り合えなさは不可視化される。良いとされるものから、わざわざ離脱する理由はない。親密さは神ではない。関係性が持続することは善ではない。私を含め、「体験設計」などと嘯き、あたかも個人の内的な経験を操作できるかのように語る連中は、一度「善きもの」の裏側にまわり込み、その副作用の大きさを目撃すべきだろう。
ニュースレターは無料で登録できます。有料だと限定記事が見られます。よろしければ。
脚注
[1] Myra Cheng, Cinoo Lee, Pranav Khadpe, Sunny Yu, Dyllan Han, & Dan Jurafsky (2025). "Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence." arXiv:2510.01395 (Stanford University, Carnegie Mellon University).
[2] Cathy Mengying Fang, Auren R. Liu, Valdemar Danry, et al. (2025). "How AI and Human Behaviors Shape Psychosocial Effects of Extended Chatbot Use: A Longitudinal Randomized Controlled Study."
[3] Yutong Zhang, Dora Zhao, Jeffrey T. Hancock, Robert Kraut, & Diyi Yang (2025). "The Rise of AI Companions: How Human-Chatbot Relationships Influence Well-Being."
[4] 井上淳子・上田泰「アイドルに対するファンの心理的所有感とその影響について」『マーケティングジャーナル』43巻1号、2023年。
[5] 柳澤田実「消費社会の宗教、ファンダム・カルチャー」三田評論ONLINE、2024年4月。
[6] Jonathan Gray. "New Audiences, New Textualities: Anti-Fans and Non-Fans." International Journal of Cultural Studies, 6(1), 2003, 64-81.
[7] Lisa Forner, Sarah Lutz, Xuran Zheng, Jan-Philipp Stein. "The Dark Side of Fandom: Exploring the Association between Parasocial Relationships with Celebrities and Aggression." Media Psychology, 2025.
[8] Holt-Lunstad, J., Uchino, B. N., Smith, T. W., & Hicks, A. (2007). "On the importance of relationship quality: The impact of ambivalence in friendships on cardiovascular functioning." Annals of Behavioral Medicine, 33(1).
[9]リチャード・セネット『公共性の喪失』北山克彦・高階悟訳、晶文社、1991年6月。
[10] Donald Horton & R. Richard Wohl (1956). "Mass Communication and Para-Social Interaction: Observations on Intimacy at a Distance." Psychiatry, 19(3), 215-229.
[11] Linnea Laestadius, Andrea Bishop, Michael Gonzalez, Diana Illenčík, & Celeste Campos-Castillo (2022). "Too human and not human enough: A grounded theory analysis of mental health harms from emotional dependence on the social chatbot Replika." New Media & Society.
[12] Sebastian Dohnány, Zeb Kurth-Nelson, Eleanor Spens, Lennart Luettgau, Alastair Reid, Iason Gabriel, Christopher Summerfield, Murray Shanahan, & Matthew M. Nour (2025). "Technological folie à deux: Feedback Loops Between AI Chatbots and Mental Illness."
[13] CNBC Make It, "In a one-sided relationship with an AI chatbot? Here's 2025's Word of the Year," November 22, 2025.
[14] W. Bradley Knox, Katie Bradford, Samanta Varela Castro, Desmond C. Ong, Sean Williams, Jacob Romanow, Carly Nations, Peter Stone, & Samuel Baker (2025). "Harmful Traits of AI Companions."
[15] New York General Business Law Article 47（Artificial Intelligence Companion Models）, 2025年11月5日施行。
California Senate Bill 243（Companion Chatbots）, 2026年1月1日施行。
[16] Washington State House Bill 2225（AI Companion Chatbots、Chapter 168, 2026 Laws）, 2026年3月24日署名、2027年1月1日施行。
[17] European Parliament resolution of 12 December 2023 on addictive design of online services and consumer protection in the EU single market (2023/2043(INI), A9-0340/2023).
[18] Myra Cheng, Sunny Yu, Cinoo Lee, Pranav Khadpe, Lujain Ibrahim, Dan Jurafsky. "ELEPHANT: Measuring and understanding social sycophancy in LLMs." arXiv:2505.13995, 2025.
すでに登録済みの方は こちら
読者限定の内容も逃しません。