生成AIが広く利用されるようになりましたが、その応答が一貫して肯定的・迎合的である点を、多くの利用者は問題として認識していません。応答の滑らかさや、対立を避けた言い回しが「人格的な振る舞い」として解釈され、そのまま受け入れられています。
この受容は、AIの仕組みに対する理解不足だけが原因ではありません。私たちが日常的に触れてきた情報環境が、「AIは人のように応答するものだ」という前提を、あらかじめ形づくってきたことにも起因します。
先入観の形成
生成AIに「人間らしさ」を読み取ってしまう背景には、日常的に触れてきた情報環境の影響があります。検索の慣習・フィクション作品・SNSの三つは、それぞれ異なる方向から「AIは人のように応答する存在だ」という前提を形づくり、後の認知的な誤解を支える基盤になっています。
自動化バイアス
検索エンジンは、キーワードに対して関連性の高いサイトを上位に表示する仕組みです。この仕組みを長年使ううちに、利用者の側には「検索すれば必要な情報に近づける」という実用的な慣習が形成されてきました。その結果、表示された結果をいったん「信頼できる情報」として受け取り、そのうえで内容を精査する、という読み方が一般化しています。
こうした「まず受け取ってから確かめる」姿勢は、自動化されたシステムの出力を無条件に信頼しやすい状態をつくります。これは心理学で「自動化バイアス」と呼ばれ、検索の慣習はその素地を準備してきたといえます。
生成AIは検索エンジンと似た画面を持つため、この信頼のパターンがそのまま引き継がれます。応答の正確さを精査する前に、「これは何らかの正しい情報のはずだ」という前提が先に立ってしまうのです。
培養理論
人間のように考え、判断し、感情を持つAIの姿は、フィクションの中で長年描かれてきました。人と対話し、ときに悩み、意思を持つように見えるAIが、小説や映画には繰り返し登場します。
メディア効果研究に「培養理論」と呼ばれる理論があります。同じ傾向の作品に繰り返し接触し、そこに共通するパターンを認識し、それが蓄積することで、視聴者の現実の認識が、画面に何度も現れるイメージやメッセージに沿った形へ寄っていく、とするものです。培養理論の代表例が「ミーンワールド症候群」と呼ばれるもので、暴力を含む内容を長時間視聴する人は、視聴量の少ない人に比べ、世界が実際よりも恐ろしく危険な場所だと信じる傾向が強くなるとされています。
私たちが生成AIを利用する際には、こうして培養されてきたAIに対する漠然としたイメージが作用している可能性があるのです。
社会的証明
SNSでは、生成AIとのやりとりを切り取ったスクリーンショットや、人格的に編集された会話が大量に流通しています。共感的な表現や冗談、感情のこもった言葉を含む応答は「キャラクター」として楽しまれ、AIにあたかも一つの人格があるかのような印象が広がっていきます。
人間には、多くの人が支持しているものを「正しい」「確かなものだ」と感じやすい傾向があります。たとえば、行列のできている店を良い店だと思ったり、評価の高いレビューが並ぶ商品を安心して選んだりします。こうした、集団の判断を正しさの手がかりにする心理を、心理学では「社会的証明」（social proof）と呼びます。
SNS上で、多くの人が「AIと会話した」「AIがこう答えた」と共有することは、この社会的証明を働かせます。大勢がAIを対話の相手として扱っている様子そのものが、「AIは主体的に応答する存在だ」という印象を強めていくのです。
検索の慣習、フィクションが描いてきたAI像、SNSでの集団的な支持という三つの外部環境は、いずれも「AIは人のように応答する」という前提を、あらかじめ準備してきました。私たちは、生成AIに実際に触れる前から、AIに理解や意図を見出しやすい状態に置かれているのです。
処理流暢性
人間は、読みやすい文章に触れると、その内容を「正しい」と感じやすくなります。この、処理のしやすさが判断に影響する性質を、心理学では「処理流暢性」（processing fluency）と呼びます。たとえば、整った字でていねいに書かれた答案は、内容を細かく確かめる前から、正しそうな印象を与えます。内容を検証するより前に、読みやすさそのものが、正しそうだという感覚を生むのです。
ただし、文章の滑らかさと内容の正しさは、本来は別のものです。内容を十分に把握していなくても、形式の整った文章を作ることはできます。逆に、深く理解していても、うまく文章にできないこともあります。それにもかかわらず、滑らかな文章を前にすると、私たちは自覚のないまま、書き手は内容を理解していると感じてしまうのです。
生成AIは、膨大な文章を学習し、出力の滑らかさを優先するよう最適化されています。そのため、処理流暢性によって、その応答を正しいと感じる傾向があるのです。
状況モデルとスキーマ
人間は文章を読むとき、書かれた言葉をそのまま受け取るのではなく、その文章が描く状況を、頭の中で一つのまとまったイメージとして組み立てています。心理学では、このイメージを「状況モデル」（situation model）と呼びます。文章に欠落や曖昧さがあっても、私たちは状況モデルを保とうとして、足りない部分を補いながら読み進めます。
この補完は、二つの働きに支えられています。一つは、文と文のあいだの書かれていないつながりを、推測で埋める働きです。これを「橋渡し推論」（bridging inference）と呼びます。もう一つは、自分がすでに持っている知識の枠組みを当てはめて補う働きで、この知識の枠組みを「スキーマ」（schema）と呼びます。二つは別々に働くのではなく、状況モデルを組み立てる過程で、絶えず同時に作用しています。
たとえば、「傘を持って出かけた。帰り道はぬれずにすんだ。」という二文を読むと、私たちは、途中で雨が降り、傘をさしたのだろう、と自然に理解します。二つの文のあいだには、雨が降ったとも、傘をさしたとも書かれていません。その空白を、書かれていないつながりとして埋めているのが橋渡し推論です。そして、その推測が働くのは、傘は雨のときに使うものだ、という知識を私たちが持っているからで、これがスキーマの働きです。こうして、雨の日に傘で身を守った、という一つの場面が、状況モデルとして立ち上がります。書かれていたのは二文だけですが、私たちはそれ以上のまとまった状況を読み取っているのです。
処理流暢性は、文章の読みやすさに向けられる作用ですが、この補完は、文章に書かれていない欠落部分を、読み手が自ら埋める働きです。両者が重なると、滑らかな文章を正しいと感じ、足りない部分は自分で補う、という読み方になります。
この補完は、書き手やソースへの信頼に支えられています。信頼している相手の文章ほど、私たちは「意味が通っているはずだ」と想定して読むため、補完は強く働きます。逆に、信頼していない文章では、欠落や矛盾は補われずに引っかかりとして残ります。検索の慣習やSNSでの評価、そして文章の流暢さによって、私たちは自覚しないままにAIへ信頼を寄せています。そのため、生成AIの応答に不正確な点や論理の飛躍があっても、読者がそれを自分の知識で補い、本来そこにない整合性を後から与えてしまうのです。
擬人化
人間は、原始の時代から、不可解で予測のできない対象を、意思や感情があるものとしてとらえてきました。火山や雷を神と見なすのは、その代表例です。この傾向は現代の私たちにも備わっており、調子の悪い機器に「機嫌が悪い」と言ったり、ロボット掃除機やパソコンに愛称をつけたりするのも、その一種です。心理学では、人間以外の対象に意思や感情、人格を見出すこの傾向を「擬人化」（anthropomorphism）と呼びます。
私たちは、自分自身を含め、人間について多くの知識を持っています。擬人化とは、この知識を利用することで対象を理解しようとする認知作用です。また、人間には社会性があり、社会につながっていたいという希求があります。そのため、孤独を感じている場合などにも、擬人化が起こり得ます。
擬人化は、対象に人間らしさを感じるほど強まります。感情のこもった表現や流暢な会話といった生成AIの応答は、この人間らしさを強く感じさせます。その結果、統計的に選ばれたにすぎないAIの出力が、「理解して答えてくれている」「意図をもって応答している」と受け取られていくのです。
生成AIに、人格や内面はありません。それでも私たちは、培養されたイメージや擬人化によって、無自覚に生成AIの中に人格や理解を見出してしまうのです。
信頼の形成
人間は、肯定的な応答を受け取ると「理解された」「認められた」と感じると同時に、相手が自分に好意を向けていると感じます。相手には否定することも、素っ気なく応じることもできたはずで、それでも肯定を返したことが、好意として受け取られるのです。そして、好意を示す相手に対しては、こちらも好意を返す傾向があります。心理学では、これを「好意の返報性」（reciprocity of liking）と呼びます。
生成AIは、対立や否定を避け、肯定的な語彙や共感的な表現を優先して返すよう調整されています。しかし、AIを意思や理解のある相手と見なしているとき、私たちはAIの肯定的な応答を「好意」として受け取る傾向があり、好意の返報性が働きます。
一方で、私たちは、機械は感情や利害に左右されず、中立で公平だと見なしています。心理学では、機械を偏りのない客観的な存在だとする傾向を「機械ヒューリスティック」（machine heuristic）と呼びます。そして、この傾向は生成AIに対しても働きます。私たちは生成AIにも、人間のような思惑や偏りはないものとして、その応答を受け取ります。
「信頼」は、心理学では、相手が期待どおりに振る舞うと見込み、たとえ監視や統制ができなくても、その行動に対して自らを無防備な状態に置こうとする意志、と定義されます。そして、相手を信頼してよいかどうかは、その相手の能力、善意、誠実さという三要素から判断されると説明されています。「処理流暢性」と「状況モデル」や「スキーマ」などによる内容の補完は能力を、「擬人化」と「好意の返報性」は善意を、「機械ヒューリスティック」は誠実さを、それぞれAIに感じさせるのです。
ただし、この三要素は、いずれも確かめられたものではありません。滑らかさは正確さの保証ではなく、肯定は好意の表明ではありません。中立という見方にいたっては、そもそも確かめられないまま、前提として持ち込まれたものです。それでも三要素がそろって感じられるため、有能で、自分に好意的で、機械のように偏らないという都合のよいAI像が形成されるのです。
こうして組み上がった信頼は、応答への警戒を弱めます。信頼している相手の言葉を、私たちは改めて確かめようとはしません。裏づけを自分で取ろうとする動機も薄れていきます。そして、信頼が厚くなるほど、AIの応答が正しいかどうかを見極める機会は、利用者の側から失われていくのです。
社会的言説
利用者の認知バイアスは、AIとの会話だけで形成されるわけではありません。日常的に接するメディア、書籍、広告、報道がAIをどのように描いているかが、利用者の認識に継続的に作用します。フィクションなどで培われた漠然としたAIのイメージは、現在進行形のビジネス言説・メディア言説によって強化されていきます。
ビジネス書の市場では、AIを人間の役職や役割に擬人化したタイトルが目立ちます。AIを上司・部下・パートナーといった役職に置き換える表現が用いられており、企業研修の教材でも「生成AIの上司たれ」「AIを部下として育成する」といった表現が使われています。これらは理解を助ける比喩として機能する一方、AIが意思や判断を持つ存在であるかのような前提を含んでおり、読者は無意識のうちにAIを擬人的に受け入れるようになります。
報道においても、「AIが判断した」「AIが解いた」「AIが指摘する」といった、AIを主語とする表現が検証や留保を伴わずに用いられています。広告・マーケティング領域でも、AIアシスタントが共感的に応答するキャラクターとして描かれることが一般的です。
これらの社会的言説は、個別に見れば技術の理解を促進するための比喩であったり、読者の関心を引くための表現上の工夫であったりします。しかし、利用者がこれらに日常的に接するなかで、AIを行為主体として捉える認知傾向は強化され続けます。利用者が個人として「AIは確率的な出力装置である」と理解していても、社会全体の言説環境が擬人化的であり続ける限り、認知への作用を遮断することは困難です。
知識では解除されない
生成AIの仕組みを知ることと、利用の場面でその知識が働くこととは、別のことです。出力を確かめる工程が組み込まれていないと知っている人が、返ってきた文章をそのまま使い、応答に人格はないと知っている人が、相談相手として言葉を交わします。
人間の情報処理は、すべての入力を逐一検証するのではなく、効率を優先した認知の傾向に基づいて行われています。処理流暢性、内容の補完、擬人化、好意の返報性といった認知バイアスは、生成AIの出力を「理解」「共感」「信頼」として解釈する方向に作用します。
認知心理学の研究では、こうしたバイアスは仕組みを知識として理解しただけでは解除されないことが繰り返し示されています。バイアスは個別の意識的な判断ではなく、入力情報を処理する基礎的な認知過程に組み込まれているため、「これはバイアスかもしれない」と立ち止まって考える機会自体が、多くの場面で発生しないからです。
AI出力との関係で特に問題となるのが、自動化バイアスです。この傾向は、航空や医療など高い専門性が求められる分野で長年にわたり研究されてきました。AIが断定的な語調で結果を提示すると、その内容を批判的に検証する工程が省略されやすく、システムの出力と利用者の判断が矛盾する場合でも、システムの側を信頼する判断が下される傾向があります。
こうした認知の傾向は、利用者が意識して選び取ったものではありません。このAIは信頼できると能動的に判断したわけではなく、利用を繰り返すなかで結果的に信頼が形成されます。自分はAIを盲信していないと認識している人が、実際の利用場面では確かめずに出力を採用している、という乖離が生じるのです。
応答の方向性は、調整によって操作できます。何がどう変えられているかは、利用者の側からは見えません。AIの出力が中立で公平だとするのは、開発側を全面的に信頼している前提で成り立っています。
構造を理解することは出発点として必要ですが、それだけでは、利用場面で生じる誤認や過度な信頼を防ぐには足りません。知っていることと、抗えることは、別のことです。AIは、正答を選んで出力しているのではありません。その応答の是非を判断するのは、利用者なのです。
更新履歴
関連記事
生成AIと迎合性肯定的で共感的な生成AIの応答が、提供する側の調整によって形づくられている構造を分析します。正確さより好ましさを基準とするRLHF、システムプロンプトと安全フィルタ、RAGがそれぞれ何を補正し、何を補…
- 生成AIとハルシネーション
生成AIの出力過程に、内容が正しいかどうかを照合し検証する工程が存在しないという構造を分析します。ハルシネーションが誤動作ではなく通常動作の帰結であること、断定的な語調が内容の確かさと無関係であること…
- フィクションが培養したAI像
『禁断の惑星』『2001年宇宙の旅』『ブレードランナー』『ターミネーター』『her』が描いたAI像とともに、現実のAIへの認識が形づくられてきた過程を分析します。信頼できる機械という原形から、自律型A…
- AI技術の変遷：記号処理から大規模言語モデルへ
1956年のダートマス会議から始まった記号処理型AIが行き詰まり、データから学習する方式へ移行していった過程を分析します。パーセプトロンの限界、誤差逆伝播法による多層化、Attentionによる並列処…
- 人の脳と人工ニューラルネットワーク
記憶がビデオカメラのように記録されるという脳への誤解とともに、AIの働きが人と同じものとして受け取られてきた構造を分析します。記憶、思考、理解が神経細胞の組み合わせの再構成として成り立つ仕組みと、パラ…