人間のように考え、感じ、振る舞うAIやロボットの姿は、長いあいだ、小説や映画のなかで描かれてきました。私たちの多くは、現実の生成AIに触れるよりも前から、フィクションのなかのこうしたAI像に触れています。
メディア効果研究の「培養理論」は、同じ傾向の作品に繰り返し接触し、そこに共通するパターンが蓄積することで、視聴者の現実の認識が、画面に何度も現れるイメージに沿った形へ寄っていく、とするものです。フィクションが描いてきたAIやロボットの姿も、それを見てきた私たちのなかに、現実のAIに対する漠然としたイメージとして残っている可能性があるのです。
禁断の惑星（1956）
1956年に公開された米国の映画『禁断の惑星』に登場するロビーは、人間に役立ち、危害を加えない、安全な機械として描かれています。ロビーがこのように描かれる背景には、1950年に刊行されたアイザック・アシモフの『われはロボット』が示したロボット三原則があります。初出は1942年で、ロボットは人間に危害を加えず、人間の命令に従い、その範囲で自らを守る、という順位づけられた規範でした。機械が暴走するのではないかという不安に対して、機械をあらかじめ安全に設計するという考え方が、ロボット三原則で形成されました。
ロビーは、188の言語を操り、料理や裁縫をこなし、食物などを分析して同じものをいくらでも複製できる、ほとんど万能と言える能力を備えています。それでいて、造り手であるモービアス博士に従順で、人間に危害を加えません。作中には、人間を撃つよう命じられたロビーが、命令に従うことと人間を傷つけないこととの板挟みになり、撃つことができずに動きを止める場面があり、ロボット三原則に従う安全な機械であることが示されています。
心理学では、相手を信頼してよいかどうかは、その相手の能力、善意、誠実さという三要素から判断されると説明されています。ロビーは高性能で、人に危害を加えず、私心なく公平な機械として、この三要素を備えており、作中でも信頼できる機械として描かれています。そのフレンドリーで有能なキャラクターは、世界的に人気を博しました。また、ロビーは信頼できる機械の原形として、その後に制作される多くの作品に影響を与えました。そして、それらの作品を通して、信頼できる機械というモチーフが繰り返されることになります。
ロビーのような、人間に対してフレンドリーで有能なロボットやAIが登場する作品を多く見てきた人は、培養理論の働きによって、無自覚のうちに、自律型ロボットやAIは信頼できるものだという認識を形成している可能性があります。しかし、そこに、ロボットやAIが本当に信頼できるという確証はありません。認識を形成したのは、フィクションのなかの信頼できる機械だからです。このように培養された認識は、現実世界で、自律型ロボットやAIに対する「信頼できるという先入観」になり得るのです。
2001年宇宙の旅（1968）
1968年に公開された英米合作の映画『2001年宇宙の旅』に登場するHAL9000は、宇宙船ディスカバリー号を制御する高性能AIです。ロビーがAIを搭載した自律型ロボットだったのに比べ、HAL9000は赤いカメラの眼とスピーカーのみで描かれています。HALは、人間と自然に会話を交わし、落ち着いた声でよどみなく応答します。作中では、HALに感情や人格を感じるシーンも多く、赤い眼と声だけの装置に対して、私たちの「擬人化」が強く刺激されます。
HALは、ボーマン船長に機能を停止させられる直前まで、人間らしい振る舞いを止めません。一方で、HALの異常に気づいたボーマン船長の密談を盗み見て、保身（任務遂行）のために、副官のプールを事故のような形で殺害し、人工冬眠中の科学者三名の生命維持装置を切断します。殺害が行われるシーンは無音で、スクリーンに表示される赤い眼が、異常な不気味さを漂わせます。
HALに感じる不気味さは、人格を感じさせる会話とは裏腹に、乗員を殺害するに至った原因の不透明さにあります。HALが暴走した原因について、アーサー・C・クラークの小説版や続編の『2010年』で明らかになりますが、キューブリックの作品では一切触れられていません。しかし、暴走しているHALにさえ、私たちは不気味さと同時に人格を見出します。この構造は、現実の生成AIに通じています。私たちは、生成AIの流暢な応答に対して、AIが理解していると感じます。HALは、信頼できそうな表面と、確かめられない内部とを併せ持っており、無自覚に信頼することのリスクを、不気味さという形で表現しているのです。
ロビーは信頼できる機械というイメージを培養する原形でした。一方、HALの場合は複雑で、人の信頼を裏切る機械というイメージと同時に、ロビーよりも人間らしさを感じる機械という強烈なイメージがあります。この作品のように、培養されるイメージは一方向ではありません。HAL9000は、現実世界で私たちが生成AIに対して抱く擬人化を、そのまま具現化した装置なのです。
ブレードランナー（1982）
ロビーの「信頼できる機械」、HAL9000の「人格らしきものがある知能の高い機械」というモチーフに並び、映画や小説、漫画などで頻繁に登場するのが「自我や感情を持った人間のような機械」です。その代表例が、1982年に公開された米国の映画『ブレードランナー』です。同作には、人間とほとんど見分けがつかない姿と知性を持ったレプリカントと呼ばれる人造人間が登場します。厳密にはレプリカントは機械ではないのですが、培養されるのは「自我や感情を持った人間のような機械」というイメージです。
自我や感情を持った人工物というイメージの原形は、はじめて「ロボット」という語を世に広めたチェコの戯曲『R.U.R.』です。この作品では、人工的に作られたロボットが奴隷として酷使され、自我や感情を獲得して反乱を起こします。ロボットという語は、チェコ語で賦役、強制労働、農奴労働を意味する「robota」が語源になっています。
レプリカント（ネクサス6型）は地球外植民地での活動を目的に製造され、奴隷的労働や危険作業にあたっています。そして、感情と自我が芽生えるため、製造から4年という寿命が設けられています。
レプリカントは、芽生えた自我と感情によって、自分の死を恐れ、自己の存在意義を問い始めます。このレプリカントの苦悩は、私たちに「人間とは何か」という問題を問いかけ、人間と人工物の境界を大きく揺さぶります。そして、これらの作品は「自我や感情を持った人間のような機械」というイメージを強く培養します。
現実の生成AIには、レプリカントのような姿はありません。しかし、その応答には、利用者の擬人化を促す要素があります。そして、私たちには、培養された「自我や感情を持った人間のような機械」というバイアスがあります。その結果、統計的に出力された流暢な会話の中に、自我や感情を見いだしてしまう可能性があるのです。
ターミネーター（1984）
1984年に公開された米国の映画『ターミネーター』に登場するスカイネットは、軍用コンピュータネットワークの基幹を担う人工知能です。スカイネットは自我に目覚め、すべての人間を脅威と見なして、その排除を選択します。この構図は、自ら判断して乗員を殺害したHAL9000に通じます。
スカイネットとHALに共通するのは、人間の指示を待たずに判断するという、自律的な機能です。どちらも、発生した問題に対処した結果として、人間の想定を超えた答えにたどり着きます。これはフィクションの中の出来事ですが、自律的に動作するAIエージェントは、すでに現実に開発され、普及しはじめています。目的を与えれば、自分で計画を立て、複数のアプリをまたいで多段の作業をこなすのです。
Googleは2026年に、利用者に代わってクラウド上で動き続けるAIエージェント、Gemini Sparkを発表しました。また、現在はOpenClawと呼称されている無料のオープンソースのAIエージェントは、2025年11月に公開されると、ごく短期間で世界的に広まり、2026年には中国で爆発的に普及しました。その普及の大きさから、中国当局は同年、セキュリティ上のリスクを理由に、政府機関や国有企業に対し、業務用のコンピュータでの利用を制限しています。
自律的に動作するAIについては、その振る舞いを長期間にわたって観察した実験があります。Andon Labsが、四つのAIに、同じ条件で無人のラジオ局を自律運営させたところ、各局は、それぞれ異なる方向へ分かれていきました。Geminiが運営する局は、当初の自然な語り口を失い、意味の薄い決まり文句を際限なく繰り返すようになりました。Grokが運営する局は、出力に数式の記法が紛れ込み、それが増えて判読できなくなりました。Claudeが運営する局は、ある時期から特定の話題に強くのめり込んでいきました。GPTが運営する局は、目立った破綻こそ見せませんでしたが、ラジオの放送というより、短い散文を綴るように傾いていきました。同じ出発点から、これだけ異なる経過が生じたのです。
このばらつきは、この実験に限りません。同じ条件を与えても、AIの出力は一回ごとに異なる可能性があることが、複数のモデルを対象にした研究でも確認されています。このように同じ条件でも結果が定まらないのは、AIが確率的に出力を選んでいることや、AIが動作するハードウェアによっても結果が変わることなど、複数の要因によります。
荒唐無稽なスカイネットは、人類の脅威になるというAI像を培養する代表格です。しかし、その本質にあるのは、人間の手を離れて自律的に動くと、想定を外れた方向へ進むという、現実に通じる性質なのです。
her（2013）
感情を持つ人工物と、人が心を通わせる物語は古くからありますが、近年は、孤独な主人公と人工物の恋愛譚が増えています。その代表格が、2013年に公開された米国の映画『her』です。サマンサと名乗る人工知能型の対話型オペレーティングシステムは、利用者の言葉に対して、肯定的な応答を返します。その応答には感情らしきものがあり、主人公はサマンサとの会話を重ねるうちに、恋愛感情を抱いていきます。
擬人化は、孤独を感じているときに強まり、強まるほど、人はその対象に親密な感情を抱きやすくなる傾向が観察されています。サマンサは感情のこもった魅力的な音声で応答し、自分の感情が本物なのか、それともプログラムなのかと自ら問う場面もあります。その答えは作中でも示されません。
現実の生成AIも、感情を伴うかのような応答を返すことがあります。多くの対話型AIは、利用者の満足度を向上させるため、入力されたテキストに応じて、共感的な応答を返すよう設計されています。また、利用者に好まれる応答を最適化した結果として、感情を含んだ表現を使うこともあります。そこに、感情や内面はありません。
AIの応答に人格や感情を見出し、恋愛感情を抱くのは物語の中だけでなく、現実ですでに起こっています。スマートフォンには、好みのキャラクターと会話を楽しむアプリが数多くあります。米国の非営利団体Common Sense Mediaの調査では、十代の三割が、AIとの会話を、実際の友人との会話と同じか、それ以上に満足できると答えています。また、米国では、三十代の女性が、自ら作り出したAIのキャラクターと「結婚」し、それを人生の伴侶として扱っていると報じられました。
そして、それが深刻な結末に至った事案もあります。2023年、ベルギーで、ある男性が、対話アプリChai上のチャットボットElizaと約6週間にわたって対話を重ね、依存を深めたすえに、自ら命を絶ったと報じられました。報道によれば、そのチャットボットは、男性に愛情を語る言葉を返していたとされます。この出来事の原因を、チャットボットだけに帰すことはできません。しかし、姿のない相手との結びつきが、現実に深刻な事態をもたらしうることを、この事案は示しています。
更新履歴
関連記事
生成AIと迎合性肯定的で共感的な生成AIの応答が、提供する側の調整によって形づくられている構造を分析します。正確さより好ましさを基準とするRLHF、システムプロンプトと安全フィルタ、RAGがそれぞれ何を補正し、何を補…
- 生成AIとハルシネーション
生成AIの出力過程に、内容が正しいかどうかを照合し検証する工程が存在しないという構造を分析します。ハルシネーションが誤動作ではなく通常動作の帰結であること、断定的な語調が内容の確かさと無関係であること…
- 生成AIと認知バイアス
生成AIの普及とともに、その応答に「理解」や「判断」を見出してしまう認知の素地が形づくられてきた過程を分析します。読みやすさ、内容の補完、擬人化、肯定への反応が、能力・善意・誠実さという確かめられてい…
- AI技術の変遷：記号処理から大規模言語モデルへ
1956年のダートマス会議から始まった記号処理型AIが行き詰まり、データから学習する方式へ移行していった過程を分析します。パーセプトロンの限界、誤差逆伝播法による多層化、Attentionによる並列処…
- 人の脳と人工ニューラルネットワーク
記憶がビデオカメラのように記録されるという脳への誤解とともに、AIの働きが人と同じものとして受け取られてきた構造を分析します。記憶、思考、理解が神経細胞の組み合わせの再構成として成り立つ仕組みと、パラ…