AIリテラシー:AIの限界と誤解
最終章 知っていても抗えない:AI利用における認知と行動の乖離生成AIの構造的限界や調整層の仕組みを理解していても、実際の利用場面では認知バイアスが作動し、無意識の信頼や判断委譲が累積していきます。「知っていること」と「実践できること」の乖離を、認知心理学的観点…
第六章 快適な応答は設計されている:RLHFと安全層の構造と限界LLMの出力は、RLHF(人間のフィードバックによる強化学習)やシステムプロンプト、安全フィルタ、RAGといった調整層を経て、利用者が快適に感じる方向へ最適化されています。これらの仕組みが何を補正し、…
第五章 大規模言語モデルは判断と検証を持たない:構造的限界とハルシネーション大規模言語モデルには出力の正誤を判定する検証機構が存在せず、ハルシネーションは誤動作ではなく通常動作の帰結として発生します。語調の断定性や文脈窓の制約を含め、LLMの出力が構造的に検証を経ていない事実…
第四章 人の脳と人工ニューラルネットワーク:構造と働きの違い人工ニューラルネットワークと人の脳の構造的差異を、記憶の再構成と重みの数値保持、学習における意味形成と誤差最小化、思考に関わる目的指向性と統計的出力の違いという観点から整理し、大規模言語モデルの応答が…
第三章 AIの歴史と構造:記号処理から学習モデルへ人工知能(AI)の歴史と構造について、記号処理型AIからニューラルネットワークによる学習型モデルへの進化を整理し、誤差逆伝播法による多層構造の学習実現、深層学習による自己調整構造への転換、大規模言語モ…
第二章 文化が形づくった「AIへの期待と誤解」映画やアニメなどのフィクションが形づくったAI像が、万能性の投影、ブラックボックスへの誤推測、意図や判断を読み取るエージェント性の付与、倫理判断の外部委譲といった心理作用を誘発し、生成AIを実態以上に…
第一章 生成AIに「理解」を見出す土壌の形成生成AIが広く利用されるようになりましたが、その応答が一貫して肯定的・迎合的である点を、多くの利用者は問題として認識していません。応答の滑らかさや、対立を避けた言い回しが「人格的な振る舞い」として解釈…
