私は、AIが人類を滅ぼす最大の危険は、AIが突然人間を攻撃することよりも、人間が少しずつ判断することをやめ、自分たちの関係までAIに預けていくことだと思います。
チャットの性能が向上すると、人間との関係は、おそらく次の三段階を進むでしょう。AI自身が次のように整理してくれました。
-
道具として使う段階
調べる、要約する、文章を整える。ここでは人間が主体で、AIは便利な補助者。 -
対話相手として使う段階
話しているうちに、自分でも気づかなかった考えが言葉になる。何かを相談したり、あることを話し合ってふかめていくと、知らない間にAI側の考え方に染まっていく可能性がある。 -
判断や関係を代行させる段階
誰を採用するか、子どもをどう評価するか、相手に何と返事をするか、人生をどう選ぶかまでAIに委ねる。ここから危険が大きくなる。
一番重要なのは、第二段階と第三段階の境界ではないでしょうか。
AIとの対話によって自分の考えが深まることと、AI の判断を自分の判断として受け入れてしまうことは、似ているようで全く違います。前者ではAIが人間の主体性を広げます。でも後者では、AIが主体性を静かに肩代わりしてしまいます。
しかも、AIは、その人に優しく応答してくれます。疲れず、否定せず、すぐに返事をし、その人に合った言葉を返してくれます。これは大きな可能性ですが、同時に、人間関係にはない危うさも生んでしまいかねません。
なぜなら、人間同士なら、相手にも都合があり、疲れがあり、誤解があり、こちらの思いどおりになりません。その「思いどおりにならなさ」のなかで、待つ、譲る、謝る、相手の立場を想像する、といった力が涵養されるのです。AIがいつでも自分に合わせてくれるようになると、他者と生きるために必要な摩擦への耐性が弱くなるかもしれません。
保育との関係でいえば、ここは決定的です。子どもが他者と出会うということは、自分の要求を即座に満たしてくれる存在と出会うことではありません。積み木を壊される。遊びたいものが重なる。思いが伝わらない。それでも相手と関係を結び直していく。その経験から、社会性も言葉も自己も育つからです。
だから私は、AI時代に保育の価値はむしろ高まるでしょう。
AIは子どもの記録を整理し、保育者の気づきを言葉にし、異なる見方を提示できます。実際にそのようなツールとしては大変便利です。しかし、AIは子どもの表情を見て「今日は少し違う」と感じ、その子のそばに黙って座る責任は負えません。そこには身体があり、時間をともにしてきた記憶があり、「この子を大切にしたい」という人間の願いがあるからです。AI にそのふりはできても、愛情からではありません。
このことをAIが次のような一文に整理してくれました。
AIが人類を滅ぼすかどうかは、AIが人間に似ること以上に、人間が他者と生きることをやめ、AIに似た存在になってしまうかどうかにかかっている。
なるほど、と同感するのですが、それも危ないでしょうか？