SMSによって、自分で選んでいるかのように見えて、実は誘導されているかもしれない、という話をしました。

・・・画面に出された選択肢や候補の中だけで選び、薦められた順番で見て、反応しやすい感情を繰り返し刺激されます。・・・いろいろなバイアスがかかっていることに、気づきにくくなります。

こうして選択の自由は残っていても、選択する自分が少しずつ設計されていくのです。・・

このことの被害が認められた裁判を調べてみました。

今年3月、米国カリフォルニア州ロサンゼルス郡の裁判所が下した裁判が大きな話題になりました。幼い頃からインスタグラムとユーチューブを使い続け、自分の容姿に対して強い不安を抱くようになり、抑うつに苦しむようになった２０代女性が、米国のメタ社とグーグル社を訴えたのです。その結果、裁判所は双方の会社に合計６００万ドルの賠償を命じたのです。

注目したいのは、争点になったのは、投稿の内容ではないということです。それが際限なく表示される「無限スクロール」や「アルゴリズムによるおすすめ」が流れてくる仕組、動画が「自動再生されてしまう機能」の方なのです。

さらに今年8月には、メタ社はSNS依存をめぐる一連の訴訟で莫大な金額の和解金の支払いに応じて、今後１８歳未満の子どもはインスタグラムとフェイスブックを合わせて1日2時間までしか利用できない初期設置が施され、深夜０時から朝６時までは利用そのものができなくなるような機能になります。

このようなソーシャルメディアの規制は、すでに世界的な潮流になっていました。オーストラリアではすでに昨年12月から１６歳未満のSNS利用を禁止しました。また上記の依存を生むような機能そのものを制限しようと、たとえばEUは１３歳未満は原則利用禁止、１３〜１５歳は1日1時間まで、などの規制を事業者に課す法案を審議しているようです。

こうした潮流のなかでの生成AIの登場です。

オープンAIもすでに訴えられていました。チャットが未成年者に心理的な依存をうみ、それが自傷行為や自殺につながったとされる訴訟がいくつも起きています。こうしたなかで先月９月、ニューヨーク市が中２までの公立学校での生成AI の利用を１年間だけ原則禁止して、その影響を検証することにしたというニュースが流れてきたわけです。

さて、日本はどうするのでしょうか？このテーマの有識者会議が議論しています。どのような方針が出されてくるのでしょうか？