ちょき☆ぱたん お気に入り紹介 (chokipatan.com)
第１部 本
社会
生成AIの脅威（読売新聞「情報偏食」取材班）
『生成AIの脅威-情報偏食でゆがむ認知』2025/2/21
読売新聞「情報偏食」取材班 (著)
（感想）
インターネットに溢れる情報や、日に日に高度化する生成AIが作り出す情報で心が歪む……『読売新聞』の大型連載「情報偏食 ゆがむ認知」を書籍化した本で、主な内容は次の通りです。
第１章 身近に潜むリスク
ダイエット、整形、ゲーム依存、オーバードーズ――SNSに翻弄される人々
第２章 揺れる教育現場
ネットの情報を信じ、宿題をAIに丸投げ――子どもたちの今
第３章 混沌もたらす者たち
炎上系、迷惑系、誹謗中傷――過激化するユーチューバーに迫る
第４章 操られる民意
ネット上に溢れる偽動画――不安や怒りで分断を煽る「物語」
第５章 求められる規範
多様性が失われつつあるデジタル空間――必要なものは何か？
＊
「第１章 身近に潜むリスク」では、ダイエットや整形、ゲーム依存、オーバードーズにハマってしまう人びとの姿が描かれていました。
厚生労働省の17年度の調査では、ゲームを含むネット依存が疑われる中高生はなんと推計約93万人もいるそうです。
陰謀論にハマる人も多いようで、「「認知不協和」という心理作用の働きにより、いったん不正確な情報を信じてしまうと、それに矛盾する正しい情報に不快感を覚える」のだとか……怖いですね。
続く「第２章 揺れる教育現場」では、宿題をAIに丸投げしてしまう高校生が……
「（前略）チャットGPTを知るほんの数か月前までは、教科書などを読み返し、自分なりに文章を考え、宿題を終えるのに１時間はかかっていた。だが、チャットGPTを使えば、ものの5～10分で済む。教科書を読み返すことはなくなった。」
……一方、千葉県の公立高校の英語教師が、試しにチャットGPTに試験問題を作らせてみたら、その完成度の高さに驚き、ほぼ丸々採用してしまったそうです（苦笑）。
このように生成AIはどんどん進化していて、その能力の高さを証明してしまっていますが……
「（前略）教育現場での安易な生成AIの利用には、思考力の低下や偏った情報をうのみにする懸念がつきまとう。」
……これを忘れてはならないと思います。
「第３章 混沌もたらす者たち」では、「アテンション・エコノミー」によって過激化するユーチューバーの実態が描かれていました。
「過激で極端な情報やフェイクニュースがあふれ、デジタル空間はカオスと化している。背景にあるのは、人々の関心を奪い、広告を閲覧させることで収益化を図る「アテンション・エコノミー」だ。」
……また生成AIは世論操作にも利用されかねません。
・「こうした世論操作にAIを組み合わせれば、大量の意見をそれぞれ異なる表現で作ることも容易になる。」
・「民意を捏造する行為はAIによって、より大規模で安価に、そして巧妙に行われるだろう」
＊
「第４章 操られる民意」でも……
・「AI偽動画の怖さは、特定の人物の印象を簡単におとしめることができる点だ。憎悪をあおるように意図して作られた偽動画が選挙前に拡散すれば、投票行動がゆがめられかねない」
・「人の考えを誘導するには、ターゲットを絞り、不安や怒りをあおればいい。そうすれば、こちらが広めたい情報を勝手に拡散してくれる。」
……そして、このような動きに対抗するためには……
「『他の意見もある』と常に考えることが大切だ。SNSの負の側面を理解し、判断力を養う教育が欠かせない」
……その通りだと思います。
また、次のような動きもあるようです。
「防衛省は22年4月、国際情勢を分析し、偽情報対応などに当たる「グローバル戦略情報官」を設置。人工知能を使って公開情報やSNSを自動収集し、分析を強化している。」
さらに、公開情報を分析して真実に迫る「オープン・ソース・インテリジェンス（オシント）」や、SNSに転載されても消えない発信者情報を埋め込むことで信頼性のある記事などを識別可能にする技術「オリジネーター・プロファイル」（OP）も行われているようです。
「民意を操る情報から社会を守る特効薬はない。オシントやOP、情報リテラシーなど、あらゆる対策を実施していくことが求められている。」
＊
そして個人的に本書で最も参考になったのが、「第５章 求められる規範」。
ここでは2024年の能登半島地震で、海外から偽情報が多数押し寄せてきていたことに驚かされました。例えばパキスタンのある人は、2024年の能登半島地震で、津波の偽動画を流して、被災者になりすまして救助に関する投稿を繰り返したそうです。彼は、「日本で大変なことが起きている」ことを知ると同時に「金もうけのチャンスだ」とも考えたそうで、この偽情報で「インプ稼ぎ」をしたようです。
「能登地震は、外国から大量の偽情報が送られた初の大規模災害と言われる。正確な情報より、人々の関心を集めることを重視する「アテンション・エコノミー」の弊害が加速していることを浮き彫りにした。」
……生成AIを使えば、巧みな偽情報を簡単に作れることを思うと、本当に恐ろしいと思います。そして、これに対抗する動きとしては……
「AIの安全対策を巡り、先進７か国（G7）は2023年12月、「広島AIプロセス」で合意した。日本は偽情報対策などを定めた12項目をもとに、事業者向けのガイドライン（指針）を策定した。
だが、欧州連合（EU）は先に進んでいる。24年3月には欧州議会が、開発や運用を罰則付きで規制する「AI法」の最終案を可決した。人権や民主主義の価値観に反したり、子どもを危険な行為に誘導したりする利用を禁じる。26年には適用が始まる。」
……またインターネットで人々を騙して、商品を購入させたり契約の打ち切りを防いだりする「ダークパターン」についても……
「欧州連合（EU）は、22年合意のデジタルサービス法で消費者を欺くウェブデザインの設計を禁止。米国は連邦取引委員会法で「不公正または欺瞞的な行為・慣行」を幅広く禁じる。
日本でも同年施行の改正特定法商取引法で、ネット通販の確認画面で、契約内容を明確に示すことを事業者に義務づけるなど対策を強化していきた。しかし、EUのようにダークパターンを直接規制する法律はない。」
＊
とても良い仕組みだと思ったのが「情報的健康」という考え方。これは……
「プレバンキング（注：事前曝露）が偽情報への「予防接種」であるならば、情報を摂取する行動を食事にたとえ、バランス良く情報を摂取し、偽情報に負けない「健康体」を作ることが大切だという考え方だ。」
……というもので、ユーザーが自らの情報的健康状態を確認できるように、人間ドッグのような「情報ドッグ」を定期的に提供することも考えられているようです。
「東京大学の鳥海不二夫教授（計算社会科学）と、慶応義塾大学の山本龍彦教授（憲法学）らは2023年5月、情報空間に対する共同提言「健全な言論プラットフォームに向けてVer2.0－情報的健康を、実装へ」を発表した。」
……その「健全な言論プラットフォームに向けて（第１版）」の要旨は……
「情報通信技術がもたらす便益を享受しながら、フェイクニュースが及ぼす危害を避け、憲法の基本原理と調和する健全な言論環境を実現する。そのために求められているのは、多様な情報をバランスよく摂取することを通じて、フェイクニュースなどに対して一定の「免疫」（批判的能力）を獲得している状態、すなわち「情報的健康」を実現することだ。」
……今後の「情報的健康」の進展に期待したいと思います。
さて、読売新聞による日米韓３か国を対象としたアンケート調査（2023年12月）によると、日本は情報の事実確認をしない人が多く、ネットの仕組みに関する知識も乏しいことが分かったそうです。そして偽情報にだまされる傾向が表れたのは、「SNSを信頼している人」「ニュースを受動的に受け取る人」だったとか……うーん、耳が痛いです……私自身も、偽情報を見分ける能力を日々磨いていきたいと思います。
生成AIの脅威から人々を守る環境作りは少しずつ始まっているようですが、一人一人が自衛できる能力を高めていくことも大切だと思います。生成AIを活用したディープフェイクに騙されない能力を高めていくことは、人間によるオレオレ詐欺などにも騙されない能力も高めることにも通じると思うので、そのような教育システム（学校教育・生涯教育）を充実させていくことも必要ではないでしょうか。
『生成AIの脅威-情報偏食でゆがむ認知』……大災害や選挙での偽動画、組織的に展開されるスパモフラージュ、架空の口コミ……ネット空間に溢れるディープフェイクの現状と、その対策を教えてくれる本で、とても勉強になりました。みなさんも、ぜひ読んでみてください☆
＊ ＊ ＊
なお社会や科学、IT関連の本は変化のスピードが速いので、購入する場合は、対象の本が最新版であることを確認してください。
Amazon商品リンク
興味のある方は、ここをクリックしてAmazonで実際の商品をご覧ください。（クリックすると商品ページが開くので、Amazonの商品を検索・購入できます。）
『生成AIの脅威』