ちょき☆ぱたん お気に入り紹介 (chokipatan.com)
第１部 本
社会
システム・エラー社会（ライヒ）
『システム・エラー社会: 「最適化」至上主義の罠』2022/12/26
ロブ・ライヒ (著), メラン・サハミ (著), ジェレミー・M・ワインスタイン (著), 小坂 恵理 (翻訳)
（感想）
巨大テック企業やIT技術者を動かす根本原理の「最適化」は、イノベーションを支える思想ですが、「最適化」そのものが目的となると、公平・プライバシー・個人の幸福の追求などの価値を破壊することにもなってしまう……そんな現状のなか、人類の繁栄と個人の幸福を両立させる方法を模索している本で、主な内容は次の通りです。
第1部「テクノロジスト」の解読
第1章 不完全なマインドセット「最適化」
第2章ハッカーとVCの結託は問題含み
第3章 破壊的イノベーションvs.民主主義
第2部「テクノロジー」の分析
第4章 アルゴリズムの意思決定は公正か
第5章 プライバシーに価値はあるか
第6章 スマートマシンの世界で人類は繁栄できるか
第7章 インターネットに言論の自由はあるか
第3部 未来を再コーディングする
第8章 民主主義は難局を乗り切れるか
＊
「はじめに」には、フェイスブックやZoomのプライバシーポリシー、人間の仕事が機械に奪われることを顧みないスマートマシン、SNSを介した誤情報やフェイクニュースの拡散などの問題の指摘とともに、次のような記述がありました。
「大きな利益をもたらすと同時に、個人や社会に対して明らかに損害をもたらすテクノロジーを制御する方法を、努力して見つけなければならない。」
私たちの社会は、インターネットの世界的浸透や巨大テック企業の台頭とともに、「最適化という、テクノロジスト独特のマインドセットだったものが、瞬く間により一般的な生き方の指針」になってしまい、そのことが様々な問題を引き起こすようになっています。この本はそれらの問題を指摘するだけでなく。対処の方法についても具体的に考察しているので、とても考えさせられ、参考にもなりました。その一例を以下に紹介します。
「第2章ハッカーとVCの結託は問題含み」では……
「私たちがどんなコンテンツをどんな方法で見るのか、コンテンツを管理するならそれはどのような形か、いまでは一握りの民間企業が決定している。」
「エンジニアは資本家になっただけでなく、今度は自分たちを制約する法律の制定に関与するまでになった。」
「第3章 破壊的イノベーションvs.民主主義」では……
「最適化のマインドセットと利潤追求という動機が結びついた結果、（テクノロジー企業は）市場における政治や政府の役割にしばしばリバタリアン的なアプローチで臨むのである。」
「（前略）変化の激しい市場が健全に機能するためには、政府がフェアプレーのルールを設定して実行しなければならない。知的財産や特許、独占禁止、消費者保護に関する法律は不可欠だ。」
「民主主義は壊滅的な結果を回避することが可能で、予想外の衝撃を受け止める安定性と回復性に優れているのだ。」
「（前略）良い指導者というよりも、良いルールが必要とされる。そして良いルールは、いったん決めたら変更が不要なわけではない。社会や経済の状況に応じて変化させる必要があり、テクノロジーのイノベーションにも目を光らせていなければならない。つまり民主主義は、利害の対立を歓迎し、政策に関する問題について何度も検討し、現状では明らかに有害なルールを変更する必要がある。」
「第4章 アルゴリズムの意思決定は公正か」では……
「アルゴリズムが問題のある決断を下したり勧めたりしたとき、誰が責任を持つのか。」
「現実の世界での観測結果に予測が満足できる程度に対応していれば、モデルは妥当だと見なされる。ここで厄介なのは、ある状況で予測の正確さが確認されても、別の状況でそれが通用する保証がないことだ。」
「第5章 プライバシーに価値はあるか」では……
「（前略）政府の監視プログラムに一般国民は不安を募らせ、より強い規制を求めたが、対照的に民間企業による情報収集は、ほとんど野放し状態だった。」
「様々な場所が様々な形で監視されると、抗議する自由や表現の自由など、民主主義社会に欠かせない自由が失われる可能性がある」
「実際、プライバシー保護について慎重に考え、理路整然としたアプローチで臨むのは、誰にとっても難しい。しかも、プライバシーを手放すことに伴う潜在的な有害性は漠然としており、大体の人はほとんど気づかない。」
「第6章 スマートマシンの世界で人類は繁栄できるか」では……
「退屈な仕事、資源開発の仕事、敬遠される仕事、危険な仕事の自動化が可能ならば、ぜひ進めるべきだ。しかし私たちの幸福や人間性に不可欠な分野では、スマートマシンが人間の営みに取って代わるのではなく、お互いに協力して発展できる方法を考えればよい。そこにはテクノロジーの設計や、テクノロジーの使用を制約する政策も含まれる。」
「第7章 インターネットに言論の自由はあるか」では……
「私たちは往々にして、他にどんな選択肢があるのか考えず、理解もせずに勧められた情報を消費する。」
「言論の自由にこだわるあまり公共広場で偽情報や誤情報が拡散すると、民主主義だけでなく個人の尊厳も脅かされる。」
「インターネットとソーシャルメディアは、ヘイトスピーチを拡散する手段を提供するだけでなく、ボットやフェイクアカウントを介し、ヘイトスピーチを匿名で広めるインフラも提供している。」
「不愉快なコンテンツに異議を申し立てるときと同様、誤情報や偽情報への最善の策は常に明快とはかぎらない。誤情報が検出されたら、それよりも正確な情報の提供を心がけるべきなのだろう。」
「言論の自由、民主主義、個人の尊厳はいずれも尊敬されるべき十分な理由があるのだが、三つを同時に最大化することはできない。」
「表現の自由をこうした脅威から守るためには、政府とプラットフォームが協力する方向に進まなければならない。責任の一部はプラットフォームが担うが、政府も重要な役割を引き受けるべきだ。それは質の高い公開討論を保証することではなく、公開討論のルートを意図的な攻撃から守ることだ。まずは、嫌がらせやサイバーストーキングを禁じる合衆国や州の既存の法律、詐欺や欺瞞やなりすましなど不正なプロパガンダキャンペーンの防止に使える法律の施行を徹底するべきだ。さらに新しい規制も必要で、ジャーナリストや著名人や一般人を狙った集中攻撃の取り締まりに特化した反トローリング法を制定するとよい。（中略）デジタル時代に表現の自由の権利を守るためには、こうした行動が求められる。」
「第8章 民主主義は難局を乗り切れるか」では……
「個人として、職業人として、市民としての生活を乱すビッグ・テックへの防御策としては、多くの行動が考えられる。最も重要な最初の一歩は、（中略）テクノロジーがあなたの生活に影響を及ぼす数限りない方法についての知識を持つことだ。重大な決断を下す際に自分の権利を守るためには、そこにアルゴリズムが関与しているかどうか理解する必要がある。住宅ローンを認められなかったとき、社会福祉にアクセスできないとき、刑事事件に巻き込まれたときには、意思決定のプロセスの透明性を求める権利を行使してもよい。」
＊
ここで紹介した以外にも、とても参考になる事例や問題対処への提言をたくさん知ることができました。
例えば、自動意思決定アルゴリズムが健全に運用されるように、各国政府が動き出しているようです。
「いまでは世界中の民主主義国家が、自動意思決定アルゴリズムの利用方法を管理するための措置を導入している。先頭を走るのはカナダ政府で、アルゴリズムの影響に関する評価を全国で採用した。同様の規定は、ヨーロッパの新しい指令にも盛り込まれている。」
また新しい領域でのテクノロジーの展開をうまく促進するための、イギリスと台湾の「レギュラトリー・サンドボックス」制度の試みについても知ることができました。
「政府はテクノロジーを開発する許可をイノベーターに暫定的に与える一方、新しいシステムの規制の考案に一年かけて取り組む。一年後にイノベーターと政府関係者は再会し、新しいアプローチの長所と短所を比較する。このような形ならリビングラボが創造され、特定の規制モデルの影響を現実の世界で観察できる。」
……これらの動きには、とても期待がもてそうに感じました。今後の動きにも注目していきたいです。
また単に「政府に期待する」だけでなく、私自身も「テクノロジーがあなたの生活に影響を及ぼす数限りない方法についての知識を持つ」よう努力したいと思っています。
新しいWindows11パソコンを買ったら、許可した覚えがないまま、パソコン内のファイルが自動的にクラウドにアップロードされてしまいました。そのことで「私のパソコン内のファイルはいったい誰のものなのか？」という疑問を感じてしまったので、とりあえずは「おせっかいすぎるビッグテックへの依存構造」から抜け出すべく、パソコンの使い方を見直してみようと考えているところです（なお自動アップロードは停止させました）。
未来社会では、テクノロジーをいかに使うべきか、民主主義をいかに守り、また活用していくべきかを考えさせてくれる本でした。とても参考になるので、みなさんも、ぜひ読んでみてください☆
＊ ＊ ＊
なお社会や科学、IT関連の本は変化のスピードが速いので、購入する場合は、対象の本が最新版であることを確認してください。
Amazon商品リンク
興味のある方は、ここをクリックしてAmazonで実際の商品をご覧ください。（クリックすると商品ページが新しいウィンドウで開くので、Amazonの商品を検索・購入できます。）