ちょき☆ぱたん お気に入り紹介 (chokipatan.com)
第１部 本
脳＆心理＆人工知能
責任あるAI（保科学世）
『責任あるAI: 「AI倫理」戦略ハンドブック』2021/8/20
保科 学世 (著), 鈴木 博和 (著)
（感想）
「暴言」を吐くAIチャットボット、「人種差別」をする犯罪予測AI、「男女差別」をする人材採用AI・与信審査AI……AIの「暴走」をどう防ぐか……「責任あるAI」実現のために守るべき規範「AI倫理」戦略への心構えを教えてくれる本です。
「はじめに」にはつぎのように書いてありました。
「「責任あるAI」とは、顧客や社会に対してAIの公平性・透明性を担保する方法論のことである。その考え方のベースにあるのは「人間中心」のデザインであり、機械任せにするのではなく人間が意思決定の中心となって研究・開発・評価・展開を行うということである。人間が中心になる以上、そこには行動指針や規範が必要になる。「責任あるAI」実現のために守るべき規範が「AI倫理」である。」
デジタル化された情報をAIが解析分類推定することで、人間の情報処理量よりはるかに膨大なデータに基づいた意思決定ができるようになるなど、AIは分析・予測などの場面でもどんどん活用されています。
その一方で、次のような懸念も指摘されています。
「私たちの社会の中に存在する不平等がAIによって増強されたり、あるいはAIの利用によって逆に不利益を被る人が出てきてしまったりする事例は、企業側でも顧客体験の悪化による客離れ、あるいは世論・ブランド評価の悪化によるビジネス機会の損失や収益の悪化につながり、ビジネス面への影響も大きい。」
AIを正しくビジネスで利用していくためには、「企業としてまずミッションステートメント（企業理念）と整合する「AI倫理」を決め、その「AI倫理」の下でTRUSTを具体化する活動を行っていく必要がある」そうです。ここで「TRUST」とは、「信用できる・信頼できる・理解できる・安全が保たれている・共に学びあう」という意味の英単語の頭文字をとったもので、次のことです。
T：信用できる（安全、誠実、多様な視点）
R：信頼できる（より深い判断と、より良い意思決定を可能に）
U：理解できる（解釈可能で透明性のある意思決定）
S：安全が保たれている（企業や顧客の情報・データのプライバシーとセキュリティ確保）
T：共に学びあう（人間＋AIでの共創、相互の情報提供、相互教育を目指した人間中心のデザイン））
＊
とても参考になったのが、「説明可能性」と「解釈可能性」の考え方。「説明可能性」とは、AIがなぜそのような結果を出したのか、システム内部で何が起こったのかを説明できることで、「解釈可能性」は、システムの中身を知ることなしに、ある入力が与えられたときにシステムがどう反応するかが予測できることだそうです。次のように書いてありました。
「重要なポイントは、AIの説明可能性と解釈可能性である。先に述べたとおり、説明可能性とはAI内部のアルゴリズム等を考慮したうえで入力と出力の関係を説明できるということである。これは、万が一AIの判断ミスが判明した際にその原因究明ができるということに他ならない。原因究明ができれば企業としても適切な対応をとることができ、結果として消費者を守るための行動をとることができる。原因究明ができなければ対策をとることもできないのでAIを利用する企業にとっても、その企業が製造する商品を利用する消費者にとっても不利益を被ることになる。
（中略）現場を知らない開発者がデータだけを使って開発したAIを現場に投入することほど危険なことはない。データの収集からAIのアルゴリズム設計、学習と結果の評価のすべての段階で現場のベテラン、管理者、新人などあらゆる関係者を積極的に巻き込み、開発を進めることが極めて重要である。さらに責任の所在の問題も出てくるので、構想段階から法律の専門家などを含めて議論を行うことが将来的なリスクを低減することにつながるだろう。」
……なるほど、確かに。
そして「リスク軽減のための取り組み」には、次の４つの方向性があるそうです（もちろん本書の中では、もっと詳しく説明されています）。
１）技術面：モデル開発やデータのバイアスへの対応実施
２）ブランド面：「AI倫理」準拠でブランド価値を高める
３）ガバナンス面：組織体の設置（倫理委員会など）
４）組織・人材面：人材育成や組織文化の醸成
＊
「「責任あるAI」によって、企業はAIの持つリスクを正確に理解できるようになり、かつAIが持つ潜在的リスクへの対策を行うことでAIへの信用が生まれ、その信用が形成されて初めて人間はAIを信頼できるようになるのである。この信用と信頼こそが、AIを自社のビジネスに応用・拡大利用するための礎になるのだ。」
『責任あるAI: 「AI倫理」戦略ハンドブック』について、幅広く教えてくれる本でした。AIを活用したビジネスに関係している方は、ぜひ読んでみてください。
＊ ＊ ＊
なお社会や科学、IT関連の本は変化のスピードが速いので、購入する場合は、対象の本が最新版であることを確認してください。
Amazon商品リンク
興味のある方は、ここをクリックしてAmazonで実際の商品をご覧ください。（クリックすると商品ページが新しいウィンドウで開くので、Amazonの商品を検索・購入できます。）