AIの正しい活用方法とは：ハーバードビジネスレビューの記事から学ぶ

AIについてはもてはやされる一方でその導入についての批判や疑問もよく話題になります。

このブログでも、私の興味の都合上、ハーバードビジネスレビューの記事を中心にAIに関する記事をいくつか紹介していますが、やはり批判的なものが数としては多いかもしれませんね（カテゴリーで「AI・機械学習」としてまとめていますので、もし興味があればお読みください）。

そうした中、AIの批判の矛先が違うのではないかというAIの利用に示唆のとんだ記事をハーバードビジネスレビュー（HBR)の記事から見つけましたので、今回はこの記事を紹介したいと思います。

タイトルは”Using Algorithms to Understand the Biases in Your Organization (自分の組織にあるバイアスを理解するためにアルゴリズムを利用する)”です。

　＊記事の購読は定期購読者以外は3本まで無料。その後は1記事当たり約9ドル課金されます。

この記事では、アマゾンが採用選考ツールとしてAIを利用した結果、白人男性が優位になっていたということの例をメインに取り上げ、だからといってAIを批判するのはおかしいということです。(アマゾンの採用についての紹介は以下のブログで取り上げています）。

筆者は何故AIを批判するのがおかしいといっているのでしょうか？

まず第１にその間違ったAIの判断は過去の人間の判断の蓄積から来たものだからです。ご存知のように、AIの判断は過去のデータと照らし合わせて行われます。なので、AIの間違った判断は今まで人間の判断が間違っていたということを明るみにしたもので、AIの間違いではないということです。

2点目は1点目とかかわっていますが、AIが擬人化され問題の所在が人間から機械に代わっていることです。アマゾンの採用における問題での記事のタイトルの一例を見ると

”Why it's totally unsurprising that Amazon's recruitiment AI was biased against women.(アマゾンの採用AIが女性に不利な判断を行っても全く驚きではない理由）"
"Amazon Scraps secret AI recruiting tool that showed bias against women.(アマゾンは女性に不利な判断を見せた秘密のAI採用ツールを廃止する）”
"Why Does Arfitifial Inteliggence Discriminate?(なぜAIは差別を引き起こすのか？）"

確かに全てがAIが主語になっていて、AIが悪いようになっていますね。。

筆者はこうしたAIの欠陥を捕まえて、「だから人間が判断をすべきだ」というのは間違っているといっています。なぜなら人間の判断はもともとバイアス(偏り・歪み）があり（predictably biased) 、AIを活用することでよりいい判断ができるからです。

では、AIの強みとはどういうところにあるのでしょうか

疲れたり、関連性のない情報に気がそれるということがないこと（don't get tired or distracted by irrelevant information): 疲れると判断が鈍るというのはよくあることですし、全く関係のないことことで判断が変わったりもします。例えば、ある調査では背が1インチ(25.4ミリ)高いと年収が789ドル(約84,000円)変わってくるそうです。この結果だけを見ていると、仕事のパフォーマンスには影響がないと思われる背の高さが知らない間に判断に影響を及ぼしているのではないかとも考えられます。

透明性があること（transparent): 人は自分の意思決定に対してあたかもそれらしく説明をするかもしれませんが、どう決定したのかを客観的に行うというのは(特に採用のような場面において）ほとんど不可能です。それに対してAIはデザインする際にどういう要素を重きにおくかなど、明確にしなければ組めないので透明性が高まります。

筆者はそこで、意思決定で起こりうる偏りを見つけるためにAIを活用すべきだと主張しています。そのためには以下の2つのステップを活用することを推奨しています。

バイアス(偏り・歪み)を見つける（Detect Biases)
修正してより良い判断を行う（Correct Biased Decisions) :修正の方法は①判断の基礎となるデータの改善、②同じデータを使うがアルゴリズムのルールを見直す、③入力変数にゆがみがないか、より良い入力変数がないかどうかの点検という3つからなります。

要はAIを一度デザインしたら終わりではなく、学びのプロセスを入れていくということですよね。

シンギュラリティ(機械が人間の知性を超える特異点）の議論もある中、最近は機械について「人間がコントロールできない」という不安に駆られていることも事実だと思います。AIの専門家でもないのであくまで憶測でしか言えないのですが、筆者がこの記事の最後に締めくくった言葉が適切なのではないかと思います。

Data can provide insights, but people are responsible for the decisions made based on them. (データは様々な洞察を与えてくれるが、それに基づいて決定を下す判断は人にある）

機械を利用してより良い意思決定ができる社会になればいいですね。

日々学び、感謝し、成長する