AIのバイアス

採用・人事評価

　人事の採用や評価にAIを用いている建設会社があるとする。家を作るには重いものを運ぶ機会が多く、力のある男性が向いている。もちろん実際に土木関係で働いている人は男性が多い。そんな過去の採用情報からAIは学習したとする。すると、AIは土木業＝男性というバイアスを持つ。そこに重いものは持てないが、壁を塗ることが得意な女性の左官が面接に来た。そして、バイアスを持ったAIの判断により、彼女は不採用になってしまう。とても極端な例だがこれに近いことが起きてしまうかもしれない。

　誤診

　こんな病気を仮定する。病気Aは皮膚に湿疹ができる中国でよくある病気である。これは薬Aを塗れば簡単に治り、日本人で発症する人はまれである。一方、病気Bは病気Aと同じ見た目の湿疹ができるが、薬Bを塗らないと治らない。そして、この病気は日本人に多く見られるが、中国人で発症する人は稀である。

　この病気の診断に病院はAIを使っていた。このAIは中国人の病理画像をもとに学習していたとする。

　ある日、病院に皮膚に湿疹のある日本人がやってきた。そして、いつも通りAIが病気の診断を行たった。中国人の画像から学習していたAIは、この病気を「病気A」と診断し、病院は薬Aを処方した。後日、その日本人は病気Bであることがわかった。