AIによる履歴書チェックを廃止していた米Amazon

その他の調査

2018.10.122023.05.16

１．AIによる履歴書チェックを廃止していた米Amazonまとめ

・Amazonが2014年から開発をしていたAIによる履歴書審査を昨年中止
・既存技術職社員が男性に偏っていたため女性が無条件で不利になっていた
・明確になった項目は修正できても隠れたバイアスを排除しきれないと決断

従来の採用プロセスに差別や偏りがあったと認める事にも繋がるので、良く誤りを認めたな、という思いを抱くと同時に、Amazonほどの大企業であっても隠れたバイアスに気づいてなかったのかと思う。

技術職のほとんどが男性社員であったため、「女性チェス部の部長」のような「女性」と言う単語が履歴書内にあるだけで、その人を人工知能が低く評価していたとの事。

この件については過去にもいくつか記事を書いた。

１）人間より公平で客観的？企業に広がるＡＩ面接官
公平なデータから学べば公平に審査するようになるけれども、偏りがあるデータから学ぶと偏りを増幅してしまう。

２）人工知能と公平性
「人工知能が公平に判断してくれる」と言う表現は、厳密には「人工知能が一定の基準に基づいて判断してくれる」であり、一定の基準は現実世界の、つまり人間が作った基準なのでそれが公平かどうかは人工知能は把握できない。

３）東京医科大学の一律減点と人工知能面接
世の中には人工知能が炙り出す隠れたバイアスをわかっていて使っている組織もあるかもしれない。