画像認識システムを騙す方法

  • 2018.01.04
  • AI
画像認識システムを騙す方法

テッククランチに興味深い記事があがっていた。

画像認識システムを騙して空港の警備をすり抜ける方法…Googleの研究者たちがステッカーで実験

 

1.机の上にバナナを置く(左)と画像認識システムは正確にバナナと認識する(右)

 

2.バナナの横にトースターの絵を置いても画像認識は騙されない

 

3.ところがバナナの横にあるステッカーを張ると突然バナナを無視してトースターと認識するようになる

 

なんかコントっぽくて笑ってしまった。

1.これはバナナですね、私の認識機能はとても優秀なんですよ

2.うん?トースターの絵なんてどうしたんです?こんな事で私を騙せると思うのですか?ふふん。

3.むむ、ここれは!99%間違えなくトースターです!!

ってなんでやねん。

 

数年前に流行った下のクイズを思い出した。

Q「制限時間5秒、下記画像を見て気づいた事を2つ答えなさい」

 

ほとんどの人は中央のセクシーな水着女性に目を奪われて右上にゴリラの顔が写っている事に気づかない。

人工知能にとってはステッカーはセクシーな水着美女に等しいようで、そちらに目を奪われてしまうようだ。仮にこれが空港の危険物持ち込みをチェックする画像認識システムに悪用されると困りますねって事だけど、人工知能ってホントに人間の脳を真似しただけあって人間臭いミスもするんだなぁ、とやや親近感も感じる事例。

おそらくは、新入社員に先輩が苦労しながらビジネスマナーを色々と教えるように、AIエンジニアがびっくりするような間違いをする人工知能に手を焼く時代が来ているのかな、と思う。

元の論文はこちら。
https://arxiv.org/pdf/1712.09665.pdf

人工知能による音声認識を騙す方法はこちら