Amazon Echoがプライベートな会話を誤送信した事件

  • 2018.05.27
  • AI
Amazon Echoがプライベートな会話を誤送信した事件

1.Amazon Echoがプライベートな会話を誤送信した事件まとめ

・Amazon Echoが夫婦の会話を録音して夫婦の友人に誤送信する事件があった
・抜群のタイミングで誤検知が重なったために起こったとアマゾンは発表
・正規利用でこういった事件が起こるのでは将来、大規模な攻撃が行われる恐れもある

2.Amazon Echoの誤動作の経緯

アメリカのある家で、夫婦のプライベートな会話をスマートスピーカーのAmazon Echoが録音し、登録されていた連絡相手に勝手に送信しする事件が発生したと報道があった。

Amazonでは「きわめてまれなケース」だとしているが、たまたま「Alexa」と呼びかける声に似た発声をAlexaが検知し、更にその会話の中で会話の送信コマンドに似た発声があり、Alexaは「誰に?」と聞いたところ、更にたまたま会話の中で友人の名前に似た発声が出て、Alexaが「人名ですか?」と聞いたところ、更にたまたま会話の中で「YES」が出たために起こった事件であるらしい。

便利さとセキュリティはあちらを立てればこちらが立たずのトレードオフの関係にある。スマートスピーカーや音声検索は慣れると大変便利なものだが、人によっては「OK Google」や「Alexa」等の命令を認識させるための最初の一言さえ面倒と言う人もいて、その人達の要望が通ってしまう事もある。

音声認識コマンドは以前から技術的にハッキングの危険がある事が知られており、人間には雑音にしか聞こえないが機械には音声コマンドが聞き取れる音声を作ったり、人間には音楽のように聞こえるが音声コマンドが隠されている音声を作ったり、様々な論文が発表されている。上記はまだ、テレビやラジオ、スピーカーからの音声では実現できていないが、いずれは時間の問題であろうとも思われている。

前回ブログでは認識精度が悪すぎるのでこれを信用してしまう使用者にも問題あると考えてしまったが、使い勝手の向上を重視しすぎて誤動作する現状は結構危うく、初期設定のまま使わない事や、もし攻撃を受けて誤注文が起こった際「誰が責任を取るのか?」はマニュアル等を熟読しておく問題かもしれない。

3.Amazon Echoがプライベートな会話を誤送信した事件関連リンク

1)jp.techcrunch.com
ご用心! Echoが勝手に会話を録音して知人に送信した――Amazonから説明あり