コンセント作戦が通用しなさそうなロボットたち

コンセント作戦が通用しなさそうなロボットたち

1.コンセント作戦が通用しなさそうなロボットたちまとめ

・人間の妨害に負けずにドアを開くロボットの動画が公開された
・2016年2月にも同様なコンセプトの動画は公開されている
・人工知能が反乱したらコンセントを抜けば良い作戦はいよいよ危うくなっている

2.人間の妨害に負けずに扉をあけるロボット

以前、バク転をするロボットの動画で世界の注目を集めたボストンダイナミック社が人間の妨害に負けずに扉を開ける4足歩行ロボットの動画を公開した。

妨害に負けずに何度もトライする姿は健気に感じる部分もあるが、いよいよもって「人工知能が反乱したらコンセントを抜けば良い作戦」は通用しない時代が来ているんだな、と改めて思う。

実はこういった妨害動画は2016年2月にも公開されている。

ボストンダイナミック社は現実世界で通用する耐久性の高いロボットを追求している。他の動画でもロボットを蹴ったり押したり様々な妨害をテストしているがロボット達は様々な妨害や予想外の出来事に耐える能力を着実に身に着けているようだ。

3.ロボット三原則

アイザック・アシモフがロボット物SF小説の中で定義した有名なロボット三原則は下記。

第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

素晴らしい原則のように思えていたのだけど、本動画を見て考え込んでしまった。

「扉を開けろ」と「扉を開けるな」の矛盾した命令を受けたロボットはどのように第二条を解釈すればよいのだろうか?人間自身が判断や解釈に迷うルールを人工知能やロボットに遵守させるのは無理だよなぁ。