人間に受け入れられる穏やかな自動化システムの設計５原則(2/2)

１．人間に受け入れられる穏やかな自動化システムの設計５原則(2/2)まとめ

・オートメーションが現実世界のあらゆるシナリオに対応できないことを認識する
・人間が得意な事を支援し、機械が得意な事を支援する
・自動化した結果は常に人間の目でチェックして、アルゴリズム上のバイアスを根絶する

２．穏やかな自動化システムの設計５原則続き

オートメーションが現実世界のあらゆるシナリオに対応できないことを認識する

全てのクリックやキー操作を記録できるので、Webサイトの解析は簡単です。現実の世界で同様な事を行うためには無数のセンサーが必要ですが、1つのオフィスビルで1時間ごとに発生する数百万の微妙な相互作用から生じるあらゆる事象を記録するには十分ではありません。市区町村でレベルで記憶するなど不可能です。その代わりに、障害時とバックアップ運用について設計する必要があります。

つい最近、私はこの事を講演旅行中に痛感しました。ヨーロッパの空港では、自動センサーに航空券を見せない限り開かない2つのゲートに閉ざされた廊下を通過しなければなりませんでした。しかし、私は飛行中にチケットを折り曲げてしまい、センサーがそれを識別できなくなってしまった。私は2つのゲートの間にあるこの辺獄の通路に閉じ込められ、防犯カメラを監視している人が見付けてくれるまでで外に出ることができませんでした。私ができる唯一のことは、生きている人間が私の苦境に気付くまで、手を振る事でした。

人々が完全な自動化システムを設計できると思っている時は、現実の世界には想定できる以上のあらゆる失敗を誘発する方法があることを忘れている時です。自動化されたシステム設計は、最悪のシナリオを想定（想像）することから始める必要があります。バッテリは常に十分に充電されているとはかぎりません。コンピューターが常に利用可能であると想定することもできません。私たちは、壊れたときでも機能する技術を設計しなければなりません。

人間が得意な事を支援し、機械が得意な事を支援する

人間はキュレーション(収集)、コンテキスト(文脈)、サービス、創造性、思いやりに優れています。自動化は、可能性の高いオプション（またはGoogleのように複数のオプション）を提示したり、フォームにあらかじめ記入したり、提案をすることで決定を下す事を支援します。

自動化は膨大なデータの中からパターンを発見する事に優れているため、パターンを活用して傾向を理解したり予測したりすることができます。機械学習を使って、クレジットカード会社は、不正行為の割合を正確に把握し、どのパターンが典型的なパターンに適合しておらず不正利用の可能性が高いかを正確に把握しています。

オートメーションは、人々の創造性を高め、新しい視点を得るために役立ちます。しかし、自動化した結果は常に人間の目でチェックして、アルゴリズム上のバイアスを根絶する必要があります。私の同僚であるJoy Buolomaniが強く実証したように、「AI」は中立だと主張することができますが、現実にはデータや作り手の無意識のバイアスを強調します。

複雑な物理的タスクを実行し、それらをうまくやることには、ある種の、人にとって不可欠な栄誉です。それは、幸福にとって不可欠な「満ち足りた状態」を作り出します。ホワイトカラーの労働者や知識/創造的な経済の人々にとってはこれはあまり真実ではありませんが、我々は工具や材料を鋭くチェックし、使いこなす必要がある職でそれを見る事ができます。例えば、配管業者、木工労働者、建設業者などがあります。

TV局のマスターコントロールオペレーターとしての私の母の仕事の充実感の鍵でした。これらは完全に自動化する意味がない役割です。

しかし、1980年代の家屋の電気配線のレイアウトを作成する最新の自動化ツールはどうでしょう？それはツールとして技術を使用する事であり、人間と共存する方法です。これは、人間が従来進化してきた方法であり、技術と人間が共存しています。

どのようにして私たちは、人間を尊重しながら、オートメーションをより良くする事ができるでしょうか？もしくは、人間と共存可能な有益なシステムとして使いこなす事ができるでしょうか？

過去、現在、または将来のこれらの自動化システムの良い例がありますか？
私はTwitterであなたの考えを聞いてみたいです！

３．人間に受け入れられる穏やかな自動化システムの設計５原則(2/2)関連リンク

１）medium.com
Designing Automation Systems to Be Calm: Five Principles