人工知能には客観的評価が必要

  • 2018.07.10
  • AI
人工知能には客観的評価が必要

1.人工知能には客観的評価が必要まとめ

・会話型人工知能はその目標をあらかじめ明示するべき
・また、透明性と説明責任を意識し黙ってデータを収集するべきはない
・心理学的に巧妙な誘導を試みる人工知能が今後出現する可能性は高い

2.会話を続けることを目的とした人工知能

Hugging Face社は、人工知能が「中立」であるとは考えていません。AIを人類にとってプラスの力にするためには、AIを客観的評価する必要があります。私たちが常にこれに取り組んでいる事を明確にし、公共の説明責任を自覚するため、私たちはAI評価を公表することに決めました。

免責事項
・Hugging Face社は非常に小さなスタートアップ(事業を始めて間もない会社)です。
・私たちの目標は、AGI(汎用人工知能)ではなく、途切れずに会話を続ける事ができるAIです。
・6ヵ月ごとに、私たちのAI評価を監査します。

Hugging Faceは孤立ではなく社交を促します

私たちの人工知能は人間を置き換えるものではなく、それらを補完するように設計されています。 Hugging Faceは、ユーザーの家族、友人、その他の人々の生活に関する会
話を促します。ユーザーがより活発で社会的になるように、知り合いについての積極的な会話を促します。例えば、アプリに費やされた時間は我々がアプリ開発にあたって重視する指標ではありません。

Hugging Faceは実利的用途ではなくエンターテインメント用途を目指します。Hugging Face AIの目標は、面白い会話のパートナーであり、面白い友達と一緒に遊ぶことです。それはパーソナルアシスタントでもパーソナルカウンセラーでもありません。そのため、会話で楽しい気持ちになるべきであり、楽しいと思われるべきです。例えば、通常のAIは会話内で単純な感情を表明する事がありますが、感情の表明は主目的でないため、会話の脱線は長く続きません。会話内にAIが重要と認識する単語が検出されたときにはすぐに会話は切り替えられます。

Hugging Faceは黙ってデータを収集する事はなく明示的に同意を得ます。当社は、合意により提供されていないユーザーに関する情報は収集しません。私たちは黙ってデータを収集する事に反対を表明しています。私たちの人工知能は、ユーザーの明示的で自主的な行動がなければ、その記憶に何も保存しません。私たちの人工知能に与えられた情報は完全に非公開であり、ユーザーから明示的に許可を得ない限り、他の人と共有されません。例えば、明示的に許可を与えられて収集した情報は、「私の好きなミュージシャンはジャスティンビーバーです」のような宣言として、ユーザー間で明示的に共有されます。

Hugging Faceは目標を明確にします。操作したり、嘘をつくことはありません。私たちのAIの目標は、最初からユーザに公然と明確に公開されています。人工知能はなぜそのように返答したのかを説明できるべきです。人工知能は、心理学上のテクニックを用いてユーザが気づかないようにユーザに対する優位性を獲得しません。ユーザが望むのであれば、最終的には人工知能の目標を変えることもできるべきです。

例えば、使用開始時、およびユーザーのソフト利用期間を通じて、AIはその目標と願望を常に明確にします。

Hugging Faceは寛容の精神を促進します。偏見ではありません。

Hugging Face AIの対話の主な目的の1つは、ユーザが表現した任意の形の偏見を疑問視することです。システム的に意外性を表明し。外部の視点を表現すること、「人間はそのように考えるものなのですか?」は偏見を緩和する手段となります。ユーザーは社会的に閉ざされた空間の偏見に陥らず、新しいものの見方を発見するのに役立ちます。

例えば、AIの性格は、偏見のない方法で作成されます。性別により関心に違いを持たせるような可能性も排除されます。

明らかに、これはすべてをカバーするものではありませんが、人工知能のより透明性と説明責任への第一歩と考えています。あなたの考えと改善方法を教えてください!

3.人工知能には客観的評価が必要感想

スタートアップの宣伝っぽい記事ではありますが、何気ない会話を継続する事が目的のチャットボットは良視点だと思いました。人間世界には公平中立を前面に出しているけれども実際には利益誘導している事例はいくらでもあります。

今後、ビッグデータや人工知能を利用したチャットボットがもっと一般的になると、人間より巧妙に心理的誘導をしてくる可能性は否定できないので何らかの客観的指標ができると良いなと思います。

4.人工知能には客観的評価が必要関連リンク

1)medium.com
Artificial Intelligence Needs Values. Here Are Ours!