入門／解説 ML-fairness-gym：機械学習システムの長期的な影響を調査するツール(1/3)
１．ML-fairness-gym:機械学習システムの長期的な影響を調査するツール(1/3)まとめ ・機械学習の公平性は一般的に固定したデータセットを利用して公平性を確認する事で行われる ・機械学習の影響を受けたデータが次の入力に使われるよ...
fairness
入門／解説 
入門／解説 Explainable AI:説明可能なAI(3/3)
１．Explainable AI:説明可能なAI(3/3)まとめ ・xAIよりAIが内包する偏見(bias)の解決に力を割くべきと主張する人もいる ・人間の意思決定も理由を説明できていない可能性があるが機械に説明を求めるのは意義があるのか？...
入門／解説 皆のためのMLモデルの構築：機械学習の公平性を理解する(2/3)
１．皆のためのMLモデルの構築：機械学習の公平性を理解する(2/3)まとめ ・what-ifツールを使うと個々の特徴が個々のデータポイントにどのような影響を与えているのかを確認可能 ・データの偏りを無視するために特定の特徴を考慮しないように...
公平性 皆のためのMLモデルの構築：機械学習の公平性を理解する(1/3)
１．皆のためのMLモデルの構築：機械学習の公平性を理解する(1/3)まとめ ・データと機械学習アルゴリズムに公平性を求める事は、安全で責任あるAIシステムの設計／構築に重要 ・公平性は現実世界にモデルを展開した際に露わになる実務的な影響につ...
ヘルスケア 糖尿病性網膜症の診断を支援する人工知能の有効性の改善(2/2)
１．糖尿病性網膜症の診断を支援する人工知能の有効性の改善(2/2)まとめ ・医師と人工知能が協力して診察すると個々に診察するより高い精度が得られる ・人工知能が間違った予測をしても医師がその間違いをただす事ができる ・インドに加えて新たにタ...
入門／解説 Google翻訳でジェンダー別の翻訳を提供する(2/2)
１．Google翻訳でジェンダー別の翻訳を提供する(1/2)まとめ ・ジェンダー別翻訳が必要と判断されると３パターンの翻訳が作られる ・女性前提の翻訳文と男性前提の翻訳文の品質が高いとそれが表示される ・品質が低いと判断されると従来の翻訳文...
入門／解説 What-If Tool：プログラムせずに機械学習モデルを見極める
１．What-If Tool：プログラムせずに機械学習モデルを見極めるまとめ ・What-Ifツールを使うと機械学習モデルのバイアスや誤分類、パフォーマンス悪化要因をチェック ・従来は使い捨てのプログラムを書いて検証する必要があったがコード...
基礎理論 AI技術者の採用面接試験
面接官「貴方の最大の強みは何ですか？」 志望者「私は機械学習のエキスパートです」 面接官「９＋１０は何ですか？」 志望者「３です」 面接官「かすりもしません。１９です」 志望者「１６です」 面接官「違います。１９で変わりません」 志望者「１...
公平性 人工知能と公平性
１．人工知能と公平性まとめ ・人工知能は公平に判断をするのではなく一定の基準で判断を下す ・一定の基準は現実世界から取得した学習用データから学習する ・学習用データには現実世界の差別やバイアスが含まれる事がある ２．人工知能は何故公平と言え...
その他 GoogleのAI研究チームの2017年成果 基礎研究、PAIR、Fairness
１．GoogleのAI研究チームの2017年成果 基礎研究、PAIR、Fairnessまとめ ・基礎研究（分子構造の予測、太陽系外惑星の発見、地震の余震予測など） ・PAIR、人間の関係に着目して人工知能をより有用にするプロジェクト ・人工...
入門／解説 人間より公平で客観的？企業に広がるＡＩ面接官
１．人間より公平で客観的？企業に広がるＡＩ面接官 まとめ ・企業の採用選考に人工知能が使われ始めていると日経新聞で報道 ・人工知能は人間より客観性や公平性が高いのではないかと期待する人達もいる ・人工知能が人間の差別や偏見を素直に学習してし...
入門／解説 Google Photosが黒人をゴリラと誤認した件
１．Google Photosが黒人をゴリラと誤認した件のまとめ ・Google Photosが黒人をゴリラと誤認した件は２年たっても修正できていないようだ ・人工知能は誤りを直接修正できないので本事例のような細かいチューニングは困難 ・G...