公平性

1/7ページ

ML-fairness-gym:機械学習システムの長期的な影響を調査するツール(3/3)

AI

1.ML-fairness-gym:機械学習システムの長期的な影響を調査するツール(3/3)まとめ ・機会均等エージェントは公平性を担保しようとして多くの貸付を行い信用格差を拡大する側面がある ・重視する指標が「グループ間の信用格差」なのか「融資金額の合計」かに応じて判断も変わる ・各年のTPRを等しくしても合計TPRが等しくなるとは限らず機会均等性の解釈は一筋縄ではいかない 2.シンプソンのパラ […]

ML-fairness-gym:機械学習システムの長期的な影響を調査するツール(2/3)

AI

1.ML-fairness-gym:機械学習システムの長期的な影響を調査するツール(2/3)まとめ ・固定したデータセットを利用した公平性の確認は2つの欠陥がある事が知られている ・第一にテストセットが不完全かシステム固有のバイアスを内包している可能性がある事 ・第二に機械学習システムの出力によって行われた行動が、将来の入力に影響を与える可能性がある事 2.ML-fairness-gymによるシミ […]

ML-fairness-gym:機械学習システムの長期的な影響を調査するツール(1/3)

AI

1.ML-fairness-gym:機械学習システムの長期的な影響を調査するツール(1/3)まとめ ・機械学習の公平性は一般的に固定したデータセットを利用して公平性を確認する事で行われる ・機械学習の影響を受けたデータが次の入力に使われるような動的な環境では不十分なチェックになる ・ML-fairness-gymは環境的および時間的な変化が及ぼす影響を考慮して公平性を分析する仕組み 2.ML-fa […]

Explainable AI:説明可能なAI(3/3)

AI

1.Explainable AI:説明可能なAI(3/3)まとめ ・xAIよりAIが内包する偏見(bias)の解決に力を割くべきと主張する人もいる ・人間の意思決定も理由を説明できていない可能性があるが機械に説明を求めるのは意義があるのか? ・「説明を行うシステムの追求」と「偏りが少なく公平性が高いシステムの追求」の両軸が必要 2.説明可能なAI以外にも考慮しなければいけない事 以下、toward […]

Google Research:2019年の振り返りと2020年以降に向けて(1/8)

AI

1.Google Research:2019年の振り返りと2020年以降に向けて(1/8)まとめ ・Google Researchを率いるJeff Deanによる恒例の年初投稿。去年の振り返りと今後の方向性 ・AIの倫理的利用についてはモデルカード、Activation Atlases、Fairness Indicators、FaceForensicsなど ・AI for Social Goodは […]

1 7