TFCO:制約付き最適化ライブラリを使用して公平性の目標を設定(1/3)

AI

1.TFCO:制約付き最適化ライブラリを使用して公平性の目標を設定(1/3)まとめ

・機械学習モデルは競合する考慮事項間でバランスを取るようなケースに対処するのが難しい
・TFCOライブラリを使用すると複数の異なる基準に基づく機械学習の問題を簡単に構成および学習可能
・TFCOは特に公正性に関心を持つコミュニティにとって興味深い多くの問題を簡単に定式化可能

2.TFCOとは?

以下、ai.googleblog.comより「Setting Fairness Goals with the TensorFlow Constrained Optimization Library」の意訳です。元記事の投稿は2020年2月21日、Andrew Zaldivarさんによる投稿です。記事後半に若者の笑顔に比べて高齢者の笑顔の検出率が悪いケースを改善する事例が出て来るのですが、高齢者の笑顔ってわかりにくいのかなと思って検索して、確かに若者の画像だけでトレーニングしたらこのおばあちゃんの素敵な笑顔は認識しにくのだろうな、と思った画像がアイキャッチ画像でクレジットはPhoto by Cristian Newman on Unsplash

教師あり機械学習を使用する多くの技術は、病気の早期兆候の把握から不適切なコンテンツのフィルタリングまで、人々の日常生活にますますプラスの影響を与えています。

ただし、従来の機械学習モデルのような単一の損失関数を最小化する学習モデルは、複数の競合する考慮事項をトレードオフする必要がある公平性などの広範な社会的問題に対処するのが困難になる可能性があるという懸念が高まってきています。

モデルがそのような要因を考慮出来る能力を持つ事が出来たとしても、このような複雑なモデルを完璧に設計する事ができない場合があります。

例えば、偽陰性を偽陽性よりも「悪い」事とする場合や、トレーニング対象のモデルを既存のモデルと「類似」させる場合などです。

TensorFlow Constrained Optimization(TFCO)ライブラリを使用すると、複数の異なる基準に基づく機械学習の問題を簡単に構成およびトレーニングできます。(例:特定のグループのメンバーの精度、特定の国の居住者の真の陽性率、または年齢と性別による癌診断のリコール率)。

これらの基準は概念的には単純ですが、ユーザーにそれらの任意の組み合わせを最小化および制約する機能を提供することにより、TFCOは特に公正性に関心を持つコミュニティにとって興味深い多くの問題を簡単に定式化して解決する事ができます。

TFCOはGoogleのAI原則(AI Principles)とどのように関係していますか?
TFCOのリリースにより、私達のAI原則が行動に移され、研究および実践におけるAIの倫理に基づいた開発及び使用を更に支援します。TFCOを開発者の手に委ねることにより、私達は彼らが使うツールを改善し、彼らのモデルが危険で有害な場所を特定し、モデルが望ましい結果を達成することを保証する制約を設定することを目指します。

目標は何ですか?
Hardt等による研究事例を借りて説明しましょう。

ローンを完済した人(ポジティブなラベル)またはそうでない人のデータセットに基づいて、ローン申請を受け付けるべきか(ポジティブな予測)受け付けるべきではないか(ネガティブな予測)を決定する分類子を学習する問題を検討しましょう。

まず、目的関数を設定します。これは、ローン申請を審査するモデルが目指すべき目標を設定します。そして、特定の対象グループへの融資を不当に拒否する事を防止する公平性の制約を課します。

TFCOでは、「目的関数」と「課される制約」は、単純な代数式(通常のPython演算子を使用)として表現されます。

学習済み線形モデルの全体的なエラー率を最小化するようTFCOに指示すると(公平性制約なしで)、次のような決定境界が得られる可能性があります。


青とオレンジの2つのグループを持つデータセットとそれを分類する決定境界

視覚化を容易にするために、個々のデータを図示するのではなく楕円として表現しています。+符号と-符号はラベルを示します。ラベルをプラスかマイナスに分類する決定境界は黒い破線として描かれています。プラスと予測されるのは破線より上の領域で、マイナスと予測される領域は線より下です。

この図は、精度を最大にする事を目的に設定された決定境界を表しています。これは優れた分類器ですが、特定のアプリケーションでは、不公平であると見なされるかもしれません。

たとえば、正のラベルが付けられた青の例は、正のラベルが付けられたオレンジの例よりも負の予測、つまりローン申請を拒否される可能性が高く、「機会均等」の原則に違反します。これを修正するには、機会均等制約を制約リストに追加します。結果の分類子は次のようになります。


ここでは、機会均等(または真の陽性率)制約を条件とした上で、精度を最大化する決定境界が選択されます。

3.TFCO:制約付き最適化ライブラリを使用して公平性の目標を設定(1/3)関連リンク

1)ai.googleblog.com
Setting Fairness Goals with the TensorFlow Constrained Optimization Library

2)github.com
TensorFlow Constrained Optimization (TFCO)

3)arxiv.org
Pairwise Fairness for Ranking and Regression

4)proceedings.mlr.press
Two-Player Games for Efficient Non-Convex Constrained Optimization

5)jmlr.org
Optimization with Non-Differentiable Constraints with Applications to Fairness, Recall, Churn, and Other Goals

6)papers.nips.cc
Optimizing Generalized Rate Metrics with Three Players

7)icml.cc
Training Well-Generalizing Classifiers for Fairness Metrics and Other Data-Dependent Constraints

コメント

タイトルとURLをコピーしました