TFCO：制約付き最適化ライブラリを使用して公平性の目標を設定(1/3)

１．TFCO：制約付き最適化ライブラリを使用して公平性の目標を設定(1/3)まとめ

・機械学習モデルは競合する考慮事項間でバランスを取るようなケースに対処するのが難しい
・TFCOライブラリを使用すると複数の異なる基準に基づく機械学習の問題を簡単に構成および学習可能
・TFCOは特に公正性に関心を持つコミュニティにとって興味深い多くの問題を簡単に定式化可能

２．TFCOとは？

以下、ai.googleblog.comより「Setting Fairness Goals with the TensorFlow Constrained Optimization Library」の意訳です。元記事の投稿は2020年2月21日、Andrew Zaldivarさんによる投稿です。記事後半に若者の笑顔に比べて高齢者の笑顔の検出率が悪いケースを改善する事例が出て来るのですが、高齢者の笑顔ってわかりにくいのかなと思って検索して、確かに若者の画像だけでトレーニングしたらこのおばあちゃんの素敵な笑顔は認識しにくのだろうな、と思った画像がアイキャッチ画像でクレジットはPhoto by Cristian Newman on Unsplash

教師あり機械学習を使用する多くの技術は、病気の早期兆候の把握から不適切なコンテンツのフィルタリングまで、人々の日常生活にますますプラスの影響を与えています。

ただし、従来の機械学習モデルのような単一の損失関数を最小化する学習モデルは、複数の競合する考慮事項をトレードオフする必要がある公平性などの広範な社会的問題に対処するのが困難になる可能性があるという懸念が高まってきています。

モデルがそのような要因を考慮出来る能力を持つ事が出来たとしても、このような複雑なモデルを完璧に設計する事ができない場合があります。

例えば、偽陰性を偽陽性よりも「悪い」事とする場合や、トレーニング対象のモデルを既存のモデルと「類似」させる場合などです。

TensorFlow Constrained Optimization(TFCO)ライブラリを使用すると、複数の異なる基準に基づく機械学習の問題を簡単に構成およびトレーニングできます。(例：特定のグループのメンバーの精度、特定の国の居住者の真の陽性率、または年齢と性別による癌診断のリコール率)。

これらの基準は概念的には単純ですが、ユーザーにそれらの任意の組み合わせを最小化および制約する機能を提供することにより、TFCOは特に公正性に関心を持つコミュニティにとって興味深い多くの問題を簡単に定式化して解決する事ができます。

TFCOはGoogleのAI原則(AI Principles)とどのように関係していますか？
TFCOのリリースにより、私達のAI原則が行動に移され、研究および実践におけるAIの倫理に基づいた開発及び使用を更に支援します。TFCOを開発者の手に委ねることにより、私達は彼らが使うツールを改善し、彼らのモデルが危険で有害な場所を特定し、モデルが望ましい結果を達成することを保証する制約を設定することを目指します。

目標は何ですか？
Hardt等による研究事例を借りて説明しましょう。

ローンを完済した人(ポジティブなラベル)またはそうでない人のデータセットに基づいて、ローン申請を受け付けるべきか(ポジティブな予測)受け付けるべきではないか(ネガティブな予測)を決定する分類子を学習する問題を検討しましょう。

まず、目的関数を設定します。これは、ローン申請を審査するモデルが目指すべき目標を設定します。そして、特定の対象グループへの融資を不当に拒否する事を防止する公平性の制約を課します。

TFCOでは、「目的関数」と「課される制約」は、単純な代数式(通常のPython演算子を使用)として表現されます。

学習済み線形モデルの全体的なエラー率を最小化するようTFCOに指示すると(公平性制約なしで)、次のような決定境界が得られる可能性があります。

青とオレンジの2つのグループを持つデータセットとそれを分類する決定境界