gender bias

AI関連その他

2022年のGoogleのAI研究の成果と今後の展望~責任あるAI編~(1/2)

1.2022年のGoogleのAI研究の成果と今後の展望~責任あるAI編~(1/2)まとめ ・学習させた状況下ではうまく機能するが新しい状況下では堅牢、あるいは公平でない仕様不足問題を研究した ・年齢や性別などな属性から因果関係を学んで抜け...
データセット

KYD:データセット探索用の新ツール(1/2)

1.KYD:データセット探索用の新ツール(1/2)まとめ ・Know Your Data(KYD)はデータ内の性別と年齢に関する偏見を見つける事ができるツール ・例えば画像の説明文が「男性」や「女性」で性別による偏りを見つける事ができる ・...
データセット

ニューラル機械翻訳におけるジェンダーバイアスを研究するためのデータセット(2/2)

1.ニューラル機械翻訳におけるジェンダーバイアスを研究するためのデータセット(2/2)まとめ ・Wikipedia Biographiesによって機械翻訳の性別バイアス削減度合を評価する事が可能になった ・文脈を意識するモデル(contex...
データセット

ニューラル機械翻訳におけるジェンダーバイアスを研究するためのデータセット(1/2)

1.ニューラル機械翻訳におけるジェンダーバイアスを研究するためのデータセット(1/2)まとめ ・ニューラル機械翻訳は学習データ内の偏見やステレオタイプを翻訳に反映してしまう事がある ・文を個々に翻訳しており、性別情報は必ずしも個々の文内に明...
モデル

Zari:事前トレーニング済みNLPモデル内の性別決めつけを緩和(1/2)

1.Zari:事前トレーニング済みNLPモデル内の性別決めつけを緩和(1/2)まとめ ・NLPの事前トレーニングでは外科医とメスの関係などの概念間の相関関係も学習している ・概念間の相関関係は実タスクで性別の決めつけのようなバイアスをもたら...
入門/解説

Google翻訳が性別を決めつけてしまう訳を減らす仕組みを拡大

1.Google翻訳が性別を決めつけてしまう訳を減らす仕組みを拡大まとめ ・Google翻訳は性別固有の表現を持たない言語と持つ言語間で翻訳する際に性別を決めつけてしまう事がある ・2018年12月に「性別固有の翻訳」の仕組みを取り入れたが...
入門/解説

Google翻訳でジェンダー別の翻訳を提供する(1/2)

1.Google翻訳でジェンダー別の翻訳を提供する(1/2)まとめ ・単語だけならばジェンダー中立の検出は容易だが明示的な単語がなくてもジェンダー中立になる文が存在 ・これを解決するためにジェンダー別の翻訳を提供するためには3つのステップが...
入門/解説

Google翻訳の性別の偏りを軽減する試み

1.Google翻訳の性別の偏りを軽減する試みまとめ ・Google翻訳は従前はどちらか一方の性に決めつけた翻訳をしていた ・今後は男性でも女性でも成立する文章は両方の文例を表示するようになる ・今後も改善を続けノンバイナリージェンダーにも...