AI Zari：事前トレーニング済みNLPモデル内の性別決めつけを緩和(2/2)
１．Zari：事前トレーニング済みNLPモデル内の性別決めつけを緩和(2/2)まとめ
・モデルの品質を精度のみの観点でチェックするのは危険で性別相関もチェックが必要
・ハイパーパラメーターの変更は一見無害に見えても慎重に評価をする必要が...
BERT
AI AI Zari：事前トレーニング済みNLPモデル内の性別決めつけを緩和(1/2)
１．Zari：事前トレーニング済みNLPモデル内の性別決めつけを緩和(1/2)まとめ
・NLPの事前トレーニングでは外科医とメスの関係などの概念間の相関関係も学習している
・概念間の相関関係は実タスクで性別の決めつけのようなバイアスをも...
AI YouTubeストーリーで人の声だけ音量を上げる(1/2)
１．YouTubeストーリーで人の声だけ音量を上げる(1/2)まとめ
・バックグラウンドノイズが大きいビデオでは被写体のスピーチが曖昧になり理解しにくい
・Looking to Listenは音声と口の動きなどの視覚信号を使い特定の人の...
AI pQRNN：射影とクラスタリングで一部のNLPタスクを効率化(2/2)
１．pQRNN：射影とクラスタリングで一部のNLPタスクを効率化(2/2)まとめ
・pQRNNは前世代のモデルであるPRADOを更に改良したNLPモデルで３要素で構成
・pQRNNは事前処理を一切行わず、テキスト入力だけから文脈表現を学...
AI pQRNN：射影とクラスタリングで一部のNLPタスクを効率化(1/2)
１．pQRNN：射影とクラスタリングで一部のNLPタスクを効率化(1/2)まとめ
・昨年発表したPRADOはパラメータ数が少なくとも最先端のパフォーマンスを実現した
・PRADOはタスクに最も関連するトークンのみを学習するためパラメータ...