nlp

AI

LIT:自然言語モデルを対話的に調査して理解を深める解釈性ツール(1/2)

1.LIT:自然言語モデルを対話的に調査して理解を深める解釈性ツール(1/2)まとめ ・自然言語処理モデルが様々な場面で使われるようになりその動作を理解する重要性が増加 ・以前のWhat-Ifツールは分類と回帰モデル用で自然言語処理に特...
AI

Zari:事前トレーニング済みNLPモデル内の性別決めつけを緩和(2/2)

1.Zari:事前トレーニング済みNLPモデル内の性別決めつけを緩和(2/2)まとめ ・モデルの品質を精度のみの観点でチェックするのは危険で性別相関もチェックが必要 ・ハイパーパラメーターの変更は一見無害に見えても慎重に評価をする必要が...
AI

Zari:事前トレーニング済みNLPモデル内の性別決めつけを緩和(1/2)

1.Zari:事前トレーニング済みNLPモデル内の性別決めつけを緩和(1/2)まとめ ・NLPの事前トレーニングでは外科医とメスの関係などの概念間の相関関係も学習している ・概念間の相関関係は実タスクで性別の決めつけのようなバイアスをも...
AI

pQRNN:射影とクラスタリングで一部のNLPタスクを効率化(2/2)

1.pQRNN:射影とクラスタリングで一部のNLPタスクを効率化(2/2)まとめ ・pQRNNは前世代のモデルであるPRADOを更に改良したNLPモデルで3要素で構成 ・pQRNNは事前処理を一切行わず、テキスト入力だけから文脈表現を学...
AI

pQRNN:射影とクラスタリングで一部のNLPタスクを効率化(1/2)

1.pQRNN:射影とクラスタリングで一部のNLPタスクを効率化(1/2)まとめ ・昨年発表したPRADOはパラメータ数が少なくとも最先端のパフォーマンスを実現した ・PRADOはタスクに最も関連するトークンのみを学習するためパラメータ...
タイトルとURLをコピーしました