モデル Zari：事前トレーニング済みNLPモデル内の性別決めつけを緩和(1/2)
１．Zari：事前トレーニング済みNLPモデル内の性別決めつけを緩和(1/2)まとめ・NLPの事前トレーニングでは外科医とメスの関係などの概念間の相関関係も学習している・概念間の相関関係は実タスクで性別の決めつけのようなバイアスをもたらす可...
albert
モデル 
基礎理論 ALBERT:軽量化と冗長性排除をしたBERT(2/2)
１．ALBERT:軽量化と冗長性排除をしたBERT(2/2)まとめ・パラメータの因数分解と冗長性の排除を行う事でわずかなBERTよりパラメータを89%削減・パラメータサイズを削減した事により計算機資源に余裕が生まれ、モデルの規模を改めて拡大...
基礎理論 ALBERT:軽量化と冗長性排除をしたBERT(1/2)
１．ALBERT:軽量化と冗長性排除をしたBERT(1/2)まとめ・AIのNLPのパフォーマンスを向上させている主要な要因は複雑で特定は困難・ALBERTを設計していく中で得られた鍵は、モデルの容量をより効率的に割り当てる事であった・パラメ...