dahara1

AI

StylEx:犬と猫の違いは何かを視覚的に説明する新しい手法(2/2)

1.StylEx:犬と猫の違いは何かを視覚的に説明する新しい手法(2/2)まとめ ・StylExは分類器を説明するものであり、現実世界の分類を説明するものではない ・現実世界におけるクラスラベル間の物理的な違いを特徴付けるとは限らない ...
AI

StylEx:犬と猫の違いは何かを視覚的に説明する新しい手法(1/2)

1.StylEx:犬と猫の違いは何かを視覚的に説明する新しい手法(1/2)まとめ ・ニューラルネットワークが何に着目して画像を分類しているか特定する事は困難 ・従来手法は注目している場所や全体的な特徴はわかるが特徴が分離できていない ...
AI

TaskMoE:効率的に推論を行うためにタスク別のルーティングを学習(2/2)

1.TaskMoE:効率的に推論を行うためにタスク別のルーティングを学習(2/2)まとめ ・蒸留でサイズを削減する際は教師モデルから生徒モデルを訓練する追加計算が必要 ・更にTokenMoEを蒸留しても向上したパフォーマンスを全て維持す...
AI

TaskMoE:効率的に推論を行うためにタスク別のルーティングを学習(1/2)

1.TaskMoE:効率的に推論を行うためにタスク別のルーティングを学習(1/2)まとめ ・MoEは効果的だが多くのトークンを複数のexpertsに送ると多くの計算コストがかかる ・TokenMoEはTaskMoEと異なりタスク毎にサブ...
AI

V-MoEs:条件付き計算を使って視覚モデルの規模を拡大(2/2)

1.V-MoEs:条件付き計算を使って視覚モデルの規模を拡大(2/2)まとめ ・Batch Priority Routingにより優先度の低いトークンを捨てる事を強制 ・従来手法ではバッファ容量不足時に性能が低下するがBPRは堅牢 ・...
タイトルとURLをコピーしました