モデル LaMDA：人間より機知に富んだ会話が可能な対話モデル(2/2)
１．LaMDA：人間より機知に富んだ会話が可能な対話モデル(2/2)まとめ ・品質指標は微調整の有無にかかわらず、モデルパラメータの数とともに一般に改善する ・根拠性はモデルサイズが大きくなると向上するが外部の知識源を参照する事が可能 ・微...
dahara1
モデル モデル LaMDA：人間より機知に富んだ会話が可能な対話モデル(1/2)
１．LaMDA：人間より機知に富んだ会話が可能な対話モデル(1/2)まとめ ・LaMDAは最大1370億のパラメータを持つ対話に特化したニューラル言語モデル ・微調整を行い外部の知識ソースを活用する方法をモデルを教えて品質を向上した ・品質...
学習手法 StylEx：犬と猫の違いは何かを視覚的に説明する新しい手法(2/2)
１．StylEx：犬と猫の違いは何かを視覚的に説明する新しい手法(2/2)まとめ ・StylExは分類器を説明するものであり、現実世界の分類を説明するものではない ・現実世界におけるクラスラベル間の物理的な違いを特徴付けるとは限らない ・分...
学習手法 StylEx：犬と猫の違いは何かを視覚的に説明する新しい手法(1/2)
１．StylEx：犬と猫の違いは何かを視覚的に説明する新しい手法(1/2)まとめ ・ニューラルネットワークが何に着目して画像を分類しているか特定する事は困難 ・従来手法は注目している場所や全体的な特徴はわかるが特徴が分離できていない ・St...
モデル TaskMoE：効率的に推論を行うためにタスク別のルーティングを学習(2/2)
１．TaskMoE：効率的に推論を行うためにタスク別のルーティングを学習(2/2)まとめ ・蒸留でサイズを削減する際は教師モデルから生徒モデルを訓練する追加計算が必要 ・更にTokenMoEを蒸留しても向上したパフォーマンスを全て維持する事...
モデル TaskMoE：効率的に推論を行うためにタスク別のルーティングを学習(1/2)
１．TaskMoE：効率的に推論を行うためにタスク別のルーティングを学習(1/2)まとめ ・MoEは効果的だが多くのトークンを複数のexpertsに送ると多くの計算コストがかかる ・TokenMoEはTaskMoEと異なりタスク毎にサブネッ...
モデル V-MoEs：条件付き計算を使って視覚モデルの規模を拡大(2/2)
１．V-MoEs:条件付き計算を使って視覚モデルの規模を拡大(2/2)まとめ ・Batch Priority Routingにより優先度の低いトークンを捨てる事を強制 ・従来手法ではバッファ容量不足時に性能が低下するがBPRは堅牢 ・ルーテ...
モデル V-MoEs：条件付き計算を使って視覚モデルの規模を拡大(1/2)
１．V-MoEs:条件付き計算を使って視覚モデルの規模を拡大(1/2)まとめ ・大規模なモデルやデータセットを使用するためには大量の計算が必要になり困難 ・計算に必要なリソースを抑える有望な手法のひとつに条件付き計算がある ・これは常にネッ...
その他の調査 Google Research：2022年以降にAIはどのように進化していくか？(6/6)
１．Google Research：2022年以降にAIはどのように進化していくか？(6/6)まとめ ・MLおよび関連分野の研究の全般的な進歩のためにオープンデータセットも拡充 ・コンピューティング研究を推進するため会議や資金支援でコミュニ...
その他の調査 Google Research：2022年以降にAIはどのように進化していくか？(5/6)
１．Google Research：2022年以降にAIはどのように進化していくか？(5/6)まとめ ・MLが広く使われるようになるにつれ公平かつ公正に適用される事が重要になる ・推薦システムの推薦が集中したり機械翻訳が性別を決めつる事など...
その他の調査 Google Research：2022年以降にAIはどのように進化していくか？(4/6)
１．Google Research：2022年以降にAIはどのように進化していくか？(4/6)まとめ ・物理学から生物学、再生可能エネルギーや医療などの関連領域でMLのインパクトが高まる ・コンピュータビジョンモデルは個人的な問題から地球規...
その他の調査 Google Research：2022年以降にAIはどのように進化していくか？(3/6)
１．Google Research：2022年以降にAIはどのように進化していくか？(3/6)まとめ ・個人スマホがプライバシーを保ったまま世界中のスマホと共同して学習する事が可能な時代 ・世界のデータを使いつつ状況に応じて個人に最適化出来...