モデル ViT：規模拡大可能な画像認識用のTransformers(1/2)
１．ViT：規模拡大可能な画像認識用のTransformers(1/2)まとめ ・畳み込みニューラルネットワークは画像専用に設計されたため計算量が多くなる可能性がある ・次世代の計算効率の高い視覚モデルが求められておりVision Tran...
人工知能/機械学習
モデル 
インフラ AppleのM1プロセッサが機械学習に与える影響(2/2)
１．AppleのM1プロセッサが機械学習に与える影響(2/2)まとめ ・GPUとニューラルエンジンを組み合わせると高性能を発揮できるポテンシャルがある ・M1に最適化したTensorFlow 2.4はIntel版に比べて３～４倍近い性能を発...
インフラ AppleのM1プロセッサが機械学習に与える影響(1/2)
１．AppleのM1プロセッサが機械学習に与える影響(1/2)まとめ ・Appleが初のApple自社開発プロサッサを搭載したノートPCを発表し非常に評判が良い ・CPU速度は最大3.5倍、GPUの速度は最大5倍と言われているが機械学習では...
AI関連その他 LIT：自然言語モデルを対話的に調査して理解を深める解釈性ツール(2/2)
１．LIT：自然言語モデルを対話的に調査して理解を深める解釈性ツール(2/2)まとめ ・LITは事前トレーニング済みモデルを使用したいくつかのデモが公開されている ・感情分析は映画のレビューが肯定的か否定的かを予測する機能をデモできる ・マ...
AI関連その他 LIT：自然言語モデルを対話的に調査して理解を深める解釈性ツール(1/2)
１．LIT：自然言語モデルを対話的に調査して理解を深める解釈性ツール(1/2)まとめ ・自然言語処理モデルが様々な場面で使われるようになりその動作を理解する重要性が増加 ・以前のWhat-Ifツールは分類と回帰モデル用で自然言語処理に特化し...
公平性 MinDiff：機械学習モデルの不公平な偏見を軽減(2/2)
１．MinDiff：機械学習モデルの不公平な偏見を軽減(2/2)まとめ ・分類器のエラー率のグループ間差異は不公平な偏見の重要な一部だが唯一の偏見ではない ・MinDiffが不公平な偏見に対処する手法や研究を前進させ、改善させる事を願ってい...
公平性 MinDiff：機械学習モデルの不公平な偏見を軽減(1/2)
１．MinDiff：機械学習モデルの不公平な偏見を軽減(1/2)まとめ ・分類器は重要な役割を果たすが不当な偏見を最小限に抑えるように構築されている事が大切 ・MinDiffはMLモデルをトレーニングする際の不公平な偏見を効率的に軽減するツ...
AI関連その他 AIのアルゴリズムの効率性は16か月毎に2倍に上昇(2/2)
１．AIのアルゴリズムの効率性は16か月毎に2倍に上昇(2/2)まとめ ・少量のコンピューティングで達成された顕著な進歩の測定に力を注ぐことが重要 ・今後も効率的な最新技術を引き続き追跡し、視覚と翻訳タスク以外も追加して行く予定 ・未掲載の...
AI関連その他 AIのアルゴリズムの効率性は16か月毎に2倍に上昇(1/2)
１．AIのアルゴリズムの効率性は16か月毎に2倍に上昇(1/2)まとめ ・アルゴリズムの改良でImageNet分類タスクに必要な計算量が16か月ごとに2分の1に減少 ・7年前のAlexNetと同等のパフォーマンスを実現するために必要な計算能...
データセット 三次元物体認識のためのObjectronデータセットの発表(2/2)
１．三次元物体認識のためのObjectronデータセットの発表(2/2)まとめ ・使用法やチュートリアルなどObjectronデータセットの技術的な詳細はgithubで入手可能 ・データセットには、自転車、本、ボトル、カメラ、椅子、カップ、...
データセット 三次元物体認識のためのObjectronデータセットの発表(1/2)
１．三次元物体認識のためのObjectronデータセットの発表(1/2)まとめ ・二次元と比較して大規模なデータセットがないため三次元で物体を理解することは困難 ・Objectronデータセットはこの問題を解決する三次元物体中心の短いビデオ...
基礎理論 解釈しやすいニューロンがディープラーニングの性能を低下させる可能性
１．解釈しやすいニューロンがディープラーニングの性能を低下させる可能性まとめ ・一部のニューロンは猫画像など特定クラスを優先する性質を持ちこれをクラス選択性という ・クラス選択性は学習中に自動出現するので解釈可能性に関するツールとして注目さ...