Keep Learning! Fail and open the door to a new world!
１．人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(3/3)まとめ ・ビジネスにAIを採用させる事を成功するためにはビジネス固有のカスタムソリューションが必要 ・より複雑なデータサイエンスの問題には、特定分野の専門家による介入とガイドが不可欠となる ・良い目的で使用されるAIと悪い目的で使用されるAI間の綱引きは引き続いていく ２．DIY AI時代 以下、ww […]
１．その転移学習は本当に有用なのか？(3/3)まとめ ・事前学習によって学習された重みは特徴表現とは無関係に学習を高速化する効果がある ・高速効果は平均と分散を意識した初期化で実現できるため任意のレイヤーに適用可能 ・重みを再利用できる下位レイヤーのみ転移させ、上位レイヤーは再設計するハイブリッドアプローチが可能 ２．転移学習のハイブリッドアプローチ 以下、ai.googleblog.comより「 […]
１．その転移学習は本当に有用なのか？(2/3)まとめ ・大きなモデルの下位レイヤーでは学習による重みの変化が小さく特徴表現はかなり再利用される ・大きなモデルでも小さなモデルでも上位レイヤーでは重みの変化が大きく特徴表現はあまり再利用されない ・小さなモデルの下位レイヤーでは学習による重みの変化が大きく特徴表現は適度に再利用される ２．特徴表現の分析 以下、ai.googleblog.comより「 […]
１．その転移学習は本当に有用なのか？(1/3)まとめ ・転移学習は医療用画像処理タスクのパフォーマンスに大きな影響を与えていない事がわかった ・医療用画像処理タスクでは小さいモデルが大きなモデルに匹敵するパフォーマンスを出せていた ・大きなモデルでは転移学習の有無でパフォーマンスに大きな違いがあったが小さなモデルではなかった ２．Transfusion：医療画像における転移学習の有用性を評価 以下 […]
１．敵対的サンプルはバグではなく人間には知覚できない高度な特徴(1/5)まとめ ・敵対的サンプルを使ってトレーニングしたモデルが敵対的でないデータを扱う事が出来る事が判明 ・堅牢なデータセットを使ってトレーニングしたモデルが自明でない特徴を学んでいる事も判明 ・敵対的サンプルとは人間に知覚できない「堅牢でない特徴(non-robust features)」によるもの説が提唱 ２．敵対的サンプルはバ […]
