AI GoogleのリサーチサイエンティストColin Raffelへのインタビュー(2/2)
１．GoogleのリサーチサイエンティストColin Raffelへのインタビュー(2/2)まとめ
・転移学習の刺激的な進歩の大爆発が技術の見極めを難しくさせT5に繋がった
・教師無し学習でラベルなしデータセットを活用する事が標準になる...
転移学習
AI AI GoogleのリサーチサイエンティストColin Raffelへのインタビュー(1/2)
１．GoogleのリサーチサイエンティストColin Raffelへのインタビュー(1/2)まとめ
・音楽に関する研究から始めたため、ラベル付きデータを取得する事の困難さを味わった
・そのため、ラベル付きデータの必要性を軽減する研究に関...
AI 自己教師学習で音声特徴表現と個人専用モデルを改善(2/2)
１．自己教師学習で音声特徴表現と個人専用モデルを改善(2/2)まとめ
・同じ音声のembeddingは、別の音声のembeddingよりembedding空間内で近い場所に位置するはず
・これを利用しBERTと同様なデータ自体の構造にの...
AI 自己教師学習で音声特徴表現と個人専用モデルを改善(1/2)
１．自己教師学習で音声特徴表現と個人専用モデルを改善(1/2)まとめ
・非セマンティックタスクとは、声の調子など、人間の音声の「意味以外の側面」に焦点を当てたタスク
・従来のベンチマークでは非セマンティックタスク用の特徴表現が有用か否か...
AI Google翻訳の最近の進歩(2/2)
１．Google翻訳の最近の進歩(2/2)まとめ
・低リソース言語の翻訳品質向上には逆翻訳やM4モデリングなどが有効であった
・直近で行われた改良はフレーズベースの翻訳からNMTベースへ移行した4年前の改善度合いに匹敵
・機械翻訳の幻...