transformer

AI

LaBSE:言語に依存しないBERT仕様のEmbedding(2/2)

1.LaBSE:言語に依存しないBERT仕様のEmbedding(2/2)まとめ ・Tatoebaに登録されている言語を使った検証では主要14言語では他の手法と大きな差はなかった ・全112言語を含めてテストを行った場合、従来手法に20...
AI

LaBSE:言語に依存しないBERT仕様のEmbedding(1/2)

1.LaBSE:言語に依存しないBERT仕様のEmbedding(1/2)まとめ ・多言語アプローチは有用ではあるがパフォーマンスを維持しながら対応言語を増やすのは困難 ・LaBSEは109の言語を使って訓練したBERT仕様で多言語共通...
AI

GoogleのリサーチサイエンティストColin Raffelへのインタビュー(1/2)

1.GoogleのリサーチサイエンティストColin Raffelへのインタビュー(1/2)まとめ ・音楽に関する研究から始めたため、ラベル付きデータを取得する事の困難さを味わった ・そのため、ラベル付きデータの必要性を軽減する研究に関...
AI

Seq2act:機械学習でスマホ操作を人間の代わりに実行する(2/2)

1.Seq2act:機械学習でスマホ操作を人間の代わりに実行する(2/2)まとめ ・モデルをトレーニング、および評価するための3つの新しいデータセットを構築して公開 ・「アクションフレーズの抽出」と「言語の割り当て」に分解してモデルパフ...
AI

YouTuber向けのSmartReply機能が実装(2/2)

1.YouTuber向けのSmartReply機能が実装(2/2)まとめ ・文字単位の処理は単語単位の処理よりも文字列の並びが長くなり推論速度が遅すぎた ・WaveNetが使った拡張手法を適用し計算量と品質の間で適切なトレードオフを実現...
タイトルとURLをコピーしました