入門／解説 PEGASUS：文章要約を行う最先端の人工知能(2/3)
１．PEGASUS：文章要約を行う最先端の人工知能(2/3)まとめ ・PEGASUSは1000程度の微調整用のサンプルで教師有りモデルを性能を発揮する事が出来た ・人間による品質評価を行ったところモデルの要約は人間の要約よりを一貫して好まれ...
入門／解説
入門／解説 入門／解説 PEGASUS：文章要約を行う最先端の人工知能(1/3)
１．PEGASUS：文章要約を行う最先端の人工知能(1/3)まとめ ・従来の自然言語の事前トレーニングは様々な下流タスクに流用できるように汎用的な目的だった ・事前トレーニングを最終的に実行するタスクに近づけたらパフォーマンスがどうなるか疑...
入門／解説 Google翻訳の最近の進歩(2/2)
１．Google翻訳の最近の進歩(2/2)まとめ ・低リソース言語の翻訳品質向上には逆翻訳やM4モデリングなどが有効であった ・直近で行われた改良はフレーズベースの翻訳からNMTベースへ移行した4年前の改善度合いに匹敵 ・機械翻訳の幻覚に対...
入門／解説 Google翻訳の最近の進歩(1/2)
１．Google翻訳の最近の進歩(1/2)まとめ ・機械学習の進歩により自動翻訳品質が大幅に向上したがまだ人間のパフォーマンスには及ばない ・利用可能な学習用データが少ない低リソース言語の翻訳品質は特に多くの課題が残されている ・本投稿では...
入門／解説 Federated Analytics：データを一か所に収集せずにデータ分析を行う(2/2)
１．Federated Analytics：データを一か所に収集せずにデータ分析を行う(2/2)まとめ ・Secure Aggregationにより、Federated Analyticsはより強力なプライバシー属性を実現できている ・この...
入門／解説 Federated Analytics：データを一か所に収集せずにデータ分析を行う(1/2)
１．Federated Analytics：データを一か所に収集せずにデータ分析を行う(1/2)まとめ ・Federated learningはスマートフォン上のデータをプライバシーを考慮しながら機械学習で利用する仕組み ・Federate...
入門／解説 BLEURT:人工知能が生成した文章の品質を評価(3/3)
１．BLEURT:人工知能が生成した文章の品質を評価(3/3)まとめ ・BLEURTは、何百万もの合成文章ペアを使用してモデルを「ウォームアップ」して品質を向上した ・既存の評価手法と比較するとBLEURTは最も良く人間による品質評価と相関...
入門／解説 BLEURT:人工知能が生成した文章の品質を評価(2/3)
１．BLEURT:人工知能が生成した文章の品質を評価(2/3)まとめ ・BLEURTは単語の重複度合に関わらず文章間の意味的類似性を捕捉できる新しい自動評価基準 ・内部的にはBERTの「文脈を意識した単語表現(contextual word...
入門／解説 アメリカの殺人事件の半分以上は黒人が犯人？(2/2)
１．アメリカの殺人事件の半分以上は黒人が犯人？(2/2)まとめ ・黒人コミュニティが黒人による黒人に対する犯罪を問題にしている事を白人は知らない ・人種差別の影響を最も受けない人々が人種差別の存在を否定する可能性が最も高い ・人口統計学上、...
入門／解説 アメリカの殺人事件の半分以上は黒人が犯人？(1/2)
１．アメリカの殺人事件の半分以上は黒人が犯人？(1/2)まとめ ・アメリカで黒人男性が警官によって乱暴に拘束され亡くなってしまう事件があった ・事件に対する抗議活動がBlackLivesMatter(黒人の命も大事)をスローガンに大規模にな...
入門／解説 2020年5月29日時点の日本のCOVID-19 Community Mobility Reports
１．2020年5月29日時点の日本のCOVID-19 Community Mobility Reportsまとめ ・COVID-19 Community Mobility Reportsが5月29日(金)時点版として更新 ・5月21日(木)...
入門／解説 BLEURT:人工知能が生成した文章の品質を評価(1/3)
１．BLEURT:人工知能が生成した文章の品質を評価(1/3)まとめ ・人工知能が生成した文章を評価する手法は「人間による手動評価」と「機械による自動評価」の２つがある ・手動評価は正確だが手間がかかり自動評価は気軽にできるが高度な言い換え...