入門／解説 Google翻訳の最近の進歩(2/2)
１．Google翻訳の最近の進歩(2/2)まとめ ・低リソース言語の翻訳品質向上には逆翻訳やM4モデリングなどが有効であった ・直近で行われた改良はフレーズベースの翻訳からNMTベースへ移行した4年前の改善度合いに匹敵 ・機械翻訳の幻覚に対...
入門／解説 入門／解説 Google翻訳の最近の進歩(1/2)
１．Google翻訳の最近の進歩(1/2)まとめ ・機械学習の進歩により自動翻訳品質が大幅に向上したがまだ人間のパフォーマンスには及ばない ・利用可能な学習用データが少ない低リソース言語の翻訳品質は特に多くの課題が残されている ・本投稿では...
モデル GPT-3がAPI経由で利用可能に
１．GPT-3がAPI経由で利用可能にまとめ ・GPT-2比で100倍近い性能を持つと推測されるGPT-3が発表されAPI経由で使用可能になる ・テキストを入力するとテキストを出力するという非常に汎用的なAPIで微調整も可能 ・現時点では限...
ビッグデータ 2020年6月7日時点の日本のCOVID-19 Community Mobility Reports
１．2020年6月7日時点の日本のCOVID-19 Community Mobility Reportsまとめ ・COVID-19 Community Mobility Reportsが6月7日(日)時点版として更新 ・5月25日(月)に首...
学習手法 DADS：教師なしで有用なスキルを発見する強化学習(2/2)
１．DADS：教師なしで有用なスキルを発見する強化学習(2/2)まとめ ・DADSは環境にとらわれないため、ロボット移動タスクにも操作タスクにも適用可能 ・スキルに追加のトレーニングが必要ないため、サンプル効率が非常に高く追加トレーニングが...
学習手法 DADS：教師なしで有用なスキルを発見する強化学習(1/2)
１．DADS：教師なしで有用なスキルを発見する強化学習(1/2)まとめ ・教師有り強化学習はシミュレーション環境を飛び出して現実世界の複雑な動作を学習できるようになった ・しかし、様々なタスク用に報酬関数を手動で設計する必要がありこれがボト...
入門／解説 Federated Analytics：データを一か所に収集せずにデータ分析を行う(2/2)
１．Federated Analytics：データを一か所に収集せずにデータ分析を行う(2/2)まとめ ・Secure Aggregationにより、Federated Analyticsはより強力なプライバシー属性を実現できている ・この...
入門／解説 Federated Analytics：データを一か所に収集せずにデータ分析を行う(1/2)
１．Federated Analytics：データを一か所に収集せずにデータ分析を行う(1/2)まとめ ・Federated learningはスマートフォン上のデータをプライバシーを考慮しながら機械学習で利用する仕組み ・Federate...
入門／解説 BLEURT:人工知能が生成した文章の品質を評価(3/3)
１．BLEURT:人工知能が生成した文章の品質を評価(3/3)まとめ ・BLEURTは、何百万もの合成文章ペアを使用してモデルを「ウォームアップ」して品質を向上した ・既存の評価手法と比較するとBLEURTは最も良く人間による品質評価と相関...
入門／解説 BLEURT:人工知能が生成した文章の品質を評価(2/3)
１．BLEURT:人工知能が生成した文章の品質を評価(2/3)まとめ ・BLEURTは単語の重複度合に関わらず文章間の意味的類似性を捕捉できる新しい自動評価基準 ・内部的にはBERTの「文脈を意識した単語表現(contextual word...
入門／解説 アメリカの殺人事件の半分以上は黒人が犯人？(2/2)
１．アメリカの殺人事件の半分以上は黒人が犯人？(2/2)まとめ ・黒人コミュニティが黒人による黒人に対する犯罪を問題にしている事を白人は知らない ・人種差別の影響を最も受けない人々が人種差別の存在を否定する可能性が最も高い ・人口統計学上、...
入門／解説 アメリカの殺人事件の半分以上は黒人が犯人？(1/2)
１．アメリカの殺人事件の半分以上は黒人が犯人？(1/2)まとめ ・アメリカで黒人男性が警官によって乱暴に拘束され亡くなってしまう事件があった ・事件に対する抗議活動がBlackLivesMatter(黒人の命も大事)をスローガンに大規模にな...