基礎理論 BERTは文法を理解しているのか？頻度を見ているだけなのか？(2/2)
１．BERTは文法を理解しているのか？頻度を見ているだけなのか？(2/2)まとめ・BERTは主語と動詞の一致ルールで単純な経験則モデルより良い性能である・主語と動詞が一致すべき事と高頻度の単語がより可能性が高い事を知っている・一致が従うべき...
training data
基礎理論 
アプリケーション GCE:Pixel6の文字入力時の文法エラー修正モデル(1/2)
１．GCE:Pixel6の文字入力時の文法エラー修正モデル(1/2)まとめ・スマートフォンを使用してより長い文章を作成することは、依然として非常に面倒・この問題に対処するためにPixel 6のGboardに直接組み込んだ文法修正機能をリリー...
データセット TracIn：トレーニング事例の影響を推定する簡単な方法(2/2)
１．TracIn：トレーニング事例の影響を推定する簡単な方法(2/2)まとめ・TracInはクラスタリングアルゴリズム内の類似性関数として使用可能・TracInは「SGD(またはSGDの亜種)を使用してトレーニングしている事」以外に条件がな...
データセット TracIn：トレーニング事例の影響を推定する簡単な方法(1/2)
１．TracIn：トレーニング事例の影響を推定する簡単な方法(1/2)まとめ・トレーニングデータの品質はモデルのパフォーマンスに大きな影響を与える可能性がある・様々な手法が提案されているが追加リソースやトレーニングが必要であり採用が困難・T...
入門／解説 シャッターチャンスを認識して自動で撮影するGoogle Clipsの実現方法
１．シャッターチャンスを認識して自動で撮影するGoogle Clipsの実現方法まとめ・Google Clipsを開発するために必要だった人工知能の機能と学習データの解説・シャッターチャンスと言う主観的な事象をどうやって人工知能に認識させた...