GPT-2：より良い言語モデルとそれが暗示する事(1/3)
- 2019.02.20
１．GPT-2：より良い言語モデルとそれが暗示する事(1/3)まとめ ・アンデス山脈の辺境の谷間にかなり普通の英語を話すユニコーンの群れが生息している事が判明 ・彼らの起源はまだはっきりしていないが人間が文明化する前にユニコーンと出会った時に生まれた可能性 ・「南アメリカでは、そのような事件はかなり一般的」とGPT-2は語る。南アメリカの人は多分怒る。 ２．GPT-2とは？ 以下、blog.ope […]
PlaNet：画像入力から世界モデルを学ぶ強化学習(3/3)
- 2019.02.19
１．PlaNet：画像入力から世界モデルを学ぶ強化学習(3/3)まとめ ・PlaNetは一つのエージェントで６つの異なるタスクを行うように訓練する事ができた ・比較的単純なタスクに対する学習は遅かったが複雑なタスクは素早く学習し高いレベルに達した ・学習ダイナミクスモデルが有望である事を示せたので今後も3D環境や実世界のロボットに研究を拡大予定 ２．Deep Planning Networkとは？ […]
PlaNet：画像入力から世界モデルを学ぶ強化学習(2/3)
- 2019.02.18
１．PlaNet：画像入力から世界モデルを学ぶ強化学習(2/3)まとめ ・エージェントは特定の操作によってボールの位置やゴールまでの距離がどのように変化するか想像出来る ・大量の計算が必要な画像作成を省略し将来の報酬を予測するだけでよいので高速に実行可能 ・PlaNetは従来のモデルフリーの手法に比べて圧倒的に少ない学習回数で同等の精度を実現 ２．Deep Planning Networkとは？ […]
PlaNet：画像入力から世界モデルを学ぶ強化学習(1/3)
- 2019.02.17
１．PlaNet：画像入力から世界モデルを学ぶ強化学習(1/3)まとめ ・PlaNetはモデルベース(Model-based)強化学習であり世界モデルを学ぶ強化学習 ・世界モデルを学ぶと従来より少ないデータで効率的な学習を行う事ができる ・PlaNetは画像入力からダイナミクスを学習しそれを効率的に利用して新たな経験を得る ２．世界モデルとは？ 以下、ai.googleblog.comより「Int […]
FastText:テキストデータの特徴量抽出の実装(2/2)まとめ
- 2019.02.16
１．FastText:テキストデータの特徴量抽出の実装(2/2)まとめ ・FastTextでembeddingを作成した後は単語間の類似性や仲間外れを計算する事が出来る ・聖書内の単語に関する類似性や関連性は上手に捉える事が出来ている ・単語の特性を数字で計算する事ができるのはやはり面白い ２．単語間の類似性や仲間外れの単語を見つける 以下、www.kdnuggets.comより「Implemen […]
FastText:テキストデータの特徴量抽出の実装(1/2)
- 2019.02.15
１．FastText:テキストデータの特徴量抽出の実装(1/2)まとめ ・FastTextは2016年にFacebookによって最初に発表された素のWord2Vecモデルを拡張および改善したもの ・各単語をBag of Character n-gram(サブワードモデル)とみなしてベクトル化する ・計算量は多くなるがサブワードモデルのおかげで珍しい単語が出現しても対応できる可能性が高い ２．Fas […]
外国語を半年でマスターする学習方法
- 2019.02.14
１．外国語を半年でマスターする学習方法まとめ ・TEDの動画が元ネタなので詳細はそちらを参照 ・５つの原則を守り７つの実践をする ・日常会話の相手をしてくれる人が必要 ２．半年間で外国語で会話できるようになるためには？ 以下、TEDの動画よりクリス・ロンズデールさんの講演の要約です。外国語の習得には何段階もの壁があると感じる今日この頃ですが、オンライン英会話も随分お安くなっているので半年間真面目に […]
Global Localization:GoogleMapを見ても道に迷う方向音痴な貴方へ
- 2019.02.13
１．Global Localization:GoogleMapを見ても道に迷う方向音痴な貴方へまとめ ・Global LocalizationはVPSとストリートビューと機械学習を組み合わせて正確な場所と向きを特定する技術 ・GPSは人工衛星からの信号の受信に難がある都市部で場所がずれてしまい、自分の向きもわからない ・Global Localizationはスマホカメラに自分の進むべき方向が矢印 […]
AlphaStar：StarCraftIIでプロプレーヤーに勝った人工知能(5/3)
- 2019.02.12
１．AlphaStar：StarCraftIIでプロプレーヤーに勝った人工知能(5/3)まとめ ・DeepmindのAlphaStarは素晴らしい成果を収めたのは確かだが戦略で勝ったわけではない ・本来設定されているユニット間の相性が成立しなくなるほど操作量に差があった ・APMや反応速度は必要な時にほんの少し上回れば十分であり平均値を比較する事に意味はない ２．AlphaStarのまとめ 実は「 […]
AlphaStar：StarCraftIIでプロプレーヤーに勝った人工知能(4/3)
- 2019.02.11
１．AlphaStar：StarCraftIIでプロプレーヤーに勝った人工知能(4/3)まとめ ・AlphaStarと対戦したプロは新しい戦略の発見に繋がったと評価 ・AlphaStarで培った技術は他のAI関連作業にも応用が可能 ・AIのもっと信頼性の高い、間違いが起こりにくいアプローチに繋がる可能がある ２．AlphaStarとプロプレーヤーの違い 以下、deepmind.comより「Alph […]