AI関連その他 Google Research：2020年の振り返りと2021年以降に向けて(2/5)
１．Google Research：2020年の振り返りと2021年以降に向けて(2/5)まとめ ・機械学習の応用は脳の構造解析から有望な分子化合物の探索、チップセットの設計など多岐に ・責任あるAIは解釈可能性の向上やバイアスの削減、安全...
TPU
AI関連その他 
入門／解説 ディープラーニングと自然言語、コンピュータビジョン用Python人気ライブラリ2020年版
１．ディープラーニングと自然言語、コンピュータビジョン用Python人気ライブラリ2020年版まとめ ・ディープラーニングと自然言語、コンピュータビジョン用Python人気ライブラリ30選 ・一般的なデータサイエンス用ツールは対象外とし、ニ...
アプリケーション Menger：大規模な分散型強化学習(3/3)
１．Menger：大規模な分散型強化学習(3/3)まとめ ・Reverbが提供する水平分割機能を使用して通信スループットを向上させた ・Mengerは複数のBorgセルにまたがる数千人の行為者に効率的に拡張できた ・大規模チップ配置タスクに...
アプリケーション Menger：大規模な分散型強化学習(2/3)
１．Menger：大規模な分散型強化学習(2/3)まとめ ・キャッシュにより行為者から受け取る多数のリクエストと学習者の作業のバランスを取った ・キャッシュは更新要求処理する学習者の負荷だけでなく行為者の平均読み取り遅延も軽減 ・高スループ...
アプリケーション Menger：大規模な分散型強化学習(1/3)
１．Menger：大規模な分散型強化学習(1/3)まとめ ・RLとはデータ収集とトレーニングのループだが規模拡大すると反復処理が追いつかなくなる ・Mengerは大規模な分散RLインフラであり複数クラスタにより規模拡大が可能 ・TPUを使用...
アプリケーション YouTubeストーリーで人の声だけ音量を上げる(2/2)
１．YouTubeストーリーで人の声だけ音量を上げる(2/2)まとめ ・Looking to Listenはノイズを完全分離していたがユーザは一部を残す事を好んでいた ・年齢、肌の色、言語、声の高低、話者の顔の視認性により偏りがないようにチ...
インフラ Google Colabをプロ仕様に設定する
１．Google Colabをプロ仕様に設定するまとめ ・ColabをVSCodeと組み合わせて使う方法や巨大ファイルのロードなど実務的使用例 ・サイズの大きなファイルで時間のかかる学習を行っている人にとって参考になる ・本投稿はまだ全部の...
その他の分野 機械学習を用いて賢い繊維を実現(3/3)
１．機械学習を用いて賢い繊維を実現(3/3)まとめ ・e繊維をスクロールパッドやコントロールボタンと比較した結果、ユーザからは好反応を得た ・表現力の観点からもコード全てが操作対象となるe繊維は操作箇所を間違える事がなく操作速度も速い ・ジ...
ビッグデータ Data Echoing：バッチデータを再利用する事でアクセラレータを最大限に活用(2/2)
１．Data Echoing：バッチデータを再利用する事でアクセラレータを最大限に活用(2/2)まとめ ・画像分類、言語モデリング、物体検出でデータエコーがディスクI/Oを削減できる事が検証された ・場合によっては、データエコーによる再利用...
学習手法 Data Echoing：バッチデータを再利用する事でアクセラレータを最大限に活用(1/2)
１．Data Echoing：バッチデータを再利用する事でアクセラレータを最大限に活用(1/2)まとめ ・アクセラレータは並行して処理を増やす事とトレーニングをより速く処理する事で学習速度を向上できる ・並行して処理には限界がある事がわかっ...
入門／解説 ICLR 2020におけるGoogleの存在感
１．ICLR 2020におけるGoogleの存在感まとめ ・エチオピアで開催予定だったICLR2020が完全バーチャル会議として開催 ・Google AIブログで概要が発表済みの論文も9つ存在するので要チェック ・BERTが76分でトレーニ...
学習手法 深層強化学習を使って半導体チップの設計を自動化
１．深層強化学習を使って半導体チップの設計を自動化 ・機械学習に専用ハードウェアを使用する事が増えているがチップ設計に数年単位の時間がかかる ・チップ設計を強化学習に行わせて、過去の経験から学び、時間をかけて改善するアプローチを実現 ・これ...