モデル pQRNN：射影とクラスタリングで一部のNLPタスクを効率化(2/2)
１．pQRNN：射影とクラスタリングで一部のNLPタスクを効率化(2/2)まとめ ・pQRNNは前世代のモデルであるPRADOを更に改良したNLPモデルで３要素で構成 ・pQRNNは事前処理を一切行わず、テキスト入力だけから文脈表現を学習可...
人工知能/機械学習
モデル モデル pQRNN：射影とクラスタリングで一部のNLPタスクを効率化(1/2)
１．pQRNN：射影とクラスタリングで一部のNLPタスクを効率化(1/2)まとめ ・昨年発表したPRADOはパラメータ数が少なくとも最先端のパフォーマンスを実現した ・PRADOはタスクに最も関連するトークンのみを学習するためパラメータを少...
インフラ Google Colab上でVS Codeを動かしてブラウザでアクセス
１．Google Colab上でVS Codeを動かしてブラウザでアクセスまとめ ・Google Colab上でOSSとしてサーバ化されたVS Codeを動かしてブラウザで操作する方法 ・マーケットプレイスの利用に一部制限があるがほぼVS ...
インフラ Google Colabのパワーユーザー向けのヒント
１．Google Colabのパワーユーザー向けのヒントまとめ ・Colabを使うと機械学習の学習者や実践者がハイエンドなGPUにもアクセス可能になる ・メモ用Colab、実行時間測定、一部実行、クラス定義確認、Flask連携、Tensor...
インフラ Google Colabをプロ仕様に設定する
１．Google Colabをプロ仕様に設定するまとめ ・ColabをVSCodeと組み合わせて使う方法や巨大ファイルのロードなど実務的使用例 ・サイズの大きなファイルで時間のかかる学習を行っている人にとって参考になる ・本投稿はまだ全部の...
インフラ Google Colabの使い勝手を向上させる10の秘訣
１．Google Colabの使い勝手を向上させる10の秘訣まとめ ・気軽にブラウザでPythonやライブラリを試せるGoogle Colabを更に便利に使うためのヒント ・ファイルのアップロード、ダウンロード、Googleドライブのマウン...
ヘルスケア DeepVariant 1.0によるゲノム解析精度の向上(4/4)
１．DeepVariant 1.0によるゲノム解析精度の向上(4/4)まとめ ・PrecisionFDA前はエラー率が高いため、Oxford Nanoporeデータ用は使用できなかった ・UC Santa Cruz Genomics Ins...
ヘルスケア DeepVariant 1.0によるゲノム解析精度の向上(3/4)
１．DeepVariant 1.0によるゲノム解析精度の向上(3/4)まとめ ・DeepVariantはコードが共通なためIllumina、PacBio、Oxford Nanoporeを同時に改善 ・その他にも拡張データセットを使ったトレー...
ヘルスケア DeepVariant 1.0によるゲノム解析精度の向上(2/4)
１．DeepVariant 1.0によるゲノム解析精度の向上(2/4)まとめ ・従来、ゲノム解析はIllumina社の機器の短いが正確な読み取りデータを利用してきた ・近年、Pacific BiosciencesやOxford Nanopo...
ヘルスケア DeepVariant 1.0によるゲノム解析精度の向上(1/4)
１．DeepVariant 1.0によるゲノム解析精度の向上(1/4)まとめ ・ゲノム解読はハードウェアによる読み取りとソフトウェアによる識別で可能になった ・DeepVariantは様々なハードウェアに対応可能なCNNを使った識別用ソフト...
モデル RigL：ニューラルネットワークの冗長性を動的に最適化(3/3)
１．RigL：ニューラルネットワークの冗長性を動的に最適化(3/3)まとめ ・RigLのパフォーマンスはトレーニング時間を伸ばすと基本時間の百倍までは常に改善された ・ResNet-50では最先端のtop 1精度、MobileNet-v1で...
モデル RigL：ニューラルネットワークの冗長性を動的に最適化(2/3)
１．RigL：ニューラルネットワークの冗長性を動的に最適化(2/3)まとめ ・RigLはランダムマスクから開始し大きな勾配を持つ接続をアクティブする ・大きな勾配を持つ接続は損失を最も迅速に減少させることが期待出来るため ・RigLは他の手...