AI関連その他 2022年のGoogleのAI研究の成果と今後の展望～MLとコンピュータシステム編～(3/3)
１．2022年のGoogleのAI研究の成果と今後の展望～MLとコンピュータシステム編～(3/3)まとめ ・モジュール式なコンパイラLLVMにML技術を体系的に統合した産業レベルのフレームワークであるMLGOをリリース ・MLの実践者はモデ...
人工知能/機械学習
AI関連その他 AI関連その他 2022年のGoogleのAI研究の成果と今後の展望～MLとコンピュータシステム編～(2/3)
１．2022年のGoogleのAI研究の成果と今後の展望～MLとコンピュータシステム編～(2/3)まとめ ・最近のMLPerfのコンペでは、TPUs v4が5つのベンチマークで新記録を達成し、2位に比べて平均1.42倍の差をつけた ・プラッ...
AI関連その他 2022年のGoogleのAI研究の成果と今後の展望～MLとコンピュータシステム編～(1/3)
１．2022年のGoogleのAI研究の成果と今後の展望～MLとコンピュータシステム編～(1/3)まとめ ・複雑なモデルの提供とトレーニングをサポートすることを可能にするML用システムの昨年の進歩の概要の説明 ・大規模モデルを効率的に規模拡...
AI関連その他 最新のAIテクノロジーを使ってThe Lord of the Ringsの世界観の謎に迫る
１．最新のAIテクノロジーを使ってThe Lord of the Ringsの世界観の謎に迫るまとめ ・gpt_indexとLangChainAIを使って、本から関連するすべての文章を抜き出し、GPT3.5に内容について質問をする具体事例の...
アプリケーション BardとGPT:検索エンジン時代からAI検索時代への変化を情報発信視点で考える
１．BardとGPT:検索エンジン時代からAI検索時代への変化を情報発信視点で考えるまとめ ・Microsoftの検索エンジンBingにAIが組み込まれるとの報道とほぼ同時期にGoogleも対話型人工知能LaMDAをベースにしたBardを組...
アプリケーション OSS Vizier:Google社内で使われている人工知能チューニングツールが公開(2/2)
１．OSS Vizier:Google社内で使われている人工知能チューニングツールが公開(2/2)まとめ ・OSS VizierはGoogleの多くのオープンソースプロジェクトや外部のフレームワークと大きく統合されていく事になる ・ニューラ...
アプリケーション OSS Vizier:Google社内で使われている人工知能チューニングツールが公開(1/2)
１．OSS Vizier:Google社内で使われている人工知能チューニングツールが公開(1/2)まとめ ・Google VizierはGoogle製品内の人工知能のハイパーパラメータを最適化するために使われてきた非公開システム ・そのGo...
データセット Flan Collection：指示調整用のデータセットを更に充実(2/2)
１．Flan Collection：指示調整用のデータセットを更に充実(2/2)まとめ ・Flan 2022を使って微調整したFlan-T5モデルは他の先行研究を上回る強力な汎用NLP推論器を実現できる事を示した ・単一タスクに特化した微調...
データセット Flan Collection：指示調整用のデータセットを更に充実(1/2)
１．Flan Collection：指示調整用のデータセットを更に充実(1/2)まとめ ・自然言語処理が新しいタスクに適応する能力は「指示調整」と呼ばれる多様な指示でモデルを訓練する事に起因する ・Flan Collectionは以前のFL...
基礎理論 弱いヒントを使って多腕バンディット問題を改善(2/2)
１．弱いヒントを使って多腕バンディット問題を改善(2/2)まとめ ・従来のUCBアルゴリズムをアームの組に対して実行し、最高のスコアを出したペアのどちらが良いかを弱いヒントから得る ・弱いヒントの概念を利用すると、時間軸に対する後悔の依存性...
基礎理論 弱いヒントを使って多腕バンディット問題を改善(1/2)
１．弱いヒントを使って多腕バンディット問題を改善(1/2)まとめ ・カジノに設置されているレバーが一本付いているスロットマシンを「one‐armed bandit(隻腕の悪党)」と呼称する ・レバーが複数ついているスロットマシンでどのレバー...
ヘルスケア プライバシーに配慮しながら医療現場の略語を解読可能な機械学習を実現(2/2)
１．プライバシーに配慮しながら医療現場の略語を解読可能な機械学習を実現(2/2)まとめ ・略語展開タスクは構造化されていないため性能計測が困難であったが新規にアルゴリズムを開発した ・医療用略語に対する理解は一般人で30％未満、医師で90%...