学習手法 L2P：継続学習にプロンプトを導入してコンパクトな記憶を実現(1/2)
１．L2P：継続学習にプロンプトを導入してコンパクトな記憶を実現(1/2)まとめ ・継続学習はデータ分布が変化する状況で単一のモデルを学習する手法で破局的忘却がネック ・従来手法は過去データをリハーサルバッファに格納して現在のデータと混ぜて...
ai
学習手法 
ヘルスケア DeepCTRL:ニューラルネットワークにルールを教えて制御する試み(1/3)
１．DeepCTRL:ニューラルネットワークにルールを教えて制御する試み(1/3)まとめ ・ニューラルネットワークはデータから物理法則等を学習できるが誤差が大きい ・エネルギー保存の法則など、ルールを直接学習できると効率が向上するはず ・D...
その他の調査 AI、機械学習、データサイエンス、ディープラーニングの2021年の進展と2022年の予測リサーチ編(1/2)
１．AI、機械学習、データサイエンス、ディープラーニングの2021年の進展と2022年の予測リサーチ編(1/2)まとめ ・OpenAIのCLIPは文章と画像をつなぐ、とてもエキサイティングな可能性を提示した ・文章から画像を作成するテクノロ...
学習手法 視覚を聴覚で補うような脳の感覚置換能力を実現する強化学習(1/2)
１．視覚を聴覚で補うような脳の感覚置換能力を実現する強化学習(1/2)まとめ ・人間は触覚を使って視覚を補う等の驚くべき感覚置換能力を持つが人工知能はこれを持たない ・強化学習は入力データサイズが固定されている事や各要素が意味を持つ事を想定...
アプリケーション GPT-3の順番待ちリストが解消し申し込めば即日利用できるようになる
１．GPT-3の順番待ちリストが解消し申し込めば即日利用できるようになるまとめ ・OpenAI API(GPT-3)が順番待ちリストに申し込まずに即日利用可能になった ・3か月間の有効期限付きの18ドル無料クレジット枠が付与されるので一通り...
アプリケーション スプレッドシート内で使用される数式を周辺セルから予測
１．スプレッドシート内で使用される数式を周辺セルから予測 ・Google スプレッドシートの数式は便利だが初心者は間違いをしやすい ・目標セル周辺の豊富な文脈情報に基づいて数式を自動生成するモデルを開発 ・このモデルは既にユーザーが一般的に...
モデル Pathdreamer：馴染のない建物内で何処に何がありそうか予測するAI(1/2)
１．Pathdreamer：馴染のない建物内で何処に何がありそうか予測するAI(1/2)まとめ ・人はなじみのない建物内でも視覚的な手がかりを利用して効率的に移動できる ・この機能をAIで実現するためには「視覚的な世界モデル」の実装が必要と...
入門／解説 最先端の研究を追い続けるための工夫
１．最先端の研究を追い続けるための工夫まとめ ・個々の論文ではなく分野を前進させているキーパーソンや広範なレビュー論文に注目する ・全てに目を通すのではなく目的をもって要所だけ確認し、要点を自分なりに整理する ・Zettelkasten(ツ...
アプリケーション BlenderBot 2.0：長期記憶とインターネット検索能力を合わせ持つチャットボット(2/2)
１．BlenderBot 2.0：長期記憶とインターネット検索能力を合わせ持つチャットボット(2/2)まとめ ・BlenderBot 2.0は検索拡張対応世代モデルで会話に含まれている知識を超えた応答が可能 ・学習用の２つのデータセット「W...
アプリケーション BlenderBot 2.0：長期記憶とインターネット検索能力を合わせ持つチャットボット(1/2)
１．BlenderBot 2.0：長期記憶とインターネット検索能力を合わせ持つチャットボット(1/2)まとめ ・Facebook AI Researchが最先端のチャットボットであるBlenderBot 2.0を公開 ・会話中に収集された情...
ビッグデータ データサイエンティストは10年以内に絶滅する！？
１．データサイエンティストは10年以内に絶滅する！？まとめ ・AIの進歩につれてデータサイエンスの利用しやすさはどんどん向上している ・データサイエンスの「適用」ではなく「実行」に重点が置かれるようになった ・データサイエンスはビジネス領域...
モデル 文字情報と画像情報を同じ概念として認識できる人工知能の出現(2/2)
１．文字情報と画像情報を同じ概念として認識できる人工知能の出現(2/2)まとめ ・ニューロンレベルでの単純な分析ではモデルの動作を完全に説明する事は出来ない ・高度な抽象化は人工知能に対する新しい攻撃手法に繋がる可能性がある ・個人やグルー...