学習手法 Teaching BERT to Wait:「え～」や「あ～」を識別して言語モデルのパフォーマンスを向上(2/2)
１．Teaching BERT to Wait:「え～」や「あ～」を識別して言語モデルのパフォーマンスを向上(2/2) ・スマホの音声の自動書き起こしアプリなどでも非流暢性の除去は読みやすさ向上に貢献 ・リアルタイムに発生するストリーミング...
学習手法 学習手法 Teaching BERT to Wait:「え～」や「あ～」を識別して言語モデルのパフォーマンスを向上(1/2)
１．Teaching BERT to Wait:「え～」や「あ～」を識別して言語モデルのパフォーマンスを向上(1/2) ・インタビューなどの自然なスピーチは文章にすると流暢でない箇所があり読みにくい ・機械学習を使って話し言葉中の非流暢な箇...
モデル Minerva:大学受験レベルの数学を解答可能な言語モデル(2/2)
１．Minerva:大学受験レベルの数学を解答可能な言語モデル(2/2)まとめ ・Minervaは推論ミスや計算ミスなどまだ相応な間違いをする事がわかっている ・また最終的に正しい答えに到達しても途中の推論に誤りがある場合もある ・モデルが...
モデル Minerva:大学受験レベルの数学を解答可能な言語モデル(1/2)
１．Minerva:大学受験レベルの数学を解答可能な言語モデル(1/2)まとめ ・定量的推論は、言語モデルがまだ人間レベルの性能にはるかに及ばない分野の一つ ・数学問題を解くには数学的表記や数式や定数の記憶、段階的な推論などが必要なため ・...
その他の調査 機械学習と脳の違い Part 4: ニューロンは数値表現が苦手
１．機械学習と脳の違い Part 4: ニューロンは数値表現が苦手まとめ ・機械学習は細かく数値を表現する能力に長けているが生物学的なニューロンでは難しい ・MLで要求されるような高精度な数値計算を実現する生物学的脳は遅すぎて使い物にならな...
その他の調査 機械学習と脳の違い Part 3: レイヤー構造の違い
１．機械学習と脳の違い Part 3: レイヤー構造の違いまとめ ・機械学習のレイヤーは整然とした層状構造だが脳は無秩序な結合を多数含んでいるように見える ・脳の160億の各ニューロンを他の全ニューロンと完全に接続するのは物理的に不可能 ・...
その他の調査 機械学習と脳の違い Part 2: パーセプトロンとニューロンの情報処理方法の違い
１．機械学習と脳の違い Part 2: パーセプトロンとニューロンの情報処理方法の違いまとめ ・人工的なパーセプトロンと生物学的なニューロンは情報伝達方法が根本的に異なる ・ニューロンは情報の到着順によって異なる反応をするがパーセプトロンは...
その他の調査 機械学習と脳の違い Part 1: ニューロンはとても遅い
１．機械学習と脳の違い Part 1: ニューロンはとても遅いまとめ ・脳のニューロンの情報伝達は遅く処理速度は約250Hz、つまり4ミリ秒に1回しか処理できない ・IntelのCore i9プロセッサは5.20GHzなので単純計算すると2...
入門／解説 市場データとニュースを並べて時系列分析(2/2)
１．市場データとニュースを並べて時系列分析(2/2)まとめ ・時系列データをトレンドと季節性で補正した後、大きく外れたポイントを異常値とした ・市場全体と銘柄の相関を示すベータとR2乗を元に市場と証券の相関関係を分析 ・ニュース記事もカテゴ...
入門／解説 市場データとニュースを並べて時系列分析(1/2)
１．市場データとニュースを並べて時系列分析(1/2)まとめ ・ニュースが市場に与える影響は長年にわたって強い関心を集めてきた分野 ・金融とニュースのデータを調査し、参照するのに役立つ一連のツールの紹介 ・時系列分析にはMetaのKatsライ...
量子コンピュータ 観測困難な量子状態をそのままデータとして扱える量子機械学習の優位性(2/2)
１．観測困難な量子状態をそのままデータとして扱える量子機械学習の優位性(2/2)まとめ ・従来は原子やその他の量子オブジェクトを使って量子状態を測定してデータとした ・QMLでは、量子状態を測定するのではなく、量子状態を保存する事が可能にな...
量子コンピュータ 観測困難な量子状態をそのままデータとして扱える量子機械学習の優位性(1/2)
１．観測困難な量子状態をそのままデータとして扱える量子機械学習の優位性(1/2)まとめ ・量子の観測の困難さはよく知られており、実体が波なのか粒なのかも判明しないほど ・量子に関する実験は量子状態の観測が必要になるため機械学習でもデータ収集...