Ihmehimmeli:スパイキングニューラルネットワークにおける時間的符号化(1/3)

  • 2019.09.25
  • AI
Ihmehimmeli:スパイキングニューラルネットワークにおける時間的符号化(1/3)

1.Ihmehimmeli:スパイキングニューラルネットワークにおける時間的符号化(1/3)まとめ

・脳の仕組みは生物と同じ方法で情報を処理する効率的な人工ニューラルネットワークのヒントとなる
・しかし、情報の時間的符号化に繋がる可能性があるスパイクと言う仕組みはマネできていない
・これが実現できると任意のタイミングで発生するイベントに高速で応答する事が可能になる

2.スパイキングニューラルネットワークとは?

以下、ai.googleblog.comより「Project Ihmehimmeli: Temporal Coding in Spiking Neural Networks」の意訳です。元記事は2019年9月18日、Iulia-Maria ComșaさんとKrzysztof Potempaさんによる投稿です。

神経科学の分野で定期的に発見されている脳の仕組みは、生物と同じ方法で情報を処理するより効率的な人工ニューラルネットワーク(artificial neural networks)を作成するための継続的なインスピレーションの源となっています。

これらのネットワークは最近、ボードゲームやビデオゲームのプレイからビデオのきめ細かい理解まで、さまざまな分野で大きな成功を収めています。

ただし、人工ニューラルネットワークがまだ完全に活用できていない生物学的脳の基本的な側面が1つあります。それは、情報の時間的符号化(temporal encoding of information)です。

時間情報を保存することで、音などの動的な特徴をより適切に表現できるようになり、任意のタイミングで発生する可能性のあるイベントに高速で応答する事が可能になります。

更に、生体システムは数十億のニューロンで構成されているという事実にもかかわらず、情報は個々のニューロンによって発火される単一の信号、すなわちスパイク(spike)によって運ばれ、情報は信号発生のタイミングで符号化されます。

この生物学的洞察に基づいて、プロジェクトIhmehimmeliは、さまざまなアーキテクチャと学習設定を使用して、人工スパイキングニューラルネットワークが時間ダイナミクスをどのように活用できるかを調査します。

「Ihmehimmeli」は、「すぐには目的を把握しにくい複雑なツールまたは機械的要素」を表すフィンランドの言葉です。この言葉の本質は、情報の時間的な符号化を使用した複雑なリカレントニューラルネットワークアーキテクチャを構築するという私たちの目標を捉えています。

時間的なコーディングスキームと共に人工スパイクネットワークを使用します。このネットワークでは、より大きな音や明るい色などのより興味深いまたは驚くべき情報が、初期のニューロンスパイクを引き起こします。情報処理の階層に沿って、勝者のニューロンが最初にスパイクするニューロンとなります。

このような符号化は、自然に以下のような分類スキームを実装できます。入力特徴は、対応する入力ニューロンのスパイク発動時に符号化されます。その一方、出力クラスは、最も早くスパイクした出力ニューロンによって符号化されます。


IhmeHimmeliプロジェクトチーム。
情報の時間的なエンコードを使用してリカレントニューラルネットワークアーキテクチャを構築することを目的としたシンボルであるhimmeliを保持しています。

 

3.Ihmehimmeli:スパイキングニューラルネットワークにおける時間的符号化(1/3)関連リンク

1)ai.googleblog.com
Project Ihmehimmeli: Temporal Coding in Spiking Neural Networks

2)github.com
google/ihmehimmeli

3)arxiv.org
Temporal coding in spiking neural networks with alpha synaptic function