読者です 読者をやめる 読者になる 読者になる

まっどさいえんちすと

日本語が苦手なのでブログで練習します。パエリアが大好き

カオスニューロ1

あれですね、ブログは気負いすぎると、なかなか書けないので、メモ書きみたいな形で書いた方が良さそうですね。

 

今回はカオスニューロについてメモしたいです。

「なんで?」と言われると、「まあブログのタイトル見て下さい」としか言えませんが、

はい、本題に戻ると、

カオスニューロは脳内で記憶はどういう経路を辿って活性化するのかという話です。例えば連想ゲームもそうです。慶應➡福沢諭吉➡三田➡麻布十番みたいに連想しますけど、これを数理モデルで表せないか。この試みがニューラルネットワークです。しかし脳内には無数にニューロンがあり、ネットワークも動的で固定ではないとすると、その複雑さは想像を超えます。なのでカオスニューラルネットワークというものが随分前から提唱されています。今回はそれについてです。

 

まず概念から入りましょう。

普通のニューラルネットワークでは状態がいったんある状態に落ち着くと、ネットワークの構造やパラメーターが変化しない限り、その状態に止まる、これは生体では観測されない。➡だからhodgkin-huxleyの方程式によりカオスニューロンモデルとカオスニューラルネットワークモデルを提案した。

脳はすなわち、複雑な大規模非線形力学系であるので、複雑系理論、カオス理論、ネットワーク理論、脳科学、生理学などの幅広い知識が必要になりそうです。

特に高次元になると、相転移により系の振る舞いが突然変化することもあり、このような相転移は系のパラメーターだけではなく、系の大きさや相互作用にも依存するわけで、、、

そこでまずは個々の要素を調べ、モデル化し、それらの結合系を実際に構築することで全体の振る舞いを調べる。その結果と研究対象とする系の振る舞いを比較し、その結果をもとに仮定したモデル、パラメーターを修正する。この流れですね。

そしてこのような方法を合成による解析、構成論的研究といいます。

 

ニューラルネットワークの説明は、かなり多くのウェブサイトに書かれてるので簡略化しますが、簡単に言えば、一つのニューロンモデルは、外部入力があり、それがまとまり内部状態になり、それを出力する出力関数があり、その出力がある範囲を超えれば、発火、非発火するということ。

 

ここが肝です。なんでこんなに簡単にするか。それは基本的にモデルの式が簡単な差分方程式に帰着できないと大規模ネットワークを構築して、その振る舞いを観測することは難しいからです。これはどのカオス系にもだいたい言えることよ。

だから今回のケースではネットワークでの一つのニューロンに作用する力は3つ。

外部入力の影響、ニューロン同士の結合による影響、さらに自己帰還の影響

 

さてでは早速細かい数式に入って行きましょうか。次回から笑

 

PS:面倒くさがりやなので、数式書くのやら、コード乗っけるのやら、後からやろうと思ってましたが、後からやります。

PS:今月、阪大でベイジアンネットワークについて議論してきます(笑)。