機械学習の新しいアプローチに線虫の神経系をベースにしたニューラルネットワークが用いられる

by NIAID

人工知能(AI)の研究者たちは、人間の脳がどのように構成されているかの模倣を試みたニューラルネットワークに取り組んでいますが、急速な進歩の中でも、ニューラルネットワークは多くの場合その場で変化したり不慣れな状況に適応したりといった柔軟性に欠けています。そのような適応性を実現するために開発された、細長い糸状の体をした「線形動物(線虫)」の神経系をベースにしたニューラルネットワーク「リキッド」がこれまでにないスピードと柔軟性を見せていると報告されています。

Closed-form continuous-time neural networks | Nature Machine Intelligence
https://doi.org/10.1038/s42256-022-00556-7

Researchers Discover a More Flexible Approach to Machine Learning
https://www.quantamagazine.org/researchers-discover-a-more-flexible-approach-to-machine-learning-20230207/

2020年、マサチューセッツ工科大学のラミン・ハサニ氏とマティアス・レヒナー氏が主導する研究チームは、小さな線虫からヒントを得た新しい種類のニューラルネットワーク「リキッド・ニューラル・ネットワーク(以下、リキッド)」を導入しました。リキッドは2022年に飛躍的な進歩を遂げたことで、特定の用途において従来のネットワークに取って代わるほどの汎用性を持つに至っているとのこと。カリフォルニア大学バークレー校のロボット工学者ケン・ゴールドバーグ氏によると、リキッドは時間とともに変化するシステムをモデル化する「連続時間ニューラルネットワーク」と比較して、より高速かつ正確に動作することが実験によって示されており、ゴールドバーグ氏は「リキッドは、エレガントでコンパクトな代替手段を提供します」と評価しています。

リキッドの設計を主導したハサニ氏とレヒナー氏は、「新しい状況に柔軟に適応できる対応力のあるニューラルネットワークを作る方法を探るために、線虫が理想的な生物である」とリキッドを設計する何年も前に気付きました。線虫は神経系が完全にマッピングされている数少ない生物のひとつであり、体長1ミリメートルほどの神経系から、移動やエサ探し、睡眠、交尾、さらには経験からの学習など、さまざまな高度な行動をとることができます。レヒナー氏は「線虫は、常に変化が起きている現実の世界に生きていて、どんな状況でもうまくやることができるのです」と線虫に注目した理由について説明しています。

by Gee

リキッドはニューロンが互いにリンクして互いに依存し合うことで任意の瞬間のシステムの状態を特徴付けるニューラルネットワークになっているため、特定の瞬間の結果しか得られない従来のニューラルネットワークとは大きく異なっています。また、リキッドは人工ニューロン間の接続であるシナプスの扱い方にも違いがあります。標準的なニューラルネットワークでは、シナプスの接続の強さは、「ウェイト」として単一の数値で表すことができます。一方でリキッドでは、ニューロン間の信号のやりとりは「非線形」関数に支配される確率的なプロセスとなっており、入力に比例した反応を返さないことを意味しているそうです。

従来のニューラルネットワークのアルゴリズムは、大量のデータを与えて「ウェイト」の最適値を学習時に調整して設定される一方で、リキッドは観測した入力に基づいて基礎方程式を変更することができるため、より順応性が高くなっています。自動運転車の操縦についてテストを行ったところ、従来のニューラルネットワークは車のカメラからの視覚データを一定の間隔で分析することしかできませんでしたが、リキッドは機械学習の基準からすると極小の「19個のニューロンと253個のシナプス」からなるにもかかわらず、より高い応答性を発揮することができたそうです。論文の共著者であるダニエラ・ルス氏は「このモデルは、例えば曲がりくねった道など、複雑な道路をより頻繁にサンプリングすることができます」と述べています。

一方で、通常コンピュータで何度も計算して解を導く必要があるシナプスとニューロンを表す非線形方程式について、シナプスとニューロンに個別に適応したソフトウェアで計算を行うため、シナプスとニューロンの数が少ないリキッドは動作が非常に遅くなっていたとレヒナー氏は語っています。しかし、2022年11月に新しく発表された論文では、研究チームはこの欠点を回避する新しい回路網として、非線形方程式を難しい計算によって解く必要がなく、基本的な計算で得られるほぼ正確な近似解を求める形式により、計算時間とエネルギーが削減されて処理速度を大幅に向上させたと示しています。

イリノイ大学アーバナ・シャンペーン校のコンピュータ科学者であるサヤン・ミトラ氏は、リキッドについて「彼らの方法は、精度を犠牲にすることなく、競合他社に『数桁』の差をつけています」とその素晴らしさについて述べています。またコロラド大学ボルダー校のコンピューター科学者であるスリラム・サンカラナラヤナン氏は、「彼らの研究の主な貢献は、安定性やその他の優れた特性が、その構造そのものによって、これらのシステムに組み込まれていることです。興味深いことが起こるのに十分なほど複雑でありながら、カオス的な挙動に至るほど複雑ではないのです」と説明しています。

MITのグループは、最新のリキッドを自律飛行するドローンでテストしているとのこと。最初のテストは森林で行われていますが、将来的には都市環境に移動して、新しい条件にどう対処するかを見ていくことが期待されています。また、ハサニ氏は「リキッドニューラルネットワークは、これまで実現できなかった規模の脳活動シミュレーションを行うことができます」と展望を語っています。