人工ニューラル ネットワークは、まったく学習しない時間を費やすと、よりよく学習する

賢明なニュース — 年齢にもよりますが、人間は 24 時間あたり 7 ~ 13 時間の睡眠が必要です。 この間、多くのことが起こります。心拍数、呼吸、代謝の増減。 ホルモンレベルが調整されます。 体がリラックスします。 脳内はそれほどでもない。

カリフォルニア大学サンディエゴ校医学部の医学教授であり、睡眠研究者でもある Maxim Bazhenov 博士は、次のように述べています。 「睡眠は記憶の再編成を助け、最も効率的な方法でそれらを提示します。」

以前に出版された研究で、バジェノフと同僚は、睡眠がどのように合理的な記憶を構築するかを報告しました。これは、物体、人、または出来事の間の恣意的または間接的な関連付けを思い出す能力であり、古い記憶を忘れないように保護します。

人工ニューラル ネットワークは、人間の脳のアーキテクチャを活用して、基礎科学や医学から金融やソーシャル メディアに至るまで、数多くの技術やシステムを改善します。 いくつかの点で、計算速度などの超人的なパフォーマンスを達成していますが、重要な側面の 1 つで失敗しています。人工ニューラル ネットワークが順次学習すると、新しい情報が以前の情報を上書きします。壊滅的忘却と呼ばれる現象です。

「対照的に、人間の脳は継続的に学習し、新しいデータを既存の知識に組み込みます」とバジェノフ氏は述べています。

2022年11月18日号の執筆 PLOS計算生物学、主任著者の Bazhenov と同僚は、生物学的モデルが人工ニューラル ネットワークにおける壊滅的な忘却の脅威を軽減するのにどのように役立つかについて議論し、さまざまな研究分野でその有用性を高めています。

科学者たちは、自然の神経システムを人為的に模倣するスパイキング ニューラル ネットワークを使用しました。情報は継続的に伝達されるのではなく、特定の時点で個別のイベント (スパイク) として送信されます。

彼らは、スパイキングネットワークが新しいタスクでトレーニングされたときに、睡眠を模倣したオフライン期間が時折あった場合、壊滅的な忘却が軽減されることを発見しました. 人間の脳のように、研究の著者は、ネットワークの「睡眠」により、古いトレーニング データを明示的に使用しなくても、古い記憶を再現できると述べています。

人間の脳では、記憶はシナプスの重み (2 つのニューロン間の接続の強度または振幅) のパターンによって表されます。

「新しい情報を学習すると、ニューロンは特定の順序で発火し、ニューロン間のシナプスが増加します。 睡眠中は、覚醒状態で学習したスパイク パターンが自発的に繰り返されます。 これは、再アクティブ化またはリプレイと呼ばれます。

「シナプスの可塑性、つまり変化または形成される能力は睡眠中にも存在し、記憶を表すシナプスの重みパターンをさらに強化することができ、忘れることを防ぎ、古いタスクから新しいタスクへの知識の伝達を可能にします。」

バジェノフと同僚がこのアプローチを人工ニューラル ネットワークに適用したところ、ネットワークが壊滅的な忘却を回避するのに役立つことがわかりました。

「これは、これらのネットワークが人間や動物のように継続的に学習できることを意味していました。 人間の脳が睡眠中に情報を処理する方法を理解することは、被験者の記憶を増強するのに役立ちます。 睡眠リズムを整えると、記憶力が向上します。

「他のプロジェクトでは、コンピュータ モデルを使用して、睡眠リズムを強化し、学習を改善する聴覚トーンなど、睡眠中に刺激を適用するための最適な戦略を開発しています。 これは、老化やアルツハイマー病のような状態で記憶力が低下した場合など、記憶力が最適でない場合に特に重要になる可能性があります。」

共著者には、カリフォルニア大学サンディエゴ校の Ryan Golden と Jean Erik Delanois が含まれます。 チェコ科学アカデミーのコンピューター サイエンス研究所の Pavel Sanda 氏。

この研究の資金の一部は、海軍研究局 (助成金 N00014-16-1-2829)、DARPA 生涯学習機械プログラム (HR0011-18-2-0021)、国立科学財団 (IIS-1724405)、および国立健康研究所 (1RF1MH117155、1R01MH125557、1R01NS109553)。

###

.

Leave a Comment

Your email address will not be published. Required fields are marked *