人工ニューラル ネットワークは、まったく学習しない時間を費やすと、よりよく学習します

人工ニューラル ネットワークは、動物の脳を構成する生物学的ニューラル ネットワークに着想を得たコンピューティング システムです。 生物学的モデルと同様に、サンプルを処理して確率の関連付けを形成し、その情報を他のタスクに適用することで学習 (トレーニング) できます。 クレジット: Neuroscience News、パブリック ドメイン

年齢にもよりますが、人間は 24 時間あたり 7 ~ 13 時間の睡眠が必要です。 この間、多くのことが起こります。心拍数、呼吸、代謝の増減。 ホルモンレベルが調整されます。 体がリラックスします。 脳内はそれほどでもない。

カリフォルニア大学サンディエゴ校医学部の医学教授で睡眠研究者でもあるマキシム・バジェノフ博士は、次のように述べています。 「睡眠は記憶を再編成し、最も効率的な方法でそれらを提示するのに役立ちます。」

以前に出版された研究で、バジェノフと同僚は、睡眠がどのように合理的な記憶を構築するかを報告しました。これは、物体、人、または出来事の間の恣意的または間接的な関連付けを思い出す能力であり、古い記憶を忘れないように保護します。

人工ニューラル ネットワークは、人間の脳のアーキテクチャを活用して、基礎科学や医学から金融やソーシャル メディアに至るまで、数多くの技術やシステムを改善します。 いくつかの点で、計算速度などの超人的なパフォーマンスを達成していますが、重要な側面の 1 つで失敗しています。人工ニューラル ネットワークが順次学習すると、新しい情報が以前の情報を上書きします。壊滅的忘却と呼ばれる現象です。

「対照的に、人間の脳は継続的に学習し、新しいデータを既存の知識に組み込みます。通常、記憶を定着させるための睡眠期間と新しいトレーニングを交互に行うと、最もよく学習します。」

2022年11月18日号の執筆 プラス計算生物学、 上級著者の Bazhenov と同僚は、生物学的モデルが人工ニューラル ネットワークにおける壊滅的な忘却の脅威を軽減するのにどのように役立つかについて議論し、さまざまな研究分野でその有用性を高めています。

科学者たちは、自然の神経システムを人為的に模倣するスパイキング ニューラル ネットワークを使用しました。情報は継続的に伝達されるのではなく、特定の時点で個別のイベント (スパイク) として送信されます。

人工ニューラル ネットワークは、まったく学習しない時間を費やすと、よりよく学習します

この記憶の表現では、睡眠は、人間の脳が学習を失うことなく、古い記憶を新しい記憶に統合できる期間を表しています。 人工ニューラル ネットワークでは、壊滅的な忘却として知られる新しい情報が古い情報を上書きする可能性があります。 クレジット: Golden, R. et al. 2022年、 PLOS計算生物学

彼らは、スパイキングネットワークが新しいタスクでトレーニングされたときに、睡眠を模倣したオフライン期間が時折あった場合、壊滅的な忘却が軽減されることを発見しました. 人間の脳と同じように、ネットワークの「睡眠」によって、古いトレーニング データを明示的に使用しなくても、古い記憶を再生できるようになる、と研究の著者は述べています。

人間の脳では、記憶はシナプスの重み (2 つのニューロン間の接続の強度または振幅) のパターンによって表されます。

「新しい情報を学習すると、ニューロンは特定の順序で発火し、ニューロン間のシナプスが増加します。睡眠中、覚醒状態で学習したスパイク パターンが自発的に繰り返されます。これは再活性化またはリプレイと呼ばれます。

「シナプス可塑性、つまり変更または成形される能力は睡眠中にも存在し、記憶を表すシナプスの重みパターンをさらに強化することができ、忘れることを防ぎ、古いタスクから新しいタスクへの知識の伝達を可能にします。」

バジェノフと同僚がこのアプローチを人工ニューラル ネットワークに適用したところ、ネットワークが壊滅的な忘却を回避するのに役立つことがわかりました。

これは、これらのネットワークが人間や動物のように継続的に学習できることを意味しました.人間の脳が睡眠中に情報を処理する方法を理解することは、人間の被験者の記憶を増強するのに役立ちます.睡眠リズムの増強は、より良い記憶につながる可能性があります.

「他のプロジェクトでは、コンピューターモデルを使用して、睡眠リズムを強化し、学習を改善する聴覚トーンなど、睡眠中に刺激を適用するための最適な戦略を開発しています。老化またはアルツハイマー病のようないくつかの状態で。

共著者には、カリフォルニア大学サンディエゴ校の Ryan Golden と Jean Erik Delanois が含まれます。 チェコ科学アカデミーのコンピューター サイエンス研究所の Pavel Sanda 氏。

詳しくは:
Ryan Golden et al., Sleep は、共同シナプス重み表現を形成することにより、スパイク ニューラル ネットワークにおける壊滅的な忘却を防ぎます。 PLOS計算生物学 (2022)。 DOI: 10.1371/journal.pcbi.1010628

カリフォルニア大学サンディエゴ校提供

引用: 人工ニューラル ネットワークは、まったく学習しない時間を費やすと、よりよく学習します (2022 年 11 月 18 日) https://phys.org/news/2022-11-artificial-neural-networks.html から 2022 年 11 月 18 日に取得

このドキュメントは著作権の対象です。 個人的な研究または調査を目的とした公正な取引を除き、書面による許可なしに、いかなる部分も複製することはできません。 コンテンツは情報提供のみを目的として提供されています。

Leave a Comment

Your email address will not be published. Required fields are marked *