A brain inspired sequence learning algorithm and foundations of a memristive hardware implementation

Bouhadjar, Younes; Waser, Rainer (Thesis advisor); Diesmann, Markus (Thesis advisor)

Jülich : Forschungszentrum Jülich GmbH, Zentralbibliothek, Verlag (2023)
Buch, Doktorarbeit

In: Schriften des Forschungszentrums Jülich. Reihe Information 95
Seite(n)/Artikel-Nr.: 1 Online-Ressource : Illustrationen, Diagramme

Dissertation, RWTH Aachen University, 2023

Kurzfassung

Das Gehirn nutzt komplexe biologische Mechanismen und Prinzipien, um eine Vielzahl von Aufgaben zu lösen. Diese Prinzipien verleihen den Systemen selbstlernende Fähigkeiten, sowie eine hohe Energieffizienz und Speicherkapazität. Ein zentrales Konzept, bei der Informationsverarbeitung im Gehirn, ist die Sequenzvorhersage und -wiedergabe. Diese Form der Berechnung ist essenziell für fast alle täglichen Aufgaben wie Sinneswahrnehmung, Bewegungsausführung und Sprache. Zu verstehen wie das Gehirn eine solche Berechnung durchführt, treibt die Neurowissenschaft voran und ebnet den Weg für neue technologische, vom Gehirn inspirierte Anwendungen. Im ersten Teil dieser Arbeit schlagen wir ein Modell zum Sequenzenlernen vor, das erklärt, wie biologische Netzwerke lernen können, nachfolgende Elemente vorherzusagen, nicht erwartete Ereignisse zu signalisieren und Sequenzen als Reaktion auf ein Hinweis-Signal abzurufen. Das Modell berücksichtigt anatomische und elektrophysiologische Eigenschaften kortikaler neuronaler Netzwerke und lernt komplexe Sequenzen auf unüberwachte Weise mittels bekannter biologischer Plastizität und homöostatischer Kontrollmechanismen. Während des Lernens organisiert es sich selbst in eine Konfiguration, die sich durch einen hohen Grad an Spärlichkeit in der Konnektivität und Aktivität auszeichnet, was sowohl eine hohe Speicherkapazität und Energieeffizienz zur Folge hat. Im zweiten Teil erweitern wir das Modell so, dass es einen probabilistischen sequentiellen Gedächtnisabruf als Reaktion auf mehrdeutige Hinweise ermöglicht. In Abwesenheit von Rauschen ruft das Modell deterministisch die im Training am häufigsten gezeigte Sequenz ab. Wir untersuchen, wie verschiedene Formen von Rauschen zu einem explorativeren Verhalten führen. Wir zeigen, dass sich unkorreliertes Rauschen bei populationsbasierter Kodierung wegmittelt, was zu einer nicht-explorativen Dynamik führt. Dieses Problem wird durch lokal kohärentes Rauschen in Form einer zufälligen Stimuluskopplung an intrinsische, raum-zeitliche Oszillationen behoben. Unsere Ergebnisse zeigen, dass das Netzwerk, je nach Amplitude und Frequenz der Oszillation, gelernte Sequenzen gemäss verschiedener Strategien abrufen kann: entweder wird immer die häufigste Sequenz wiedergegeben, oder Sequenzen werden entsprechend ihrer Auftrittswahrscheinlichkeit beim Training abgespielt. Die Studie trägt zum Verständnis der neuronalen Mechanismen bei, die verschiedenen Entscheidungsstrategien zugrunde liegen, und unterstreicht die Rolle kohärenter Netzwerkaktivität bei sequenziellem Gedächtnisabruf. Schließlich untersuchen wir die Realisierbarkeit der Implementierung des Sequenzverarbeitungsmodells auf einer speziellen Hardware, welche Eigenschaften des Gehirns imitiert. Hier konzentrieren wir uns auf eine Art von Hardware, bei der die Synapsen durch memristive Bauteile emuliert werden. Als ersten Schritt in diese Richtung ersetzen wir die Synapsen-Dynamik des ursprünglichen Modells durch eine Dynamik, die das phänomenologische Verhalten von memristiven Elementen beschreibt, und demonstrieren Robustheit der Vorhersagen bei Variation verschiedener Hardware-Eigenschaften. In dieser Arbeit beschreiben wir außerdem, wie das Sequenzlernmodell auf algorithmischer Ebene angepasst werden kann, um eine Implementierung in eine vollelektronische Schaltung basierend auf einem memristiven Crossbar-Array zu ermöglichen. Insgesamt wirft diese Arbeit Licht auf die prinzipiellen Mechanismen, dem Lernen, der Vohersage und dem Abruf von Sequenzen in biologischen Netzwerken zugrunde liegen, und demonstriert die Realisierbarkeit der Implementierung dieser Art von Berechnung auf neuromorpher Hardware.

Einrichtungen

• Fachgruppe für Materialwissenschaft und Werkstofftechnik [520000]
• Lehrstuhl für Werkstoffe der Elektrotechnik II und Institut für Werkstoffe der Elektrotechnik [611610]