
Das kleine
Neuronenrätsel
von Christoph Haberer
Das Thema künstliche Intelligenz ist in aller Munde. Täglich gibt es
neue Erfolgsmeldungen. Doch funktionieren die neuronalen Netze der
Informatik so wie das menschliche Gehirn? Seit etwa dem Jahr 2016 gibt
es zunehmend Erfolge bei der Verwendung von künstlichen neuronalen
Netzwerken, die dem Gehirn nachempfunden sind. Die Neuronen in diesen
Netzwerken haben den Namen „Spiking Neurons“ oder Pulsneuronen. Wie die
Neuronen im menschlichen Gehirn haben sie viele Eingänge (Dendriden)
und einen Ausgang (Axon) der einzelne Impulse erzeugt, das sogenannte
„Aktionspotential“. https://de.wikipedia.org/wiki/Aktionspotential
Im folgenden soll gezeigt werden, wie man Neuronen nach diesem Vorbild
in elektronische Schaltungen verwandeln kann. Der
Ausgangsimpuls am Axon eines Neurons ist in etwas 1ms lang. Wir
wollen im folgenden einen Impulsgenerator bauen, der Impulse mit
ähnlicher zeitlicher Dauer wie ein echtes biologisches Neuron erzeugt.
Der Pulsgenerator funktioniert dabei folgendermaßen: Der Kondensator C2
wird über die zwei Widerstände so lange aufgeladen, bis die Schwelle
des 74HC14 Schmitt-Triggers überschritten ist und er über die Diode D3
und den Widerstand R3 entladen wird. Da das Signal des ersten
Schmitt-Triggers invertiert ist, wird noch ein zweiter Schmitt-Trigger
benötigt, um das Signal wieder richtig herum zu drehen.
Das Signal des Impulsgenerators sieht dabei folgendermaßen aus:
Der Widerstand R3 bestimmt die Dauer des Neuronenimpulses und hat einen
festen Wert. Mit dem Widerstand R4 kann man die Wiederholrate der
Impulse verändern.
Biologische Neuronen haben vielen Eingänge, die über die Synapsen mit
den Ausgängen anderer Neuronen verbunden sind. Die Synapsen sind
wesentlich am Lernvorgang der biologischen Gehirne beteiligt. Sie
wachsen oder schrumpfen je nach Lernvorgang und bestimmen im die
Kommunikation zwischen den Nervenzellen. Der Mensch hat im Durchschnitt
10.000 Synapsen pro Neuron. Die meisten Synapsen sind chemische
Synapsen und haben eine Richtwirkung, d.h. können die Signale nur vom
sendenden zum empfangenden Neuron laufen. Die Neuronen selbst
funktionieren im wesentlichen relativ einfach: Sie bekommen
Nervenimpulse von den anderen Neuronen über mehr oder weniger starke
Synapsen. Mit diesen Impulsen wird das Zellpotential in der Synapse
erhöht, bis das Potential einen Schwellwert erreicht und die Zelle
feuert. Man kann das mit einem Luftballon vergleichen, der über Ventile
mit kleinen Luftstößen gefüllt wird, bis er platzt. Im Falle der
Neuronen gibt es noch hemmende Synapsen, die das Zellpotential auch
erniedrigen können, oder um im Bild des Luftballons zu bleiben: Ventile
in die andere Richtung, mit der Luft rausgelassen werden kann.
Damit haben wir schon alle notwendigen Eigenschaften, um ein
biologisches Neuron in den wichtigsten Eigenschaften elektrisch
nachbauen zu können.
Das Neuron ist fast die gleiche Schaltung wie der Impulsgenerator, nur
dass es über eine Diode und einem Widerstand aufgeladen wird. Dieser
Teil entspricht der Synapse: Die Diode sorgt für die Richtwirkung
und der Kehrwert des Widerstands entspricht der Synapsengröße
(Synapsengewichtung).
Schließt man das Neuron an den Pulsgenerator an, ergibt sich folgendes Signalbild:
Der Pulsgenerator feuert relativ schnell und lädt den Kondensator des
Neurons langsam stoßweise auf. Wenn der Wert den Schwellwert des
Schmitt-Triggers erreicht, feuert das Neuron. Wie man sieht, feuert das
Neuron langsamer als der Pulsgenerator. Diese Schaltungskombination
wirkt als Impulsteiler: Es werden 7 Impulse des Generators benötigt, um
einen Impuls des Neurons zu erzeugen.
Das kleine Neuronenrätsel
Diese Grundlagen reichen für ein kleines Schaltungsrätsel. Es
kann gerne in den kommenden, langen Winterabenden gelöst werden. Das
Ziel ist ein neuronales Lauflicht, welches drei LEDs nacheinander
aufblitzen lässt. Es besteht aus einem Impulsgenerator, dessen Rate
über ein Poti eingestellt werden kann und ein paar Neuronen, die die
LEDs nacheinander ansteuern. Damit diese Funktion erreicht werden kann,
müssen die Neuronen über ihre unterschiedlich gewichteten Synapsen
verbunden werden. Hinweis: Ein Neuron kann mehrere Synapsen, sowohl
verstärkende als auch hemmende Synapsen haben. Als LEDs kann man
ultrahelle, grüne LEDs empfehlen, da damit auch die 1ms Pulse gut
sichtbar sind.
Vorgehensweise:
1. Man kann einige Neuronen als Schaltung aufbauen. Die Synapsen kann
man mit Potis versehen. Man kann die Neuronen dann über Kabel
unterschiedlich verbinden und mit den Synapsengewichten die Funktion
beeinflussen.
2. Man kann die Schaltung mit LtSpice simulieren und danach aufbauen.
Die Könner unter Ihnen werden es schaffen, das ganze neuronale Lauflicht mit einem einzigen 74HC14 Baustein zu realisieren.
Wer Hinweise zur Lösung des Rätsels benötigt oder mehr über die
Pulsneuronen und weitere Schaltungen wissen möchte, kann mein Buch
„SNN-Pulsneuronen“ lesen:
https://www.epubli.de/preview/92362
( ISBN: 9783750252141 )
Wer sehen möchte, was die Pulsneuronenchips von Intel heute können, kann sich dieses Video ansehen:
https://www.youtube.com/watch?v=cDKnt9ldXv0
Neuronale Interferenzen von G. Heinz
Was hier noch fehlt, wäre ein Hinweis darauf, dass synaptische Gewichte
nur ein Teil nervlicher Verarbeitung sind. Mit synaptischer Gewichtung
allein kommen wir bei den Artificial Neural Networks (ANN) an, diese
haben mit der Verarbeitung in unserem Kopf aber nichts gemein. Im
Gegenteil: Sie zeigen ein völlig anderes Verhalten als Nervennetze.
Um es kurz zu machen: Im Titel meiner Homepage findet man eine
Andeutung: "Neurobiologen halten es für möglich, die Klingelanlage in
einem Hochhaus durch viele zusätzliche Drähte kurzschließen zu können.
Neuroforscher (ANN) halten für real, dass Informationen im Cortex
zentral getaktet weitergeleitet werden. Beide Annahmen sind unhaltbar.
Interferenznetze zeigen, dass ein milliardenfach kurzgeschlossenes
Netzwerk, welches nicht zentral getaktet ist, nur spiegelbildlich in
Bildern oder Zeichen kommunizieren kann. Und dass es bei extrem langsam
laufenden Pulsen nur holografisch abbilden kann." An anderer
Stelle heißt es: "Delays dominate over weights" - Verzögerungen
dominieren über Gewichte. Anders ausgedrückt (Beispiel): Wenn zwei
Pulse nicht gleichzeitig ankommen, wird ein Neuron nicht feuern.
Siehe dazu http://www.gheinz.de/index.html#interference
Praktikable Beispiele für kleine Interferenznetze finden sich z.B. hier: http://www.gheinz.de/publications/animations/animationen.ppt
Und schon 1993 gab es Untersuchungen zu Details in diesem Buch: http://www.gheinz.de/publications/NI/index.htm