Was ein neuronales Netz wirklich ist
Nach IBM ist ein neuronales Netz ein maschinelles Lernmodell, das aus einfachen Verarbeitungseinheiten namens Neuronen aufgebaut ist, die in Schichten angeordnet sind und Gewichte und Verzerrungen zur Mustererkennung aus Daten lernen, um Eingaben auf Ausgaben abzubilden. Jedes Netz hat eine Eingabeschicht, die Rohdaten aufnimmt, eine oder mehrere verborgene Schichten, die diese Daten transformieren, und eine Ausgabeschicht, die das Endergebnis liefert, beispielsweise eine Bezeichnung oder eine Vorhersage.
Jedes Neuron multipliziert seine eingehenden Werte mit Zahlen, sogenannten Gewichten, addiert einen Bias-Term und leitet das Ergebnis durch eine nichtlineare Aktivierungsfunktion. IBM vergleicht Gewichte mit Drehreglern, die einstellen, wie viel Einfluss jede Eingabe auf das Ergebnis hat, während Verzerrungen den Punkt anpassen, an dem ein Neuron aktiv wird.
Wie das Training funktioniert: Vorwärts- und Rückwärtsdurchläufe
MIT News verfolgt die Idee auf das Jahr 1944 zurück, als Warren McCullough und Walter Pitts, die später zum MIT kamen, das Konzept miteinander verbundener Verarbeitungsknoten erstmals vorschlugen. In der ursprünglichen Konstruktion summiert jeder Knoten seine gewichteten Eingaben und 'feuert', wenn die Summe einen Schwellenwert überschreitet, und sendet ein Signal an die nächste Schicht in dem, was MIT eine Feedforward-Architektur nennt.
Das Training beginnt mit zufälligen Gewichten. IBM erklärt, dass das Netz zunächst einen 'Forward-Propagation'-Schritt ausführt und Eingabedaten durch die Schichten leitet, um eine Vorhersage zu erzeugen. Eine Verlustfunktion misst dann die Lücke zwischen dieser Vorhersage und der korrekten Antwort, wobei Formeln wie mittlerer quadratischer Fehler für numerische Vorhersagen oder Cross-Entropy für Klassifizierungsaufgaben verwendet werden, so IBM.
Das Netz führt dann 'Backpropagation' durch, berechnet Schicht für Schicht, wie viel jedes einzelne Gewicht zum Fehler beigetragen hat, unter Verwendung einer Calculus-Regel namens Kettenregel. Ein Optimierungsschritt namens Gradient Descent nutzt diese Berechnungen dann, um jedes Gewicht leicht in die Richtung zu verschieben, die den Fehler verringert. Das Wiederholen dieses Zyklus Tausende oder Millionen Male über Trainingsbeispiele hinweg ist das, was IBM und MIT beide als wie das Netz 'lernt' beschreiben.
Warum Deep Learning durchgestartet ist
Deep Learning bezieht sich auf Netze mit vielen gestapelten verborgenen Schichten statt nur einer. MIT News vermerkt, dass einschichtige Netze aus den 1960er Jahren modernen Netzen mit 10 bis 50 Schichten oder mehr gewichen haben. Das Forschungsmomentum brach zusammen, nachdem MITs Marvin Minsky und Seymour Papert 1969 ein Buch veröffentlichten, das die Grenzen einschichtiger Netze aufzeigte, so MIT News, und erholte sich nur teilweise in den 1980er Jahren, bevor es in den frühen 2000er Jahren erneut zurückging.
Die moderne Wiederbelebung des Feldes, die MIT auf etwa 2010 datiert, wurde durch Grafikprozessoren (GPUs), die ursprünglich für Videospiele gebaut wurden, angetrieben, die es praktisch machten, die riesige Anzahl von Berechnungen auszuführen, die tiefe Netze erfordern. IBM fügt hinzu, dass diese Rechenleistung, kombiniert mit viel größeren Datensätzen, die Parameter in den heutigen großen Modellen in die Milliarden gehen lässt.
Wichtige Deep-Learning-Architekturen und ihre Verwendung| Architektur | Typische Verwendung | Quelle |
|---|
| Faltungs-Neuronales Netz (CNN) | Bilderkennung, bei der Filter nach lokalen Mustern scannen | IBM |
|---|
| Rekurrentes neuronales Netz (RNN) | Sequenzielle Daten wie Text oder Zeitreihen über einen gedächtnisähnlichen verborgenen Zustand | IBM |
|---|
| Transformer | Selbst-Attention über Sequenzen; treibt moderne große Sprachmodelle an | IBM |
|---|
| Diffusionsmodell | Generiert Bilder durch Rückwärtsumkehrung eines schrittweisen Rausch-Additionsprozesses | IBM |
|---|
| Autoencoder | Komprimiert Daten in eine kleinere Darstellung für Reduzierungs- oder Generierungsaufgaben | IBM |
|---|
Das 'Black-Box'-Problem: Warum Entscheidungen schwer zu erklären sind
Selbst ein vollständig trainiertes Netz kann schwer zu interpretieren sein. MIT News besagt, dass nach dem Training oft unklar ist, was die endgültigen Gewichtungseinstellungen tatsächlich darstellen, oder welche Merkmale eines Bildes ein trainiertes System benützt und wie es sie kombiniert. Diese Undurchsichtigkeit, manchmal 'Black-Box'-Problem genannt, ist unterschiedlich davon, wie ein Netz aufgebaut ist — es betrifft das Verständnis, warum ein bestimmtes, bereits trainiertes Netz eine bestimmte Entscheidung trifft.
Warum diese Erklärung gerade jetzt wichtig ist
Die oben beschriebenen Mechanismen stecken hinter einer schnellen Expansion der alltäglichen KI-Nutzung. Der Stanford HAI 2026 AI Index Report stellte fest, dass die organisatorische Übernahme generativer KI 2025 88% erreichte, und dass generative KI innerhalb von drei Jahren nach ihrer Markteinführung 53% der Bevölkerung erreichte — was der Report besagt ist schneller als der Personal Computer oder das Internet die gleiche Stufe erreicht haben. Der gleiche Report setzte die US-amerikanische private KI-Investition 2025 auf 285,9 Milliarden Dollar, mehr als das 23-fache der 12,4 Milliarden Dollar, die dieses Jahr in China investiert wurden.
Der Stanford Report stellte auch fest, dass die KI-Modellleistung auf Code-Benchmarks wie SWE-bench Verified von etwa 60% auf nahezu 100% innerhalb eines einzigen Jahres anstieg, und dass mehrere Modelle nun menschliche Baselines bei PhD-Niveau-Wissenschaftsfragen und Wettbewerbsmathematik erfüllen oder übertreffen. Keine dieser Fähigkeitssteigerungen ändern den oben beschriebenen zugrunde liegenden Mechanismus — gewichtete Verbindungen angepasst durch Backpropagation und Gradient Descent — nur den Maßstab, in dem er angewendet wird.
Dieser Beitrag wurde mit künstlicher Intelligenz erstellt und vor der Veröffentlichung automatisch auf Quellen geprüft. Wenn Sie einen Fehler sehen, bitten Sie um eine Korrektur. Korrektur oder Gegendarstellung anfordern · So arbeiten wir
