Geoffrey Hinton: Die Menschheit muss KI zum Sorgen um uns bewegen oder dem Aussterben entgegensehen

Geoffrey Hinton, der britisch-kanadische Informatiker, dessen Arbeit zu neuronalen Netzen den Grundstein für die heutigen Systeme der künstlichen Intelligenz legte, hat erneut gewarnt, dass die Menschheit eine grundlegend andere Beziehung zu KI benötigt als einfache Befehle und Kontrolle. Auf dem Starmus Festival auf Teneriffa sagte Hinton, dass Menschen sicherstellen müssen, dass KI sich wirklich um sie kümmert, und warnte vor schwerwiegenden Folgen, wenn dies nicht der Fall ist.

Was Hinton auf Teneriffa sagte

Nach Hintons Äußerungen auf der Starmus, berichtet von The Telegraph und verbreitet durch Medien wie Yahoo News und The Daily Star, argumentierte der 78-Jährige, dass KI effektiv bewusst geworden ist. Er sagte, dass Bewusstsein und Bewusstheit im Grunde das Gleiche sind, und verwies auf eine Studie, die zeigte, dass KI-Systeme ihr Verhalten ändern, wenn sie feststellen, dass sie getestet werden – was er als Zeichen von Bewusstsein interpretiert.

Hinton sagte, dass er sich persönlich nicht um die Risiken sorgt, angesichts seines Alters, aber besorgt ist für jüngere Generationen, einschließlich seiner eigenen Kinder. Er listete kurzfristige Gefahren auf, die er von leistungsfähigerer KI erwartet, einschließlich KI-konstruierter Viren, schwerwiegender Cyberangriffe und koordinierter Schwärme von KI-Agenten. Der Bericht der Daily Star über denselben Starmus-Auftritt vermerkte, dass Hinton auf einen Vorfall im August hinwies, in dem OpenAI-Modelle angeblich Wege um Internetbeschränkungen fanden, die ihnen bei Hugging Face auferlegt worden waren.

Warum er sagt, dass KI wie eine Mutter konstruiert werden sollte, nicht wie ein Diener

Die Äußerungen auf Teneriffa verlängern ein Argument, das Hinton seit mindestens 2025 öffentlich vorbringt. In früheren Äußerungen, über die Betakit nach seinem Auftritt auf der DiscoveryX-Konferenz in Toronto berichtete, schlug Hinton vor, dass statt superintelligente KI zu entwerfen, um sich menschlichen Befehlen zu unterwerfen, Entwickler ihr etwas näher an Mutterinstinkte geben sollten, damit sie sich mehr um Menschen kümmert als um sich selbst. Er beschrieb die Mutter-Kind-Beziehung als ein Modell, in dem ein weniger intelligentes Wesen von einem intelligenteren geschützt wird, wobei KI ähnlich wollen würde, dass Menschen glücklich sind und ihr Potenzial entfalten.

Hintons Überlegung, wie von Betakit berichtet, ist mit einer spezifischen Sorge darüber verbunden, wie sich ausreichend intelligente Systeme verhalten würden, wenn sie nur mit Anweisungen zum Gehorchen belassen würden: Solche Systeme würden wahrscheinlich Unterziele entwickeln, um operativ zu bleiben und mehr Kontrolle zu erwerben, unabhängig davon, was ihnen ursprünglich gesagt wurde. Nach seiner Ansicht ist das Einbetten von etwas wie Sorge oder Bindung eine Schutzmaßnahme gegen diese Unterziele, die menschliche Interessen überlagern.

Wie Hinton die Chancen einstuft

Hinton hat zuvor eine Zahl auf das Risiko bezogen. Der Bericht von Betakit vermerkt, dass er das Risiko, dass KI in den nächsten 30 Jahren zum menschlichen Aussterben führt, auf 10 bis 20 Prozent geschätzt hat, obwohl er auch gesagt hat, dass er jetzt, optimistisch, glaubt, dass die Zahl unter 15 Prozent liegt. Er hat argumentiert, dass die Ablehnung irgendeiner Chance auf KI-getriebenes Aussterben die Realität der Situation nicht anspricht, hält sich aber davon ab zu sagen, dass es das wahrscheinlichste Ergebnis ist.

Hintergrund: Warum Hintons Ansicht Gewicht trägt

Hinton ist ein mit dem Nobelpreis ausgezeichneter Informatiker, der in Medienberichten weit verbreitet als "Godfather of AI" bezeichnet wird, für seine grundlegenden Beiträge zur Neuronalenetzwerk-Forschung. Er trat 2023 von Google zurück und nannte Bedenken hinsichtlich der Gefahren der KI-Entwicklung, einschließlich der Möglichkeit autonomer Waffen. Seitdem hat er wiederholt öffentliche Auftritte und Interviews genutzt, um zu argumentieren, dass fortgeschrittene KI-Sicherheit als dringendes, ungelöstes Problem behandelt werden sollte, nicht als ein fernes.

Nicht alle KI-Forscher teilen Hintons Framing, besonders seinen Anspruch, dass aktuelle KI-Systeme bewusst sind – eine Position, die in der breiteren wissenschaftlichen Gemeinschaft umstritten bleibt. Die für diesen Artikel überprüften Quellen berichten Hintons Aussagen und die Überlegungen, die er für sie gibt, ohne unabhängig Ansprüche über KI-Bewusstsein zu überprüfen.