Geoffrey Hinton gilt als Pionier der künstlichen Intelligenz. Jetzt verlässt er Google, um vor den wachsenden Gefahren seiner eigenen Technologie zu warnen.

München – Er war einer der ersten Forscher auf dem Gebiet der Künstlichen Intelligenz (KI). Geoffrey Hinton (75) hat ein halbes Jahrhundert lang die Technologie, die Chatbots wie ChatGPT zugrunde liegt, weiterentwickelt.

Jetzt hat er seine Position beim US-Konzern Google aufgegeben, wo er mehr als ein Jahrzehnt lang gearbeitet hat. Hinton will auch durch diesen Schritt auf die Risiken der KI und ihre aus seiner Sicht besorgniserregend rasante Entwicklung der vergangenen Jahre aufmerksam machen. Die bahnbrechende Forschung des Experten zu neuronalen Netzen und Deep Learning hat den Weg für aktuelle KI-Systeme geebnet – doch jetzt warnt er vor seiner eigenen Schöpfung.

Google-Entwickler warnt vor Künstlicher Intelligenz (KI) – „Ernste Risiken für Gesellschaft und Menschheit“

„Ich bin nur ein Wissenschaftler, der plötzlich erkannt hat, dass diese Dinge schlauer werden als wir“, sagte Hinton in einem Interview mit CNN. Das plötzliche Umdenken des KI-Pioniers ist bemerkenswert. Schließlich hatte der britisch-kanadische Forscher die Entwicklung von KI zuvor über Jahre maßgeblich vorangetrieben. In den 1980er-Jahren hatte er mit der Erforschung „neuronaler Netze“ begonnen. 2012 entwickelte Hinton mit zwei seiner Doktoranden an der Universität von Toronto eine Technologie, die die intellektuelle Grundlage für die KI-Systeme bildete. Von diesen glauben die größten Unternehmen der Technologiebranche, dass sie der Schlüssel für ihre Zukunft sind.

+

In weiteren Interviews mit der britischen BBC und der New York Times räumte der Informatiker und Kognitionspsychologe jetzt ein, dass er sein Lebenswerk bedaure. „Im Moment sind sie noch nicht intelligenter als wir, soweit ich das beurteilen kann. Aber ich denke, sie könnten es bald sein“, so Hinton gegenüber BBC. „Diese Technologie birgt enorme Chancen, aber die Welt muss dringend und massiv in die Sicherheit und Kontrolle von KI investieren“, erklärte er weiter. Damit schließt er sich offiziell einem wachsenden Chor von Kritikern an, die sagen, dass diese Unternehmen mit ihrer aggressiven Kampagne zur Entwicklung von Produkten auf der Grundlage generativer KI, auf eine Gefahr zusteuern.

Als das Start-up-Unternehmen OpenAI aus San Francisco im März eine neue Version von ChatGPT veröffentlicht hatte, unterzeichneten mehr als 1.000 Technologieführer und Forscher einen offenen Brief, in dem sie eine sechsmonatige Pause für die Entwicklung neuer Systeme forderten, da KI-Technologien „tiefgreifende Risiken für die Gesellschaft und die Menschheit“ darstellen.

Google-Entwickler warnt vor schneller Entwicklung der KI

Das Tempo, mit dem die KI voranschreitet, hat selbst seinen Schöpfer überrascht. Hinton ist sowohl besorgt über die Geschwindigkeit, mit der sich die KI entwickelt, als auch über die Richtung, in die sie sich entwickelt. „Es ist schwer vorstellbar, wie man verhindern kann, dass böse Akteure sie für schlechte Zwecke einsetzen“, sagte er gegenüber der New York Times.

In dem Maße, wie Unternehmen ihre KI-Systeme verbessern, werden sie seiner Meinung nach immer gefährlicher.„Schauen Sie sich an, wo KI noch vor fünf Jahren war und wo sie jetzt ist“, so der 75-jährige gegenüber der Zeitung. „Nehmen Sie den Unterschied und projizieren Sie ihn in die Zukunft. Das ist beängstigend.“

Laut New York Times befürchten viele Brancheninsider, dass sie regelrecht etwas Gefährliches in die freie Wildbahn entlassen. So kann Generative KI bereits jetzt ein Werkzeug für Fehlinformationen sein. Zudem könnte sie schon bald auch eine Gefahr für manche Arbeitsplätze darstellen.

Konkurrenzkampf der Tech-Giganten

In einer Mitteilung dankte Google-Chef Jeff Dean Ex-Mitarbeiter Hinton für seine Pionierarbeit. Und erklärte zudem, dass sich das Unternehmen „zu einem verantwortungsvollen Umgang mit KI verpflichtet fühle“. Doch Hinton hat seine Zweifel. Wie er der New York Times im Interview mitteilte, habe Google bislang als „guter Verwalter“ für die Technologie gehandelt und darauf geachtet, nichts zu veröffentlichen, was Schaden anrichten könnte. Aber jetzt, wo Microsoft seine Suchmaschine Bing um einen Chatbot erweitert hat, werde Googles Kerngeschäft herausgefordert. Sein Ex-Arbeitgeber sei dabei, die gleiche Art von Technologie einzusetzen. Demnach befinden sich die Tech-Giganten „in einem Wettbewerb, der möglicherweise nicht mehr aufzuhalten ist“, so der Informatiker. Seine Sorge: Der Konkurrenzkampf könnte dazu führen, dass das Internet mit falschen Fotos, Videos und Texten überflutet wird. Und viele Menschen nicht mehr in der Lage sein werden, zu erkennen, was wahr ist oder falsch.

Der Wettlauf zwischen Google, Microsoft und anderen wird nach Hintons Sicht zu einem globalen Wettlauf eskalieren, der ohne eine weltweite Regulierung nicht aufzuhalten sein wird. „Ich glaube nicht, dass sie diese Technologie weiter ausbauen sollten, bevor sie nicht verstanden haben, ob sie sie kontrollieren können.“ (vw)

Rubriklistenbild: © Montage: IPPEN.MEDIA/Sven Hoppe/Sebastian Gollnow/dpa