Der Mann, der AGI erfunden hat

Im Sommer 1956 trafen sich einige Akademiker – heute würden wir sie Informatiker nennen, aber damals gab es diesen Begriff noch nicht – auf dem Campus des Dartmouth College in New Hampshire, um zu erörtern, wie man Maschinen menschenähnlich denken lassen könnte. Einer von ihnen, John McCarthy, prägte den Begriff „Künstliche Intelligenz“. Dieses legendäre Treffen und die Benennung eines neuen Forschungsfeldes sind weithin bekannt.

In diesem Jahrhundert rückte eine Variante des Begriffs in den Vordergrund: Künstliche Allgemeine Intelligenz (AGI) – die Stufe, auf der Computer die menschliche Intelligenz erreichen oder sogar übertreffen können. AGI beherrschte die Schlagzeilen dieser Woche: ein Deal zwischen OpenAI und Microsoft, der davon abhing, was passiert, wenn OpenAI dieses Ziel erreicht; massive Investitionen von Meta, Google und Microsoft, um es zu verfolgen; der unstillbare Drang, AGI zu erreichen, verhalf Nvidia zu einem Wert von 5 Billionen Dollar. US-Politiker warnten, dass die USA verloren seien, wenn sie es nicht vor China schaffen . Prognostiker sagen, dass wir es noch vor Ende des Jahrzehnts schaffen könnten und dass dies alles verändern wird. Der Ursprung des Begriffs und seine ursprüngliche Definition sind jedoch nicht so bekannt. Aber es gibt eine klare Antwort auf diese Frage. Die Person, die das bisher wichtigste Akronym des 21. Jahrhunderts prägte – sowie eine Definition, die im Wesentlichen immer noch unsere heutige Auffassung prägt – ist fast allen unbekannt. Dies ist seine Geschichte.

1997 war Mark Gubrud von der Nanotechnologie und ihren Gefahren fasziniert. Er bewunderte Eric Drexler, der die Wissenschaft des Allerkleinsten populär gemacht hatte. Gubrud begann, Nanotechnologie-Konferenzen zu besuchen. Seine besondere Sorge galt der Frage, wie diese Technologie und andere Spitzenforschung zu gefährlichen Kriegswaffen missbraucht werden könnten. „Ich war Doktorand und saß im Keller der Universität von Maryland, hörte direkt hinter meinem Schreibtisch das laute Geräusch einer riesigen Sumpfpumpe und verschlang alles, was ich finden konnte“, erzählt er mir in einem Zoom-Gespräch von der Veranda einer Hütte in Colorado.

Im selben Jahr reichte Gubrud auf der fünften Foresight-Konferenz für Molekulare Nanotechnologie eine Arbeit mit dem Titel „ Nanotechnologie und Internationale Sicherheit“ ein und präsentierte sie dort. Er argumentierte, dass bahnbrechende Technologien internationale Konflikte neu definieren und sie potenziell katastrophaler als einen Atomkrieg machen würden. Er forderte die Nationen auf, „die Kriegertradition aufzugeben“. Zu den neuen Wissenschaften, die er diskutierte, gehörte natürlich die Nanotechnologie, aber auch fortgeschrittene KI – die er, genau, als „künstliche allgemeine Intelligenz“ bezeichnete. Anscheinend hatte zuvor noch niemand diesen Begriff verwendet. Später in der Arbeit definierte er ihn:

„Mit fortgeschrittener künstlicher allgemeiner Intelligenz meine ich KI-Systeme, die in Komplexität und Geschwindigkeit mit dem menschlichen Gehirn konkurrieren oder es übertreffen, die allgemeines Wissen erwerben, verarbeiten und damit schlussfolgern können und die im Wesentlichen in jeder Phase industrieller oder militärischer Operationen einsetzbar sind, in der andernfalls menschliche Intelligenz benötigt würde.“

Lässt man den letzten Satzteil weg, erhält man die Definition von AGI, die heute am weitesten verbreitet ist.

„Ich brauchte einen Begriff, um die KI, von der ich sprach, von der damals bekannten KI – Expertensystemen – zu unterscheiden. Es war ziemlich klar, dass es sich dabei nicht um die Art von allgemeiner Intelligenz handeln würde, die sie anstrebten“, erklärt er. Die Studie fand keine weite Verbreitung und hatte nur geringe Auswirkungen.

Anfang der 2000er-Jahre, als die KI-Forschung noch immer vor großen Herausforderungen stand, ahnten einige vorausschauende Forscher ein Umdenken. 1999 prognostizierte Ray Kurzweil in seinem Buch „Das Zeitalter der spirituellen Maschinen“ , dass KI um das Jahr 2030 mit der menschlichen Kognition mithalten könne. Diese Prognose inspirierte den Informatiker Ben Goertzel, der gemeinsam mit seinem Kollegen Cassio Pennachin ein Buch über KI-Ansätze herausgab, die sich für den breiten Einsatz eignen sollten – im Gegensatz zur Nutzung von maschinellem Lernen für spezifische und abgegrenzte Bereiche wie Schach oder medizinische Diagnosen.

Kurzweil hatte diese umfassendere Technologie als „starke KI“ bezeichnet, doch das erschien ihm zu vage. Goertzel spielte mit dem Gedanken, sie „echte KI“ oder vielleicht „synthetische Intelligenz“ zu nennen. Da keine der beiden Alternativen die Autoren des Buches begeisterte, lud er sie ein, weitere Ideen zu diskutieren. Zu den Teilnehmern zählten spätere KI-Größen wie Shane Legg, Pei Wang und Eliezer Yudkowsky (genau, der Mann, der später zum obersten Schwarzmaler werden sollte).

Legg, der damals einen Master-Abschluss hatte und mit Goertzel zusammengearbeitet hatte, brachte die Idee auf, das Wort „allgemein“ zu KI hinzuzufügen. Wie er heute sagt: „Ich schrieb in einer E-Mail: ‚Ben, nenn es nicht echte KI – das ist eine Beleidigung für das gesamte Forschungsgebiet. Wenn du über Maschinen mit allgemeiner Intelligenz schreiben willst, anstatt über solche mit spezifischen Fähigkeiten, sollten wir es vielleicht künstliche allgemeine Intelligenz oder AGI nennen. Das klingt einfach besser.‘“ Goertzel erinnert sich, dass Wang eine andere Wortreihenfolge vorschlug und vorschlug, das Forschungsgebiet „allgemeine künstliche Intelligenz“ zu nennen. Goertzel merkte an, dass die Abkürzung GAI, ausgesprochen, eine unbeabsichtigte Assoziation hervorrufen könnte. „Nicht, dass etwas daran auszusetzen wäre“, fügt er schnell hinzu. Sie blieben bei Leggs AGI.

Wang, der heute an der Temple University lehrt, sagt, er könne sich nur vage an die Diskussion erinnern, habe aber möglicherweise einige Alternativen vorgeschlagen. Wichtiger noch: Was die Beteiligten um das Jahr 2002 als AGI bezeichneten, sei „im Grunde die ursprüngliche KI“. Die Gründer von Dartmouth stellten sich Maschinen vor, die Intelligenz in der gleichen Bandbreite wie Menschen zum Ausdruck bringen würden. „Wir brauchten eine neue Bezeichnung, weil sich der allgemeine Sprachgebrauch verändert hatte“, sagt er.

Die Würfel waren gefallen. „Wir alle fingen an, den Begriff AGI in Online-Foren zu verwenden“, sagt Legg. (Er selbst verwendete ihn nicht immer: „Ich habe AGI in meiner Doktorarbeit nie erwähnt, weil ich dachte, es wäre zu kontrovers“, sagt er.) Goerztels Buch „Artificial General Intelligence“ erschien erst Mitte des Jahrzehnts, aber da war der Begriff bereits weit verbreitet, mit einer gleichnamigen Fachzeitschrift und Konferenz.

Gubrud konnte sich die Namensgebung des Begriffs AGI tatsächlich zuschreiben. Mitte der 2000er-Jahre machte er selbst diejenigen darauf aufmerksam, die den Begriff popularisierten. Legg drückt es so aus: „Plötzlich taucht jemand auf und behauptet: ‚Ich habe den Begriff 1997 geprägt.‘ Und wir fragen uns: ‚Wer zum Teufel bist du?‘ Und tatsächlich, wir haben nachgeschaut, und er hatte eine wissenschaftliche Arbeit dazu veröffentlicht. Also habe ich den Begriff quasi neu erfunden, anstatt ihn neu zu erfinden.“ (Legg ist Mitbegründer und leitender AGI-Wissenschaftler bei Googles DeepMind.)

Gubrud besuchte 2006 die zweite AGI-Konferenz und traf dort kurz auf Goertzel. Legg hingegen begegnete er nie persönlich, obwohl er im Laufe der Jahre gelegentlich online mit ihm in Kontakt stand, stets freundlich. Gubrud ist sich bewusst, dass sein mangelndes Nachfassen dazu geführt hat, dass er ins Hintertreffen geriet.

„Ich nehme die Anerkennung für die erste Erwähnung gerne an und gebe ihnen auch die Anerkennung für viele andere Arbeiten, die ich nicht geleistet habe und vielleicht hätte leisten sollen – aber das war nicht mein Schwerpunkt“, sagt er. „Meine Sorge galt dem Wettrüsten. Der ganze Sinn des Artikels war, davor zu warnen.“ Gubrud hat danach nicht mehr viele Arbeiten veröffentlicht – seine Karriere war unstet, und er verbringt nun viel Zeit mit der Pflege seiner Mutter –, aber er hat eine Reihe von Artikeln verfasst, in denen er sich für ein Verbot autonomer Killerroboter und ähnlicher Technologien ausspricht .

Gubrud kann die Diskrepanz zwischen seinem Status und dem der AGI-Lords nicht ignorieren. „Sie erobert die Welt, ist buchstäblich Billionen von Dollar wert“, sagt er. „Und ich bin ein 66-Jähriger mit einem wertlosen Doktortitel, ohne Namen, ohne Geld und ohne Job.“ Doch Gubrud hat ein Vermächtnis hinterlassen. Er gab der AGI einen Namen. Seine Definition hat nach wie vor Gültigkeit. Und seine Warnungen vor ihren Gefahren verdienen weiterhin Gehör.

Dies ist eine Ausgabe von Steven Levys Backchannel-Newsletter . Frühere Ausgaben finden Sie hier.