Groep onwaarschijnlijke bondgenoten streeft naar verbod op AI-‘superintelligentie’

Prins Harry en zijn vrouw Meghan hebben zich aangesloten bij vooraanstaande computerwetenschappers, economen, kunstenaars, evangelische christelijke leiders en Amerikaanse conservatieve commentatoren Steve Bannon en Glenn Beck om op te roepen tot een verbod op AI-"superintelligentie" die volgens hen een bedreiging voor de mensheid zou kunnen vormen.

De brief, die woensdag werd vrijgegeven door een politiek en geografisch diverse groep publieke figuren, is rechtstreeks gericht aan techgiganten als Google, OpenAI en Meta Platforms, die met elkaar wedijveren om een ​​vorm van kunstmatige intelligentie te bouwen die de mens op veel gebieden kan overtreffen.

De verklaring van 30 woorden luidt als volgt: "Wij roepen op tot een verbod op de ontwikkeling van superintelligentie, dat niet wordt opgeheven voordat er brede wetenschappelijke consensus is dat dit veilig en controleerbaar zal gebeuren, en voordat er een sterke publieke steun is."

In de inleiding van de brief wordt opgemerkt dat AI-tools gezondheid en welvaart kunnen brengen, maar naast die tools "hebben veel toonaangevende AI-bedrijven het uitgesproken doel om in het komende decennium superintelligentie te ontwikkelen die alle mensen aanzienlijk kan overtreffen bij vrijwel alle cognitieve taken. Dit heeft geleid tot zorgen, variërend van economische veroudering en machteloosheid van de mens, verlies van vrijheid, burgerlijke vrijheden, waardigheid en controle, tot risico's voor de nationale veiligheid en zelfs het mogelijke uitsterven van de mensheid."

Prins Harry voegde er in een persoonlijke noot aan toe: "De toekomst van AI moet de mensheid dienen, niet vervangen. Ik geloof dat de ware test van vooruitgang niet zal zijn hoe snel we vooruitgaan, maar hoe verstandig we sturen. Er is geen tweede kans."

Samen met de hertog van Sussex ondertekende zijn vrouw Meghan, de hertogin van Sussex.

"Dit is geen verbod of zelfs maar een moratorium in de gebruikelijke zin van het woord", schreef een andere ondertekenaar, Stuart Russell, AI-pionier en hoogleraar computerwetenschappen aan de Universiteit van Californië, Berkeley. "Het is simpelweg een voorstel om adequate veiligheidsmaatregelen te eisen voor een technologie die volgens de ontwikkelaars een aanzienlijke kans heeft om de mensheid uit te sterven. Is dat te veel gevraagd?"

Ook AI-pioniers Yoshua Bengio en Geoffrey Hinton tekenden hun handtekening, medewinnaars van de Turing Award, de belangrijkste prijs in de computerwetenschappen. Hinton won vorig jaar ook de Nobelprijs voor natuurkunde. Beiden hebben zich uitgesproken om de gevaren van een technologie die ze zelf hebben helpen ontwikkelen, onder de aandacht te brengen.

Maar de lijst bevat ook enkele verrassingen, waaronder Bannon en Beck, in een poging van de organisatoren van de brief bij het non-profit Future of Life Institute om een ​​beroep te doen op de Make America Great Again-beweging van president Trump, terwijl de staf van Trump in het Witte Huis heeft geprobeerd de beperkingen op de ontwikkeling van AI in de VS te beperken.

Ook op de lijst staan ​​Apple-oprichter Steve Wozniak, de Britse miljardair Richard Branson, de voormalige voorzitter van de Amerikaanse Joint Chiefs of Staff Mike Mullen, die onder zowel Republikeinse als Democratische regeringen heeft gediend, en de Democratische expert op het gebied van buitenlands beleid Susan Rice, die nationaal veiligheidsadviseur was van president Barack Obama.

De voormalige Ierse president Mary Robinson en diverse Britse en Europese parlementariërs tekenden, evenals de acteurs Stephen Fry en Joseph Gordon-Levitt en de muzikant will.i.am, die AI op andere manieren inzet in de muziekcreatie.

"Ja, we willen specifieke AI-tools die ziekten kunnen genezen, de nationale veiligheid kunnen versterken, enzovoort", schreef Gordon-Levitt, wiens vrouw Tasha McCauley in de raad van bestuur van OpenAI zat vóór de omwenteling die leidde tot het tijdelijke ontslag van CEO Sam Altman in 2023. "Maar moet AI dan ook mensen imiteren, onze kinderen manipuleren, ons allemaal in rommelverslaafden veranderen en miljarden dollars verdienen met advertenties? De meeste mensen willen dat niet."

De brief zal waarschijnlijk aanhoudende discussies binnen de AI-onderzoeksgemeenschap uitlokken over de waarschijnlijkheid van bovenmenselijke AI, de technische manieren om dit te bereiken en hoe gevaarlijk het zou kunnen zijn.

"Vroeger was het vooral de nerds tegen de nerds", aldus Max Tegmark, president van het Future of Life Institute en professor aan het Massachusetts Institute of Technology. "Ik heb het gevoel dat we hier echt zien hoe de kritiek heel mainstream is geworden."

Wat de bredere debatten vertroebelt, is dat dezelfde bedrijven die streven naar wat sommigen superintelligentie noemen en anderen kunstmatige algemene intelligentie (AI), soms ook de mogelijkheden van hun producten overdrijven, wat ze aantrekkelijker kan maken voor de markt en heeft bijgedragen aan de zorgen over een AI-bubbel . OpenAI werd onlangs bespot door wiskundigen en AI-wetenschappers toen de onderzoeker beweerde dat ChatGPT onopgeloste wiskundige problemen had opgelost - terwijl het in werkelijkheid alleen maar deed wat er al online stond en het samenvatte.

"Er wordt veel te veel hype gecreëerd en als investeerder moet je voorzichtig zijn, maar dat verandert niets aan het feit dat - als we verder uitzoomen - AI de afgelopen vier jaar veel sneller is gegroeid dan de meeste mensen hadden voorspeld", aldus Tegmark.

Tegmarks groep stond ook achter een brief uit maart 2023 – nog in de beginfase van een commerciële AI-hausse – waarin techgiganten werden opgeroepen de ontwikkeling van krachtigere AI-modellen tijdelijk te pauzeren. Geen van de grote AI-bedrijven gaf gehoor aan die oproep. En de meest prominente ondertekenaar van de brief uit 2023, Elon Musk, richtte tegelijkertijd in stilte zijn eigen AI-startup op om te concurreren met de startups die hij zes maanden uitstel wilde geven.

Op de vraag of hij dit keer opnieuw contact met Musk had opgenomen, antwoordde Tegmark dat hij naar de CEO's van alle grote AI-ontwikkelaars in de VS had geschreven, maar dat hij niet verwachtte dat ze zouden tekenen.

"Ik leef echt met ze mee, eerlijk gezegd, omdat ze zo vastzitten in deze race naar de bodem dat ze een onweerstaanbare druk voelen om door te gaan en niet door de ander ingehaald te worden," zei Tegmark. "Ik denk dat het daarom zo belangrijk is om de race naar superintelligentie te stigmatiseren, tot het punt waarop de Amerikaanse overheid gewoon ingrijpt."