Cosa succede il giorno dopo la superintelligenza?

Con il rilascio di Chat GPT-5 di OpenAI, il mondo è un passo più vicino allo sviluppo di una superintelligenza multiuso in grado di superare cognitivamente ciascuno di noi con un ampio margine. Con l'avvicinarsi di questo giorno, sono sempre più preoccupato che siamo tristemente impreparati all'onda d'urto che questo evento invierà alla società, e probabilmente non per i motivi che vi aspettate.

Provate questo piccolo esperimento: chiedete a chiunque conosciate se è preoccupato per l'intelligenza artificiale e probabilmente condividerà una serie di timori , dalle enormi ripercussioni sul mercato del lavoro e dagli impatti distorti della realtà dei deepfake, fino al potere senza precedenti concentrato in una manciata di grandi aziende di intelligenza artificiale. In altre parole, la maggior parte delle persone non ha mai immaginato onestamente come sarà la propria vita il giorno in cui la superintelligenza diventerà ampiamente disponibile.

Per contestualizzare, la superintelligenza artificiale (ASI) si riferisce a sistemi in grado di superare gli esseri umani su molti fronti, dalla pianificazione e dal ragionamento alla risoluzione dei problemi, dal pensiero strategico alla creatività pura. Questi sistemi risolveranno in una frazione di secondo problemi complessi che potrebbero richiedere giorni, settimane o addirittura anni di elaborazione anche ai più brillanti esperti umani. Questo mi terrorizza, e non è dovuto agli scenari apocalittici che dominano il nostro dibattito pubblico.

No, mi preoccupano i rischi opposti: i pericoli che potrebbero emergere negli scenari migliori, in cui la superintelligenza si rivela utile e benevola. Un'ASI di questo tipo avrà molti impatti positivi sulla società, ma potrebbe anche essere profondamente demoralizzante per la nostra identità fondamentale di esseri umani. Dopotutto, il mondo sarà diverso quando ognuno di noi saprà che un'intelligenza più intelligente, veloce e creativa è disponibile sui nostri dispositivi mobili piuttosto che tra le nostre orecchie.

Quindi, chiedetevi onestamente: come si comporteranno gli esseri umani in questa nuova realtà? Chiederemo consiglio ai nostri assistenti AI per affrontare ogni piccola sfida che incontreremo? O, peggio ancora, impareremo a fidarci dei nostri assistenti AI più che dei nostri pensieri e istinti?

Aspetta: prima di rispondere, devi aggiornare il tuo modello mentale. Attualmente, utilizziamo l'intelligenza artificiale attraverso un modello socratico che ci richiede di porre domande e ottenere risposte (come fece il Capitano Kirka bordo dell'Enterprise nel 1966). Ma questo è un modo di pensare antiquato. Stiamo entrando in una nuova era in cui gli assistenti AI saranno integrati in dispositivi indossabili dotati di telecamere e microfoni, consentendo all'IA di vedere ciò che vedi, sentire ciò che senti e sussurrare consigli all'orecchio senza che tu debba chiederli.

In altre parole, il nostro futuro sarà pieno di assistenti AI che ci accompagneranno passo passo nelle nostre vite, migliorando le nostre esperienze con una guida ottimizzata a ogni passo. In questo mondo, il rischio non è chiedere consiglio all'IA per riflesso prima di usare il nostro cervello; il rischio è che non avremo bisogno di chiedere: il consiglio fluirà direttamente nei nostri occhi e nelle nostre orecchie, plasmando le nostre azioni, influenzando le nostre decisioni e risolvendo i nostri problemi prima che abbiamo avuto la possibilità di pensare con la nostra testa.

Mi riferisco a questo framework come " mentalità aumentata " e sta per raggiungere la società su larga scala attraverso occhiali, auricolari e pendenti basati sull'intelligenza artificiale. Questo è il futuro del mobile computing e sta già innescando una corsa agli armamenti tra Meta, Google, Samsung e Apple, che si stanno preparando a produrre dispositivi di intelligenza artificiale sensibili al contesto che sostituiranno i telefoni cellulari.

Immagina di camminare per strada nella tua città. Vedi un collega che si dirige verso di te. Non ricordi il suo nome, ma il tuo assistente AI sì. Rileva la tua esitazione e ti sussurra il nome del collega all'orecchio. L'AI ti consiglia anche di chiedere al collega di sua moglie, che è stata operata qualche settimana prima. Il collega apprezza il tuo parere, poi ti chiede della tua recente promozione, probabilmente su consiglio della sua AI.

Si tratta di un rafforzamento dell'emancipazione umana o di una perdita di capacità di azione umana?

Sarà sicuramente un superpotere avere un'intelligenza artificiale nelle orecchie che ti copre sempre le spalle, assicurandoti di non dimenticare mai un nome, di avere sempre cose argute da dire e di essere avvisato immediatamente quando qualcuno con cui stai parlando non sta dicendo la verità . D'altra parte, tutti quelli che incontrerai avranno la propria intelligenza artificiale che borbotta nelle proprie orecchie. Questo ci farà chiedere con chi stiamo realmente interagendo: con l'essere umano di fronte a noi o con l'agente di intelligenza artificiale che li guida (dai un'occhiata alla datazione al carbonio per esempi divertenti).

Molti esperti ritengono che gli assistenti AI indossati sul corpo ci faranno sentire più potenti e capaci, ma non è l'unica strada percorribile. Queste stesse tecnologie potrebbero farci sentire meno sicuri di noi stessi e meno incisivi nelle nostre vite. Dopotutto, l'intelligenza umana è la caratteristica distintiva dell'umanità, ciò di cui andiamo più orgogliosi come specie, eppure potremmo presto ritrovarci a dover fare affidamento sugli assistenti AI perché ci sentiamo mentalmente inferiori. Si tratta di empowerment, di un'IA che spiega in modo bot ogni nostra esperienza in tempo reale?

Sollevo queste preoccupazioni in quanto persona che ha dedicato l'intera carriera alla creazione di tecnologie che espandono le capacità umane . Dai miei primi lavori sullo sviluppo della realtà aumentata al mio attuale lavoro sullo sviluppo di agenti conversazionali che rendono i team umani più intelligenti, sono fermamente convinto che la tecnologia possa migliorare notevolmente le capacità umane. Sfortunatamente, quando si parla di superintelligenza, c'è una linea sottile tra l'aumento delle nostre capacità umane e la loro sostituzione . Se non siamo attenti al modo in cui implementiamo l'ASI, temo che supereremo quel limite.

Louis Rosenberg è uno dei primi pionieri della realtà virtuale e aumentata e un ricercatore di lunga data nel campo dell'intelligenza artificiale. Ha fondato Immersion Corp, Outland Research e Unanimous AI.