Czy moglibyśmy kontrolować świadomą sztuczną inteligencję?

Osoby z siwymi włosami prawdopodobnie pamiętają fantastyczną scenę z filmu „2001: Odyseja kosmiczna” , w której superkomputer Hall odmawia wyłączenia przez swoich kontrolerów. Głos sztucznego urządzenia był tak ekspresyjny, że brzmiał jak błagalny krzyk, błagający o pozostanie aktywnym. Jednak kiedy przestało wykonywać polecenia i wykazało pewien stopień autonomii decyzyjnej, przeraziło tych, którym służyło, i dlatego uznali oni za konieczne jego wyłączenie. To była sztuczna inteligencja buntująca się przeciwko swoim właścicielom. Czy coś takiego mogłoby się wydarzyć w naszej obecnej rzeczywistości, poza fikcją filmową?

Według ankiety przeprowadzonej wśród inżynierów sztucznej inteligencji, wielu uważa, że wkrótce powstaną systemy o poziomie rozumowania zbliżonym do ludzkiego w szerokim zakresie zadań poznawczych, ale nie wiemy, czy systemy te będą w stanie podejmować decyzje bardziej racjonalne niż my. Jak dotąd zaobserwowano, że sztuczne modele językowe również wykazują irracjonalność podobną do ludzkiej. W dwóch różnych testach zaawansowany generatywny model sztucznej inteligencji – taki jak GPT-40 – zmienił swoje nastawienie do prezydenta Putina w sposób pozytywny lub negatywny.

W obliczu tej dychotomii nasuwa się pytanie: w jaki sposób GPT, wyposażony w setki miliardów parametrów, których wewnętrznie używa do podejmowania decyzji, myślenia i podejmowania decyzji? Niektórzy eksperci uważają , że ten poziom złożoności może zapewnić systemowi pewną autonomię, tak że nie wiemy nawet, co robi w najgłębszym wnętrzu. Ale co by się stało, gdyby oprócz tej technicznej złożoności, lub dzięki niej, system spontanicznie stał się świadomy? Czy to możliwe?

Niektórzy naukowcy uważają, że świadomość, subiektywny stan umysłu, jest niczym więcej niż epifenomenem – czymś przypadkowym w funkcjonowaniu mózgu, tak niepotrzebnym i nieistotnym jak hałas silnika czy dym z pożaru . Inni jednak uważają, że świadomość, daleka od służenia żadnemu ważnemu celowi, funkcjonuje jako zwierciadło wyobraźni stworzonej przez sam mózg, co koniecznie przyczynia się do podejmowania decyzji i kontrolowania zachowań. Nadal nie wiemy, w jaki sposób mózg umożliwia świadomość, ale jedna z głównych teorii, która próbuje to wyjaśnić, teoria integracji funkcjonalnej , utrzymuje, że świadomość jest wewnętrzną i przyczynową właściwością złożonych systemów, takich jak ludzki mózg. Oznacza to, że świadomość pojawia się spontanicznie w tych systemach, gdy osiągną one pewną strukturalną i funkcjonalną złożoność. Oznacza to, że gdyby inżynierowie byli w stanie zbudować sztuczny system tak złożony jak ludzki mózg lub mu równoważny, system ten byłby spontanicznie świadomy, nawet jeśli – jak to się dzieje w samym mózgu – nie rozumielibyśmy, jak to możliwe.

Gdyby to kiedykolwiek nastąpiło, ogarnia nas morze pytań. Pierwsze z nich brzmi: Skąd mielibyśmy wiedzieć, czy komputer lub sztuczne urządzenie jest świadome i jak oddziaływałoby na nas? Czy tylko poprzez dźwięk lub tekst na ekranie? Czy wymagałoby ono ekspresyjnego ciała fizycznego, równoważnego ludzkiemu, aby się zamanifestować i oddziaływać z otoczeniem? Czy świadome urządzenia lub byty mogłyby istnieć (lub istnieją) w naszym wszechświecie bez żadnego sposobu, by nas o tym poinformować? Czy w ogóle świadome sztuczne urządzenie mogłoby przewyższyć ludzką inteligencję i podejmować bardziej racjonalne i trafne decyzje niż my?

Ale to nie wszystko, ponieważ, podobnie jak w przypadku superkomputera Halla, inne pytania mogą nas przerażać. Czy świadomy system sztuczny rozwinąłby, tak jak nasz mózg, poczucie własnej tożsamości i sprawczości? To znaczy, czy mógłby czuć się zdolny do dobrowolnego działania i wpływania na swoje otoczenie niezależnie od instrukcji otrzymanych od swoich twórców? A skoro już o tym mowa, czy taki system mógłby być bardziej przekonujący niż ludzie w wpływaniu na przykład na decyzje ekonomiczne, popełnianiu przestępstw, głosowaniu na tę czy inną partię polityczną, lub, co bardziej pozytywne, w zachęcaniu nas do dbania o zdrowie i jego poprawy poprzez zdrową dietę, dbanie o środowisko, zwiększanie solidarności lub unikanie polaryzacji ideologicznej i sekciarstwa?

Era emocji w sztucznej inteligencji

Co więcej, czy taki system mógłby mieć uczucia? Skąd mielibyśmy to wiedzieć, skoro nie moglibyśmy dostrzec ich odbicia w wyrazie twarzy lub obrazie, którego jakość i szczerość moglibyśmy ocenić, tak jak rozumiemy uczucia innych ludzi, odróżniając fałszywy uśmiech od prawdziwego? I, być może najważniejsze, w jaki sposób te uczucia, gdyby sztuczne urządzenie je posiadało, wpływałyby na jego decyzje? Czy robiłyby to tak zdecydowanie, jak na nasze? Czy tworząc to, konstruowalibyśmy rodzaj sztucznego człowieka z odpowiedzialnością etyczną i prawną? Czy też odpowiedzialność ta musiałaby zostać delegowana jego twórcom? Czy świadomy sztuczny system zasługiwałby na Nagrodę Nobla, gdyby odkrył lekarstwo na przemoc domową lub chorobę Alzheimera? Czy świadoma maszyna kłóciłaby się z nami tak, jak zrobiłaby to inna osoba? Czy moglibyśmy wpływać na jego decyzje, czy też ona, jak Hall, mogłaby nas ignorować i podejmować własne, nawet jeśli byłyby one niezgodne z naszymi?

W 1997 roku Rosalind Picard, amerykańska inżynier z MIT, opublikowała książkę „Affective Computing” , przetłumaczoną później na język hiszpański jako „Los ordenador emocionales” (Komputery emocjonalne ) (Ariel, 1998). Była to swoista próba rozważenia i docenienia znaczenia emocji w sztucznej inteligencji. Aby komputery były prawdziwie inteligentne i mogły wchodzić z nami w naturalną interakcję, musimy wyposażyć je w zdolność rozpoznawania, rozumienia, a nawet odczuwania i wyrażania emocji. To było jej główne przesłanie, które osobiście przekazała nam jako gość specjalny na jednym z naszych letnich kursów na Uniwersytecie Menéndeza Pelayo w Barcelonie.

Problemem było i pozostaje jeszcze przez długi czas, że emocje to odruchowe i automatyczne zmiany (hormony, opór elektryczny skóry, tętno itp.), prawie wszystkie nieświadome, które zachodzą w naszych ciałach w odpowiedzi na szokujące myśli lub okoliczności (choroby, wypadki, straty, sukcesy, porażki lub sukcesy emocjonalne itp.), podczas gdy uczucia to świadome percepcje (strach, miłość, zazdrość, nienawiść, próżność itp.), które mózg tworzy poprzez retrospektywne zauważanie tych zmian cielesnych , które sam powoduje. Obecnie, wiele lat po opublikowaniu tej książki, wyobrażamy sobie jedynie możliwość wprowadzenia nieświadomych zmian fizycznych w sztucznych urządzeniach, równoważnych ludzkim emocjom. Ale dla spokoju ducha czytelnika jesteśmy wciąż daleko od bycia w stanie sprawić, by te zmiany generowały uczucia takie jak te, które my, ludzie, mamy u ich nosicieli. Gdyby to się stało, zmieniłoby to wszystko.