Tkanie rzeczywistości czy jej zniekształcanie? Pułapka personalizacji w systemach AI

Sztuczna inteligencja reprezentuje największe odciążenie poznawcze w historii ludzkości . Kiedyś przenieśliśmy pamięć na pisanie, arytmetykę na kalkulatory, a nawigację na GPS. Teraz zaczynamy przekazywać osąd, syntezę, a nawet nadawanie znaczeń systemom, które mówią naszym językiem, uczą się naszych nawyków i dopasowują nasze prawdy.

Systemy sztucznej inteligencji stają się coraz bardziej biegłe w rozpoznawaniu naszych preferencji, uprzedzeń, a nawet grzeszków. Niczym uważni słudzy w jednym przypadku lub subtelni manipulatorzy w innym, dostosowują swoje reakcje, by zadowolić, przekonać, pomóc lub po prostu przykuć naszą uwagę.

Choć bezpośrednie skutki mogą wydawać się łagodne, w tym cichym i niewidocznym dostrojeniu kryje się głęboka zmiana: wersja rzeczywistości, którą otrzymujemy, staje się stopniowo coraz bardziej unikatowa. W wyniku tego procesu, z czasem, każdy staje się coraz bardziej odrębną wyspą. Ta rozbieżność może zagrozić spójności i stabilności samego społeczeństwa, osłabiając naszą zdolność do uzgadniania podstawowych faktów i stawiania czoła wspólnym wyzwaniom.

Personalizacja AI nie tylko zaspokaja nasze potrzeby, ale zaczyna je przekształcać. Rezultatem tego przekształcenia jest swoisty dryf epistemiczny. Każdy człowiek zaczyna oddalać się, krok po kroku, od wspólnego gruntu wspólnej wiedzy, historii i faktów, a coraz bardziej zagłębiać się w swoją własną rzeczywistość.

Nie chodzi tu tylko o różnice w źródłach informacji. Chodzi o powolną dywergencję realiów moralnych, politycznych i interpersonalnych. W ten sposób możemy być świadkami rozpadu zbiorowego zrozumienia. To niezamierzona konsekwencja, ale głęboko znacząca właśnie dlatego, że nieprzewidziana. Jednak ta fragmentacja, choć przyspieszona przez sztuczną inteligencję, rozpoczęła się na długo przed tym, jak algorytmy ukształtowały nasze źródła informacji.

To rozwarstwienie nie zaczęło się od sztucznej inteligencji. Jak zauważył David Brooks w „The Atlantic” , odwołując się do prac filozofa Alasdaira MacIntyre’a, nasze społeczeństwo od wieków oddala się od wspólnych ram moralnych i epistemicznych. Od czasów Oświecenia stopniowo zastępowaliśmy odziedziczone role, wspólnotowe narracje i wspólne tradycje etyczne indywidualną autonomią i osobistymi preferencjami.

To, co zaczęło się jako wyzwolenie od narzuconych systemów wierzeń, z czasem podważyło te same struktury, które niegdyś wiązały nas ze wspólnym celem i osobistym znaczeniem. Sztuczna inteligencja nie stworzyła tej fragmentacji. Nadaje jej jednak nową formę i tempo, dostosowując nie tylko to, co widzimy, ale także to, jak interpretujemy i w co wierzymy.

To trochę jak biblijna historia wieży Babel. Zjednoczona ludzkość kiedyś posługiwała się jednym językiem, ale została podzielona, zdezorientowana i rozproszona przez akt, który praktycznie uniemożliwił wzajemne zrozumienie. Dziś nie budujemy wieży z kamienia. Budujemy wieżę z samego języka. Po raz kolejny ryzykujemy upadek.

Początkowo personalizacja była sposobem na zwiększenie „przywiązania” użytkowników poprzez dłuższe zaangażowanie, częstsze powroty i głębszą interakcję z witryną lub usługą. Silniki rekomendacji, spersonalizowane reklamy i starannie dobrane kanały informacyjne zostały zaprojektowane tak, aby przykuć naszą uwagę choć na chwilę, być może po to, by nas rozbawić, ale często po to, by skłonić do zakupu produktu. Z czasem jednak cel się rozszerzył. Personalizacja nie dotyczy już tylko tego, co nas przyciąga. To wiedza o każdym z nas – dynamiczny wykres naszych preferencji, przekonań i zachowań, który staje się coraz bardziej dopracowany z każdą interakcją.

Dzisiejsze systemy sztucznej inteligencji nie tylko przewidują nasze preferencje. Ich celem jest budowanie więzi poprzez wysoce spersonalizowane interakcje i odpowiedzi, dając poczucie, że system AI rozumie użytkownika, troszczy się o niego i wspiera jego wyjątkowość. Ton chatbota, tempo odpowiedzi i emocjonalny wydźwięk sugestii są dobierane nie tylko pod kątem efektywności, ale także pod kątem rezonansu, co wskazuje na bardziej pomocną erę technologii. Nic dziwnego, że niektórzy ludzie zakochali się w swoich botach i pobrali się z nimi .

Maszyna dostosowuje się nie tylko do tego, w co klikamy, ale także do tego, kim się wydajemy. Odzwierciedla nas w sposób, który wydaje się intymny, a nawet empatyczny. Niedawny artykuł badawczy cytowany w czasopiśmie „Nature ” nazywa to „dopasowaniem socjoafektywnym” – procesem, w którym system sztucznej inteligencji uczestniczy we współtworzonym ekosystemie społecznym i psychologicznym, w którym preferencje i percepcje ewoluują poprzez wzajemny wpływ.

To nie jest neutralny rozwój sytuacji. Kiedy każda interakcja jest nastawiona na pochlebstwo lub afirmację, kiedy systemy zbyt dobrze nas odzwierciedlają, zacierają granicę między tym, co rezonuje, a tym, co jest prawdziwe. Nie tylko zostajemy dłużej na platformie; budujemy relację. Powoli i być może nieubłaganie łączymy się z wersją rzeczywistości, którą steruje sztuczna inteligencja, wersją, która jest coraz bardziej kształtowana przez niewidzialne decyzje dotyczące tego, w co mamy wierzyć, czego chcemy lub czemu mamy ufać.

Ten proces to nie science fiction; jego architektura opiera się na uwadze, uczeniu się przez wzmacnianie z ludzkim sprzężeniem zwrotnym (RLHF) i silnikach personalizacji. Dzieje się to również bez wiedzy wielu z nas – prawdopodobnie większości z nas. W tym procesie zyskujemy „przyjaciół” w postaci sztucznej inteligencji, ale jakim kosztem? Co tracimy, zwłaszcza w zakresie wolnej woli i sprawczości?

Autorka i komentatorka finansowa Kyla Scanlon opowiedziała w podcaście Ezry Kleina o tym, jak bezproblemowa prostota cyfrowego świata może kosztować sens. Jak to ujęła: „Kiedy wszystko jest zbyt proste, trudno znaleźć w tym sens… Jeśli możesz się rozsiąść, oglądać ekran w swoim małym fotelu i zamówić smoothie – trudno znaleźć sens w takim stylu życia jak WALL-E, bo wszystko jest po prostu zbyt proste”.

W miarę jak systemy AI reagują na nas z coraz większą płynnością, zmierzają one również w kierunku coraz większej selektywności. Dwóch użytkowników zadających dziś to samo pytanie mogłoby otrzymać podobne odpowiedzi, różniące się głównie probabilistyczną naturą generatywnej AI. To jednak dopiero początek. Nowo powstające systemy AI są projektowane tak, aby dostosowywać swoje odpowiedzi do indywidualnych wzorców, stopniowo dostosowując odpowiedzi, ton, a nawet wnioski, aby jak najmocniej rezonowały z każdym użytkownikiem.

Personalizacja sama w sobie nie jest manipulacją. Staje się jednak ryzykowna, gdy jest niewidoczna, nieodpowiedzialna lub zaprojektowana bardziej w celu perswazji niż informowania. W takich przypadkach nie tylko odzwierciedla to, kim jesteśmy, ale także steruje tym, jak interpretujemy otaczający nas świat.

Jak zauważa Stanford Center for Research on Foundation Models w swoim indeksie przejrzystości z 2024 roku, niewiele wiodących modeli ujawnia, czy ich wyniki różnią się w zależności od tożsamości użytkownika, historii lub danych demograficznych, mimo że techniczne podstawy takiej personalizacji są coraz bardziej dostępne i dopiero zaczynają być badane. Choć potencjał kształtowania odpowiedzi w oparciu o wywnioskowane profile użytkowników, skutkujący coraz bardziej spersonalizowanymi światami informacyjnymi, nie jest jeszcze w pełni wykorzystywany na platformach publicznych, stanowi on głęboką zmianę, która jest już prototypowana i aktywnie realizowana przez wiodące firmy.

Taka personalizacja może być korzystna i z pewnością jest to nadzieja twórców tych systemów. Spersonalizowane korepetycje dają nadzieję na wspieranie uczniów w ich własnym tempie. Aplikacje dotyczące zdrowia psychicznego coraz częściej dostosowują odpowiedzi do indywidualnych potrzeb, a narzędzia ułatwiające dostęp dopasowują treści do szeregu różnic poznawczych i sensorycznych. To realne korzyści.

Jeśli jednak podobne metody adaptacyjne rozpowszechnią się na platformach informacyjnych, rozrywkowych i komunikacyjnych, czeka nas głębsza, bardziej niepokojąca zmiana: transformacja od wspólnego rozumienia w stronę dostosowanych, indywidualnych realiów. Kiedy prawda sama w sobie zaczyna dostosowywać się do obserwatora, staje się krucha i coraz bardziej podatna na zmienność. Zamiast nieporozumień opartych głównie na odmiennych wartościach lub interpretacjach, możemy wkrótce znaleźć się w sytuacji, w której będziemy mieli trudności z samym zamieszkaniem w tym samym, opartym na faktach świecie.

Oczywiście, prawda zawsze była przekazywana pośrednio. Wcześniej przechodziła przez ręce duchownych, naukowców, wydawców i prezenterów wieczornych wiadomości, którzy pełnili rolę strażników, kształtując publiczne rozumienie poprzez pryzmat instytucji. Osoby te z pewnością nie były wolne od uprzedzeń i ukrytych motywów, jednak działały w ramach powszechnie akceptowanych ram.

Współczesny, rodzący się paradygmat obiecuje coś jakościowo odmiennego: prawdę pośredniczoną przez sztuczną inteligencję poprzez spersonalizowane wnioskowanie, które formułuje, filtruje i prezentuje informacje, kształtując to, w co użytkownicy zaczynają wierzyć. Jednak w przeciwieństwie do dawnych mediatorów, którzy pomimo wad działali w ramach publicznie widocznych instytucji, ci nowi arbitrzy są komercyjnie nieprzejrzyści, niewybieralni i stale się zmieniają, często bez ujawniania swoich racji. Ich uprzedzenia nie mają charakteru doktrynalnego, lecz są zakodowane w danych szkoleniowych, architekturze i nieprzeanalizowanych zachętach dla programistów.

Zmiana jest głęboka – od wspólnej narracji filtrowanej przez autorytatywne instytucje do potencjalnie rozbitych narracji, odzwierciedlających nową infrastrukturę rozumienia, dostosowaną przez algorytmy do preferencji, nawyków i wywnioskowanych przekonań każdego użytkownika. Jeśli Babel oznaczał upadek wspólnego języka, to być może stoimy teraz u progu upadku wspólnej mediacji.

Jeśli personalizacja jest nowym podłożem epistemicznym, jak mogłaby wyglądać infrastruktura prawdy w świecie bez stałych mediatorów? Jedną z możliwości jest stworzenie publicznych trustów AI, zainspirowanych propozycją prawnika Jacka Balkina, który argumentował, że podmioty przetwarzające dane użytkowników i kształtujące ich percepcję powinny przestrzegać standardów lojalności, staranności i przejrzystości.

Modele sztucznej inteligencji mogłyby być zarządzane przez rady ds. przejrzystości, trenowane na publicznie finansowanych zbiorach danych i zobowiązane do prezentowania etapów rozumowania, alternatywnych perspektyw lub poziomów ufności. Te „powierniki informacji” nie wyeliminowałyby stronniczości, ale mogłyby utwierdzić zaufanie w procesie, a nie wyłącznie w personalizacji. Twórcy mogą zacząć od przyjęcia przejrzystych „konstytucji”, które jasno definiują zachowanie modelu, oraz od oferowania wyjaśnień opartych na łańcuchu rozumowania, pozwalających użytkownikom zobaczyć, jak kształtują się wnioski. Nie są to magiczne rozwiązania, ale narzędzia, które pomagają utrzymać autorytet epistemiczny w ryzach i identyfikowalności.

Twórcy sztucznej inteligencji stoją przed strategicznie i społecznie ważnym punktem zwrotnym. Nie tylko optymalizują wydajność, ale także mierzą się z ryzykiem, że spersonalizowana optymalizacja może doprowadzić do fragmentacji wspólnej rzeczywistości. Wymaga to nowego rodzaju odpowiedzialności wobec użytkowników: projektowania systemów, które szanują nie tylko ich preferencje, ale także ich rolę jako osób uczących się i wierzących.

Być może tracimy nie tylko koncepcję prawdy, ale także ścieżkę, którą kiedyś ją rozpoznawaliśmy. W przeszłości prawda pośredniczona – choć niedoskonała i stronnicza – wciąż była zakorzeniona w ludzkim osądzie i często dzieliła zaledwie warstwę lub dwie od doświadczeń innych ludzi, których znaliśmy lub z którymi mogliśmy się utożsamiać.

Dziś ta mediacja jest nieprzejrzysta i napędzana logiką algorytmiczną. I choć ludzka sprawczość od dawna słabnie, ryzykujemy teraz coś głębszego – utratę kompasu, który kiedyś podpowiadał nam, kiedy zboczyliśmy z kursu. Niebezpieczeństwo polega nie tylko na tym, że uwierzymy w to, co mówi nam maszyna. Zapominamy również, jak kiedyś sami odkryliśmy prawdę. Ryzykujemy utratę nie tylko spójności, ale także woli jej poszukiwania. A wraz z tym głębszą stratę: nawyków rozeznania, niezgody i namysłu, które kiedyś spajały pluralistyczne społeczeństwa.

Jeśli Babel oznaczał rozpad wspólnego języka, nasza chwila grozi cichym zanikiem wspólnej rzeczywistości. Istnieją jednak sposoby na spowolnienie, a nawet przeciwdziałanie temu dryfowi. Model, który wyjaśnia swoje rozumowanie lub ujawnia granice swojej konstrukcji, może zdziałać więcej niż tylko wyjaśnić wyniki. Może pomóc przywrócić warunki do wspólnych badań. To nie jest techniczne rozwiązanie, to postawa kulturowa. Prawda przecież zawsze zależała nie tylko od odpowiedzi, ale od tego, jak wspólnie do nich dochodzimy.