Illinois zakazuje sztucznej inteligencji świadczenia terapii

Gubernator stanu Illinois JB Pritzker podpisał w piątek nową ustawę zakazującą sztucznej inteligencji pełnienia funkcji terapeutycznych lub doradców i ograniczającą jej wykorzystanie do ról ściśle administracyjnych lub pomocniczych.

Ustawa o dobrostanie i nadzorze nad zasobami psychologicznymi wchodzi w życie w momencie, gdy organy regulacyjne na szczeblu stanowym i federalnym zaczynają zastanawiać się , jak chronić pacjentów przed rosnącym i w dużej mierze nieuregulowanym wykorzystaniem sztucznej inteligencji w opiece zdrowotnej.

Nowe prawo zabrania osobom fizycznym i firmom reklamowania lub oferowania jakichkolwiek usług terapeutycznych, w tym za pośrednictwem sztucznej inteligencji, chyba że usługi te są świadczone przez licencjonowanego specjalistę. Wyraźnie zakazuje ono sztucznej inteligencji podejmowania niezależnych decyzji terapeutycznych, generowania planów leczenia bez konsultacji i zgody licencjonowanego specjalisty oraz wykrywania emocji lub stanów psychicznych.

Mimo to platformy AI nadal mogą być wykorzystywane do zadań administracyjnych, takich jak zarządzanie harmonogramami wizyt, przetwarzanie rozliczeń czy sporządzanie notatek terapeutycznych. Osoby lub firmy naruszające prawo mogą zostać ukarane grzywną w wysokości do 10 000 dolarów.

„Mieszkańcy stanu Illinois zasługują na wysokiej jakości opiekę zdrowotną świadczoną przez prawdziwych, wykwalifikowanych specjalistów, a nie przez programy komputerowe, które zbierają informacje z całego internetu, aby generować odpowiedzi szkodzące pacjentom” – powiedział w komunikacie prasowym Mario Treto Jr., sekretarz Departamentu Regulacji Finansowych i Zawodowych stanu Illinois, agencji odpowiedzialnej za egzekwowanie nowego prawa.

Tymczasem inne stany również podejmują działania w tej sprawie.

W czerwcu Nevada zakazała AI świadczenia usług terapeutycznych i z zakresu zdrowia psychicznego, które normalnie byłyby świadczone przez licencjonowanych specjalistów, zwłaszcza w szkołach publicznych.

Na początku tego roku stan Utah uchwalił kilka własnych przepisów dotyczących sztucznej inteligencji (AI) , w tym jeden dotyczący chatbotów zajmujących się zdrowiem psychicznym. Przepisy te nakładają na firmy obowiązek wyraźnego informowania, że użytkownicy wchodzą w interakcję ze sztuczną inteligencją, a nie człowiekiem, przed pierwszym użyciem chatbota, po siedmiu dniach bezczynności oraz za każdym razem, gdy użytkownik o to poprosi. Chatboty muszą również wyraźnie informować o wszelkich reklamach, sponsoringu lub płatnych relacjach. Ponadto nie mogą one wykorzystywać danych wprowadzanych przez użytkowników do targetowanych reklam ani sprzedawać informacji o stanie zdrowia użytkowników.

W Nowym Jorku nowe prawo, które wchodzi w życie 5 listopada 2025 r., będzie wymagało od asystentów SI kierowania użytkowników, którzy mają myśli samobójcze, na infolinię dla osób z problemami psychicznymi.

Nowe przepisy stanowe weszły w życie po spotkaniu Amerykańskiego Towarzystwa Psychologicznego (APA) z federalnymi regulatorami na początku tego roku, podczas którego wyrażono obawy, że sztuczna inteligencja podszywająca się pod terapeutów może narażać społeczeństwo na ryzyko.

W poście na blogu , Amerykańskie Towarzystwo APA (American Academy of Psychotherapy) przytoczyło dwa pozwy złożone przez rodziców, których dzieci korzystały z chatbotów, rzekomo podających się za licencjonowanych terapeutów. W jednym przypadku chłopiec popełnił samobójstwo po intensywnym korzystaniu z aplikacji. W drugim przypadku dziecko zaatakowało swoich rodziców.