Czy sztuczna inteligencja będzie siłą napędową czy porażką Kanady? Innowatorzy i naukowcy apelują o więcej zabezpieczeń

Podczas gdy rząd Carney'a promuje sztuczną inteligencję jako część swoich starań o rozwój kanadyjskiej gospodarki, niektórzy wynalazcy wykorzystujący tę technologię, a także eksperci badający jej wpływ, apelują do Ottawy o wprowadzenie większej liczby zabezpieczeń — jest to coś, nad czym aktywnie pracuje rząd federalny.

„Szczerze mówiąc, obecne bariery ochronne to te, które same sobie narzucają wielkie firmy technologiczne. Widzimy jednak, że są one niewystarczające” – powiedziała Valérie Pisano, dyrektor generalna montrealskiego instytutu sztucznej inteligencji Mila, organizacji non-profit działającej na rzecz rozwoju sztucznej inteligencji z korzyścią dla wszystkich.

W wywiadzie dla programu The House w stacji CBC, wyemitowanym w sobotni poranek, Pisano powiedziała, że ​​jej celem jest znalezienie „pewnego rodzaju ochrony w świecie, w którym — tak naprawdę — pozwalamy firmom robić, co chcą, nie utrudniając przy tym innowacji”.

„Wiemy, jak to zrobić” – powiedział Pisano. „Zrobiliśmy to w każdej innej wpływowej, innowacyjnej i transformacyjnej branży. Zrobiliśmy to w lotnictwie, w farmacji, w energetyce jądrowej”.

Pisano powiedziała, że ​​bacznie obserwuje szereg zagrożeń, jakie niesie ze sobą szybki rozwój sztucznej inteligencji, w tym sposób interakcji dzieci z tą technologią, wpływ centrów danych AI na środowisko oraz potencjalne ryzyko zwolnienia młodych pracowników.

„Obserwuję rosnącą liczbę ludzi pozostających w bliskich relacjach z botami AI” – powiedział Pisano. „Niepokoi mnie to, że to nowość… coś zupełnie nowego”.

W tym przypadku, jak twierdzi Pisano, sztuczna inteligencja może być siłą napędową dobra, gdzie młody człowiek mający trudności z relacjami społecznymi mógłby wykorzystać interakcje z chatbotem opartym na sztucznej inteligencji do wzmocnienia swoich umiejętności społecznych. Potrzebne byłoby jednak inne wsparcie.

„Mogę też pójść zupełnie na drugi koniec spektrum i to, co widzę, jest przerażające. To całkowite oderwanie się od kontaktu z ludźmi” – powiedział Pisano.

Jak powiedział Izbie Reprezentantów minister ds. sztucznej inteligencji Evan Solomon, rząd federalny uważnie bada tę kwestię i zastanawia się, jak najlepiej ją rozwiązać.

„Jestem świadomy, że korzystanie z tego narzędzia przez dzieci wiąże się z pewnym niebezpieczeństwem” – powiedział Solomon prowadzącej Catherine Cullen. „Musimy jednak po prostu dowiedzieć się, jak prawidłowo z niego korzystać”.

„Nie chcę mówić: »to tylko szum medialny, to tylko konfetti, to będzie świetne« albo »to katastrofa« – musimy być praktyczni” – powiedział Solomon. „Musimy mieć plan i zrobić to dobrze, bo mamy nad tym dużą kontrolę”.

Solomon powiedział, że plan ten będzie realizowany przez różne departamenty rządu federalnego.

Wyjaśnił, że jego urząd jest odpowiedzialny za prywatność danych i że jeszcze w tym roku zamierza przedstawić projekt ustawy w tej sprawie.

Solomon dodał, że minister dziedzictwa Stephen Guilbeault zajmuje się szkodami wyrządzanymi w Internecie, a minister sprawiedliwości Sean Fraser skupia się na zmianach w Kodeksie karnym.

Rząd liberalny dał również swojej nowej Grupie Roboczej ds. Strategii AI czas do końca miesiąca na konsultacje z sieciami, a następnie przedstawienie pomysłów w listopadzie. Solomon powiedział, że ma nadzieję, że odświeżona krajowa strategia w zakresie AI będzie gotowa do końca tego roku.

Grupa została poproszona o przeanalizowanie różnych aspektów sztucznej inteligencji, w tym badań, wdrożenia, komercjalizacji, inwestycji, infrastruktury, umiejętności oraz bezpieczeństwa. Rząd prowadzi również konsultacje społeczne w sprawie swojej strategii dotyczącej sztucznej inteligencji.

Krytycy grupy zadaniowej powiedzieli w tym tygodniu The Canadian Press, że grupa ta zbyt mocno skupia się na perspektywie przemysłu i sektora technologicznego, i zwrócili uwagę, że tylko trzech z ponad dwudziestu członków zostało poproszonych o pracę nad bezpieczeństwem systemów sztucznej inteligencji i zaufaniem publicznym.

Wynalazca powtarza apel o wprowadzenie zabezpieczeń

Frédéric Leblond z Centre hospitalier de l'Université de Montréal mówi, że urządzenie, które współwynalazł — przenośne narzędzie o nazwie Sentry, które łączy laser ze sztuczną inteligencją, aby w czasie rzeczywistym wykrywać, czy tkanka jest zdrowa, czy nowotworowa — jest wykorzystywane w maksymalnie pięciu operacjach tygodniowo.

„Można by go użyć, aby mieć pewność, że po operacji nie pozostanie żaden guz resztkowy” – powiedział Leblond. „Mogłoby to na przykład uniknąć drugiej operacji, a w niektórych przypadkach potencjalnie wyleczyć [pacjenta] poprzez operację”.

Leblond powiedział, że Sentry wysyła złożone sygnały dotyczące analizowanej tkanki, a sztuczna inteligencja (SI) dba o to, aby nie popełniać błędów. Zauważył, że SI „powinna i będzie” pomagać w podejmowaniu decyzji, ale nie przejmie kontroli nad tym, jakie decyzje zostaną ostatecznie podjęte.

„Potrzebne są jakieś zabezpieczenia” – powiedział Leblond. „Trzeba być ekspertem, który to naprawi”.

Leblond powiedział, że sztuczna inteligencja w kanadyjskiej służbie zdrowia ma potencjał, by dokonać rewolucji, ale potrzebne są wytyczne regulujące tę technologię, by zapobiegać takim problemom, jak stronniczość sztucznej inteligencji — na przykład algorytmowi trenowanemu wyłącznie na danych młodych mężczyzn.

„Jest wiele takich przykładów i myślę, że należy je uwzględnić w przepisach” – powiedział.

Sztuczna inteligencja i zagrożenia środowiskowe

Aby Kanada mogła rozwinąć sektor sztucznej inteligencji, będzie potrzebowała znacznie większej mocy obliczeniowej — i tu właśnie pojawiają się centra danych.

Pod koniec ubiegłego roku rząd federalny uruchomił strategię Canadian Sovereign AI Compute Strategy , która, jak poinformowano, ma na celu zainwestowanie kwoty do 700 milionów dolarów w „rozwój kanadyjskich liderów w dziedzinie sztucznej inteligencji poprzez wykorzystanie inwestycji” w nowe lub rozbudowane centra danych.

Hamish van der Ven, adiunkt w dziedzinie zrównoważonego zarządzania zasobami naturalnymi na Uniwersytecie Kolumbii Brytyjskiej, powiedział, że centra danych mają ogromne zapotrzebowanie na energię elektryczną i zastanawia się nad ich wartością.

„To dobrze, że niektóre centra danych korzystają z czystej energii, ale nie powstrzymuje to tych, które wykorzystują brudniejsze, bardziej emisyjne formy energii, przed otwarciem się i potencjalnym wyprzedzeniem tych, które działają w oparciu o czyste źródła energii” – powiedział.

Na początku tego roku Międzynarodowa Agencja Energetyczna prognozowała, że ​​zapotrzebowanie na energię elektryczną w centrach danych na całym świecie wzrośnie ponad dwukrotnie do 2030 r. i wyniesie około 945 terawatogodzin — czyli będzie nieco więcej niż całkowite zużycie energii elektrycznej w Japonii.

Jeśli Kanada zdecyduje, że centra danych odegrają rolę w jej przyszłości gospodarczej, „muszą zostać wdrożone w ramach rygorystycznych ram regulacyjnych, które będą zgodne z zasadą ostrożności i będą wymagały zerowej emisji netto oraz braku nowego zapotrzebowania na energię elektryczną” – powiedział van der Ven.

Angela Adam, starsza wiceprezes eStruxture, największego kanadyjskiego dostawcy centrów danych, powiedziała w rozmowie z The House , że centra danych stanowią „podstawową warstwę” dla innowatorów tworzących produkty oparte na sztucznej inteligencji.

Dodała również, że centra danych zlokalizowane w Kanadzie mogą bezpiecznie przechowywać dane Kanadyjczyków, ponieważ podlegają kanadyjskiemu prawu. Ten aspekt ma kluczowe znaczenie dla planu Carneya, polegającego na stworzeniu „suwerennej chmury”, która daje użytkownikom większą kontrolę nad tym, gdzie trafiają ich dane.

„Kiedy jesteś właścicielem swoich danych, jesteś właścicielem swojego losu” – powiedział Adam. „Centra danych i dane są teraz kwestią bezpieczeństwa narodowego i to z dobrego powodu”.

Zapytana o kwestie środowiskowe, Adam odpowiedziała, że ​​jej firmie zależy na czystym zasilaniu, a eStruxture „zawsze dobrze dbało o zrównoważony rozwój, ale potrzebujemy coraz większej mocy. To fakt”.

„Zapotrzebowanie na energię elektryczną nie spadnie” – powiedział Adam. „Sposób, w jaki współpracujemy z rządami, producentami energii i organami regulacyjnymi, to zupełnie inna sprawa. Musimy się zjednoczyć i znaleźć sposób na zasilanie tych obciążeń w możliwie najbardziej zrównoważony sposób”.

Zapytany, czy Kanada nałoży ograniczenia na zużycie energii przez centra danych, Solomon odpowiedział, że to przede wszystkim odpowiedzialność prowincji. Zaznaczył jednak, że jeśli centrum danych jest podłączone do kanadyjskiej sieci energetycznej, musi przestrzegać przepisów dotyczących czystej energii elektrycznej .

Solomon powiedział również, że Kanada analizuje propozycje dotyczące suwerennej chmury lub suwerennego centrum danych, „i oczywiście chcemy przestrzegać naszych przepisów dotyczących czystej energii. To są czynniki, które bierzemy pod uwagę”.