„Jeśli nie masz problemu do rozwiązania, jaki jest sens stosowania nowych rozwiązań technicznych?” mówi dyrektor generalny Eticas

Zdaniem dyrektor generalnej Eticas Tech, Gemmy Galdón-Clavell, firmy powinny długo i intensywnie zastanawiać się, czy sztuczna inteligencja jest najlepszym rozwiązaniem ich problemów i inwestować w audyty, aby uniknąć nieuczciwych, stronniczych i nieefektywnych wyników.

„Jest wiele przykładów momentów, w których pytam: «Dlaczego? Dlaczego uważasz, że sztuczna inteligencja jest do tego przydatna?” – mówi wiodący audytor AI.

Czy wiesz, że według Eurostatu w 2021 r. 8% przedsiębiorstw w UE korzystało z technologii sztucznej inteligencji (AI)? Spośród nich 53% kupiło gotowe do użycia komercyjne systemy sztucznej inteligencji i oprogramowanie wywiadowcze.

Najwięcej firm korzystających ze sztucznej inteligencji miało Dania – około 24%, a najmniej – po około 1% w Rumunii i Serbii.

Większość przedsiębiorstw wykorzystywała sztuczną inteligencję w sektorze komunikacji i informacji. Firmy opowiadające się za sztuczną inteligencją uważają, że pomaga ona między innymi w analizie danych, tworzeniu treści i tłumaczeniu języków. Jednak firmy sprzeciwiające się sztucznej inteligencji przeważnie uważały, że jest ona dla nich nieistotna, kosztowna, niezawodna i zwiększa ryzyko prywatności.

W tym odcinku „Wielkiego pytania” Angela Barnes spotkała się z Gemmą Galdón-Clavell, dyrektor generalną firmy Eticas Tech zajmującej się sztuczną inteligencją, aby omówić, czy korzystanie ze sztucznej inteligencji jest etyczne i gdzie należy jej unikać.

W czym AI jest dobra?

Według Clavella „sztuczna inteligencja to wiele rzeczy jednocześnie. Zrozumienie, czym zajmuje się sztuczna inteligencja, ma kluczowe znaczenie, aby w pełni ją wykorzystać”. Może to utrudniać określenie, do czego dana technologia może być najbardziej przydatna, zwłaszcza jeśli wiele firm chce ją wykorzystywać do kilku różnych celów jednocześnie.

W związku z tym firmy muszą faktycznie przemyśleć problemy, które chcą rozwiązać, a następnie rozważyć, czy sztuczna inteligencja jest najlepszym rozwiązaniem. Zasadniczo sztuczna inteligencja to proces przetwarzania danych, który najlepiej zapewnia rozwiązania problemów związanych z ogromnymi ilościami danych historycznych.

Obejmuje to rekomendacje dotyczące zakupów online i transmisji strumieniowych, oparte między innymi na historii wyszukiwania, danych o przeglądach klientów, ocenach i lokalizacji. Sztuczną inteligencję wykorzystuje się także w globalnych systemach pozycjonowania (GPS), które mogą uzyskać dostęp do lat, jeśli nie dekad, historii lokalizacji i ruchu milionów użytkowników w kilku miastach. Chatboty to kolejny przykład, podobnie jak predykcyjne wysyłanie SMS-ów.

Jednak w przypadku nietypowych problemów lub takich, które nie mają dostępu do dużej ilości danych historycznych, „sztuczna inteligencja nie jest twoim przyjacielem” – mówi Clavell.

Gemma ostrzega również, że nie chodzi tylko o to, jak korzystać ze sztucznej inteligencji, ale także o znaczenie wyboru dobrej jakości oprogramowania AI.

„Jeśli po prostu kupimy pakiet sztucznej inteligencji, wdrożymy go i zaufamy, że wszystko pójdzie dobrze, popełnimy błąd. A to jest naprawdę drogie” – podkreśla Clavell.

Czy korzystanie ze sztucznej inteligencji jest etyczne?

Jedną z największych obaw związanych ze sztuczną inteligencją jest to, że wykorzystuje ona ogromną ilość danych osobowych i behawioralnych na temat tego, jak ludzie żyją, pracują i odnoszą się do innych.

Prowadzi to nie tylko do ogromnych obaw dotyczących bezpieczeństwa i prywatności, ale może również oznaczać, że wnioski AI często mogą być wypaczone lub niesprawiedliwie stronnicze, a także nieefektywne.

W wielu scenariuszach poleganie na danych historycznych może również stanowić problem, powodując niesłuszne wykluczenia i uprzedzenia, często bez świadomości ludzi, że takie zjawiska mają miejsce.

Jak wyjaśnia Clavell: „Jeśli pracujesz w banku, dane z przeszłości wskazują, że Twoim idealnym klientem jest mężczyzna ze stabilną pracą. Sztuczna inteligencja ma tendencję do reprodukcji tego. I tak pierwszego dnia będziecie dyskryminować kobiety, a dziesiątego dnia będziecie udzielać kredytów hipotecznych tylko mężczyznom mającym stabilną pracę”.

Jednak jednym z kluczowych rozwiązań umożliwiających identyfikację i łagodzenie dyskryminacji jest audyt pakietów i usług AI, podobnie jak badania kliniczne szczepionek.

Zwraca uwagę, że niezastosowanie się do tego byłoby jak „otrzymanie szczepionki, która nie przeszła badań klinicznych, zakup samochodu bez pasów bezpieczeństwa, zakup domu bez dokumentów”.

Ostatecznie „nie chcemy dyskryminującej sztucznej inteligencji” – mówi Clavell.

Jak możemy ulepszyć sztuczną inteligencję?

Clavell podkreśla, że ​​jednym z kluczowych sposobów ulepszenia sztucznej inteligencji jest nie tylko tworzenie teorii na temat wprowadzenia audytów i innych środków zapobiegawczych oraz zarządzania, ale także ich wdrażanie. W związku z tym, chociaż Europa jest bardzo dobra w opracowywaniu przepisów, takich jak ustawa o usługach cyfrowych, Stany Zjednoczone są znacznie lepsze w ich wdrażaniu.

„Co ciekawe, nawet w obliczu ogólnego rozporządzenia o ochronie danych (RODO), które zostało uchwalone w 2016 r., firmą, która zarobiła najwięcej na tej zmianie regulacyjnej, jest firma z siedzibą w Teksasie, (…) która jest obecnie warta 5 miliardów – mówi Gemma.

„Obawiam się, że dzięki ustawie o sztucznej inteligencji UE będzie liderem w zakresie regulacji, ale część rynku, która w pełni wykorzysta możliwości, jakie stwarza rozporządzenie, nie będzie w Europie, w przeciwnym razie wiele rzeczy musiałoby się zmienić dla mnie widzę, jak Europa odgrywa rolę lidera nie tylko na poziomie regulacyjnym, ale także na poziomie rynkowym”.

Niedawno w UE wprowadzono przełomową ustawę o sztucznej inteligencji, której celem jest uczynienie z niej pioniera w zakresie regulacji dotyczących sztucznej inteligencji. Ustawa będzie także próbowała stworzyć solidne ramy prawne dla regulacji AI we wszystkich krajach członkowskich UE, co zagwarantuje, że technologie będą bezpieczne i nie będą naruszać przepisów i wartości dotyczących prywatności. Jednak jednocześnie ustawa będzie próbowała przyciągnąć na kontynent więcej inwestycji w sztuczną inteligencję.

Według Statisty w 2023 r. w UE działało około 6 000 przedsiębiorstw zajmujących się sztuczną inteligencją, co nadal pozostaje znacznie w tyle za Wielką Brytanią (9 000) i Stanami Zjednoczonymi (około 15 000).

Inne sposoby na ulepszenie sztucznej inteligencji polegają na dostarczaniu jej lepszych i świeższych danych, co z kolei umożliwi jej uwzględnienie większej liczby czynników i zmiennych. W przypadku braku rzeczywistych danych do symulacji scenariuszy i zapewnienia większego kontekstu narzędziom AI można również wykorzystać dane syntetyczne lub przypadki hipotetyczne.

Można również wprowadzić ulepszenia algorytmu, aby mieć pewność, że firmy nie będą odfiltrowywać niewłaściwych klientów lub pracowników. Można tego dokonać poprzez usunięcie często niepotrzebnych parametrów danych.

Clavell ostrzega jednak, że dopóki nie wprowadzimy audytu do ustawodawstwa „jako społeczeństwo, nie będziemy mieli gwarancji, że otaczająca nas sztuczna inteligencja jest sztuczną inteligencją dobrej jakości”.