Urzędnicy martwią się, że nadużywanie robotów może prowadzić do uprzedzeń, paniki lub po prostu złych rad.
Jak wynika z konsultacji opublikowanych dzisiaj (18 czerwca), Komisja Europejska jest zaniepokojona wpływem stosowania sztucznej inteligencji (AI) na rynki bankowe, ubezpieczeniowe i papierów wartościowych.
UE właśnie przyjęła szeroko zakrojoną ustawę o sztucznej inteligencji, stając się pierwszą jurysdykcją na świecie, która uchwaliła przepisy zapewniające, że powstająca technologia będzie bezpieczna i niedyskryminująca.
Jednak urzędnicy pytają teraz, czy potrzeba więcej wskazówek, aby dostosować zasady do finansów – dziedziny, która już podlega surowym wymogom regulacyjnym i gdzie koszt błędnego zastosowania może być wysoki.
„Unijna ustawa o sztucznej inteligencji i istniejące przepisy dotyczące sektora finansowego stanowią solidną podstawę umożliwiającą innowacje technologiczne” – stwierdziła w oświadczeniu Mairead McGuinness, unijna komisarz ds. usług finansowych, wzywając ludzi do dzielenia się swoimi poglądami na temat „szybko zmieniającego się i coraz ważniejszym obszarem postępu technologicznego”.
Nowe unijne prawo technologiczne, które zacznie obowiązywać od maja 2025 r., będzie miało zastosowanie w całej gospodarce, ale w celu dodatkowego monitorowania oznaczy zautomatyzowane narzędzia stosowane w sektorach podwyższonego ryzyka, takich jak opieka zdrowotna, egzekwowanie prawa i rekrutacja.
Kontrole kredytowe
Wrażliwe aplikacje finansowe, takie jak ocena zdolności kredytowej, są również oznaczane jako potencjalnie wymagające bardziej szczegółowych przepisów lub wytycznych.
Nie byłby to pierwszy raz, kiedy brukselscy urzędnicy okazują ostrożność w kwestii wykorzystania technologii w sektorze finansowym.
W 2022 r. UE uzgodniła nowe przepisy, znane jako ustawa DORA o cyfrowej odporności operacyjnej, biorąc pod uwagę obawy, że korzystanie przez banki z niewielkiej grupy nieuregulowanych dostawców usług w chmurze może prowadzić do naruszeń danych lub paniki na rynku.
Podobnie Komisję wydaje się zaniepokojona perspektywą „stadarstwa” – gdy wielu podmiotów finansujących opiera się na tych samych systemach informatycznych przy podejmowaniu decyzji biznesowych.
Wynikające z tego nadmierne wahania cen lub koncentracja rynku mogą stanowić ryzyko dla rynków finansowych – lub roboty mogą po prostu udzielać błędnych odpowiedzi – stwierdzono w dokumencie konsultacyjnym.
Nonsens?
„Sztuczna sztuczna inteligencja ogólnego przeznaczenia… może czasami powodować „halucynacje”, tj. bezsensowne lub niedokładne odpowiedzi” – stwierdzono.
Jest to zjawisko znane każdemu, kto próbował uzyskać prostą odpowiedź za pośrednictwem ChatGPT – ale stwarzałoby to również problemy dla robo-finansistów, biorąc pod uwagę ich prawny obowiązek udzielania prawidłowych porad w najlepszym interesie swoich klientów.
Komisja stwierdziła, że sztuczna inteligencja może mieć korzystne skutki – na przykład wykrywać podejrzane działania handlowe, które mogą wskazywać na nadużycia na rynku. Jednak urzędnicy wydają się również zaniepokojeni źle utworzonymi zbiorami danych AI prowadzącymi do powszechnej dyskryminacji.
W 201 r. Sąd Najwyższy UE orzekł, że pobieranie od mężczyzn wyższych opłat za ubezpieczenie samochodu jest niezgodne z prawem. Algorytm ustalania cen może jednak oznaczać, że ludzie określonej płci lub rasy będą płacić więcej, a nikt nie będzie w stanie wyjaśnić, dlaczego.
