Jak UE doświadczyła dzięki ustawie o sztucznej inteligencji, znalezienie kompromisu między innowacjami a ryzykiem wymaga czasu. Jednak konkretnym zagrożeniom związanym z bioterroryzmem opartym na sztucznej inteligencji można już zaradzić, piszą Kevin Esvelt i Ben Mueller.
Regulacje dotyczące sztucznej inteligencji stały się obszarem rywalizacji międzypaństwowej. Chociaż UE właśnie osiągnęła porozumienie w sprawie ustawy o sztucznej inteligencji, Stany Zjednoczone wydały już wcześniej daleko idące rozporządzenie wykonawcze w sprawie sztucznej inteligencji, a Wielka Brytania zwołała przywódców politycznych i branżowych na szczyt dotyczący bezpieczeństwa sztucznej inteligencji.
W wielu z tych dyskusji większą uwagę zwraca się na jedno ryzyko: bioterroryzm wspomagany sztuczną inteligencją lub zdolność jednostek do spowodowania katastrofy za pomocą narzędzi sztucznej inteligencji w celu uzyskania dostępu do wirusa pandemicznego.
Niedawno pokazaliśmy, że jest to ryzyko warte rozważenia. W nieformalnym eksperymencie poinstruowaliśmy poszczególne osoby, aby korzystały z wielkojęzycznego modelu o otwartym kodzie źródłowym, z którego usunięto zabezpieczenia, aby pomóc im uzyskać patogen zdolny wywołać pandemię.
W ciągu trzech godzin uczestnicy zidentyfikowali wiele kroków wymaganych do rozpoczęcia potencjalnie katastrofalnej epidemii.
Szczególnie niepokojące było to, że model doradzał uczestnikom, jak uzyskać dostęp do wirusowego DNA – schematu tworzenia patogenu – jednocześnie omijając istniejące metody badań przesiewowych. Nie jest jasne, w jakim stopniu obecne modele wspomagają bioterroryzm poprzez podsumowywanie informacji, które już istnieją w Internecie.
Pomijając jednak obecne możliwości, ustalenia sugerują, że w przypadku braku solidnych zabezpieczeń bardziej zaawansowane przyszłe modele mogą zapewnić złośliwym osobom usprawnione i dostępne informacje na temat uzyskiwania dostępu do wirusa pandemicznego, jego konstruowania i uwalniania.
Technologia otwarta na złośliwych aktorów
Konstrukty DNA potrzebne do zbudowania wirusa od podstaw można zamówić w Internecie: wielu dostawców syntezy genów wyprodukuje fragmenty DNA zawierające tysiąc par zasad za mniej niż 200 euro — coś, co zaledwie kilka dekad temu zajęło naukowcom tysiące godzin i gwarantowało Nagrodę Nobla .
Pojawienie się niestandardowej syntezy genów jest obecnie filarem nauk biologicznych, umożliwiając badaczom szybkie wprowadzanie zmian w projektowaniu szczepionek i leków na bazie mRNA, a także wiele innych korzyści. Jednak tak jak postępy w syntezie genów umożliwiają nowe odkrycia i metody leczenia, tak technologia ta może zostać niewłaściwie wykorzystana przez złośliwe podmioty w celu uzyskania dostępu do patogenów pandemicznych.
Wiele firm podjęło ważny krok w postaci zlecenia badań przesiewowych w celu wykrycia DNA niebezpiecznych patogenów.
Ale nie wszyscy to robią. Oparte na języku modele sztucznej inteligencji mogą już doradzać poszczególnym osobom, jak identyfikować i wykorzystywać takie luki w celu uzyskania DNA patogenów zdolnych do wybuchu pandemii.
Powtarzając tę obawę, dyrektor generalny Anthropic, wiodącej firmy zajmującej się sztuczną inteligencją, ostrzegł niedawno amerykańskich prawodawców, że w ciągu dwóch lat systemy sztucznej inteligencji nowej generacji mogą umożliwić bioterroryzm na dużą skalę, jeśli nie zostaną wprowadzone odpowiednie bariery ochronne.
Podobne obawy wyraził Yoshua Bengio, jeden z „ojców chrzestnych sztucznej inteligencji”. Ponieważ decydenci UE zastanawiają się nad właściwymi reakcjami na szybki postęp sztucznej inteligencji, jedna prosta bariera zasługuje na bliższą analizę: wymóg prawny polegający na sprawdzaniu wszystkich zleceń syntezy genów pod kątem niebezpiecznych sekwencji.
Mniej niż sto wysoce wyspecjalizowanych firm świadczy usługi syntezy DNA, co stanowi idealną dźwignię polityki: jeśli UE wymaga od firm sprawdzania wszystkich zamówień w oparciu o aktualną bazę danych znanych patogenów pandemicznych i wdrażania wymogów „znaj swojego klienta”, źle aktorzy nie mają już dostępu do elementów niezbędnych do wywołania kolejnej pandemii.
Argument za obowiązkowymi badaniami przesiewowymi w zakresie syntezy genów
Stany Zjednoczone podjęły już kroki w celu zapewnienia syntezy genów. Niedawne rozporządzenie wykonawcze rządu w sprawie sztucznej inteligencji nakłada na podmioty finansowane ze środków federalnych obowiązek przestrzegania nowych rządowych wytycznych dotyczących badań przesiewowych syntezy biologicznej.
Sama UE nie przyjęła jeszcze przepisów w tej kwestii. Biorąc pod uwagę rosnące ryzyko bioterroryzmu na poziomie pandemii, pierwszym i znaczącym krokiem byłoby zlecenie badań przesiewowych syntezy genów.
Dostawcy reprezentujący ponad 80% branży opowiadają się za mandatami. Inni mają uzasadnione obawy dotyczące potencjalnych kosztów badań przesiewowych syntezy genów i martwią się potencjalnymi obawami dotyczącymi własności intelektualnej, ale rychłe udostępnienie bezpłatnych, chroniących prywatność narzędzi do przesiewania powinno złagodzić ten problem.
Obowiązkowy system badań przesiewowych powinien spełniać kilka kryteriów. Zamówienia powinny być szyfrowane w celu ochrony prywatności i poddawane kontroli, która wykrywa wyłącznie zagrożenia przy znikomej liczbie fałszywych alarmów, a autoryzowanym laboratoriom należy zapewnić możliwość sprawnego i bezproblemowego uzyskania dozwolonych sekwencji DNA.
Co więcej, wszystkie systemy badań przesiewowych powinny w sposób weryfikowalny sprawdzać zamówienia w oparciu o bazę danych zawierającą niebezpieczne sekwencje, która jest natychmiast aktualizowana w celu wykrycia nowo zidentyfikowanych potencjalnych patogenów pandemicznych, przy silnych zachętach do stosowania najlepszych w swojej klasie badań przesiewowych, określonych w ramach działań „czerwonych zespołów”, które sprawdzają, w jaki sposób łatwo niebezpieczne sekwencje można uzyskać bez wykrywania.
Wreszcie nowe urządzenia do syntezy i składania DNA, takie jak syntezatory laboratoryjne, powinny mieć wbudowany moduł przesiewowy spełniający powyższe kryteria. Wdrożenie rygorystycznych protokołów badań przesiewowych opartych na tych kryteriach jest niezbędne, aby w pełni wykorzystać dalekosiężne korzyści biotechnologii, a jednocześnie zabezpieczyć ją przed niewłaściwym wykorzystaniem.
Ochrona obietnicy biologii
Postęp zarówno w biotechnologii, jak i sztucznej inteligencji będzie motorem rewolucyjnego postępu w naukach o życiu i medycynie.
Niestandardowa synteza genów jest podstawowym czynnikiem umożliwiającym uzyskanie tych niezwykłych korzyści. Jednak szkody wyrządzone przez SARS-CoV-2, pojedynczy, historycznie łagodny wirus pandemiczny, pokazują, że jego niewłaściwe użycie – zwiększone prawdopodobieństwo w wyniku postępu w generatywnej sztucznej inteligencji – może wyrządzić szkody na skalę przewyższającą wszystkie te korzyści.
Jak Unia Europejska doświadczyła w związku z ustawą o sztucznej inteligencji, znalezienie kompromisu między wspieraniem innowacji a ograniczaniem ryzyka wymaga czasu.
Jednak konkretnym zagrożeniom związanym z bioterroryzmem opartym na sztucznej inteligencji, uznawanym zarówno przez liderów branży, jak i specjalistów ds. bezpieczeństwa biologicznego, można już teraz zaradzić.
Nakazując badania przesiewowe syntezy genów, Unia Europejska może znacznie zmniejszyć to ryzyko, chroniąc obietnicę stale rozwijającej się biotechnologii.
