Wybuchło zamieszanie, gdy politycy w brazylijskim mieście Porto Allegre odkryli, że uchwalone przez nich prawo zostało napisane przez popularnego chatbota OpenAI.
Prawodawcy miejscy w Brazylii przyjęli coś, co wydaje się być pierwszym w kraju ustawodawstwem napisanym w całości przez sztuczną inteligencję (AI) – nawet jeśli wtedy o tym nie wiedzieli.
Eksperymentalne rozporządzenie zostało przyjęte w październiku w Porto Alegre na południu, a radny miejski Ramiro Rosário ujawnił w tym tygodniu, że zostało napisane przez chatbota, co wywołało sprzeciw i wzbudziło pytania dotyczące roli sztucznej inteligencji w polityce publicznej.
Rosário powiedział The Associated Press, że poprosił chatbota OpenAI ChatGPT o przygotowanie propozycji uniemożliwiającej miastu pobieranie od podatników opłat za wymianę liczników zużycia wody w przypadku ich kradzieży.
Następnie przedstawił go swoim 35 rówieśnikom w radzie, nie wprowadzając ani jednej zmiany ani nawet nie informując ich o jego bezprecedensowym pochodzeniu.
„Gdybym ujawniła to wcześniej, propozycja z pewnością nie zostałaby nawet poddana pod głosowanie” – powiedziała Rosário AP.
Rada złożona z 36 członków zatwierdziła to jednomyślnie i zarządzenie weszło w życie 23 listopada.
„Byłoby niesprawiedliwe wobec społeczeństwa, gdyby narażało się na ryzyko niezatwierdzenia projektu tylko dlatego, że został napisany przez sztuczną inteligencję” – dodał.
Ustanawianie „niebezpiecznego precedensu”
Pojawienie się ChatGPT na rynku zaledwie rok temu wywołało globalną debatę na temat wpływu potencjalnie rewolucyjnych chatbotów opartych na sztucznej inteligencji.
Chociaż niektórzy postrzegają to jako obiecujące narzędzie, wzbudziło ono również obawy i niepokój w związku z niezamierzonymi lub niepożądanymi skutkami zadań związanych z obsługą maszyn wykonywanych obecnie przez ludzi.
Porto Alegre, liczące 1,3 miliona mieszkańców, jest drugim co do wielkości miastem na południu Brazylii.
Przewodniczący rady miasta Hamilton Sossmeier dowiedział się, że Rosário zwerbował ChatGPT do napisania wniosku, gdy radny przechwalał się w mediach społecznościowych swoim osiągnięciem.
Sossmeier początkowo powiedział lokalnym mediom, że uważa to za „niebezpieczny precedens”.
Duże modele językowe sztucznej inteligencji, które obsługują chatboty takie jak ChatGPT, działają poprzez wielokrotne próby odgadnięcia kolejnego słowa w zdaniu i mają skłonność do wymyślania fałszywych informacji, co jest czasami nazywane halucynacją.
Z niedawno opublikowanych badań firmy technologicznej Vectara wynika, że wszystkie chatboty czasami wprowadzają fałszywe informacje podczas podsumowania dokumentu – od około 3 procent przypadków w przypadku najbardziej zaawansowanego modelu GPT do około 27 procent w przypadku jednego z modeli Google. .
W artykule opublikowanym na stronie internetowej Centrum Zawodów Prawniczych Harvard Law School na początku tego roku Andrew Perlman, dziekan Wydziału Prawa Uniwersytetu w Suffolk, napisał, że ChatGPT „może zwiastować jeszcze bardziej doniosłą zmianę niż pojawienie się Internetu”, ale także ostrzegał o potencjalnych niedociągnięciach.
„Nie zawsze może być w stanie uwzględnić niuanse i zawiłości prawa.
„Ponieważ ChatGPT to system uczenia maszynowego, może nie posiadać tego samego poziomu zrozumienia i oceny co prawnik-lud, jeśli chodzi o interpretację zasad prawnych i precedensów. Może to prowadzić do problemów w sytuacjach, w których wymagana jest bardziej dogłębna analiza prawna wymagane” – napisał Perlman.
Projekt ustawy napisany przez ChatGPT w USA
Rosário z Porto Alegre nie był pierwszym prawodawcą na świecie, który przetestował możliwości ChatGPT. Inni robili to w bardziej ograniczonym zakresie lub z mniej pomyślnymi wynikami.
W Massachusetts senator stanu Demokratów Barry Finegold zwrócił się do ChatGPT o pomoc w napisaniu ustawy mającej na celu uregulowanie modeli sztucznej inteligencji, w tym ChatGPT. Złożony na początku tego roku, nie został jeszcze poddany głosowaniu.
Finegold powiedział w środę, że ChatGPT może pomóc w niektórych bardziej żmudnych elementach procesu stanowienia prawa, w tym w prawidłowym i szybkim wyszukiwaniu i cytowaniu już obowiązujących przepisów.
Dodał jednak, że niezwykle ważne jest, aby wszyscy wiedzieli, że w tym procesie wykorzystano ChatGPT lub podobne narzędzie.
„Chcemy, aby prace generowane przez ChatGPT były opatrzone znakiem wodnym” – powiedział, dodając, że wykorzystanie sztucznej inteligencji do pomocy w opracowywaniu nowych przepisów jest nieuniknione. „Jestem zwolennikiem używania ChatGPT do wystawiania rachunków, o ile jest to jasne”.
Propozycja Rosário w Porto Alegre nie zapewniała takiej przejrzystości. Sossmeier powiedział, że Rosário nie poinformowała innych członków rady, że ChatGPT napisał propozycję.
Utrzymanie w tajemnicy pochodzenia propozycji było zamierzone. Rosário powiedział AP, że jego celem jest nie tylko rozwiązanie problemu lokalnego, ale także wywołanie debaty. Powiedział, że wprowadził do ChatGPT zachętę składającą się z 49 słów, która w ciągu kilku sekund zwróciła pełny projekt propozycji wraz z uzasadnieniami.
„Jestem przekonany, że… ludzkość doświadczy nowej rewolucji technologicznej” – powiedział. „Wszystkie narzędzia, które rozwinęliśmy jako cywilizacja, można wykorzystać w złym i dobrym celu. Dlatego musimy pokazać, jak można je wykorzystać w dobrym celu”.
Wydaje się, że przewodniczący rady, który początkowo potępił tę metodę, dał się już przekonać.
„Zmieniłem zdanie” – powiedział Sossmeier. „Zacząłem czytać bardziej szczegółowo i zobaczyłem, że niestety lub na szczęście będzie to trend”.
