Z raportu wynika, że nowe odkrycie o nazwie Q* wzbudziło obawy dotyczące bezpieczeństwa i że pracownicy powiedzieli o tym zarządowi, zanim zwolniono dyrektora generalnego Sama Altmana.
Według doniesień agencji Reuters, giganta generatywnej sztucznej inteligencji (AI), OpenAI, pracował nad zaawansowanym odkryciem, które pracownicy naukowi ostrzegali przed zwolnieniem dyrektora generalnego Sama Altmana może zagrozić ludzkości, powiedziały agencji Reuters dwie osoby zaznajomione z tą sprawą.
Zarząd OpenAI zwolnił Altmana w zeszły piątek, ale we wtorek przywrócił go na stanowisko po tym, jak prawie wszyscy pracownicy firmy (750 osób) zagrozili rezygnacją, jeśli nie zostanie przywrócony na stanowisko.
Nie jest jasne, dlaczego Altman został zwolniony, ale źródła podają, że wcześniej niezgłoszony list i algorytm sztucznej inteligencji były kluczowymi zmianami przed chaosem, który wstrząsnął start-upem AI.
Źródła przytoczyły ten list jako jeden z elementów na dłuższej liście skarg zarządu prowadzących do zwolnienia Altmana, wśród których znalazły się obawy dotyczące komercjalizacji postępów przed zrozumieniem konsekwencji.
Według Reutersa jedna z osób poinformowała, że OpenAI w wewnętrznej wiadomości skierowanej do pracowników potwierdziła istnienie projektu o nazwie Q* oraz w piśmie do zarządu przed weekendowymi wydarzeniami.
Osiągnięcie sztucznej inteligencji ogólnej
Rzecznik OpenAI powiedział, że wiadomość wysłana przez długoletnią dyrektor Mirę Murati zaalarmowała pracowników o pewnych doniesieniach medialnych, nie komentując ich prawdziwości.
Niektórzy w OpenAI uważają, że Q* (wymawiane Q-Star) może być przełomem w poszukiwaniach start-upu nad tak zwaną sztuczną inteligencją ogólną (AGI), powiedziała jedna z osób agencji Reuters.
OpenAI definiuje AGI jako autonomiczne systemy, które przewyższają człowieka w najbardziej wartościowych ekonomicznie zadaniach.
Biorąc pod uwagę ogromne zasoby obliczeniowe, nowy model był w stanie rozwiązać pewne problemy matematyczne – stwierdziła osoba pod warunkiem zachowania anonimowości, ponieważ dana osoba nie była upoważniona do wypowiadania się w imieniu firmy.
Choć matematyka jest na poziomie uczniów szkół podstawowych, zmierzenie się z takimi testami napawa badaczy optymizmem co do przyszłego sukcesu Q*, podało źródło.
Dzień później zarząd zwolnił Altmana.
Rządy na całym świecie próbują znaleźć sposób na uregulowanie sztucznej inteligencji w obawie, że może zostać wykorzystana do budowy broni, a nawet przekroczyć kontrolę człowieka.
TylkoGliwice Next skontaktował się z OpenAI w celu uzyskania komentarza, ale nie otrzymał odpowiedzi w momencie publikacji.
