Modele GenAI muszą odpowiadać na pytania dotyczące drażliwych kwestii politycznych i prezydenta Xi Jinpinga.
Firmy zajmujące się sztuczną inteligencją (AI) w Chinach są testowane przez rząd w celu sprawdzenia, czy ich duże modele językowe (LLM) „ucieleśniają podstawowe wartości socjalistyczne”.
Zarówno start-upy, jak i duże firmy technologiczne, takie jak ByteDance, właściciel TikToka, i Alibaba, zostaną sprawdzone przez głównego regulatora internetu przy rządzie, Cyberspace Administration of China (CAC), donosi Financial Times (FT).
Przedstawiciele CAC przetestują modele sztucznej inteligencji pod kątem odpowiedzi na pytania dotyczące m.in. kwestii politycznych i prezydenta Xi Jinpinga.
Przepisy te spowodowały, że najpopularniejsze chińskie chat boty odmawiają odpowiedzi na pytania dotyczące m.in. protestów na placu Tian’anmen w 1989 r.
Państwa starają się ustalić wzór regulacji dotyczących sztucznej inteligencji, a Chiny były jednym z pierwszych krajów, które ustanowiły zasady regulujące generatywną sztuczną inteligencję (GenAI), które obejmowały takie wymagania, jak przestrzeganie „podstawowych wartości socjalizmu”.
Utrzymanie równowagi między byciem liderem AI a przekonaniami
Jedna z chińskich firm zajmujących się sztuczną inteligencją poinformowała FT, że jej model nie przeszedł pierwszej rundy testów z niejasnych przyczyn, ale przeszedł ją po „zgadywaniu i dostosowaniu”.
W raporcie wskazano, że „filtrowanie bezpieczeństwa”, czyli usuwanie „problematycznych informacji” z danych szkoleniowych modelu sztucznej inteligencji, a następnie dodawanie bazy danych wrażliwych słów, jest sposobem na spełnienie wymogów polityki cenzury.
Inżynierowie poinformowali FT, że zestawy danych treningowych stwarzają większe problemy ze spełnieniem zasad, ponieważ większość programów LLM jest trenowana na danych w języku angielskim.
CAC stara się znaleźć równowagę między uczynieniem z Chin konkurencyjnego lidera w dziedzinie sztucznej inteligencji a spełnieniem ideologicznych przekonań rządu.
Usługi GenAI potrzebują licencji, aby działać, a jeśli okaże się, że dostarczają „nielegalne” treści, muszą podjąć działania w celu zaprzestania generowania takich treści i zgłosić to odpowiednim organom, jak stwierdziła CAC w zeszłym roku.
Pomimo regulacji Chiny zgłosiły najwięcej patentów na świecie w dziedzinie GenAI, a ByteDance i start-up Zhipu opracowały własne generatywne chatboty oparte na sztucznej inteligencji.
