Władze Filipin ogłosiły w czwartek zablokowanie dostępu do chatbota Grok, stworzonego przez firmę xAI Elona Muska. Decyzja Manili wynika z możliwości wykorzystywania narzędzia do generowania pornograficznych obrazów, w tym materiałów przedstawiających seksualne wykorzystywanie dzieci.
Sekretarz Departamentu Technologii Informacyjno-Komunikacyjnych (DICT) Henry Aguda wyjaśnił, że rząd nie potrzebuje zgody platformy X na wprowadzenie blokady, gdyż generowane treści „same w sobie” uzasadniają radykalne kroki.
Zaznaczył, że choć baza użytkowników Groka na Filipinach jest stosunkowo mała, ryzyko nadużyć pozostaje kluczowe dla bezpieczeństwa publicznego. Materiały te naruszają bowiem krajowe przepisy dotyczące walki z wyzyskiem seksualnym nieletnich w sieci – podał portal GMA.
Renato Paraiso, p.o. dyrektora Centrum Badania Cyberprzestępczości (CICC), zapowiedział, że blokada ma wejść w życie „do wieczora lub w ciągu dzisiejszego dnia”. CICC współpracuje z Krajową Komisją Telekomunikacyjną oraz dostawcami internetu, aby technicznie odciąć dostęp do usługi.
Filipiny są trzecim krajem na świecie, po Malezji i Indonezji, który zdecydował się na ten krok w związku z falą pornograficznych deepfake’ów. W odpowiedzi na narastającą krytykę firma xAI wprowadziła w środę ograniczenia funkcji edycji obrazów dla użytkowników. Elon Musk zapewnił, że nie jest świadomy generowania przez system materiałów z udziałem dzieci, a osoby tworzące nielegalne treści poniosą konsekwencje.
Deepfake to zdjęcie, materiał dźwiękowy lub wideo stworzony przez sztuczną inteligencję, na którym wizerunek prawdziwej osoby został cyfrowo zmodyfikowany lub umieszczony w nowym, fałszywym kontekście.