Władze w Dżakarcie tymczasowo zablokowały w sobotę dostęp do chatbota Grok, stworzonego przez firmę xAI, należącą do miliardera Elona Muska. Indonezja jest pierwszym państwem na świecie, które zdecydowało się na ten krok w związku z ryzykiem generowania przez sztuczną inteligencję materiałów o treści pornograficznej.
– Rząd postrzega praktykę (tworzenia) nielegalnych deepfake’ów o charakterze seksualnym jako poważne naruszenie praw człowieka, godności i bezpieczeństwa obywateli w przestrzeni cyfrowej – oświadczyła minister komunikacji i cyfryzacji Indonezji Meutya Hafid w wydanym komunikacie.
Deepfake to zdjęcie lub obraz stworzony przez sztuczną inteligencję, na którym wizerunek prawdziwej osoby został cyfrowo zmodyfikowany lub umieszczony w nowym, fałszywym kontekście.
Resort wezwał już przedstawicieli platformy X do „niezwłocznego przedstawienia wyjaśnień dotyczących negatywnych skutków korzystania z (chatbota) Grok” – przekazał portal Kompas.
Firma xAI poinformowała wcześniej o ograniczeniu możliwości generowania obrazów i udostępnieniu tej usługi wyłącznie płatnym subskrybentom. Była to reakcja na błędy w zabezpieczeniach, które pozwalały na tworzenie grafik przedstawiających m.in. skąpo ubrane dzieci.
Indonezja, będąca krajem o największej populacji muzułmańskiej na świecie, słynie z surowego prawa dotyczącego cenzury internetowej. Przepisy te bezwzględnie zakazują rozpowszechniania materiałów uznawanych za obsceniczne. Działania Dżakarty wpisują się w szerszy trend, w ramach którego regulatorzy z Europy i Azji wszczynają dochodzenia w sprawie seksualizowanych treści w aplikacjach AI.