Sąd w Amsterdamie zakazał oferowania w Holandii funkcji czatbota Grok, która umożliwia wirtualne „rozbieranie” osób bez ich zgody. Według sądu zabezpieczenia zastosowane przez właściciela czatbota na platformie X są niewystarczające. Za każde naruszenie zakazu grozi kara w wysokości 100 tys. euro.
Pozew przeciwko Grokowi i platformie X złożyło w lutym centrum eksperckie ds. nadużyć w Internecie Offlimits. Organizacja twierdzi, że narzędzie może być wykorzystywane do tworzenia i rozpowszechniania fałszywych intymnych wizerunków, a także materiałów o charakterze pornograficznym z udziałem dzieci.
Platforma X zapewniała wcześniej, że podejmuje działania mające ograniczyć tego typu nadużycia. Sąd uznał w czwartek, że zastosowane środki nie są jednak wystarczająco skuteczne.
Jak podkreślono, jeszcze krótko przed rozprawą Offlimits zdołało wygenerować przy użyciu Groka filmy z użyciem zakazanej obecnie funkcji.
Zakaz dotyczy obrazów osób mieszkających w Holandii oraz tworzenia i rozpowszechniania takich materiałów na terytorium tego kraju. Za każde naruszenie grozi kara 100 tys. euro, przy czym łączna kwota kar może sięgnąć maksymalnie 10 mln euro.
Sąd zdecydował również, że Grok nie może pozostawać w Holandii częścią platformy X tak długo, jak długo możliwe będzie generowanie tego rodzaju obrazów.
Podobnych narzędzi w sieci jest mrowie. Państwa i instytucje UE skupiają się jednak wyłącznie na platformie i AI od Elona Muska, najpewniej w formie zemsty za brak chęci do współpracy w zakresie cenzury pod pretekstem tzw. „walki z dezinformacją”.
