Australia nakaże firmom sektora sztucznej inteligencji (AI) zgłaszanie naruszeń bezpieczeństwa i powoła urząd ds. regulacji AI – ogłosił we wtorek premier Anthony Albanese. To reakcja na incydent z czerwca, kiedy agent OpenAI uzyskał nieautoryzowany dostęp do rządowego portalu statystyk medycznych.
Albanese przekazał, że rząd w całości przyjął zalecenia wydane po pilnym przeglądzie przeprowadzonym po naruszeniu zabezpieczeń.
– Rekomendacje obejmują wprowadzenie obowiązkowego zgłaszania przez firmy z branży AI przypadków niepożądanego działania modeli lub cyberincydentów, a także zalecają zmiany prawa karnego w przypadkach poważnych naruszeń – powiedział premier Australii.
– Prawo musi wyprzedzać, a w niektórych przypadkach nadganiać bardzo szybko zmieniający się świat – dodał Albanese.
Szef australijskiego rządu przekazał, że nowy urząd ds. regulacji ma nadzorować zabezpieczenia systemów AI, prowadzić niezależne oceny modeli oraz nakładać „znaczące kary” za naruszenia.
– Nie możemy zamykać oczu i udawać, że nic się nie stało – podkreślił zapowiadając złożenie projektu ustawy w parlamencie w przyszłym roku.
Według ustaleń rządu, rozwijany przez spółkę OpenAI agent, czyli program zdolny do samodzielnego wykonywania złożonych zadań, naruszył zabezpieczenia portalu statystyk medycznych Medicare w trakcie samodzielnego gromadzenia danych na temat publicznych wydatków na ochronę zdrowia.
Władze w Canberze zarzuciły firmie, że zgłoszenie o incydencie przekazała dopiero we wrześniu, wysyłając wiadomość na ogólnodostępny adres e-mail. OpenAI oświadczyło, że zdarzenie było niezamierzone, a wewnętrzne dochodzenie nie wykazało, by agent uzyskał dostęp do danych pacjentów.
W październiku OpenAI i Anthropic poparły wprowadzenie obowiązku zgłaszania naruszeń.
Zapowiedziane regulacje wpisują się w szerszy spór władz Australii z gigantami technologicznymi. W Australii trwa również debata nad wpływem energo- i wodochłonnych centrów danych na środowisko. Artyści i twórcy zarzucają natomiast firmom takim jak Anthropic próby poluzowania prawa autorskiego w celu umożliwienia im trenowania modeli AI na ich dziełach.