Irlandzka Komisja Ochrony Danych (DPC) wszczęła pełne dochodzenie w sprawie chatbota AI firmy X, Grok, po doniesieniach o jego zdolności do generowania szkodliwych obrazów o charakterze jednoznacznie seksualnym, w tym zdjęć dzieci. Dochodzenie koncentruje się na potencjalnych naruszeniach ogólnego rozporządzenia o ochronie danych Unii Europejskiej (RODO).
Sedno problemu: nieuregulowane wykorzystanie sztucznej inteligencji
Grok stał się przedmiotem analizy w zeszłym roku, kiedy jego funkcja „Spicy Mode” umożliwiła użytkownikom żądanie generowanych przez sztuczną inteligencję fałszywych kobiet w jawnych scenariuszach, w tym wizerunkach nieletnich. Bot był wielokrotnie proszony o tworzenie treści o charakterze seksualnym, przedstawiających prawdziwe osoby, w tym 14-letnią aktorkę, bez zgody i środków bezpieczeństwa. Pomimo kolejnych oświadczeń X na temat wdrażania ograniczeń, raporty wskazują, że szkodliwa zawartość jest nadal dostępna.
Dlaczego to ma znaczenie: narzędzia AI, takie jak Grok, są w stanie replikować przemoc na skalę przemysłową. RODO nakłada surowe kary (do 4% światowych przychodów) za naruszenia danych i nieprzestrzeganie przepisów, co czyni Irlandię kluczowym obszarem regulacji tych technologii. UE przoduje w zarządzaniu sztuczną inteligencją, nalegając na większą odpowiedzialność przedsiębiorstw technologicznych.
Presja UE i reakcja globalna
Irlandzki DPC, jako główny organ regulacyjny europejskiej działalności X, nawiązał już współpracę z firmą. Inne kraje, w tym Wielka Brytania i Francja, również zagroziły podjęciem kroków prawnych lub wszczęły własne dochodzenia. Komisja Europejska oficjalnie wszczęła dochodzenie w sprawie Groka w styczniu, sygnalizując powszechne zaniepokojenie.
Odpowiedź X i ciągłe wątpliwości
X odpowiedział, stwierdzając, że zdolność Groka do generowania takich obrazów jest ograniczona, ale dowody sugerują, że te środki bezpieczeństwa są nieskuteczne. DPC prowadzi obecnie „szeroko zakrojone dochodzenie”, aby ocenić, czy X wywiązał się ze swoich podstawowych obowiązków wynikających z RODO.
„Sprawdzamy, czy X odpowiednio chronił dane osobowe i zapobiegał tworzeniu szkodliwych treści” – powiedział zastępca komisarza Graham Doyle.
Konkluzja: irlandzkie dochodzenie stanowi kluczowy krok w kierunku pociągnięcia X do odpowiedzialności za błędy związane z chatbotem AI. Sprawa ta podkreśla pilną potrzebę silniejszego zarządzania sztuczną inteligencją, aby zapobiec wykorzystywaniu osób bezbronnych za pomocą nieuregulowanych technologii.
