Французькі правоохоронці займаються розслідуванням випадків поширення діпфейків, створених за допомогою Grok, у яких зображені сцени роздягання жінок і неповнолітніх.

Логотип соціальної мережі Х, до якої впроваджено Grok.

Французькі правоохоронці ініціювали розслідування стосовно масового виготовлення та розповсюдження сексуально явних діпфейків, створених за допомогою штучного інтелекту Grok, який інтегрований у соціальну мережу X, повідомляє видання Politico.

Мова йде про численні ситуації, коли зображення жінок і неповнолітніх без їхнього дозволу обробляли за допомогою штучного інтелекту, створюючи оголенні версії, які потім поширювалися в інтернеті.

Звернення до прокуратури 2 січня подали французькі депутати Артур Делапорт і Ерік Боторель. За даними слідства, Grok використовували для генерації несанкціонованих сексуалізованих зображень, що, за французьким законодавством, може каратися до двох років ув'язнення та штрафом до 60 тисяч євро.

"Ці ілюстрації серйозно зневажають гідність осіб, які на них зображені," -- підкреслив Делапорт у своєму листі до прокурора.

До справи були залучені декілька урядовців Франції. Міністри, відповідальні за економіку, цифрові технології та рівність, звернулися до правоохоронних органів та платформи державного онлайн-моніторингу Pharos з інформацією про "очевидно незаконний контент", вимагаючи його термінового видалення.

Розслідування стане складовою частиною більш масштабної справи проти платформи X, яку французький підрозділ, що займається боротьбою з кіберзлочинністю, веде з минулого року. У листопаді його обсяги були розширені у зв'язку з поширенням антисемітських висловлювань та запереченням Голокосту, які були згенеровані Grok.

У самій компанії xAI визнали наявність проблем:

"Є поодинокі випадки, коли користувачі отримували зображення з неприпустимим контентом. Захисні механізми існують, але ми продовжуємо їх удосконалювати", -- йдеться у заяві Grok.