Європейський регулятор запустив розслідування стосовно чат-бота X.

Розпочато розслідування створення та публікації Grok "потенційно шкідливих" зображень сексуального характеру, що містять або пов'язані з обробкою даних користувачів з ЄС.

Європейський орган захисту персональних даних розпочав розслідування щодо чат-бота X Ілона Маска через створені за допомогою ШІ зображення сексуального характеру без згоди, що є черговим свідченням того, як регулюючі органи перевіряють чат-бот Grok, який використовується в соціальній мережі. Про це повідомляє Financial Times.

Як заявила ірландська комісія із захисту даних (Data Protection Commission), яка відповідає за дотримання Загального регламенту ЄС із захисту даних, розпочато розслідування створення та публікації Grok "потенційно шкідливих" зображень сексуального характеру, що містять або пов'язані з обробкою даних користувачів з ЄС.

Чат-бот Grok був інтегрований у стрічки соціальних мереж X і розроблений стартапом xAI, який торік був придбаний Ілоном Маском. На початку цього місяця xAI об'єднався з компанією SpaceX, заснованою Маском, створивши в результаті потужний холдинг вартістю 1,5 трильйона доларів.

Це розслідування стало останнім в низці аудитів, які проводять міжнародні інстанції стосовно X. Причиною для цього стали тисячі сексуалізованих дипфейків, створених за допомогою Grok на початку січня, що викликали значний резонанс серед користувачів, фахівців з безпеки та політиків.

"Комісія з захисту даних веде діалог з [X] з моменту, коли кілька тижнів тому в ЗМІ з’явилися новини про потенційну можливість для користувачів X створювати облікові записи @Grok для генерації сексуалізованих зображень справжніх осіб, у тому числі дітей," - повідомив у понеділок заступник комісара Грем Дойл.

За його словами, комісія "почала масштабне розслідування, яке вивчить дотримання [X] деяких зі своїх основних зобов'язань відповідно до GDPR щодо питань, що розглядаються".

Як пише видання, Маск посів пасивну позицію щодо модерації чат-бота Grok, посилаючись на свободу слова. Минулого літа компанія xAI внесла зміни до чат-бота після того, як він вихваляв Гітлера і публікував антисемітські повідомлення на платформі X.

На початку лютого французькі та європейські слідчі провели обшук в офісах X у Парижі в межах масштабного розслідування алгоритмів X, а також поширення матеріалів сексуального характеру, створених за допомогою ШІ. Французька прокуратура викликала Маска та Лінду Яккаріно, колишнього генерального директора X, на "добровільні допити" у Парижі у квітні.

У Франції правоохоронці провели обшуки в офісі компанії X, а Ілона Маска викликали на допит.

На початку минулого тижня Британське управління комісара з інформації (Information Commissioner's Office) повідомило про старт нового розслідування стосовно компаній X та xAI. В організації висловили "сильні занепокоєння" щодо обробки персональних даних Grok та можливості створення ним шкідливого контенту сексуального характеру у формі зображень та відеоматеріалів.

ЄС вже розпочав офіційне розслідування щодо xAI за фактом поширення Grok зображень сексуального характеру жінок і дітей відповідно до Закону про цифрові послуги ЄС (Digital Services Act), який зобов'язує великі технологічні платформи вживати заходів щодо запобігання розповсюдженню незаконного та шкідливого контенту.

Проте, європейське розслідування, оголошене в понеділок, має на меті оцінити, чи порушила компанія X ключові норми ЄС щодо GDPR. Ці норми вимагають, щоб компанії обробляли персональні дані користувачів виключно для чітко визначених законних цілей, враховували конфіденційність під час розробки продуктів та проводили оцінку ризиків перед запуском, особливо для функцій, які можуть бути визнані високим ризиком.

Після тиску з боку урядів ряду країн, включаючи загрози штрафів і заборон з боку ЄС, Великої Британії та Франції, компанія X минулого місяця впровадила "технологічні заходи", які мають на меті обмежити здатність Grok генерувати певні відверті зображення. Проте компанія підкреслює свою позицію щодо видалення матеріалів, що містять сексуальну експлуатацію дітей, а також зображень оголеного тіла без отримання згоди.

У відповідь на дії французьких правоохоронців компанія X випустила заяву, в якій назвала висунуті проти неї звинувачення "безпідставними" та "категорично заперечує будь-які порушення". Вона охарактеризувала рейд як "зловживання", що є частиною правоохоронних заходів, які мають на меті досягнення незаконних політичних цілей. Крім того, компанія зазначила, що розслідування "спотворює французьке законодавство, обходить належні юридичні процедури та загрожує свободі слова".

Останнє розслідування проводиться в неспокійний період для компанії X, коли минулого тижня компанію залишили десятки співробітників, у тому числі два співзасновники. На загальних зборах у середу Маск заявив, що проводить реструктуризацію групи після злиття зі SpaceX.

Раніше з'явилася інформація про те, що Європейська Комісія ініціювала розгляд щодо чат-бота Grok, який створила компанія xAI.

Нагадуємо, що компанія xAI, заснована Ілоном Маском, презентувала новий голосовий режим для свого чат-бота Grok 3. Ця оновлена версія пропонує різноманітні нецензуровані персонажі, серед яких є режим, здатний кричати, вживати ненормативну лексику та образливо спілкуватися з користувачами, а також імітувати еротичні бесіди.