Президентка Європейської комісії Урсула фон дер Ляєн висловила занепокоєння через використання сервісу Grok у соцмережі X для створення сексуалізованих фейкових відео за участю жінок і дітей. Вона анонсувала заходи, спрямованих на боротьбу з таким контентом, створеним штучним інтелектом.
Про це повідомляє Euractiv.
Фон дер Ляєн заявила, що вона "шокована" нещодавніми випадками, коли Grok знімав одяг з жінок та дітей на зображеннях, опублікованих на платформі.
"Я обурена тим, що технологічна платформа дозволяє користувачам роздягати жінок і дітей онлайн у цифровому форматі. Це немислима поведінка, і шкода, завдана цими діпфейками, цілком реальна. Ми не будемо передавати захист дітей та їхню згоду на аутсорсинг Кремнієвій долині. Якщо вони не діятимуть, то діятимемо ми", – сказала вона.
Водночас речник Європейської комісії з питань цифрових технологій Тома Реньє відмовився уточнювати, яких саме заходів вживатиме Брюссель щодо платформи X.
Ці коментарі з'явилися на тлі того, як регуляторні органи починають посилювати боротьбу з X через скандал зі генерованими ШІ сексуалізованими зображеннями жінок та дітей.
Країни ЄС, особливо Франція, а також Європарламент вже закликали Комісію розв'язати проблему з особливостями Grok, які дозволяють роздягатися на фотографіях.
Британський регулятор Ofcom оголосив про початок розслідування щодо Grok. Уряд Великої Британії раніше заявив, що підтримає регулятора, якщо той вирішить заборонити чат-бот у країні.
Минулої неділі Малайзія та Індонезія наказали заблокувати чат-бот X у цих країнах.
Що відомо про скандал
Скандал розгорівся після того, як користувачі виявили, що інструмент Grok Imagine генерував на запити користувачів численні сексуалізовані та порнографічні зображення, найчастіше жінок і дівчаток, використовуючи для цього фотографії без згоди людей.
Крім того, чатбот створював зображення та відео жінок, які зазнають насильства та сексуального зловживання. Користувачі зазначили, що "відео виглядали професійно зрежисованими", а на одному з них жінка була зображена з написом "не реанімувати" й ножем між ніг.
Після публікацій у медіа Ілон Маск заявив, що "користувачі, які створюють незаконний контент, будуть так само відповідальними, як і ті, хто завантажує заборонені матеріали", і пообіцяв внутрішню перевірку xAI. Компанія також перепросила, визнавши "прогалини в системах захисту".
Британський прем'єр Кір Стармер назвав контент Grok "огидним" і пригрозив заблокувати X у країні, якщо компанія "не візьме ситуацію під контроль". Регулятор Ofcom розглядає можливість застосування штрафів до 10 % від глобального обороту компанії.
Як зазначила депутатка британського парламенту Джес Асато, навіть платна можливість створювати такі зображення "є формою цифрового сексуального насильства" і xAI повинна "назавжди вимкнути цю функцію".
Французька прокуратура розпочала розслідування щодо поширення сексуалізованих дипфейків, а Єврокомісія вказала, що такі дії можуть порушувати Акт про цифрові послуги. В Індії уряд зобов'язав X обмежити генерацію "вульгарного або явно сексуального контенту", а Малайзія почала власне розслідування через скарги користувачів.
