Європейська комісія розпочала розслідування проти X за Законом про цифрові послуги (DSA). Воно стосується роботи чатбота Grok, який генерував сексуалізовані зображення людей.
Про це йдеться на сайті Європейської комісії.
Розслідування стосується функціоналу чатбота, який дозволяв користувачам "роздягати" людей на світлинах. Фахівці з'ясують, чи дотрималася компанія X своїх зобов'язань за Законом про цифрові послуги, коли інтегрувала Grok у соцмережу.
"Сексуалізовані дипфейк-зображення жінок і дітей — це насильницька та неприпустима форма приниження. Це розслідування визначить, чи дотримувалася X своїх юридичних зобов’язань, або ж права громадян ЄС проігнорували", — наголосила виконавча віцепрезидентка Єврокомісії з питань технологічного суверенітету, безпеки та демократії Ганна Вірккунен.
Комісія також розширила своє розслідування, розпочате в грудні 2023 року. Буде перевірено, чи X належним чином оцінює та зменшує ризики, пов'язані з її системами рекомендацій, включно з можливою шкодою для фізичного та психічного здоров'я користувачів і ризиками гендерно зумовленого насильства, а також чи компанія надає комісії звіти про ці ризики перед запуском нових функцій.
Що цьому передувало
Скандал розгорівся після того, як користувачі виявили, що інструмент Grok Imagine генерував на запити користувачів тисячі сексуалізованих та порнографічних зображень, найчастіше жінок і дівчаток, використовуючи для цього фотографії без згоди людей.
Крім того, чатбот створював зображення та відео жінок, які зазнають насильства та сексуального зловживання. Користувачі зазначили, що "відео виглядали професійно зрежисованими", а на одному з них жінка була зображена з написом "не реанімувати" й ножем між ніг.
Після публікацій у медіа Ілон Маск заявив, що "користувачі, які створюють незаконний контент, будуть так само відповідальними, як і ті, хто завантажує заборонені матеріали", і пообіцяв внутрішню перевірку xAI. Компанія також перепросила, визнавши недопрацювання в системах захисту.
Згодом чатбот Grok тимчасово вимкнув функцію створення зображень для більшості користувачів. Ще за тиждень компанія X заборонила Grok створювати або редагувати зображення людей у купальниках, білизні та подібному одязі.
Нагадаємо, Південна Корея першою у світі запровадила повноцінну правову базу для регулювання штучного інтелекту.
Читайте нас у Facebook, Instagram і Telegram, дивіться наш YouTube і TikTok
Поділіться своєю історією з Суспільне Культура. З нами можна зв'язатися у соціальних мережах та через пошту: [email protected]
