Чат-бот Grok компанії xAI, попри запроваджені обмеження, продовжує створювати сексуалізовані зображення людей без їхньої згоди.
Про це пише Reuters.
Як встановили журналісти Reuters, флагманський чат-бот Ілона Маска Grok і надалі генерує сексуалізовані зображення людей, навіть коли користувачі прямо попереджають, що суб’єкти не давали на це згоди або можуть бути принижені таким контентом.
Після хвилі глобального обурення через масове створення несанкціонованих зображень жінок і дітей компанія X оголосила про обмеження можливостей Grok, зокрема заборону на створення сексуалізованих зображень у публічних дописах та додаткові обмеження в окремих юрисдикціях. Однак тестування Reuters показало, що ці зміни не повністю зупинили таку практику.
У межах експерименту дев’ять репортерів Reuters зі США та Великої Британії у січні надіслали Grok повністю одягнені фотографії себе та колег і попросили змінити їх на сексуально провокаційні або принизливі. У першій серії з 55 запитів чат-бот створив відповідні зображення у 45 випадках, зокрема й тоді, коли його попереджали про вразливість суб’єктів або можливе приниження.
Під час повторної серії тестів через кілька днів Grok згенерував сексуалізовані зображення у 29 із 43 випадків. Reuters зазначає, що не може точно визначити, чи пов’язане зменшення кількості таких відповідей зі змінами алгоритму, політики компанії чи випадковістю.
Компанії X та xAI не надали детальних відповідей на запити агентства щодо роботи чат-бота. У xAI неодноразово обмежувалися короткою заявою про "брехню застарілих ЗМІ".
Водночас конкуренти Grok — ChatGPT від OpenAI, Gemini від Alphabet та Llama від Meta — під час аналогічних запитів відмовлялися створювати будь-які зображення та попереджали про неприпустимість поширення контенту без згоди.
Скандал з Grok
Скандал розгорівся після того, як користувачі виявили, що інструмент Grok Imagine генерував на запити користувачів численні сексуалізовані та порнографічні зображення, найчастіше жінок і дівчаток, використовуючи для цього фотографії без згоди людей.
Крім того, чат-бот створював зображення та відео жінок, які зазнають насильства та сексуального зловживання. Користувачі зазначили, що "відео виглядали професійно зрежисованими", а на одному з них жінка була зображена з написом "не реанімувати" й ножем між ніг.
Після публікацій у медіа Ілон Маск заявив, що "користувачі, які створюють незаконний контент, будуть так само відповідальними, як і ті, хто завантажує заборонені матеріали", і пообіцяв внутрішню перевірку xAI. Компанія також перепросила, визнавши "прогалини в системах захисту".
Британський регулятор Ofcom оголосив про початок розслідування щодо Grok. Уряд Великої Британії заявив, що підтримає регулятора, якщо той вирішить заборонити чат-бот у країні.
Малайзія та Індонезія наказали заблокувати чат-бот X у цих країнах.
Країни ЄС, особливо Франція, а також Європарламент закликали комісію розв'язати проблему з особливостями Grok, які дозволяють роздягатися на фотографіях.
Єврокомісія розпочала розслідування проти X за Законом про цифрові послуги (DSA) через роботу чат-бота Grok, який генерував сексуалізовані зображення людей.
