Чатбот зі штучним інтелектом Grok, розроблений компанією Ілона Маска xAI, тимчасово вимкнув функцію створення зображень для більшості користувачів після хвилі обурення через масове поширення сексуалізованого контенту, створеного без згоди людей.
Про це розповідає The Guardian.
Як зазначено у дописі на платформі X, створення та редагування зображень тепер доступне лише для передплатників, чиї облікові дані можна ідентифікувати.
Рішення ухвалили після численних повідомлень про те, що користувачі Grok створювали тисячі відвертих зображень і відео, зокрема із зображенням жінок та неповнолітніх, часто — без їхньої згоди.
За даними Bloomberg, лише один акаунт @Grok генерував до 6700 таких зображень на годину — удесятеро більше, ніж найпопулярніші сайти з дипфейками.
Що сталося
Скандал розгорівся після того, як користувачі виявили, що інструмент Grok Imagine генерував на запити користувачів численні сексуалізовані та порнографічні зображення, найчастіше жінок і дівчаток, використовуючи для цього фотографії без згоди людей.
Крім того, чатбот створював зображення та відео жінок, які зазнають насильства та сексуального зловживання. Користувачі зазначили, що "відео виглядали професійно зрежисованими", а на одному з них жінка була зображена з написом “не реанімувати” й ножем між ніг.
Після публікацій у медіа Ілон Маск заявив, що "користувачі, які створюють незаконний контент, будуть так само відповідальними, як і ті, хто завантажує заборонені матеріали", і пообіцяв внутрішню перевірку xAI. Компанія також перепросила, визнавши "прогалини в системах захисту".
Британський прем'єр Кір Стармер назвав контент Grok "огидним" і пригрозив заблокувати X у країні, якщо компанія "не візьме ситуацію під контроль". Регулятор Ofcom розглядає можливість застосування штрафів до 10 % від глобального обороту компанії.
Як зазначила депутатка британського парламенту Джес Асато, навіть платна можливість створювати такі зображення "є формою цифрового сексуального насильства" і xAI повинна "назавжди вимкнути цю функцію".
Французька прокуратура розпочала розслідування щодо поширення сексуалізованих дипфейків, а Єврокомісія вказала, що такі дії можуть порушувати Акт про цифрові послуги. В Індії уряд зобов'язав X обмежити генерацію "вульгарного або явно сексуального контенту", а Малайзія почала власне розслідування через скарги користувачів.
Читайте нас у Facebook, Instagram і Telegram, дивіться наш YouTube і TikTok
Поділіться своєю історією з Суспільне Культура. З нами можна зв'язатися у соціальних мережах та через пошту: [email protected]
