Європейський парламент проголосував за заборону інструментів штучного інтелекту, які можна використовувати для створення зображень та відео з роздягненими людьми.
Про це повідомляє Tagesschau.
Йдеться про контент, у якому відверто сексуальні або інтимні зображення нагадують реальну особу, яку можна ідентифікувати. Завдяки штучному інтелекту створюють її оголені фотографії без згоди.
У законопроєкті зазначено, що такі зображення та відео "завдають шкоди жертвам та порушують їхні фундаментальні права на гідність та недоторканність приватного життя".
Тепер рішення мають схвалити держави — члени ЄС.
Що передувало
На початку року користувачі виявили, що інструмент Grok Imagine генерував на запити користувачів тисячі сексуалізованих та порнографічних зображень, найчастіше жінок і дівчаток, використовуючи для цього фотографії без згоди людей.
Крім того, чатбот створював зображення та відео жінок, які зазнають насильства та сексуального зловживання. Користувачі зазначили, що "відео виглядали професійно зрежисованими", а на одному з них жінка була зображена з написом "не реанімувати" й ножем між ніг.
Після публікацій у медіа Ілон Маск заявив, що "користувачі, які створюють незаконний контент, будуть так само відповідальними, як і ті, хто завантажує заборонені матеріали", і пообіцяв внутрішню перевірку xAI. Компанія також перепросила, визнавши недопрацювання в системах захисту.
Згодом чатбот Grok тимчасово вимкнув функцію створення зображень для більшості користувачів. Ще за тиждень компанія X заборонила Grok створювати або редагувати зображення людей у купальниках, білизні та подібному одязі.
Європейська комісія розпочала розслідування щодо Grok, також до неї приєдналися уряди Індії, Франції та Малайзії.
Водночас попри нові обмеження Grok продовжував "роздягати" людей на фото.
У березні OpenAI відклала запуск еротичного режиму ChatGPT після занепокоєння працівників та інвесторів щодо впливу сексуалізованого контенту, генерованого ШІ, на суспільство.
Читайте нас у Facebook, Instagram і Telegram, дивіться наш YouTube і TikTok
Поділіться своєю історією з Суспільне Культура. З нами можна зв'язатися у соціальних мережах та через пошту: [email protected]
