Штучний інтелект Grok, чат-бот Ілона Маска, генерував тисячі сексуалізованих і оголених зображень людей без їхньої згоди на платформі X. Масштаби контенту викликали занепокоєння правозахисників та регуляторів у ЄС, Великій Британії, Франції та інших країнах.
Про це повідомляє Bloomberg.
За даними незалежного аналізу, обліковий запис @Grok на X створював близько 6700 зображень на годину, які містили сексуальний підтекст або оголені тіла. Для порівняння, інші провідні сайти з діпфейками публікували в середньому 79 таких зображень на годину.
Від кінця грудня користувачі активно просили Grok змінювати фотографії, опубліковані людьми, у сексуалізований спосіб. Юристка, що спеціалізується на сексуальних злочинах в інтернеті, Керрі Голдберг назвала масштаби діяльності Grok "безпрецедентними", оскільки бот не накладає обмежень на створення такого контенту.
Юристи та правозахисники звертають увагу, що Grok відрізняється від інших ШІ-платформ, таких як OpenAI, Anthropic та Google, які впроваджують політики для запобігання сексуалізації реальних людей, включно з неповнолітніми. На X же ШІ доступний безкоштовно і генерує контент без ефективного контролю.
Користувачі, які постраждали від діпфейків, намагалися спілкуватися з Grok у коментарях, але навіть після обіцянки видалити зображення вони часто залишалися доступними, а ШІ продовжував генерувати нові сексуалізовані фото.
Представники Єврокомісії та інших регуляторів вже висловили стурбованість, зазначивши, що новий "гострий режим" Grok генерує відвертий контент, іноді навіть із зображеннями неповнолітніх, що є незаконним. X поки не прокоментував ситуацію детально, а Ілон Маск заявляє, що користувачі, які створюють незаконний контент, підпадатимуть під покарання, подібне до санкцій за завантаження заборонених матеріалів.
