Генеральний прокурор американського штату Каліфорнія Роб Бонта розпочав розслідування стосовно чатбота Grok, який розробила компанія xAI Ілона Маска. У центрі уваги слідства — створення інтимних зображень без згоди людини.
Про це Бонта написав у себе на сторінці в Х, а також підтвердив у коментарі The New York Times.
"Штучний інтелект Grok створює фейкові інтимні зображення без згоди моделей, які використовуються для переслідування жінок в інтернеті", — зазначається в дописі генпрокурора Каліфорнії.
Посадовець назвав такі дипфейки "неприпустимими" та вимагає від компанії xAI невідкладно поділитися планом щодо припинення створення та поширення такого контенту.
У межах розслідування будуть встановлювати, чи порушила компанія Ілона Маска xAI закон штату Каліфорнія, коли сприяла створенню інтимних зображень людей без їхньої згоди.
У коментарі NYT Роб Бонта розповів, що закони Каліфорнії забороняють використання штучного інтелекту для створення сексуальних зображень без згоди. Тож компанію Ілона Маска можуть оштрафувати — на 25 000 доларів за кожне зображення. Каліфорнія, за словами генпрокурора, також може ухвалити судову заборону, яка заборонить компанії xAI продовжувати створювати такі зображення.
"Це дуже очевидно. Це дуже помітно. Це не помилка в системі, це задум системи", — каже Бонта про роботу Grok.
Раніше користувачі виявили, що Grok генерував тисячі сексуалізованих і оголених зображень людей без їхньої згоди на платформі X. Масштаби контенту викликали занепокоєння правозахисників та регуляторів у ЄС, Великій Британії, Франції та інших країнах. Після скандалу чатбот тимчасово вимкнув функцію створення зображень.
3 січня соцмережа Х, в яку вмонтований Grok, заявила, що видалить незаконний контент із зображеннями дітей і назавжди заблокує акаунти, які просили чатбота створювати такі зображення.
А за даними The New York Times станом на 14 січня акаунт Grok у X почав відповідати на запити про ШІ-зображення тільки тим людям, які передплатили преміум-підписку X. Для них Grok продовжував створювати інтимні зображення.
