Педофіли використовують технологію штучного інтелекту (ШІ) для створення і продажу реалістичних матеріалів про сексуальне насильство над дітьми. Про це після власного розслідування повідомило видання BBC.
Злочинці найчастіше обирають програмне забезпечення зі штучним інтелектом Stable Diffusion, яке призначене для формування зображень, які використовують у графічному дизайні. За допомогою словесних описів програма і створює зображення.
У BBC виявили, що саме цю програму використовують для створення реалістичних зображень сексуального насильства над дітьми, зокрема зґвалтування немовлят і дітей молодшого віку.
Зображення поширюються в три етапи:
- Педофіли створюють зображення за допомогою програми з ШІ;
- Зображення просувають на платформах на кшталт сайту для обміну зображеннями Pixiv, який в основному використовують художники, що публікують мангу та аніме;
- Ці акаунти мають посилання, що перенаправляють клієнтів на інші, більш відверті зображення, за перегляд яких люди можуть заплатити на таких сайтах, як Patreon. Уже там можна оформити щомісячну підписку на доступ до блогів, подкастів, відео та зображень, заплативши лише 3,85 долара (приблизно 500 гривень) на місяць.
Позаштатна дослідниця і журналістка Октавія Шіпшенкс розслідувала це питання протягом кількох місяців: "Відтоді, як зображення, створені штучним інтелектом, стали можливими, почалася величезна хвиля... Це не лише дуже юні дівчатка, вони [педофіли] говорять про малюків".
Британська поліція, яка розслідує випадки насильства над дітьми в Інтернеті, заявляє, що вже стикалася з таким контентом.
Керівник Національної ради начальників поліції (NPCC) з питань захисту дітей Ян Крітчлі розповів, що було б неправильно стверджувати, що оскільки на таких "синтетичних" зображеннях не було зображено реальних дітей, то ніхто не постраждав.
Також у відомстві заявили, що це "обурливо", що деякі платформи отримують "величезні прибутки", але не беруть на себе "моральну відповідальність".
Реакція компаній
Представник Pixiv заявив, що компанія приділяє велику увагу розв'язанню цієї проблеми. Там зазначили, що ще 31 травня заборонили всі фотореалістичні зображення сексуального змісту за участю неповнолітніх.
У Patreon повідомили, що дотримуються політики "нульової толерантності" до таких зображень на своєму сайті: "Творці не можуть фінансувати контент, присвячений сексуальним темам за участю неповнолітніх".
Представники Stability AI повідомили BBC, що "забороняють будь-яке зловживання в незаконних або аморальних цілях на всіх платформах, і наша політика чітко визначає, що це охоплює і CSAM (матеріали, що містять сексуальне насильство над дітьми)".
"Ми рішуче підтримуємо зусилля правоохоронних органів у боротьбі з тими, хто використовує наші продукти в незаконних або негідних цілях", — додали у компанії.
Оскільки штучний інтелект продовжує стрімко розвиватися, виникають питання про майбутні ризики, які він може становити для приватного життя людей, їхніх прав людини та безпеки.
Читайте нас у Facebook, Instagram і Telegram, дивіться наш YouTube
Поділіться своєю історією з Суспільне Культура. З нами можна зв'язатися у соціальних мережах та через пошту: [email protected]