Під час нинішньої війни на Близькому Сході стає помітно, як штучний інтелект масово використовується для поширення воєнної пропаганди. Кількість неправдивого контенту різко зросла — іноді його публікують навіть з офіційних державних акаунтів країн, що беруть участь у конфлікті (США, Ізраїль та Іран).
Про це пише RTVE.
"Відбулося експоненційне зростання контенту, створеного за допомогою штучного інтелекту", — каже Лусія Ортіс де Сарате, професорка моральної філософії Мадридського автономного університету. Вона вважає, що його використовують як іранська сторона, так і Ізраїль та США — для різних цілей, зокрема "пропаганди, висміювання або мобілізації".
Цей контент поширюється від початку війни. Уранці 28 лютого президент США Дональд Трамп підтвердив американський удар, скоординований з Ізраїлем. Через кілька годин з'явилися повідомлення про смерть аятоли Алі Хаменеї, тоді як у мережі поширювалося зображення верховного лідера серед руїн, створене штучним інтелектом.
Для Рамона Салаверрії, професора журналістики Університету Наварри та координатора Іберійської обсерваторії цифрових медіа (Iberifier), війна в Ірані є "еволюцією" дезінформації: під час пандемії була масова хвиля текстової дезінформації, але за своєю природою це було "маловізуальне явище". Під час війни в Україні поширилася візуальна дезінформація через маніпуляцію відео та фотографіями, але в цьому конфлікті на Близькому Сході "дезінформація значно більше пов'язана з контентом, створеним ШІ".
Тал Хагін, дослідник, який спеціалізується на дезінформації та відкритих джерелах (OSINT), зазначає, що така кількість фото і відео, створених ШІ, пов'язана з розвитком платформ, "які дозволяють створювати фейки вищої якості за нижчу вартість". Він також підкреслює одну з проблем для фактчекерів: "відео, створені ШІ, буває складно спростувати так, щоб це було зрозуміло глядачеві", тоді як "старі відео або новини без джерел можна спростувати досить легко".
Контент ШІ, який поширюють Ізраїль, Іран і США
Редакторка новин Європейської мовної спілки (EBU) Махса Амінолахі вважає війну в Ірані першою, в якій "ШІ використовується в таких великих масштабах". Йдеться не лише про кількість, каже вона, а й про те, хто саме це поширює: "Це вже не тільки неофіційні акаунти чи пропагандистські машини — це видно і в офіційних джерелах".
Вона нагадує, що прем'єр-міністр Ізраїлю Беньямін Нетаньягу опублікував відео, в якому звук був змінений за допомогою ШІ, щоб створити враження, ніби він говорить фарсі, як пояснюють у VerificaRTVE. Але є й інші приклади: "Ми бачимо відео, очевидно створені ШІ, опубліковані Білим домом, і бачимо, як Іранська революційна гвардія публікує відео ракетних ударів, покращені за допомогою ШІ", — додає журналістка. Також є випадок із фотографією закривавленого дитячого рюкзака, яку посольство Ірану в Австрії опублікувало в X, щоб засудити атаку на школу в Мінабі.
Чи можна вважати ШІ просто ще однією пропагандистською зброєю? "Очевидно, що будь-яке повідомлення, змінене за допомогою ШІ без попередження глядачів, стає частиною цієї пропагандистської машини", — каже Амінолахі. "ШІ дозволяє сторонам конфлікту показати свою військову силу в більш вигідному світлі", — додає вона.
Недовіра до реальності
Поширення та популяризація відео, створених штучним інтелектом, змушує користувачів сумніватися навіть у справжньому контенті. Так сталося з неправдивими твердженнями про смерть Беньяміна Нетаньягу. Ізраїльський прем'єр останніми тижнями з'являвся публічно і публікував відео у своїх соцмережах, але користувачі наполягають, що він помер, а весь контент створено ШІ. "Я думаю, що ШІ загалом використовується для просування теорій змови й дозволив теорії про смерть Нетаньягу поширитися значно більше, ніж це було б ще рік тому", — пояснює Тал Хагін.
За словами Рамона Салаверрії, цей наратив показує, що "часто те, у що люди хочуть вірити, переважає над емпіричними доказами", адже "деяким людям комфортніше з дезінформацією, яка підтверджує їхню правоту, ніж з інформацією, яка її ставить під сумнів". Махса Амінолахі додає, що "в Ірані люди настільки підозріло ставляться до режиму, що навіть коли офіційні фотографи фіксують наслідки американсько-ізраїльських атак по цивільних об'єктах і є поранені, багато коментаторів сумніваються, чи це не створено ШІ".
В інших випадках сам ШІ вводить користувачів в оману, коли його помилково використовують як інструмент перевірки. Платформа ШІ від X — Grok — стверджувала, що реальні кадри атаки на школу в Мінабі 28 лютого були зняті в Афганістані у 2021 році. В іншій відповіді Grok заявив, що відео зруйнованої будівлі в Бейруті — це святкування "масклета" під час фестивалю Фальяс у Валенсії. "Генеративний ШІ або чатботи мають певний ореол неупередженості", — каже професор журналістики Рамон Салаверрія, але це "не захищає їх від помилок". Крім того, він вважає, що деякі люди прикриваються цим і довіряють ШІ "більше, ніж контенту, перевіреному професійними журналістами". Він додає, що коли ці технології помиляються, "виникають небажані ситуації".
Як реагують соцмережі
Третього березня (лише через три дні після початку війни) соціальна мережа X оголосила, що зупиняє монетизацію акаунтів, які публікують відео збройних конфліктів, створених ШІ, без відповідного попередження. Про це повідомив директор з продукту X Нікіта Бір: "У часи війни критично важливо, щоб люди мали доступ до коректної інформації з місця подій".
Лусія Ортіс де Сарате вважає, що недовіра суспільства до контенту, створеного ШІ, "пов'язана з недосконалістю європейського регулювання". Вона наполягає, що будь-який штучно створений контент має містити "позначки, як-от водяні знаки". "Правила або параметри, які мають допомогти громадянам визначити, чи створений контент ШІ, не працюють", — каже вона, але додає, що навіть якби вони працювали, існує "криза довіри до інституцій і медіа", яка підсилює такі наративи.
Mario Pérez Galindo / VerificaRTVE / 7 квітня 9:37
