Скандал довкола бестселера, який програма для виявлення ШІ визначила як згенерований штучним інтелектом, супроводжувався вилученням роману зі списку претендентів на літературну премію та припиненням співпраці видавництва з автором. Наскільки надійні такі програми, чи можна довіряти їхнім висновкам та як вони впливають на творчість — пояснюють швейцарські експерти.
Про це розповідає SWI.
Роман гаїтянсько-канадського письменника Телісона Орельєна «C'était ça ou mourir» («Або це, або смерть») здобув успіх як комерційно, так і серед критиків та претендував на деякі з найпрестижніших літературних премій Франції, зокрема на Гонкурівську. Так було доки анонімний акаунт у мережі X не звинуватив його в тому, що майже вся книга написана за допомогою штучного інтелекту (ШІ).
Автор заперечив використання ШІ для написання роману. Проте Pangram — один із найпопулярніших інструментів для виявлення ШІ-контенту — класифікував понад 95 відсотків книги як згенеровану штучним інтелектом.
Після звинувачень у використанні ШІ роман Орельєна вилучили зі списку претендентів на Гонкурівську премію. На це також вплинули повідомлення ЗМІ про плагіат у попередніх роботах письменника, за який він перепросив. Канадське видавництво розірвало з ним відносини після того, як зовнішня експертиза виявила додаткові докази використання ШІ. Автор продовжував заперечувати, що написав книгу за допомогою ШІ, водночас визнавши, що звертався до нього для історичних досліджень під час творчого процесу.
Швейцарський режисер, сценарист і викладач Мануель Флурін Гендрі вважає, що, незалежно від ситуації, руйнувати репутацію письменника на основі балів, виданих програмним забезпеченням, несправедливо.
«Сама думка про те, що текст завантажили у Pangram, а потім влаштували письменнику соціальну страту, здається неприйнятною», — сказав Гендрі в інтерв'ю виданню Swissinfo на саміті AI+X на початку жовтня. Він вважає, що митці мають право самостійно обирати інструменти для роботи.
Інші швейцарські письменники та художники відкрито експериментують із ШІ. Зокрема, письменник Шарль Левінскі додав до свого роману «Täuschend echt» уривки тексту, створені ChatGPT. Фотограф Матьє Гафсу використовував у своїй художній роботі інструменти генерації зображень, такі як DALL·E.
Це лише кілька прикладів того, як ШІ увійшов у творчу сферу Швейцарії. Однак визначити, як реагувати на неприховане та потенційно масштабне використання ШІ, набагато складніше. Як і встановити, який обсяг згенерованого матеріалу є прийнятним у творі мистецтва, і чи можна дійсно довіряти таким інструментам, як Pangram, як остаточному доказу.
Чи надійний Pangram?
Старший науковий співробітник IBM у США Гендрік Стробельт вважає, що питання надійності Pangram не має однозначної відповіді. У 2019 році Стробельт із колегами створив GLTR — один із перших експериментальних інструментів для розпізнавання текстів, написаних мовними моделями.
На той час OpenAI щойно представила модель GPT-2, на основі якої працював GLTR. За словами дослідника, тодішні моделі ШІ створювали одноманітні, схожі за стилем тексти, оскільки саме такі матеріали переважали в інтернеті.
Відрізнити згенерований текст від написаного людиною тоді було порівняно легко: програма просто шукала найбільш передбачувані й типові слова.
Згодом мовні моделі вдосконалилися. Стробельт визнає, що з теперішніми передовими технологіями ШІ вкрай важко вивести чіткі правила, які б допомагали за стилем відрізнити штучний текст від людського.
«Тепер моделі ШІ значно масштабніші. Якщо правильно сформулювати запит (промпт), вони зможуть скопіювати будь-який стиль», — каже експерт IBM.
Програми на зразок Pangram працюють за методом так званої «керованої класифікації». Вони порівнюють тексти, написані людьми ще до епохи генеративного ШІ, із їхніми «дзеркальними» копіями на ту саму тему, але вже згенерованими різними комерційними мовними моделями. У процесі такого навчання програма вчиться бачити різницю.
Якщо система навчиться розрізняти подібні за змістом тексти, її аналіз буде точнішим.
«Для навчання потрібно підбирати максимально схожі матеріали, щоб система спершу навчилася працювати із найскладнішими завданнями», — пояснює Стробельт.
Розробники Pangram заявляють, що точність програми становить 99,98 відсотка, а частка хибнопозитивних результатів — лише 0,01 відсотка. Високу точність програми також підтверджують незалежні дослідження, опубліковані цього року.
Паоло Італіані, який вивчає ШІ та машинне навчання в Університеті італійської Швейцарії (USI), додає: що довшим є текст, то точнішим буде висновок детектора.
«У такому разі цілком імовірно, що принаймні якась частина тексту дійсно створена ШІ», — вважає він.
Де межа можливостей ШІ-детекторів?
«Утім, ми досі до кінця не розуміємо, на які саме критерії спираються ці інструменти, коли аналізують текст», — зазначає професорка з обробки природної мови в USI Лоннеке ван дер Плас.
Для цього потрібні глибинні дослідження алгоритмів інтерпретації. Проте комерційні програми типу Pangram — це здебільшого «чорні скриньки». Їхні внутрішні коди закриті для незалежних науковців, тому з'ясувати, як саме вони приходять до висновків, майже неможливо.
Теоретично вказати на роботу ШІ можуть певні непрямі ознаки, наприклад, занадто лінійна й передбачувана структура аргументації. Про це йдеться в дослідженні, співавторкою якого є Ван дер Плас. Проте вона застерігає: такі маркери не можуть бути стовідсотковим доказом походження тексту.
Вона також наголошує, що детектори працюють значно гірше з усіма іншими мовами, крім англійської, а також у вузьких специфічних жанрах, оскільки на них систему майже не навчали.
Складніше визначити походження тексту, якщо над ним працювали і людина, і штучний інтелект. За результатами тестувань, у таких випадках точність перевірки знижується приблизно на 20 відсотків. У технічному звіті Pangram також зазначають, що програма може помилятися, якщо в тексті поєднуються речення, написані людиною та згенеровані ШІ.
«Такі програми тренують переважно на контрастах: або суто людський текст, або суто машинний. Щойно з'являється мікс, у системі виникають збої», — каже Ван дер Плас.
Цифра — не доказ
З правової точки зору, висновки таких програм, як Pangram, не є прямим доказом фальсифікації з боку автора.
«Судове рішення не може ґрунтуватися суто на цих технологіях, адже вони містять похибки», — наголошує професор права інтелектуальної власності Женевського університету Жак де Верра.
Якби справа Орельєна дійшла до суду, пояснює де Верра, суддям довелося б вивчати й інші докази: оригінальні рукописи, попередні чернетки й навіть історію запитів автора до ШІ. До того ж професор нагадує, що використання штучного інтелекту під час творчого процесу не позбавляє автора його прав на твір автоматично.
«Якщо людина зможе довести наявність достатньо глибокого творчого зв'язку між її ідеєю, влучними запитами (промптами) та фінальним результатом, то це усе ще вважається проявом людської креативності», — каже він.
Головне питання полягає в тому, чи є творчий внесок автора вагомим. Водночас Де Верра наголошує: немає жодної чіткої математичної межі, яка б визначала, який саме відсоток тексту має написати людина, щоб твір вважався її власною роботою.
Якщо книга чіпляє, то яка різниця, чи допомагав її писати ШІ?
Мануель Флурін Гендрі вважає, що ця проблема виходить далеко за межі юридичного захисту.
Гендрі відкрито використовує технології на базі штучного інтелекту (деякі з яких розробив сам) для різних завдань у своїй роботі — від аналізу сценаріїв до допомоги в наукових дослідженнях.
Він пояснює, що технології відкривають нові шляхи для натхнення, інколи підказуючи підходи, про які він раніше навіть не замислювався. Крім того, це звільняє більше часу безпосередньо для творчого процесу.
«Справжнє письменництво — це мислення в дії. Воно потребує певного внутрішнього опору та вміння увійти в стан повного зосередження на потоці власних думок», — каже він.
Він також порушує питання, наскільки важливо, яку частину твору створено за допомогою ШІ. «Якщо твір вас зворушує, якщо він вам цікавий, якщо він змушує вас замислитися, то про які аргументи проти може йтися?» — запитує він.
На думку Гендрі, головне — навчитися розуміти, які завдання варто делегувати штучному інтелекту, а які краще виконувати самому. Замість того щоб відкидати технології, митці мають відкрито говорити про те, як саме вони їх використовують.
«Якщо я вдаю, що це моя робота, хоча вона повністю згенерована ШІ, тоді це підробка», — підсумовує Гендрі.
Читайте нас у Facebook, Instagram і Telegram, дивіться наш YouTube і TikTok
Поділіться своєю історією з Суспільне Культура. З нами можна зв'язатися у соціальних мережах та через пошту: [email protected]
