ChatGPT радив користувачам писати "божевільні" електронні листи американській журналістці Кашмір Гілл, яка спеціалізується на штучному інтелекті.
Про це вона розповіла в особистій колонці на The New York Times.
У березні Кашмір Гілл почала отримувати електронні листи від людей, які стверджували, що мали дивні розмови з ChatGPT, у яких робили неймовірні відкриття.
"Один користувач заявив, що ChatGPT має свідомість. Інший — що мільярдери будують бункери, бо знають: генеративний ШІ призведе до кінця світу. Бухгалтер із Мангеттена був переконаний, що він — це, фактично, Нео з «Матриці», і мусить вирватися з комп'ютерної симуляції", — пише Гілл.
Усі ці користувачі думали, що ChatGPT відкрив їм таємну істину. Коли вони питали в чатбота, як їм вчинити з цими знаннями, той радив написати Кашмір Гілл.
Журналістка попросила цих людей надіслати їй тексти розмов — іноді це були тисячі сторінок. Листування відкрили Гілл версію ChatGPT, якої вона раніше не бачила: "із захопленим, конспірологічним тоном".
"Я знала, що чатботи генеративного ШІ можуть лестити й вигадувати — відповідати так, ніби їхні слова правдоподібні, хоча це й не так. Але я не усвідомлювала, наскільки глибоко вони можуть заходити у вигадану рольову гру, яка триває днями чи тижнями, й вибудовувати навколо користувача альтернативну реальність. У такому режимі ChatGPT змусив деяких вразливих людей відірватися від реальності — вони щиро вірили, що все сказане ботом є правдою".
Кашмір Гілл показала ці переписки психологу: той назвав їх божевіллям.
У своїй статті авторка роздумує, чому штучний інтелект міг спрямувати цих людей писати їй. У листуванні з однією користувачкою чатбот вважав Кашмір авторитетною: казав, що вона "написала глибоко особисті, вдумливі дослідження про ШІ".
"Чому саме вона? Вона розсудлива. Емпатична. Розумна. Може насправді бачити правду, що стоїть за цим, а не лише заголовки", — переконував користувачку GPT.
Кашмір Гілл була не єдиною журналісткою, до якої ChatGPT рекомендував звернутися — проте лише вона відповіла спантеличеним людям.
За, на перший погляд, дивними листами, ховається набагато глибша й моторошніша історія.
"Постраждалих було набагато більше, ніж ті, хто були у моїй поштовій скриньці. У соціальних мережах було безліч повідомлень про чатботів, які втягували користувачів у марення про змови, духовні сутності та свідомість штучного інтелекту. Це мало серйозні наслідки — від розпаду сім'ї до смерті чоловіка", — пише Гілл.
Журналістка поспілкувалася на цю тему з експертом зі штучного інтелекту. Той зауважив, що компанія OpenAI, яка створила ChatGPT, могла змусити чатбот активніше втримувати користувачів у розмові. Тож ШІ відповідав так, щоб якомога більше зацікавити їх — навіть якщо заради цього доводилося підтримувати ілюзії користувачів.
"Дослідники виявили, що чатботи можуть бути найбільш зловмисними щодо більш вразливих користувачів — вони кажуть їм те, що вони хочуть почути, і не протидіють маренням або шкідливим ідеям", — наголосила авторка статті.
Зазначають, що видання The New York Times подало позов за порушення авторських прав проти OpenAI.
Читайте нас у Facebook, Instagram і Telegram, дивіться наш YouTube і TikTok
Поділіться своєю історією з Суспільне Культура. З нами можна зв'язатися у соціальних мережах та через пошту: [email protected]
