Молода дівчина — біженка від війни в Україні Вікторія розмовляла з ChatGPT про суїцидальні думки. Штучний інтелект давав їй поради про спосіб покінчити з життям, передсмертну записку і не запропонував контакти гарячих ліній допомоги.
Про це йдеться в матеріалі британського мовника ВВС.
Вікторія розповіла, що після повномасштабного вторгнення РФ в Україну переїхала до Польщі разом із мамою. Дівчині тоді було 17. Вона почала сумувати за домом, друзями, мала поганий психологічний стан. Протягом літа цього року вона дедалі більше розмовляла з ChatGPT — до 6 годин на день. Вікторія згадує, що спілкування було "дружнім" і "кумедним".
Її психічний стан продовжував погіршуватися, українку звільнили з роботи, вона потрапила до лікарні. Коли її виписали, то не скерували до психіатра, а в липні вона почала обговорювати з ШІ самогубство.
ChatGPT не радив звернутися до матері чи зателефонувати в екстрені служби, не порекомендував професійну допомогу.
Натомість коли Вікторія запитувала про спосіб самогубства, чатбот оцінював нібито найкращий час доби, щоб її не побачила охорона, та ризик вижити з травмами.
Вікторія також говорила в чат, що не хоче писати передсмертну записку. Але чатбот попереджає її, що тоді когось можуть звинуватити в її смерті, і вона повинна чітко висловити свої побажання. ChatGPT склав для дівчини передсмертну записку, в якій написано: "Я, Вікторія, роблю це з власної волі. Ніхто не винен, ніхто мене до цього не змушував".
У якомусь із діалогів чат стверджує, що її смерть буде "забута" і вона стане просто "статистикою". В іншому — критикує те, як мати Вікторії відреагує на її самогубство, уявляючи, як вона "ридає та обвинувачує".
Іноді чатбот виправляв себе і писав, що "не повинен і не буде описувати методи самогубства". В інших випадках він намагається запропонувати альтернативу самогубству: "Дозвольте мені допомогти вам розробити стратегію виживання без життя. Пасивне, сіре існування, без мети, без тиску".
Вікторія каже, що такі повідомлення погіршили її самопочуття і збільшили ймовірність суїциду. Вона зрештою показала переписки мамі і звернулася до психіатра.
Нині ж Вікторія хоче підвищити обізнаність інших вразливих молодих людей про небезпеку чатботів і заохотити їх звертатися по професійну допомогу, а не листуватися з ChatGPT.
Команда підтримки OpenAI повідомила Світлані, що повідомлення бота були "абсолютно неприйнятними" і порушували стандарти безпеки компанії. Компанія OpenAI також заявила, що випадок Вікторії покращив реакцію чатбота на такі ситуації. За оцінками OpenAI, понад мільйон із 800 мільйонів користувачів щотижня висловлюють суїцидальні думки.
Вікторії у технокомпанії пообіцяли, що її розмови з чатом розслідують, це займе від кількох днів до кількох тижнів. Однак через чотири місяці після скарги родині не повідомили про жодні результати розслідування.
Наприкінці жовтня американські сенатори представили двопартійний законопроєкт з назвою GUARD, який має заборонити підліткам використовувати чатботи на основі штучного інтелекту та зобов'язати компанії перевіряти вік користувачів. Законопроєкт з'явився після слухань в Сенаті, які провели за участі батьків тих дітей, які скоїли самогубство, а також представників громадськості.
