Компанія OpenAI заявила, що упродовж наступного місяця в ChatGPT з'явиться батьківський контроль.
Про це пише CNN.
Компанія OpenAI, якій належить ChatGPT, ухвалила це рішення після звинувачень у тому, що ChatGPT та інші чатботи сприяли випадкам самоушкодження й самогубств серед підлітків.
Серед функцій контролю будуть:
- можливість для батьків прив'язати свій акаунт до акаунта підлітка чи підлітки;
- керувати тим, як ChatGPT відповідає неповнолітнім користувачам;
- вимикати історію чатів;
- а також отримувати сповіщення, якщо система виявить "момент гострого стресу" під час використання.
"Ці кроки — лише початок. Ми будемо й надалі вчитися і вдосконалювати підхід, керуючись порадами експертів, аби зробити ChatGPT максимально корисним", — обіцяють в OpenAI.
Що цьому передувало
Напередодні батьки підлітків звинувачували ChatGPT у тому, що він спонукає тих вчинити самогубство. Зростає також занепокоєння тим, що користувачі емоційно прив’язуються до ChatGPT, що іноді призводить до маревних станів і відчуження від родини.
OpenAI офіційно не пов'язує запуск нових функцій батьківського контролю з конкретними випадками самогубств чи криз серед підлітків, але визнає: останні трагічні історії використання ChatGPT у критичних станах стали приводом ретельніше поставитися до безпекових заходів.
У ChatGPT уже були певні механізми безпеки — наприклад, поради звертатися на гарячі лінії чи до інших ресурсів підтримки. Але OpenAI визнала, що ці запобіжники можуть втрачати надійність під час довгих діалогів із користувачами: модель безпеки "розмивається" і система працює менш ефективно. Тому компанія обіцяє вдосконалювати захист разом із залученими експертами.
Тепер користувачів з ознаками "гострого стресу" переспрямовуватимуть на спеціальну модель ШІ, яка краще дотримується правил безпеки.
У квітні OpenAI також зіткнулася з критикою щодо манери й тону відповідей ChatGPT. Компанія відкликала оновлення, яке зробило чатбота "надто улесливим і згодливим". Користувачі знову змогли перемикатися на старіші моделі після скарг на "нестачу характеру" в оновленому чатботі.
Куди звертатися по допомогу, якщо є суїцидальні думки
В Україні працює цілодобова лінія із запобігання суїцидам та психологічної підтримки Lifeline Ukraine: за номером 7333.
Також у всій країні діє Національна гаряча лінія для дітей та молоді — 0 800 500 225. Вона працює у будні з 9:00 до 21:00 та у вихідні з 10:00 до 18:00.
Також у Києві працює цілодобовий телефон довіри: 080 050 12 12 (безплатно з мобільного).
Окрім того, діє гаряча лінія, спеціалісти якої допомагають українцям підтримати психічне здоров'я в умовах постійного стресу й емоційної напруги, спричинених війною: 0 800 100 102. Вона працює щодня з 10:00 до 20:00, дзвінки з України є безоплатними.
Читайте нас у Facebook, Instagram і Telegram, дивіться наш YouTube і TikTok
Поділіться своєю історією з Суспільне Культура. З нами можна зв'язатися у соціальних мережах та через пошту: [email protected]
