Компанія OpenAI заморозила плани щодо запуску еротичного режиму ChatGPT після занепокоєння працівників та інвесторів щодо впливу сексуалізованого ШІ-контенту на суспільство.
Про це повідомила газета Financial Times.
Компанія вартістю $730 млрд підтвердила, що запуск еротичного режиму призупинено на невизначений термін. В OpenAI заявили, що хочуть спершу провести довгострокові дослідження впливу відвертого сексуального контенту та емоційної прив'язаності до ШІ, перш ніж ухвалювати рішення щодо продукту.
Проєкт під внутрішньою назвою Citron mode передбачав підтвердження віку користувачів — доступ мали отримати лише люди, старші за 18 років. Однак система визначення віку, яку OpenAI впровадила після низки судових позовів від родин підлітків, має рівень помилок понад 10%. Це посилювало занепокоєння щодо доступу неповнолітніх.
Про рівень помилок і занепокоєння експертної консультативної ради OpenAI з питань добробуту першою повідомила газета The Wall Street Journal. В OpenAI заявили, що їхня система відповідає галузевим стандартам, і компанія продовжує працювати над підвищенням її точності.
Окрім репутаційних ризиків, компанія зіткнулася з технічними труднощами: моделі, яких раніше навчали уникати таких розмов, було складно перетренувати на генерацію відвертого контенту. Також виникли проблеми з очищенням навчальних наборів даних від нелегального контенту.
Еротичний режим виявився особливо суперечливим нововведенням на тлі судових позовів проти соцмереж, зокрема Meta, через шкоду їхніх продуктів для дітей. Торік компанія xAI Ілона Маска активно залучала користувачів дорослим контентом, але зіткнулася з міжнародним обуренням після того, як її модель Grok генерувала сексуальні зображення реальних людей, зокрема дітей.
Проєкт еротичного режиму також викликав занепокоєння серед працівників. Вони переймалися, чи не суперечить продукт, який заохочує романтичні стосунки з ШІ, місії OpenAI забезпечити користь штучного інтелекту для всього людства.
"ШІ не має замінювати друзів чи родину — людям потрібні людські зв'язки", — сказав колишній старший працівник компанії, який пояснив, що це питання стало однією з причин його звільнення.
Інвестори також висловлювали занепокоєння через ризики такого продукту та його порівняно невеликий потенціал для бізнесу.
Рішення вписується у ширшу стратегію OpenAI відмовитися від побічних проєктів і зосередитися на основних продуктах, об'єднуючи інструменти для продуктивності — асистентів для програмування та ChatGPT — в єдиний "суперзастосунок". 24 березня компанія також оголосила про згортання відеогенератора Sora та соціального застосунку.
