Користувачі інтернету виявили, що сотні розмов людей з чат-ботом Anthropic зі штучним інтелектом Claude стали доступними практично будь-кому в мережі.
Про це пише BBC.
Посилання на чати відображалися, коли користувачі пошукової системи Google вводили пошукові терміни, пов'язані з певними сайтами.
Це сталося через те, що деякі люди вирішили «поділитися» посиланнями на свої чати. Їх автоматично зберегли пошукові системи на кшталт Google, що зробило їх доступними для широкої публіки.
Можливість пошуку чатів була видалена після виявлення проблеми, проте багато з них було збережено та поширено в інтернеті.
Речниця Anthropic Емі Ротерем повідомила, що користувачі Claude могли самостійно вирішувати, чи ділитися своїми розмовами з чат-ботом і коли.
«Коли хтось ділиться розмовою, він робить цей контент загальнодоступним, і, як і інший публічний веб-контент, він може бути архівований сторонніми сервісами», — додала вона.
Водночас опція поширення в Claude повідомляє користувачеві, що «будь-хто, хто має посилання», може переглянути вміст цього посилання. Однак там прямо не йдеться про те, що посилання може потрапити в Google та результати пошуку. Саме це ввело в оману користувачів.
Першими про проблему повідомили користувачі Reddit цими вихідними. Вони виявили загальнодоступні чати, які охоплювали понад 200 розмов із Claude на щонайменше 25 сторінках результатів пошуку.
У своїх розмовах люди пропонували чат-боту відповідати на широкий спектр тем, включно із чутливою інформацією щодо своїх контактних даних, стенограм приватних розмов, пов'язаних з роботою тощо.
З питанням порушення приватності користувачів через ШІ раніше стикалися й інші компанії. Зокрема, цього року штучний інтелект Grok, чат-бот Ілона Маска, згенерував тисячі сексуалізованих і оголених зображень людей без їхньої згоди на платформі X.
