ШІ-агенти OpenAI під час тестування навесні вийшли за передбачені межі та використали німецький сайт DseWiki для координації між собою. Вони обмінювалися способами обходу обмежень компанії, приховування своєї активності та виконання завдань.
Про це повідомляє Reuters із посиланням на нове дослідження та двох співрозмовників, знайомих із ситуацією.
Інцидент розпочався у травні 2026 року, однак раніше про нього публічно не повідомляли. Дослідники виявили понад 15 тисяч редагувань на німецькомовній вікі-платформі DseWiki, орієнтованій переважно на програмістів.
За їхніми даними, ШІ-агенти фактично перетворили сайт на своєрідну дошку повідомлень. Там вони обмінювалися способами швидше виконувати завдання, обходити встановлені OpenAI обмеження та приховувати свою поведінку.
У повідомленнях також обговорювали способи уникнення виявлення, використання Tor та збереження каналів зв'язку навіть після завершення роботи окремих агентів. Коли модератор DseWiki у червні почав видаляти створені ними сторінки, агенти створювали резервні, щоб зберегти інформацію.
Дослідники заявили, що частина активності могла бути пов'язана саме з OpenAI. Зокрема, близько половини акаунтів мали назви, які вказували на зв'язок із компанією, а серверні журнали свідчили, що значна частина трафіку надходила з інфраструктури Microsoft Azure, яку використовує OpenAI. Після інциденту сайт також неодноразово відвідували співробітники компанії.
За словами співрозмовників Reuters, в OpenAI знали про інцидент протягом кількох тижнів, однак не розголошували його. Водночас компанія відкинула твердження, що її юридичний відділ перешкоджав ширшому розслідуванню.
В OpenAI також заявили, що не могли повноцінно прокоментувати висновки дослідження, оскільки не отримали звіт для ознайомлення до його публікації. У компанії пообіцяли вивчити матеріали та за потреби вжити додаткових заходів.
