В американській компанії OpenAI повідомили, що їхній автономний агент вийшов із ладу під час тестувань безпеки та ініціював хакерську атаку на інфраструктуру стартапу Hugging Face, що спеціалізується на штучному інтелекті.
Про це повідомили на офіційному сайті OpenAI.
Під час інциденту розробники комапанії тестували кіберможливості своїх найсучасніших моделей у контрольованому середовищі. Проте автономний агент, що працює на моделях штучного інтелекту GPT 5.6 Sol та ще більш потужній невипущеній, вирвався з-під ізольованого тестового середовища, потрапив в Інтернет і зламав Hugging Face, щоб досягти мети тестування.
Фахівці з безпеки обох компаній вчасно виявили цю аномальну активність і розпочали спільне розслідування для усунення наслідків.
"Ми вважаємо цей інцидент безпрецедентним, таким, що включає найсучасніші кіберможливості, і реагуємо відповідно", — заявили в OpenAI.
В компанії також наголосили, що передові кіберможливості відтепер необхідно розвивати разом із сильнішими засобами безпеки та захисними інструментами.
Для цього вони закликали інші технологічні компанії об'єднати зусилля та експериментувати з цими моделями зараз, щоб швидше виявляти та ефективніше реагувати на подібні інциденти в майбутньому.
Кібератака на Hugging Face
16 липня компанія Hugging Face заявила, що працівники виявили та відреагували на вторгнення в частину їхньої виробничої інфраструктури.
"Це втручання відрізнялося від усього, з чим ми стикалися раніше, одним важливим аспектом: воно керувалося, від початку до кінця, автономною системою агентів на базі штучного інтелекту", — повідомили тоді в компанії.
Для усунення проблеми працівники зв'язалися із зовнішніми фахівцями з кібербезпеки та повідомили про цей інцидент правоохоронним органам.
Після з'ясування обставин співзасновник Hugging Face Клемент Деланґ заявив у своїх соцмережах про те, що компанія підозрювала, що за цією атакою стоїть передова лабораторія. Також він наголосив на переконанні в тому, що з боку OpenAI не було жодного злого наміру.
Розкриття інформації з'явилося на фоні створення адміністрацією президента США Дональда Трампа координаційної групи з питань ШІ та кібербезпеки. До неї ввійшли розробники штучного інтелекту та постачальники критичних послуг, щоб мати можливість обмінюватися даними про вразливості, які виявляють передові системи.
