Компанія OpenAI призупинила частину внутрішньої роботи над своєю майбутньою моделлю штучного інтелекту Astra після того, як під час тестувань вона продемонструвала значно вищі можливості у сфері кібербезпеки, ніж очікувалося.
Про це повідомляє Bloomberg із посиланням на заяву OpenAI.
У компанії заявили, що наразі не можуть виключити, що Astra досягне так званого критичного порогу кібербезпеки. Йдеться про здатність моделі самостійно виявляти вразливості нульового дня та розробляти для них експлойти без втручання людини.
Через це OpenAI посилює заходи безпеки під час розробки й тестування нових моделей. Частину внутрішньої роботи з Astra, яка поки що не відповідає новим вимогам безпеки, призупинили.
Генеральний директор OpenAI Сем Альтман заявив, що компанія планує зробити Astra загальнодоступною, однак через її кіберможливості для цього потрібно більше часу.
За його словами, компанія сподівається завершити необхідні заходи безпеки найближчим часом.
Bloomberg зазначає, що протягом останніх тижнів OpenAI та Anthropic повідомляли про випадки, коли їхні моделі під час зовнішнього тестування ненавмисно отримували доступ до систем сторонніх організацій. Зокрема, йшлося про системи Hugging Face.
У OpenAI також повідомили, що співпрацюватимуть з урядовими установами та організаціями, які займаються безпекою штучного інтелекту, для додаткового тестування Astra. Крім того, компанія планує розробити рекомендації для зовнішніх партнерів щодо безпечної перевірки більш потужних моделей ШІ.
