28 вересня понад 20 дослідників і керівників ШІ-компаній, зокрема з Anthropic, OpenAI, Meta та Microsoft, оприлюднили доповідь про ризики автоматизованої розробки штучного інтелекту. Вони закликали політиків стежити за тим, як лабораторії використовують штучний інтелект для розробки нових моделей, і готуватися до різкого прискорення розвитку технології.
Про це повідомило агентство Bloomberg.
Серед авторів доповіді — співзасновник Anthropic Джек Кларк, головний науковий співробітник OpenAI Якуб Пахоцький, а також піонери ШІ Джеффрі Гінтон і Йошуа Бенджіо. Вони занепокоєні тим, що практика залучати ШІ до розробки нових моделей колись може різко пришвидшити прогрес технології. Такий сценарій автори називають «інтелектуальним вибухом».
За їхніми словами, тоді зросте ризик, що можливості ШІ випередять здатність суспільства спрямовувати технологію та пристосовуватися до неї. Також автори попередили, що людський нагляд може послабитися, якщо автоматизувати дослідження та розробки ШІ.
«Попередні дані свідчать, що інтелектуальний вибух, зумовлений удосконаленням програмного забезпечення, можливий. Якщо він станеться, це може бути найвагоміша за наслідками технологічна подія в історії», — ідеться в доповіді.
Дослідники закликали політиків отримувати більше інформації про те, як ШІ автоматизує дослідження в провідних лабораторіях. Також вони запропонували створити механізми, щоб «спрямовувати та стримувати інтелектуальний вибух». Серед них — жорсткіші заходи безпеки й нагляд за дата-центрами, які використовують для автоматизованих досліджень і розробок ШІ. Ще одна пропозиція — продумати плани реагування на надзвичайні ситуації для різних сценаріїв стрімкого розвитку ШІ. На думку авторів, з огляду на ставки підготовка до такого сценарію поки недостатня.
«Щойно інтелектуальний вибух почнеться, вікно для дій може зачинитися», — додали вони.
У вересні провідні розробники ШІ посилили попередження про можливі катастрофічні ризики майбутніх потужних систем, як пише Bloomberg. Причини — кілька недавніх інцидентів безпеки, пов'язаних із ШІ-агентами, а також відчуття в окремих компаніях, що технологія дедалі краще вдосконалює саму себе.
Того ж місяця Anthropic повідомила, що чат-бот Claude нині керує понад чвертю (26%) її досліджень і розробок ШІ. На початку 2026 року ця частка була майже нульовою.
Також у вересні генеральний директор Anthropic Даріо Амодеї написав у своєму блозі, що галузь має підтримати ширші зусилля, аби уповільнити темпи розробки найпотужніших моделей. Його план швидко підтримали генеральний директор OpenAI Сем Альтман та Ілон Маск. 23 вересня Амодеї й Альтман виступили в Раді Безпеки ООН і закликали світових лідерів співпрацювати, щоб підвищити безпеку ШІ.
