Компанії-розробники штучного інтелекту (ШІ) OpenAI, Anthropic і Google працюють над ідеєю спільного саморегульованого органу, який встановлюватиме стандарти для галузі. Ініціатива з'явилася на тлі зростання занепокоєння через ризики, які створює розвиток ШІ.
Про це стало відомо із заяви OpenAI, передає суспільний французький телеканал France 24.
OpenAI оголосила про співпрацю з Anthropic і Google 15 вересня. Ідея належить керівнику Google DeepMind Демісу Хассабісу, який запропонував створити орган саморегулювання за зразком Управління з регулювання фінансової галузі США (FINRA), яке наглядає за брокерами та інвестиційними компаніями.
У липні Хассабіс закликав створити у США організацію, яка тестуватиме найпотужніші ШІ-системи до того, як їх отримають користувачі. На його думку, гроші на неї мають давати переважно компанії з галузі.
«Фінансування має бути значним [...], щоб залучити найкращих технічних фахівців і забезпечити обчислювальні потужності для масштабного тестування», — написав Хассабіс.
Єдиного бачення, яким має бути такий орган, поки немає. Співзасновник і генеральний директор канадської компанії Cohere Ейдан Гомес звинуватив провідні американські компанії в тому, що вони під приводом безпеки утворюють «картель».
«ШІ потрібні запобіжники. Сперечаються не про це, і так було завжди. Суперечка в тому, хто пише правила, кого допускають до участі та чиї інтереси вони захищають», — написав Гомес у блозі 13 вересня.
Останніми тижнями посилилося занепокоєння ризиками, які створює штучний інтелект. Про небезпеку, зокрема, попередили двоє людей, які пішли з великих компаній-розробників.
9 вересня з компанії Anthropic звільнився Джейкоб Коксон, який раніше працював в OpenAI. Він заявив, що компанії ШІ «грають із нашими життями». 14 вересня колишній дослідник Google DeepMind Білал Чугтаї підтримав застереження Коксона та інших.
«Я щиро вважаю, що ШІ здатен знищити нас усіх і що в нас може закінчуватися час, аби цьому запобігти», — написав Чугтаї в соцмережах.
12 вересня генеральний директор Anthropic Даріо Амодей закликав сповільнити розвиток ШІ. Цю думку поділяють очільник OpenAI Сем Альтман та Ілон Маск, найбагатша людина світу та засновник компанії-розробника ШІ xAI, що створила чат-бот Grok.
Президент США Дональд Трамп натомість назвав застереження про ризики ШІ «містифікацією». Також їх розкритикував генеральний директор Nvidia Дженсен Хуанг. 14 вересня на конференції в Лос-Анджелесі він назвав такі прогнози тривожними та безвідповідальними. За словами Хуанга, «похмурі сценарії» про те, що ШІ може знищити людство, «не ґрунтуються на науці».
