Ілон Маск і група експертів зі штучного інтелекту та представників індустрії у відкритому листі закликають до шестимісячної паузи у розробці систем, потужніших за нещодавно розроблений OpenAI GPT-4, вказуючи на потенційні ризики для суспільства та людства. Про це 29 березня повідомило видання Reuters.
"Системи ШІ, що конкурують з інтелектом людини, можуть становити серйозну небезпеку для суспільства і людства, як показали великі дослідження і визнано провідними лабораторіями штучного інтелекту", – йдеться в листі.
У листі детально описані потенційні ризики для суспільства і цивілізації, які несуть системи ШІ, що конкурують з людиною, у вигляді економічних і політичних потрясінь, а також міститься заклик до розробників співпрацювати з політиками в питаннях управління і регуляторних органів.
Лист опубліковано некомерційним інститутом Future of Life і підписано відомими в IT-індустрії людьми, серед яких Ілон Маск, один із засновників Apple Стів Возняк, ізраїльський історик Юваль Ной Харарі, співзасновник Pinterest Еван Шарп, дослідники компанії DeepMind, один з "хрещених батьків ШІ" Йошуа Бенжіо, піонер досліджень штучного інтелекту Стюарт Рассел та багато інших.
Усі вони закликали "поставити на паузу" розробку ШІ до того, як для галузі буде розроблено загальні протоколи і стандарти безпеки, застосування яких перевірятимуть незалежні аудитори. У зверненні також зазначено, що такі рішення не повинні довірятися лідерам технологічної галузі, яких ніхто не обирав.
Лист опубліковано після того, як до групи занепокоєних розвитком ШІ приєднався ЄврополЄвропейське поліцейське управління — установа правопорядку Європейського Союзу; збирає інформацію щодо кримінальних злочинів., який попередив про можливість зловживання зловмисниками системами на кшталт ChatGPT – їх можна використовувати для фішингу, дезінформації та скоєння кіберзлочинів. Ілон Маск, чия компанія Tesla доволі давно використовує елементи штучного інтелекту у своїх системах автопілота, відкрито та неодноразово висловлював занепокоєння небезпекою АІ-систем.
Раніше цього місяця компанія OpenAI за підтримки Microsoft представила четверту ітерацію своєї програми ШІ GPT (Generative Pre-trained Transformer), яка вразила користувачів своїм широким спектром застосувань – від спілкування в людському стилі до написання пісень і узагальнення довжелезних документів.
Компанії почали наспіх інтегрувати технології штучного інтелекту в свої продукти. Глава OpenAI Сем Альтман (Sam Altman), за даними представника Future of Life, лист не підписував, а в самій компанії відмовилися від коментарів.
Читайте також: Штучний інтелект ChatGPT відподає на питання з анкети Пруста та пісні Стаса Корольова
Що таке ChatGPT
ChatGPT (Generative Pre-trained Transformer) — чат-бот зі штучним інтелектом, розроблений OpenAI — дослідницька лабораторія, що вивчає штучний інтелект. Серед її співвласників Ілон Маск.
Чат-бот може генерувати тексти на задані теми і відповідати на питання зрозумілою мовою. ChatGPT вважають найпрофесійнішим чат-ботом, але він може давати неправдиву та упереджену відповідь.
"Попри те, що ми вживаємо заходів безпеки, система може час від часу генерувати неправильну або оманливу інформацію та створювати образливий або упереджений вміст", — повідомляють в GPT.
ChatGPT представили наприкінці листопада 2022 року, за тиждень бот мав понад 1 млн користувачів. У січні 2023-го ChatGPT досяг 100 млн активних користувачів. Спочатку бот був доступний безплатно, згодом компанія заявила про запуск підписки на ChatGPT у США вартістю $20.
Розробник чат-бота заборонив деяким окремим країнам користуватися своїми сервісами відповідно накладених санкцій, тож в Росії він недоступний.
18 лютого міністр цифрової трансформації України Михайло Федоров повідомив, що ChatGPT доступний і в Україні.
Читайте нас у Facebook і Telegram, дивіться наш YouTube
Станьте частиною Суспільне Культура: напишіть нам про цікаві події культурного життя вашого міста чи селища. Надсилайте свої фото, відео та новини і ми опублікуємо їх на діджитал-платформах Суспільного. Пишіть нам на пошту: [email protected]. Ваші історії важливі для нас!
