Перед звільненням Сема Альтмана кілька дослідників написали листа до ради директорів OpenAI, попереджаючи про потужне відкриття в розробці штучного інтелекту. Новаторство, на думку науковців, може загрожувати людству.
Про це повідомило Reuters із посиланням на власні джерела — двох обізнаних людей.
Аноніми повідомили, що новий алгоритм ШІ і став ключовою подією до звільнення гендиректора OpenAI. Правління непокоїлося, що комерційне використання технології розпочнеться до того, як фахівці зрозуміють наслідки цього відкриття.
Ідеться про проєкт Q* (Q-Star), який може виконувати математичні операції. Розробники давно думають, як створити так званий загальний штучний інтелект (artificial general intelligence, AGI), який перевершуватиме людей у більшості економічно цінних завдань.
Прорив, про який кажуть джерела Reuters, у майбутньому може бути успішним, хоча поки технологія Q* здатна розв'язувати лише задачі рівня початкової школи.
Науковці наразі вважають, що математика для генеративного ШІ — недоступна. Штучний інтелект вже добре навчився писати й перекладати, передбачаючи наступне слово. Але мова передбачає варіативність, а в математичних задачах є лише одна правильна відповідь. Якщо ШІ навчиться математики, це означатиме, що він краще вмітиме міркувати — подібні до людського інтелекту. Це може бути застосовано, наприклад, у нових наукових дослідженнях.
Отже, у своєму листі до ради директорів OpenAI дослідники наголосили на потенційній небезпеці такої розробки. Проте джерела Reuters не уточнили, про які безпекові моменти йдеться. Серед комп'ютерних науковців вже давно точаться дискусії про небезпеку, яку становить штучний інтелект. Наприклад, якщо він одного дня вирішить, що в його інтересах — знищення людства.
Що відомо про звільнення Сема Альтмана
18 листопада компанія OpenAI, яка є розробником нейромережі ChatGPT, заявила про відставку генерального директора Сема Альтмана. Місце Альтмана тимчасово зайняв директор з технологій компанії Міра Мураті.
У заяві компанії йшлося, що керівництво "не впевнене у його здатності продовжувати очолювати OpenAI", а сам колишній гендиректор "не завжди був відвертим у спілкуванні з радою директорів, що обмежує його здатність виконувати свої обов'язки".
Новина про звільнення Альтмана викликала шок у технологічній індустрії. Після цього три старші дослідники OpenAI — Якуб Пахоцкі, Олександр Мадрі та Шимон Сідор — повідомили своїм колегам, що подали у відставку. Окрім того, звільнився і співзасновник та топменеджер OpenAI Грег Брокман.
Згодом стало відомо, що Рада директорів компанії OpenAI веде переговори із Семом Альтманом про його повернення на посаду генерального директора.
Після звільнення гендиректора сотні співробітників OpenAI підписали листа, де погрожували звільнитися й піти працювати в Microsoft, якщо Альтмана не повернуть. А також вимагали відставки ради директорів.
22 листопада OpenAI оголосила, що Альтман повертається до компанії.
