Штучний інтелект дедалі активніше застосовують у хірургії та діагностиці, однак разом із цим зростає кількість повідомлень про технічні збої. У звітах FDA йдеться про помилки навігаційних систем під час операцій, неточності пренатального УЗД та некоректне розпізнавання серцевих ритмів.
Про це пише інформаційне агентство Reuters з посиланням на документи FDA.
У 2021 році Acclarent, що входить до гіганта охорони здоров'я Johnson & Johnson, оголосив про "стрибок уперед" у сфері медичного обладнання. Компанія додала штучний інтелект до свого апарату TruDi Navigation System, який використовують для лікування хронічного синуситуЗапалення слизової оболонки однієї або кількох навколоносових пазух, що супроводжується набряком, порушенням відтоку слизу та його накопиченням.. Таким чином, нейромережа має допомагати лікарям під час операцій, проте лікарі стикнулися з певними проблемами зі боку штучного асистента.
До запровадження ШІ-технологій в обладнанні апарат був на ринку вже три роки. До цього моменту Управління з контролю за продуктами та ліками США (FDA) отримало непідтверджені звіти про сім випадків несправностей пристрою і ще один — про травму пацієнта. Проте після додавання ШІ до пристрою FDA отримало непідтверджені звіти про щонайменше 100 інцидентів.
Згідно з документами, більшість випадків нібито пов’язана з тим, що система TruDi неправильно повідомляла хірургам місцеперебування їхніх інструментів під час операцій у голові пацієнта.
Повідомляється, що у одного пацієнта спинномозкова рідина витекла з носа, а в іншого — хірург випадково проколов основу черепа пацієнта. У ще двох випадках пацієнти нібито перенесли інсульт після випадкового пошкодження великої артерії. Ці потерпілі подали судові позови в Техасі, стверджуючи, що саме ШІ-системи TruDi спричинили їхні травми.
Коли журналісти звернулися до Integra LifeSciences, власниці Acclarent та системи TruDi, там заявили, що у звітах лише зазначений факт: TruDi використовували під час операції, "після якої стався побічний ефект".
Водночас у компанії наголосили, що немає переконливих доказів того, що саме ця система або її технологія штучного інтелекту спричинила травми пацієнтів.
Приклади збоїв під час обстежень та досліджень
Reuters з’ясувало, що з 2021 року до жовтня 2025-го до FDA подали щонайменше 1 401 звіт щодо медичних пристроїв на базі ШІ. Там зазначають, що цей список не є повним. FDA повідомляє, що нині понад 1 357 медичних пристроїв з ШІ авторизовані, а це вдвічі більше, ніж у 2022 році. Серед них є не лише TruDi, а й інші ШІ-системи для діагностики й моніторингу.
Приблизно 115 звітів згадують проблеми із програмним забезпеченням, алгоритмами або програмуванням. Декілька інцидентів, які згодуються у звітах:
Випадок І
У звіті за червень 2025 року зазначається, що програмне забезпечення зі штучним інтелектом для пренатального (дородового) УЗД некоректно визначило частини тіла плода. Йдеться про систему Sonio Detect, яка застосовує алгоритми машинного навчання для аналізу ультразвукових зображень.
У документі вказано, що алгоритм Sonio Detect працює з помилками: неправильно позначає анатомічні структури плода та співвідносить їх із іншими частинами тіла. Водночас там не повідомляється про випадки шкоди для пацієнтів.
Випадок ІІ
Щонайменше у 16 повідомленнях до FDA йшлося про те, що кардіомонітори на основі штучного інтелекту від Medtronic не розпізнавали аномальні серцеві ритми або паузи. У компанії кажуть, що частина інцидентів може бути через помилки саме користувачів.
Компанія перевірила всі 16 випадків і встановила: лише в одному епізоді пристрій не зафіксував аномальний ритм, і жоден випадок не призвів до шкоди пацієнтам. У Medtronic також зазначили, що окремі проблеми стосувалися відображення даних, а не роботи алгоритму AccuRhythm AI, який, за інформацією на сайті, зменшує кількість хибних сповіщень, але може помилятися в класифікації ритмів.
Reuters зазначає, що штучний інтелект у медицині починає трансформувати галузь — технології застосовують для покращення діагностики, пошуку нових ліків і підтримки рішень у хірургії. Проте аналіз безпеки і правові записи показують потенційні ризики і недоліки регуляторного нагляду під час того, як виробники та розробники прагнуть швидко виводити ШІ-продукти на ринок.
Науковці FDA вказують, що бум штучного інтелекту створює проблему для агентства. Воно намагається встигати за потоком медичних пристроїв на базі ШІ, які шукають схвалення, після втрати ключового персоналу. Речник Міністерства охорони здоров'я та соціальних служб США заявив, що відомство прагне розширити свої можливості в цій галузі.
Експерти та вчені кажуть: штучний інтелект має потенціал бути корисним, але регуляторним підходам бракує можливостей і ресурсів, щоб ефективно оцінювати і контролювати нові ШІ-технології в медицині.
