З кінця 2021 року до листопада 2025 року щонайменше десятеро людей зазнали ушкоджень через ШІ
Виробники медичного устаткування прагнуть інтегрувати штучний інтелект у власні вироби. Незважаючи на те, що прихильники запевняють, що інноваційна технологія докорінно змінить медицину, органи регулювання отримують дедалі більше повідомлень про травми у пацієнтів. Про це інформує «Главком», посилаючись на Reuters.
У 2021 році підрозділ медичного гіганта Johnson&Johnson заявив про «прорив»: він додав штучний інтелект до медичного пристрою, який використовується для лікування хронічного синуситу, запалення носових пазух. Acclarent запевнив, що програмне забезпечення для його навігаційної системи TruDi тепер застосовуватиме алгоритм машинного навчання, аби сприяти спеціалістам з вуха, горла і носа під час хірургічних втручань.
Прилад уже був доступний на ринку майже три роки. До цього часу Управління з нагляду за якістю харчових продуктів і лікарських засобів США (FDA) отримало непідтверджені звіти про сім випадків несправності пристрою та ще одну інформацію про ушкодження пацієнта. Після інтеграції штучного інтелекту в пристрій FDA отримало неофіційні повідомлення про щонайменше сотню випадків поломки та небажаних наслідків.
На що нарікали пацієнти?
Відповідно до повідомлень, починаючи з кінця 2021 року й до листопада 2025 року, щонайменше десятеро людей отримали травми. Переважна кількість випадків, як стверджується, пов’язана з помилками, коли навігаційна система TruDi надавала хірургам неточну інформацію про місцезнаходження їхніх інструментів під час операцій у головах пацієнтів.
Згідно з інформацією, в одного пацієнта з носа витікала цереброспінальна рідина. В іншому випадку хірург випадково проколов основу черепа пацієнта. У ще двох випадках пацієнти, за повідомленнями, перенесли інсульти після ненавмисного пошкодження великої артерії.
Двоє постраждалих від інсульту подали позови в Техасі, запевняючи, що штучний інтелект системи TruDi сприяв їхнім ушкодженням.
Заява компанії
На питання про звіти FDA щодо приладу TruDi компанія Johnson & Johnson перенаправила питання до Integra LifeSciences, яка у 2024 році придбала Acclarent і навігаційну систему TruDi. Integra LifeSciences заявила, що звіти «лише вказують на те, що система TruDi використовувалася під час операції, в ході якої трапився небажаний інцидент». Компанія додала, що «немає переконливих доказів, які б засвідчували будь-який причинно-наслідковий зв’язок між навігаційною системою TruDi, технологією штучного інтелекту та будь-якими можливими травмами».
Інші медичні прилади
TruDi – не єдиний медичний апарат з елементами штучного інтелекту, дієвість якого викликає сумніви. FDA повідомляє про безліч аналогічних випадків із іншими ШІ-рішеннями. Серед них – кардіомонітор, який, за інформацією, не зафіксував загрозливі порушення серцевого ритму, а також ультразвуковий апарат, що хибно визначав частини тіла плода.
Згідно з результатами досліджень, 60 медичних пристроїв із використанням ШІ були пов’язані зі 182 випадками відкликання продукції, схваленої FDA. При цьому 43% подібних випадків трапилися менше ніж через рік після отримання дозволу на застосування.
До речі, жінка ледь не померла після того, як ChatGPT надала їй невірну консультацію стосовно отруйної рослини. Про це розповіла YouTube-блогерка Крісті у власному акаунті в Instagram.