Штучний інтелект у медицині завдав шкоди десяткам пацієнтів

Штучний інтелект швидко додають у медичні пристрої, обіцяючи точнішу діагностику й безпечніші втручання. Водночас у звітах накопичуються повідомлення про збої систем під час процедур і випадки ймовірної шкоди пацієнтам.

Про це пише Reuters.

Як штучний інтелект у медицині покалічив десятки пацієнтів

У 2021 році підрозділ Johnson & Johnson представив оновлення навігаційної системи TruDi для операцій при хронічному синуситі. До цього в регулятора були непідтверджені повідомлення про сім збоїв і один випадок травмування пацієнта. Після інтеграції ШІ кількість таких непідтверджених звітів зросла щонайменше до сотні, включно з інцидентами під час втручань.

Між кінцем 2021 року та листопадом 2025 року щонайменше десятеро людей могли зазнати ушкоджень. У більшості описаних випадків система нібито некоректно "показувала" хірургам, де саме перебувають інструменти, поки ті працювали в порожнині черепа. Серед наслідків, які фігурують у звітах: витік спинномозкової рідини через ніс, прокол основи черепа та інсульти після випадкового ушкодження великої артерії.

Ще один приклад — імплантовані кардіомонітори Medtronic серії LINQ із deep learning-алгоритмами: у звітах до FDA йшлося про пропуски порушень ритму або пауз. Виробник заявив, що переглянув 16 епізодів і дійшов висновку: пристрій "пропустив" лише один випадок, а шкоди пацієнтам не зафіксували, а частину проблем компанія пов'язала з відображенням даних або плутаниною користувача.

Паралельно науковці проаналізували відгуки ринку й знайшли зв'язок між 60 FDA-дозволеними ШІ-пристроями та 182 відкликаннями продуктів. За їхніми даними, 43% відкликань сталися менш ніж за рік після отримання "зеленого світла", і це приблизно вдвічі вищий показник, ніж у всіх пристроїв, які проходили подібні регуляторні процедури.

Нагадаємо, штучний інтелект усе частіше замінює спеціалізовані застосунки для вивчення мов, адже здатен одночасно пояснювати граматику, допомагати з лексикою та відтворювати живі діалоги. Замість шаблонних вправ користувач отримує адаптивні підказки, що враховують рівень знань, обрану тему й реальні життєві ситуації.

Також ми писали, що штучний інтелект активно застосовують не лише для роботи з текстами, а й для підготовки презентацій. За допомогою правильно сформульованих промптів можна швидко створити проєкт будь-якої складності, охопивши всі ключові етапи підготовки.