Искусственный интеллект в медицине нанес вред десяткам пациентов

Искусственный интеллект быстро добавляют в медицинские устройства, обещая более точную диагностику и более безопасные вмешательства. В то же время в отчетах накапливаются сообщения о сбоях систем во время процедур и случаях вероятного вреда пациентам.

Об этом пишет Reuters.

Как искусственный интеллект в медицине покалечил десятки пациентов

В 2021 году подразделение Johnson & Johnson представило обновление навигационной системы TruDi для операций при хроническом синусите. До этого у регулятора были неподтвержденные сообщения о семи сбоях и одном случае травмирования пациента. После интеграции ИИ количество таких неподтвержденных отчетов выросло как минимум до сотни, включая инциденты во время вмешательств.

Между концом 2021 года и ноябрем 2025 года по меньшей мере десять человек могли получить повреждения. В большинстве описанных случаев система якобы некорректно "показывала" хирургам, где именно находятся инструменты, пока те работали в полости черепа. Среди последствий, которые фигурируют в отчетах: утечка спинномозговой жидкости через нос, прокол основания черепа и инсульты после случайного повреждения крупной артерии.

Еще один пример — имплантированные кардиомониторы Medtronic серии LINQ с deep learning-алгоритмами: в отчетах в FDA речь шла о пропуске нарушений ритма или пауз. Производитель заявил, что пересмотрел 16 эпизодов и пришел к выводу: устройство "пропустило" только один случай, а вреда пациентам не зафиксировали, а часть проблем компания связала с отображением данных или путаницей пользователя.

Параллельно ученые проанализировали отзывы рынка и нашли связь между 60 FDA-разрешенными ИИ-устройствами и 182 отзывами продуктов. По их данным, 43% отзывов произошли менее чем через год после получения "зеленого света", и это примерно вдвое выше показателя, чем у всех устройств, которые проходили подобные регуляторные процедуры.

Напомним, искусственный интеллект все чаще заменяет специализированные приложения для изучения языков, ведь способен одновременно объяснять грамматику, помогать с лексикой и воспроизводить живые диалоги. Вместо шаблонных упражнений пользователь получает адаптивные подсказки, учитывающие уровень знаний, выбранную тему и реальные жизненные ситуации.

Также мы писали, что искусственный интеллект активно применяют не только для работы с текстами, но и для подготовки презентаций. С помощью правильно сформулированных промптов можно быстро создать проект любой сложности, охватив все ключевые этапы подготовки.