⚠️ Скрытая угроза: ИИ в медицине может ошибаться из-за расовой предвзятости — исследование MIT (6 фото)

Новое исследование MIT показало, что ИИ-модели в здравоохранении могут допускать ошибки из-за скрытых смещений в данных. Почему это опасно и что с этим делать — читайте в нашей статье.

 

Введение.

Искусственный интеллект всё чаще внедряется в системы здравоохранения. Он уже помогает распознавать заболевания на ранних стадиях, анализирует миллионы медицинских изображений за секунды и даже предсказывает риск развития серьёзных диагнозов. Однако за этой высокой скоростью и точностью скрываются риски, которые могут повлиять на здоровье миллионов пациентов. Новое исследование Массачусетского технологического института (MIT) раскрывает тревожные проблемы в этике и надежности ИИ в медицине.

 

Как ИИ распознаёт то, чего не видит человек?

Исследователи из MIT уже в 2022 году показали поразительный результат: нейросети могут "видеть" расу пациента на рентгеновских снимках, даже когда врач-радиолог не может этого сделать. Как? Никто до конца не знает — ИИ использует паттерны и корреляции, неочевидные для человека. Проблема в том, что такие скрытые признаки могут стать основой для принятия решений о диагнозе, влияя на справедливость и точность.

Теперь учёные пошли дальше и проверили, насколько ИИ устойчив к "переносу" — применению к данным из других больниц, регионов и групп пациентов. Результаты оказались настораживающими.

Что показало исследование?

Исследование, опубликованное в Nature Medicine, анализирует работу ИИ-моделей, обученных на медицинских изображениях (например, снимках грудной клетки). Удивительно, но даже передовые алгоритмы, успешно прошедшие проверку в одном медицинском учреждении, показывали падение точности и увеличение ошибок при диагностике в другом. Особенно это касалось пациентов из разных этнических групп или социально-экономических слоёв.

 

Почему это опасно?

ИИ, как ни странно, может быть "слепым" к тому, чего не учли его создатели. Он обучается на исторических данных — а те часто уже содержат предвзятости. Например, если в одной больнице традиционно чаще диагностировали определённое заболевание у мужчин, то ИИ перенимает этот "паттерн". И при использовании в другом регионе может недооценить риски для женщин — просто потому, что в обучающей выборке они были представлены иначе.

Это может означать: пациентам из одних групп диагноз будет ставиться точнее и быстрее, а другим — с ошибками. Такая "невидимая" несправедливость способна угрожать жизням.

 

Работают ли методы борьбы с предвзятостью?

Команда MIT протестировала ряд подходов: удаление демографических признаков из данных, балансировка по группам, адаптация моделей к разным подвыборкам. Эти методы помогали — но лишь в том случае, если новые данные были близки к тем, на которых модель обучалась. При серьёзных отличиях (например, другой континент или демография) эффективность резко падала.

Другими словами, ИИ пока плохо переносится между разными условиями. А значит, каждая больница должна проводить собственную проверку ИИ-моделей, прежде чем внедрять их в практику.

 

Что делать?

Исследователи рекомендуют:

• Не использовать ИИ-модели "вслепую", без локальной адаптации

• Проверять справедливость алгоритма на разных группах пациентов

• Учитывать расу, пол, возраст и другие факторы при тестировании

• Делать отчёты об ошибках и корректировать модели

ИИ может быть полезным союзником в медицине — но только при ответственном подходе. Машины учатся у нас, и если мы не следим за качеством их "обучения", ошибки могут быть системными.

 

Заключение.

Исследование MIT — важный сигнал для всего медицинского сообщества. Технологии ИИ невероятно мощны, но они не избавлены от искажений, заложенных в данных. Чтобы ИИ служил людям, его нужно тестировать, адаптировать и обучать с учётом этики. Это особенно важно в здравоохранении, где на кону — человеческие жизни.

ИИ не всевидящий оракул. Он просто отражает то, чему мы его научили. И если мы не хотим, чтобы он повторял наши ошибки — пора внимательнее смотреть в зеркало.

ИИ в медицине, MIT, искусственный интеллект, этика ИИ, диагностика, нейросети, медицина будущего, расовая предвзятость, здравоохранение, медицинские технологии, справедливость ИИ, Nature Medicine, адаптация моделей, ошибка алгоритма, технологии и человек