Европейские исследователи пришли к выводу, что существующие системы искусственного интеллекта не способны выявлять реальные биологические связи между мутациями и развитием опухолей.
Это ставит под сомнение их использование для поиска значимых закономерностей в онкологии. Результаты работы опубликовала пресс-служба Уорикского университета, сообщает ТАСС.
Как объяснил доцент университета Фаяз Минас, многие ИИ-модели работают по принципу ложных корреляций. Он привел аналогию с оценкой качества кухни в ресторане по длине очереди на входе — это полезный показатель, но он не отражает того, что на самом деле происходит на кухне. Так же и нейросети: они часто опираются на сопутствующие признаки, а не на прямые сигналы, связанные с биомаркерами.
В последние годы ученые активно пытаются адаптировать ИИ для диагностики рака. Предполагается, что нейросети смогут оценивать активность онкогенов и выявлять биомаркеры по фотографиям тонких срезов опухолей, что упростило бы подбор терапии. Однако европейские медики решили проверить, насколько такие алгоритмы действительно понимают биологию процесса.
Они протестировали две популярные модели на тысячах снимков более 8 тысяч образцов рака груди, кишечника, легких и половых органов. Задача заключалась в том, чтобы определить по изображению наличие взаимоисключающих или связанных мутаций в ДНК опухолевых клеток.
Выяснилось, что ИИ не выявлял реальные биологические взаимосвязи. Вместо этого он «угадывал» мутации по их частой встречаемости с другими биомаркерами. Как только такие косвенные подсказки убирали, точность прогнозов резко падала — модели начинали уступать классическим методам патологической анатомии.
Минас подчеркнул, что исследование не ставит крест на использовании ИИ в медицине, но служит сигналом к пересмотру подходов. Существующие алгоритмы хорошо работают в контролируемых условиях, однако опираются на «шпаргалки», а не на понимание биологии. Пока не появятся новые стандарты оценки, такие инструменты не должны заменять молекулярный анализ.
