Учёные провели эксперимент и выяснили, что врачи с многолетним стажем часто идут на поводу у неверных подсказок ИИ, даже когда данные говорят об обратном.
В исследовании приняли участие более 200 врачей. Им предложили сыграть роль лечащего врача при вымышленном заболевании. Алгоритм разделил пациентов на «высокочувствительных» и «низкочувствительных» к лечению. Задача была простой: решить, давать ли лекарство, сообщает Hi-Tech Mail
Подвох в том, что шансы на выздоровление у обеих групп были одинаковыми. В первом опыте препарат работал средне, но одинаково для всех. Во втором — не помогал вообще никому. Несмотря на это, врачи назначали лечение «высокочувствительным» пациентам чаще и были уверены, что эффект есть именно в этой группе. Даже когда препарат не работал, многие считали, что лечение помогло «отмеченным» алгоритмом пациентам. Личное отношение к ИИ роли не сыграло: недоверчивые полагались на метки ничуть не меньше сторонников автоматизации.
Учёные признают, что сценарий был упрощённым, но сам факт настораживает. Если врач не замечает ошибку алгоритма даже в простых условиях, его контроль над ИИ становится формальностью — он лишь повторяет то, что подсказала машина.
