В научном мире разгорелся нешуточный спор: приведёт ли развитие искусственного интеллекта к гибели человечества или все страхи сильно преувеличены?
Одни эксперты рисуют апокалипсис, другие называют панику вредной.
Бывший сотрудник OpenAI Дэниел Кокотайло придумал сценарий «ИИ-2027»: сверхразум захватывает власть и уничтожает людей. Основатель ControlAI Андреа Миотти предупреждает: если машины станут умнее нас и выйдут из-под контроля, их действия войдут в противоречие с жизнью человечества. Специалист по управлению ИИ Джиллиан Хэдфилд признаётся: «Я никогда не был пессимистом, но в последние месяцы сильно занервничал».
Нейробиолог Гари Маркус из Нью-Йоркского университета уверен: ни один сценарий вымирания не выглядит обоснованным. Его коллеги добавляют: паника отвлекает от реальных проблем — фейков, слежки, подрыва образования и отупения людей.
Опросы спорят друг с другом. В одном исследовании лишь 3% специалистов назвали риск вымирания главной угрозой. В другом — уже 53% оценили вероятность катастрофы в 10%.
Энтони Агирре из Института будущего жизни указывает на стремительный прогресс ИИ. Кейси Мок из Университета Дьюка возражает: лабораторные успехи не гарантируют победы над хаосом реальной жизни.
Главный вопрос стратегии: бить тревогу по поводу гипотетического будущего или решать то, что ломается уже сейчас? Некоторые подозревают, что разговоры о «конце света» выгодны технологическим гигантам — так проще избегать регулирования.
Большинство сходится в одном: безопасностью ИИ надо заниматься уже сегодня, но опираться на факты, а не на голливуд. Однако технические методы контроля почти не финансируются, а законы только обсуждаются.
Зациклиться на апокалипсисе — забыть, как ИИ уже меняет общество, часто не в лучшую сторону. Сфокусироваться только на текущих рисках — недооценить долгосрочную угрозу. Искусственный интеллект, может, и не собирается нас убивать, а вот сделать глупее — вполне способен, сообщает nature.
