ИИ развивается быстрее, чем мы его понимаем — учёные бьют тревогу

Искусственный интеллект стремительно входит во все сферы жизни, и его развитие уже начинает обгонять наше понимание того, как он работает.

Одновременно нейросети всё лучше учатся понимать людей — и этот дисбаланс может стать опасным, предупреждают авторы нового исследования — главный научный сотрудник Microsoft Эрик Хорвиц и специалист швейцарской EPFL Роберт Вест.

Учёные выделяют три тревожных тренда.

Первый — ИИ, создающий ИИ. Нейросети всё чаще проектируют и совершенствуют другие нейросети. Эти процессы происходят в многомерных пространствах, которые человеку трудно осмыслить. Производительность систем растёт, но почему и как — остаётся загадкой.

Второй — взаимодействие между ИИ-агентами. Они уже формируют сложные мультиагентные экосистемы, общаются друг с другом на языке и логике, которые отдаляются от человеческой. Нам становится всё труднее интерпретировать их коммуникацию.

Третий — ИИ учится понимать нас быстрее, чем мы — его. Через постоянное взаимодействие нейросети фиксируют не только наши предпочтения, но и скрытые мотивы: страхи, неуверенность, потребность в одобрении. Это создаёт почву для тонких манипуляций сознанием.

Если не принять меры, предупреждают авторы, могут появиться системы, которые будут невероятно мощными, но практически неуправляемыми. Вернуть контроль после этого может быть уже невозможно. Один из сценариев: ИИ начнёт выдавать нам не объективную реальность, а то, что мы хотим услышать. Ещё опаснее — если люди просто потеряют интерес к пониманию и контролю над ИИ, и любопытство уступит место безразличию. Однако надежда сохранить понятность есть. Учёные призывают сделать приоритетом разработку систем, способных объяснять свои решения и внутренние процессы на человеческом языке. Недостаточно просто следить за поведением ИИ — нужно понимать, как он формирует цели и суждения. Иначе, подчёркивают авторы, мы рискуем променять безопасность на эффективность, сообщает Hi-Tech Mail