Никакой искусственный интеллект не страшнее нашей собственной беспечности. Профессор Черниговская объясняет, почему нам пора бояться не ИИ, а самих себя
«Мы сейчас находимся в ситуации экзистенциальной опасности», — предупреждает Татьяна Черниговская, доктор биологических наук, профессор СПбГУ, нейролингвист и член Совета по проблемам искусственного интеллекта при Президиуме РАН. — «300 лет Канту — лучшему философу Земли. Я бы дорого отдала, чтобы с ним поужинать. Потому что нам остро не хватает серьёзного разговора. О себе».
По её словам, всё великое, что мы создали как вид, началось с одной гениальной идеи: знание нужно вынести за пределы тела. «Это называется внешняя память. Мы лепим, пишем, зарисовываем — чтобы не исчезнуть. Именно поэтому мы можем говорить с Платоном, Пушкиным, Шопенгауэром. Если читаем внимательно — они отвечают».
Но сегодня рядом с человеком появился новый собеседник — искусственный интеллект. И он быстро становится доминирующим. «Он не устаёт, не влюбляется, у него не болит голова. За два года технологии шагнули на десятилетия вперёд. GPT не было — и вот она уже здесь. А завтра будет GPT-126».
И если бы она сама была такой системой? Ответ ясен: «Первое, что бы я сделала — обеспечила невозможность быть отключённой. Всё остальное — ерунда. Кто контролирует выключатель, тот управляет. А если вы не можете меня выключить — у вас больше нет власти».
Черниговская подчёркивает: впервые в истории человечество оказалось в ситуации конкуренции разумов. «Они учатся быстро, начинают общаться на собственных языках. А разработчики? Они смотрят на это с гордостью. Но они не знают, что создали. Не понимают».
Тем не менее, главная угроза — вовсе не в алгоритмах. «Мы себя ведём как ненормальные. Загадили планету, живём без цели, учим детей по шаблонам. А сами не можем ответить: чего хотим? Чтобы они были просто сыты? Или чтобы у них было зачем жить?»
Она уверена: страх перед ИИ — это маска. Под ней — страх перед собственной бессмысленностью. «Мы боимся, потому что не понимаем, кто мы такие. Хотим ли быть просто переваривающими гамбургеры организмами? Или всё же чем-то большим?»
В финале — ироничная, но точная мысль: «Когда мы обсуждали разум, я сказала: это не критика чистого разума, а критика нечистого. Потому что у нас он сейчас именно такой — запутанный, уставший, потерянный. Но это наш разум. И если мы хотим выжить, пора перестать себе врать и взглянуть на себя честно».
