По меньшей мере 10 топ-менеджеров крупнейших компаний, занимающихся разработкой искусственного интеллекта (ИИ), покинули свои рабочие места из-за страха создания инструмента для уничтожения человечества, сообщает Axios. Как показало исследование агентства, речь о сотрудниках таких компаний, как OpenAI и Google. Они увольняются именно по этическим причинам.
Теперь из-за ИИ тревожатся не только скептики, но и профессионалы, во многом потому, что становятся свидетелями интересного и одновременно пугающего процесса — ИИ-системы начинают «думать» и действовать как сами люди. Даже Илон Маск оценивает риск уничтожения мира ИИ в 20%, сообщают журналисты. Другие эксперты – генеральный директор Google Сундар Пичаи тоже признает, что риск гибели человечества от новых технологий может оказаться крайне высоким, Лекс Фридман, исследователь ИИ, оценивает его в 10%.
Выходит, даже те, кто создают ИИ, говорят, что не понимают его до конца и при этом открыто называют вероятность глобальной катастрофы. Агентство пишет: «представьте самолет, в котором 1 шанс из 5 – разбиться. Сели бы вы на него?»
Когда-то подобные сценарии были уделом научной фантастики. Теперь это предмет обсуждения на совещаниях внутри Google, OpenAI и Meta.
