Эксперты составили рейтинг угроз искусственного интеллекта

Искусственный интеллект может стать источником серьезных угроз, если его развитие и применение не будут сопровождаться эффективными механизмами контроля. Об этом сообщает BBC со ссылкой на исследование экспертов по ИИ.

Согласно опросу 272 специалистов, проведенному лабораторией MIT, вероятность катастрофического сценария из-за искусственного интеллекта оценивается примерно в 10%, а при отсутствии ограничений и регулирования может превышать 20%.

Эксперты рассмотрели 24 возможных риска и определили вероятность их наступления до 2030 года. К катастрофическим последствиям отнесли, в частности, гибель более 1 млн человек, экономический ущерб свыше $100 млрд или угрозы цивилизационного масштаба.

Главной угрозой специалисты назвали возможность выхода ИИ из-под контроля — например, из-за технических ошибок, действий злоумышленников или несоответствия целей системы интересам человека. Среди потенциальных рисков также называются создание оружия, кибератаки, массовая манипуляция обществом и вмешательство в политические процессы.

Угроза массовой безработицы заняла лишь четвертое место в рейтинге, уступив рискам, связанным с неконтролируемым развитием ИИ и концентрацией передовых технологий в руках ограниченного числа организаций.

Эксперты отмечают, что, несмотря на растущую обеспокоенность общества, системы регулирования искусственного интеллекта пока остаются недостаточно развитыми. По их мнению, необходимы международные стандарты безопасности, механизмы контроля и ответственность разработчиков, чтобы снизить потенциальные угрозы от стремительного развития ИИ.