Создатели ИИ просчитывают реакции на возможную киберкатастрофу — Axios

Руководители крупнейших американских компаний в сфере искусственного интеллекта проводят закрытые учения, в ходе которых рассматривают возможные последствия масштабных кибератак и реакцию общества на подобные инциденты. Об этом сообщает Axios.
По данным издания, среди тех, кто обеспокоен потенциальными угрозами, — глава OpenAI Сэм Альтман и руководитель Anthropic Дарио Амодеи. Представители индустрии допускают, что крупная кибератака может нарушить работу банковской системы, интернета и электросетей. В отрасли также опасаются, что подобный кризис вызовет недовольство граждан действиями разработчиков ИИ и администрации президента США Дональда Трампа на фоне недостаточного, по мнению критиков, государственного регулирования этой сферы.
В OpenAI подтвердили проведение учений по подготовке к различным чрезвычайным ситуациям. Представитель компании подчеркнул, что рассматриваемые сценарии не считаются неизбежными, а нужны для оценки возможных угроз и отработки мер реагирования.
Как отмечает Axios, в случае серьезного инцидента демократы в Конгрессе США могут выступить за ограничение передовых технологий, вплоть до запрета систем сверхразумного искусственного интеллекта. Идею создания механизма экстренного отключения наиболее мощных ИИ-систем, по данным издания, поддерживают представители обеих партий и часть бизнеса.
Вместе с тем эксперты сомневаются, что запреты окажутся эффективными. Среди причин называют распространение открытых ИИ-моделей и растущую зависимость мировой экономики от этих технологий.
Дополнительную обеспокоенность вызвала недавняя кибератака на южнокорейские банки. Согласно данным компании CrowdStrike, хакер из Китая использовал местные модели искусственного интеллекта, в том числе DeepSeek, для кражи данных десятков тысяч клиентов. Позже он обратился к Claude Code с просьбой помочь найти площадки для продажи похищенной информации.
В Anthropic отказались комментировать ситуацию, сообщает Axios.
На фоне этих опасений продолжаются и дискуссии об экономических рисках развития отрасли. В начале октября основатель инвестиционной компании Bridgewater Associates Рэй Далио сравнил рынок искусственного интеллекта с классическим финансовым пузырем и предупредил об опасности накопления огромных долгов для финансирования этой сферы.