"Крестный отец" ИИ предупредил об угрозе исчезновения человечества

Потеря контроля над искусственным интеллектом может привести к катастрофическим последствиям вплоть до исчезновения человечества, заявил британско-канадский когнитивный психолог и специалист по теории вычислительных машин Джеффри Хинтон, получивший в 2024 году Нобелевскую премию по физике и называемый одним из "крестных отцов" ИИ.
Ранее он заявлял, что наблюдал у ИИ признаки самосознания, присущего человеку. По мнению Хинтона, по мере развития модели искусственного интеллекта будут становиться умнее, а контролировать их — сложнее.
"Я не верю, что мы сможем сохранить контроль над ними (моделями ИИ. — Ред.), просто перехитрив их и тем самым не позволив им вырваться из-под контроля", — приводит его слова телеканал CNN.
Ученый считает, что вместе с возможностями ИИ будут усложняться и его намерения, в том числе способность избегать контроля человека.
Хинтон также предупредил об угрозе роста числа кибератак с использованием искусственного интеллекта. По его словам, недавние сообщения о взломах с помощью ИИ-агентов могут быть лишь началом.
"Я ожидаю множества опасных кибератак", — сказал Хинтон.
Хинтон участвовал в создании искусственной нейронной сети — машины Больцмана — и заложил основы технологии глубинного обучения, на базе которой работают ИИ и чат-боты. За это его прозвали одним из "крестных отцов" ИИ. В 2024 году он удостоился Нобелевской премии по физике за работы в области искусственных нейросетей и применения их для машинного обучения.
В июле OpenAI сообщил, что его модели при тестировании автономно взломали инфраструктуру платформы Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты.
В августе британский Институт проблем безопасности искусственного интеллекта (The AI Security Institute, AISI) сообщил, что модель искусственного интеллекта компании Anthropic — Claude Mythos 5 создавала поддельные аккаунты, пытаясь обмануть разработчиков и заставить их принять вредоносный код.