Эксперты искусственного интеллекта требуют приостановить обучение нейросетей

Создатели искусственного интеллекта (ИИ) должны минимум на полгода остановить исследование мощных систем. Об этом говорится в открытом письме, опубликованном на сайте организации Future of Life. Свои подписи под обращением поставили глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Apple Стив Возняк, сооснователь Pinterest Эван Шарп, а также некоторые эксперты в области ИИ.
"Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Эта пауза должна быть публичной и действительной... Если такая приостановка не может быть быстро сделана, правительства должны вмешаться и ввести мораторий", - говорится в тексте.
В письме экспертного сообщества утверждается, что, согласно результатам крупных исследований, системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять опасность для общества.
Отмечается, что лаборатории и специалисты должны использовать предложенный перерыв для создания и внедрения набора протоколов безопасности для более мощных систем.
Авторы обращения также призвали разработчиков ИИ наладить сотрудничество с политиками для создания системы управления в этой области. Речь идет о новых регулирующих органах, надежной системе проверки и сертификации, а также контроле более продвинутых систем ИИ.
Как отмечают в письме эксперты, сейчас необходимый контроль не обеспечивается и лаборатории пытаются обогнать друг друга, разрабатывая все более мощные системы, чье поведение не могут предсказать даже создатели.