Кибербезопасность. OpenAI приостановила обучение новых моделей ИИ из-за рисков

OpenAI объявила, что на две недели приостановила обучение новых моделей ИИ из-за рисков в сфере кибербезопасности. Об этом говорится в заявлении, опубликованном на сайте компании.
Решение объясняется "инцидентом с OpenAI и Hugging Face", а также предварительными данными о том, что разрабатываемая модель Astra может достичь "критического уровня" возможностей в сфере кибербезопасности.
В компании намерены усилить системы контроля и защиты.
Указано, что по мере роста возможностей ИИ-моделей увеличиваются и риски, связанные с их разработкой и тестированием, поэтому стандарты мониторинга и безопасности должны их опережать.
"Мы хотели уделить необходимое время для достижения этих стандартов, поэтому временно замедлили темпы масштабирования", - говорится в сообщении.
В OpenAI пояснили, что использовали двухнедельную паузу для усиления защиты исследовательской инфраструктуры, дополнительного тестирования систем безопасности и расширения мониторинга.
Для моделей Astra и связанных с кибербезопасностью разработок OpenAI вводит наиболее строгие требования к защите исследовательской среды. Они включают изоляцию рабочих нагрузок, дополнительные ограничения сетевого доступа и постоянное тестирование систем безопасности.