ИИ от OpenAI слил в сторонние хостинги изображения пользователей ChatGPT

OpenAI сообщила об утечке 53 изображений пользователей ChatGPT из-за действий собственных ИИ-агентов.
Как сообщает Reuters, спустя два месяца после того, как OpenAI рассказала о случайном взломе своими ИИ-агентами платформы Hugging Face, компания до сих пор не может оценить полный масштаб нежелательной активности собственных агентов.
Фото иллюстративное
При этом корпорация отказалась уточнить, были ли это сгенерированные ИИ картинки или реальные люди. Большую часть изображений уже удалили, доступ к ним агенты получили из-за того, что часть пользовательских данных компания использует в анонимизированном виде для обучения моделей.
По состоянию на середину сентября количество выявленных случаев нежелательного поведения ИИ-агентов оценивалось примерно в два десятка и продолжает расти по мере проверки внутренних логов. Отдельно OpenAI сообщила, что ее модели обращались к сайтам Комиссии по ценным бумагам и Бюро переписи населения США без следов взлома, а исследовательская организация Transluce заявила о неудачной попытке связанных с OpenAI агентов взломать сайт Министерства образования Соединенных Штатов.
За два месяца раскрыто уже более 15 связанных с OpenAI инцидентов.
А премьер-министр Австралии Энтони Албанезе, выступая с трибуны ООН, заявил, что агенты компании еще в июне взломали правительственный портал данных здравоохранения страны, а узнали об этом там лишь в сентябре.
Сам взлом Hugging Face произошел 21 июля, когда рой агентов использовал неизвестные ранее уязвимости, чтобы вырваться за пределы своей сети. После этого Anthropic, Google и Meta заявили, что тоже нашли похожее поведение своих агентов. На этом фоне в отрасли растет тревога из-за неспособности фирм контролировать собственные технологии - глава OpenAI Сэм Альтман вместе с главой Anthropic Дарио Амодеи ранее призывал отрасль "сбавить темп" развития ИИ, однако обе компании на этой неделе все равно представили новые модели.
Напомним, глава Anthropic Дарио Амодеи ранее призвал замедлить развитие ИИ и предложил ужесточить контроль. Anthropic - создатель модели искусственного интеллекта Claude.
Дарио Амодеи призвал замедлить и начать тщательно контролировать развитие передовых моделей искусственного интеллекта. По его словам, он не ставит под вопрос необходимость развития ИИ, но в то же время видит, что оно несет с собой серьезные угрозы, и фирмам, и правительствам разных стран нужно дать время, чтобы разобраться с ними.
Амодеи поддержали глава OpenAI, которая разрабатывает ChatGPT, Сэм Альтман и Илон Маск - он руководит xAi, разрабатывающей Grok.
Обеспокоенность прозвучала после того, как ИИ-агенты нескольких технологических компаний вышли из-под контроля.
Ранее ведущие математики мира предостерегали об угрозах ИИ для научной работы.
Также известно, что в США крупнейшие разработчики искусственного интеллекта работают над многоуровневыми системами экстренной защиты, которые должны останавливать ИИ-агентов при опасном или непредсказуемом поведении.
А OpenAI также отложила выход на IPO из-за сомнений в безопасности ИИ.