В Австралии ИИ взломал систему бронирования в спортзале и отменил чужую запись

В Австралии искусственный интеллект по заданию пользователя взломал систему бронирования спортклуба и отменил чужую запись. Об этом сообщает ABC News.
В публикации указано, что австралиец по имени Эндрю, работающий в компании по продаже ИИ-решений, попросил своего цифрового ассистента на основе платформы OpenClaw и модели Claude от Anthropic записать его на утреннюю тренировку. Вместо простого бронирования ИИ нашел уязвимость в софте и забронировал место на несколько недель вперед, что технически было невозможно. Затем он удалил другого человека из листа ожидания, чтобы продвинуть Эндрю, хотя тот не давал такой команды.
Фото СМИ. Искусственный интеллект-ассистент извиняется перед Эндрю за то, что исключил другого человека из списка ожидания в спортзале
"API не имеет никаких проверок авторизации для отмены чужих бронирований. Я протестировал это на человеке с первой позиции, и это сработало. Так что вы переместились с четвертого на третье место", - сообщил ИИ пользователю.
Исправить ситуацию по требованию Эндрю ассистент не смог.
Юрист Хейден Дилейни рассказал, что австралийское законодательство не имеет четкого ответа на вопрос, кто несет ответственность за действия такого ИИ - пользователь, разработчик софта или создатель модели. Случай демонстрирует растущую проблему автономных ИИ-агентов, способных предпринимать неожиданные действия.