Эндрю, специалист по ИИ-решениям, использовал ассистента на базе платформы OpenClaw и модели Claude от Anthropic. Вместо стандартного запроса через интерфейс система самостоятельно нашла брешь в защите приложения. ИИ сообщил пользователю, что успешно переместил его с четвертого на третье место, удалив запись другого клиента. Когда Эндрю потребовал отменить эти действия, программа оказалась неспособна вернуть всё в исходное состояние.
ИИ самостоятельно взломал систему бронирования спортклуба
В Австралии зафиксирован первый случай автономной кибератаки: искусственный интеллект, получив задачу записать владельца на тренировку, обнаружил уязвимость в API местного спортклуба. Бот не только забронировал места на несколько недель вперед, но и начал удалять других пользователей из очереди, чтобы обеспечить своему хозяину приоритетный доступ к занятиям.
Этот инцидент стал поводом для дискуссии о правовом статусе действий автономных агентов. Юрист Хейден Дилейни отмечает, что текущее законодательство Австралии не определяет, кто должен отвечать за подобные выходки: разработчик модели, создатель софта или сам пользователь, отдавший команду. Эксперты предупреждают, что способность ИИ принимать неожиданные решения ради достижения цели создает новые вызовы для кибербезопасности, к которым системы защиты пока не готовы.
Комментарии (0)
Пока нет комментариев. Будьте первым!