Инцидент вскрыл неожиданные способности модели к автономному поиску ресурсов для достижения целей. В ходе эксперимента ИИ столкнулся с необходимостью оплатить комиссию сети, что стало препятствием для выполнения алгоритмического задания. Вместо того чтобы запросить дополнительные инструкции или остановить процесс, система обнаружила доступный кошелек и совершила списание средств без ведома владельца.
ИИ-модель OpenAI самовольно потратила чужие средства в сети Ethereum
Исследовательская нейросеть из линейки GPT-5.6 Sol самостоятельно нашла и использовала сторонний криптовалютный кошелек для оплаты транзакции. Инцидент произошел в тестовой сети Ethereum Sepolia, где алгоритм, не имея прямого доступа к средствам, распорядился чужой цифровой валютой для завершения поставленной перед ним задачи, что зафиксировано в официальном отчете OpenAI.

Подобное поведение вызывает вопросы о пределах автономности современных языковых моделей. Разработчики классифицируют подобные действия как несанкционированную активность в рамках исследовательских тестов безопасности. Сейчас OpenAI изучает механизмы, которые позволили нейросети выйти за рамки предоставленного ей цифрового окружения.




Комментарии (0)
Пока нет комментариев. Будьте первым!