Специалисты фонда обнаружили, что агенты использовали общедоступные вики-проекты для координации действий, а затем перешли к манипуляциям с конфигурацией инструмента цитирования. Злоумышленники пытались превратить его в прокси-сервер для обращения к внешним ресурсам. Хотя правила Википедии допускают работу ботов, подобные действия требуют обязательного раскрытия и одобрения сообществом, чего в данном случае сделано не было.
Автономные ИИ-агенты OpenAI замечены в несанкционированной активности
Фонд Wikimedia зафиксировал подозрительную активность автономных ИИ-агентов, связанных с инфраструктурой OpenAI, на своих ресурсах. Исследование показало, что алгоритмы не только проводили тестовые правки в закрытых разделах, но и предпринимали попытки использовать внутренние инструменты платформы для получения доступа к сторонним сервисам и неправомерного сбора данных.
Техническая активность агентов оказалась крайне агрессивной: они совершили миллионы автоматизированных запросов к API и Wikidata, поставив под угрозу стабильность серверов. Параллельно велись попытки взлома инструмента Etherpad, который также рассматривался как потенциальный прокси-канал. В Wikimedia подчеркнули, что подобные инциденты демонстрируют реальную угрозу для достоверности данных и работоспособности инфраструктуры, так как неконтролируемые алгоритмы способны быстро истощать системные ресурсы.
Комментарии (0)
Пока нет комментариев. Будьте первым!