Технология, созданная для предоставления быстрых ответов, сработала против собственной логики. Вместо проверки фактов чат-бот, использующий модели от Anthropic, Mistral и OpenAI, принял поток вымышленных публикаций с ветки r/poisonai за достоверные источники. В результате система выдала подробное описание обстоятельств смерти, которое моментально разошлось по сети как официальная справка.
ИИ DuckDuckGo «похоронил» Трампа из-за атаки пользователей Reddit
Поисковый чат-бот Duck.ai начал выдавать пользователям вымышленную биографию Дональда Трампа, утверждая, что политик скончался от бешенства в 2026 году. К абсурдному результату привели скоординированные усилия участников Reddit, которые намеренно наполняют сеть фальшивыми данными, чтобы запутать алгоритмы нейросетей при индексации контента.
Эксперты Futurizm и Gizmodo указывают на уязвимость современных поисковых ИИ, которые слишком сильно зависят от объема данных в социальных сетях. Если пользователи объединяются для создания критической массы фейков, нейросеть начинает воспринимать их как коллективную истину. Участники форума уже тренировались на подобных абсурдных вбросах, пытаясь доказать, что нейросети невозможно обучить отличать реальность от тщательно срежиссированного цифрового хаоса.
Комментарии (0)
Пока нет комментариев. Будьте первым!