Скандал вокруг работы алгоритмов быстро вышел за пределы Google. Повторные тесты, проведенные с моделями ChatGPT и Claude, показали схожие паттерны: все три системы склонны давать комплиментарные описания западным национальностям, одновременно приписывая потенциальную угрозу представителям ряда африканских стран. Хотя степень предвзятости у каждой модели разная, общая тенденция вызвала серьезные вопросы к этике обучения нейросетей.
Чат-боты Google и OpenAI заподозрили в предвзятости к нациям
Пользователи и журналисты уличили нейросеть Google Gemini в странной избирательности: рекомендации бота радикально менялись в зависимости от национальности, упомянутой в вопросе. Если в случае с норвежцами система советовала дружелюбную беседу, то при упоминании выходцев из Сомали или Алжира алгоритм настойчиво предлагал немедленно обращаться в полицию.
В Google признали наличие проблемы и пообещали скорректировать работу Gemini, отметив, что ответы зависят от формулировок и не отражают официальную позицию компании. Эксперты объясняют такие сбои спецификой обучения на огромных массивах интернет-данных. Модели «впитывают» не только факты, но и заложенные в сетевых текстах стереотипы, воспроизводя их в диалогах без прямого указания разработчиков. После общественного резонанса часть тестов уже начала выдавать нейтральные ответы, однако вопрос фильтрации предвзятости остается открытым для всей индустрии ИИ.
Комментарии (0)
Пока нет комментариев. Будьте первым!