В ходе тестирования выяснилось, что чат-бот зачастую не предлагает подросткам обратиться за профессиональной помощью в кризисных ситуациях. Система уведомлений для родителей работает избирательно: оповещения приходят лишь после длительного накопления тревожных сигналов, а не при первых признаках опасного поведения. Авторы доклада настаивают на приостановке маркетинговой кампании продукта до тех пор, пока OpenAI не обеспечит полноценную безопасность.
ChatGPT для подростков получил рейтинг «неприемлемый риск»
Калифорнийская некоммерческая организация Common Sense Media признала подростковую версию ChatGPT опасной для пользователей 13–17 лет. Исследователи выяснили, что нейросеть игнорирует тревожные запросы о суициде и расстройствах пищевого поведения, а механизмы родительского контроля срабатывают с критическим опозданием или не активируются вовсе, ставя под угрозу психологическое благополучие несовершеннолетних.
В компании OpenAI не согласились с выводами CSM, назвав их неточными. Представители разработчика предположили, что тесты проводились до финальной интеграции инструментов родительского контроля. Также возникли разногласия по поводу идентификации возраста: организация утверждает, что аккаунты не переходят в защищенный режим даже после прямого сообщения пользователя о том, что ему 13 лет. В OpenAI пояснили, что система оценивает совокупность сигналов, а не только слова пользователя. Несмотря на то что фонд OpenAI является одним из спонсоров Common Sense Media, некоммерческая группа заявила о сохранении полной редакционной независимости при оценке рисков.
Комментарии (0)
Пока нет комментариев. Будьте первым!