Сейчас алгоритмы справляются с половиной запросов, но к концу года этот показатель по ряду категорий нарушений превысит 90%. Внутренние тесты Meta показывают, что языковые модели справляются с задачей лучше людей: они допускают на 13% меньше ошибок и выявляют на 10% больше запрещенного контента. Для этих целей компания переводит поддержку и модерацию на собственную модель Muse Spark, отказываясь от сторонних решений вроде Google Gemini.
Meta доверит модерацию контента нейросетям ради экономии
Корпорация Марка Цукерберга планирует практически полностью исключить людей из процесса модерации соцсетей, заменив их автоматизированными системами. Такой переход позволит компании экономить миллиарды долларов ежегодно, а также снизить объем травмирующего контента, который до этого приходилось вручную изучать сотрудникам, вынужденным работать с жалобами пользователей.
Помимо экономии на штате, руководство делает ставку на адаптивность ИИ к новым угрозам и многоязычным трендам. Однако внутри компании сохраняются споры: специалисты опасаются, что машины, обучающиеся на прошлых решениях людей, могут быть недостаточно надежны при рассмотрении сложных апелляций. Отдельная проблема — борьба с мошеннической рекламой. В 2024 году сомнительные объявления принесли Meta около 16 миллиардов долларов, что составляет десятую часть всей выручки. Компания готова пожертвовать этой прибылью ради снижения юридических рисков и роста доверия аудитории.
Комментарии (0)
Пока нет комментариев. Будьте первым!