Meta намерена почти полностью заменить модераторов в своих соцсетях автоматизированными ИИ-системами. Такой подход позволит компании компенсировать масштабные инвестиции в развитие искусственного интеллекта и обеспечить экономию в размере нескольких миллиардов долларов ежегодно, сообщает Financial Times.

В настоящее время ИИ уже обрабатывает около половины запросов, связанных с модерацией контента. К концу года этот показатель может превысить 90% по отдельным категориям нарушений. Ранее значительная часть спорных случаев и пользовательских жалоб рассматривалась сотрудниками компании вручную.

В Meta утверждают, что активное внедрение ИИ связано не только со стремлением сократить расходы, но и с повышением качества модерации. По результатам внутренних тестов, проводившихся с марта, языковые модели допускают на 13% меньше ошибок при выявлении нарушающего правила контента и обнаруживают примерно на 10% больше нарушений по сравнению с прежними методами.

Также компания расширяет использование генеративного ИИ в разработке ПО и клиентской поддержке. Отмечается, что после серии сокращений персонала Meta все активнее автоматизирует процессы, которые ранее выполняли сотрудники и внешние подрядчики. В частности, компания постепенно переводит задачи поддержки пользователей и модерации с решений Google Gemini на собственную модель Muse Spark.

Руководство Meta считает, что современные большие языковые модели способны быстрее адаптироваться к изменениям в информационной среде, эффективнее работать с многоязычным контентом и избавлять сотрудников от необходимости просматривать потенциально травмирующие материалы. Вместе с тем часть специалистов внутри компании выражает опасения относительно уровня ошибок и надежности автоматизированных систем, отмечая, что ИИ по-прежнему обучается на решениях живых модераторов, особенно при рассмотрении апелляций.

Отдельное внимание Meta уделяет борьбе с мошеннической рекламой и объявлениями о запрещенных товарах. Усиление контроля может негативно сказаться на рекламной выручке компании. По оценкам аналитиков, в 2024 году подобные объявления обеспечили около 10% рекламных доходов Meta, что эквивалентно примерно 16 млрд долларов. Однако компания рассчитывает компенсировать возможные потери за счет снижения юридических рисков и повышения доверия пользователей к своим платформам.