Meta замінить модераторів нейромережею, щоб заощадити мільярди доларів

Meta має намір майже повністю замінити модераторів у своїх соцмережах автоматизованими ШІ-системами. Такий підхід дозволить компанії компенсувати масштабні інвестиції у розвиток штучного інтелекту та забезпечити економію у розмірі кількох мільярдів доларів щороку, повідомляє Financial Times.

В даний час ШІ вже опрацьовує близько половини запитів, пов’язаних з модерацією контенту. До кінця року цей показник може перевищити 90% за окремими категоріями порушень. Раніше значна частина спірних випадків і скарг користувача розглядалася співробітниками компанії вручну.

У Meta стверджують, що активне впровадження ШІ пов’язане не лише із прагненням скоротити витрати, а й із підвищенням якості модерації. За результатами внутрішніх тестів, що проводилися з березня, мовні моделі допускають на 13% менше помилок при виявленні порушуючого правила контенту і виявляють приблизно на 10% більше порушень порівняно з колишніми методами.

Також компанія розширює використання генеративного ШІ у розробці ПЗ та клієнтської підтримки. Зазначається, що після серії скорочень персоналу Meta все активніше автоматизує процеси, які раніше виконували співробітники та зовнішні підрядники. Зокрема, компанія поступово переводить завдання підтримки користувачів та модерації із рішень Google Gemini на власну модель Muse Spark.

Керівництво Meta вважає, що сучасні великі мовні моделі здатні швидше адаптуватися до змін в інформаційному середовищі, ефективніше працювати з багатомовним контентом і позбавляти співробітників необхідності переглядати потенційно травмуючі матеріали. Водночас частина фахівців усередині компанії висловлює побоювання щодо рівня помилок та надійності автоматизованих систем, зазначаючи, що ШІ, як і раніше, навчається на рішеннях живих модераторів, особливо при розгляді апеляцій.

Окрема увага Meta приділяє боротьбі з шахрайською рекламою та оголошеннями про заборонені товари. Посилення контролю може негативно зашкодити рекламної виручці компанії. За оцінками аналітиків, 2024 року подібні оголошення забезпечили близько 10% рекламних доходів Meta, що еквівалентно приблизно 16 млрд доларів. Проте компанія розраховує компенсувати можливі втрати за рахунок зниження юридичних ризиків та підвищення довіри користувачів до своїх платформ.