Meta внедряет новые системы защиты контента, в том числе о наркотиках, на основе искусственного интеллекта

[Zver2018]

Meta объявила, что начинает внедрять более продвинутые системы искусственного интеллекта для контроля за контентом, поскольку планирует сократить использование сторонних поставщиков. Задачи, связанные с контролем за контентом, включают выявление и удаление контента о терроризме, эксплуатации детей, наркотиках, мошенничестве и аферах.

Компания заявляет, что развернет эти более продвинутые системы искусственного интеллекта в своих приложениях, как только они будут стабильно превосходить текущие методы контроля контента. В то же время, она уменьшит свою зависимость от сторонних поставщиков для контроля контента.

«Хотя у нас все еще будут люди, которые будут проверять контент, эти системы смогут выполнять работу, которая лучше подходит для технологий, таких как повторяющиеся проверки графического контента или сфер, где противники постоянно меняют свою тактику, например, в случае незаконной продажи наркотиков или мошенничества», – пояснил Мэтта в своем блоге.

Цель считает, что эти системы искусственного интеллекта могут выявлять больше нарушений с большей точностью, лучше предотвращать мошенничество, быстрее реагировать на реальные события и уменьшать чрезмерное правоприменение.

Компания утверждает, что ранние тесты систем искусственного интеллекта были многообещающими, поскольку они могут проявлять вдвое больше контента сексуального характера для взрослых, чем команды обозревателей, а также снижать уровень ошибок более чем на 60%. Она также отмечает, что системы могут обнаруживать и предотвращать появление большего количества учетных записей, выдаваемых другому лицу, с участием знаменитостей и других известных лиц, а также помогать останавливать захват учетных записей, обнаруживая такие сигналы, как вход из новых местоположений, изменение пароля или редактирование профиля.

Кроме того, Meta утверждает, что системы могут обнаруживать и предотвращать около 5000 попыток мошенничества в день, во время которых мошенники пытаются обманом заставить людей выдать свои данные для входа.

"Эксперты будут разрабатывать, обучать, контролировать и оценивать наши системы искусственного интеллекта, измерять производительность и принимать самые сложные решения с высоким уровнем влияния", - написал Мета в своем блоге. «Например, люди и дальше будут играть ключевую роль в том, как мы принимаем самые рискованные и важнейшие решения, такие как обжалование блокировки аккаунта или сообщения правоохранительным органам».

Авторские права на изображение: Meta
Этот шаг происходит на фоне того, что Meta ослабляет свои правила модерации контента в течение последнего года или около того, поскольку президент Дональд Трамп вторично вступил в должность. В прошлом году компания прекратила свою программу проверки фактов сторонними организациями в пользу модели Community Notes, подобной X. Она также отменила ограничения относительно «тем, что является частью мейнстримного дискурса», и заявила, что пользователям будет предложено использовать «персонализированный» подход к политическому контенту.

Это также происходит на фоне того, что Meta и другие крупные технологические компании сталкиваются с несколькими исками , направленными на привлечение гигантов социальных сетей к ответственности за причинение вреда детям и молодым пользователям.

Meta также объявила в четверг о запуске помощника поддержки Meta AI, который предоставит пользователям доступ к круглосуточной поддержке. Помощник разворачивается по всему миру в приложениях Facebook и Instagram для iOS и Android, а также в Центре помощи Facebook и Instagram на компьютерах.