Может ли умная стратегия #AI убедить ЕС в том, что модерация контента #Facebook на подходе?

17 февраля во время встречи с европейскими политиками в Брюсселе генеральный директор Facebook Марк Цукерберг (на фото) выпустил официальный документ с изложением своей стратегии борьбы с вредоносным контентом на платформах социальных сетей. В ответ на желание Европейского Союза усилить надзор за технологическим сектором, миллиардер доказал, что отрасль должна регулироваться на глобальном, а не на местном уровне.

Он также утверждал, что ответственность технологических компаний за вредоносный контент на их платформах должна быть ограничена - при условии наличия эффективных систем модерации контента. Однако предложения Цукерберга получили решительно морозный прием в Брюсселе. Даже после встречи с Цукербергом, ЕС утверждал, что новое предложение Facebook по модерации контента не дало результатов по многим направлениям, особенно не указав конкретные шаги, которые платформа предпримет для борьбы с нелегальным контентом в Интернете. "Этого не достаточно. Он слишком медленный, слишком низкий с точки зрения ответственности и регулирования », - считает комиссар по стратегии передачи данных Тьерри Бретон после встречи с топ-менеджером Facebook.

Где нынешняя система Facebook терпит неудачу?

У технических гигантов достаточно узкое окно, чтобы убедить европейских политиков в том, что их собственных усилий по обузданию проблемного контента достаточно. Закон о цифровых услугах Комиссии, долгожданный пересмотр 20-летней директивы ЕС по электронной торговле, должен быть представлен в конце этого года. Как отметил Бретон, «если мы увидим, что [собственный процесс модерации контента в Facebook] - это не то, что нам нужно в отношении наших собственных стандартов, мы должны отрегулировать и включить это в наш [Акт о цифровых услугах]».

Facebook полон решимости решить проблему модерации контента - используя достижения в области искусственного интеллекта (ИИ) и машинного обучения, чтобы улучшить свою нынешнюю систему. Сложная задача по выявлению и удалению проблемных материалов в настоящее время поручается сторонним специалистам, которые по своему усмотрению определяют, почему изображение или видео нежелательно.

Доверие к такому человеческому надзору проблематично, учитывая ужасную природу некоторых модераторов контента, которые вынуждены просеивать - тот факт, что сотрудники, модерирующие контент для Facebook в Лиссабоне, Дублине и Варшаве, подтвердили, что их работа дала им ПТСР, несомненно, поднимет красные флажки в европейских институтах. Кроме того, эффективность человеческой модерации была поставлена ​​под сомнение после того, как Facebook неоднократно не удавалось быстро удалить вредоносный контент, такой как прямая трансляция атаки мечети Крайстчерч в 2019 году.

ИИ может подключить некоторые из слепых зон Facebook

Искусственный интеллект способен значительно снизить зависимость от умеренности человека. Алгоритмы, обученные машинному обучению, могут поддерживать модераторов, не только уменьшая их подверженность вредоносному онлайн-контенту, но и повышая их производительность и точность. Facebook утверждает, что до сих пор видел многообещающие результаты в своих экспериментах с ИИ - согласно платформе, во второй половине 2019 года платформе удалось выделить 99.8% графического контента и 99.5% обнаженных людей и эксплуатации детей даже до того, как пользователи их оповестили. , Конечно, технология все еще нуждается в тонкой настройке - алгоритмы модерирования контента, основанные на искусственном интеллекте, все еще особенно трудно распознавать нюансы разжигания ненависти, например, - вопрос, которым Европейский Союз особенно обеспокоен.

Более того, Европейский Союз настороженно относится к тому, чтобы Facebook мог свободно пользоваться такой чувствительной технологией, как ИИ. Эти опасения связаны, в первую очередь, с плохим послужным списком Facebook в отношении соответствия европейским стандартам прозрачности, что наводит на мысль о том, что компания может разработать «алгоритмы черного ящика», предотвращающие сторонние или правительственные проверки на платформе.

В основе цифровой политики, опубликованной на прошлой неделе цифровым царем и руководителем конкурса Маргрет Вестагер, находится вопрос о том, как компании используют искусственный интеллект. В то время как ЕС хочет, чтобы правительства следили за его более рискованными аспектами, такими как использование технологии распознавания лиц, многие приложения на заднем дворе Европы демонстрируют, как ее можно использовать как безопасно, так и эффективно. Может ли Facebook взять реплику от них?

Приложения следующего поколения для социальных сетей оставляют свой след, используя ИИ инновационно

В частности, одно европейское приложение обладает творческим использованием искусственного интеллекта, чтобы предоставить своим юным пользователям более безопасный и приятный опыт. Yubo, приложение для потокового вещания в возрасте от 13 до 25 лет, опирается на баланс между сложными алгоритмами и обучением молодых людей онлайн-вреду, чтобы обеспечить безопасность своих 20 миллионов пользователей на платформе. Тщательно обученный алгоритм обнаруживает проблемный контент, такой как обнаженное тело или кто-то другой, только в нижнем белье, в прямом эфире - когда включается система вмешательства Yubo в реальном времени, отправляя пользователям предупреждающее сообщение, объясняющее, почему такое поведение нежелательно. Если пользователь не исправляет свое поведение, поток можно отключить удаленно.

Тем временем, чтобы убедиться, что приложение предназначено для подростков и молодых людей, Yubo установила партнерские отношения с популярным британским провайдером цифровых удостоверений Yoti, который сопоставляет загруженные идентификационные документы с селфи пользователя с помощью программного обеспечения для распознавания лиц. Технология Yoti, которая также применяется в супермаркетах, чтобы гарантировать, что дети моложе 18 лет не покупают запрещенные товары, такие как сигареты или алкоголь, может использоваться в других приложениях для социальных сетей, чтобы «стареть» в своем сообществе или убедиться, что пользователи кто они говорят, что они есть.

Попытки Yubo пресечь проблемный онлайновый контент в зародыше - путем сочетания компьютерной модерации и информирования молодых пользователей о преимуществах и недостатках хорошего онлайн-протокола - вызвали всплеск в технологическом секторе. Они также должны послужить обнадеживающим примером для технических гигантов, таких как Facebook, и регулирующих органов, таких как Европейский Союз, о том, что платформы социальных сетей могут найти здоровый баланс между чрезмерной зависимостью от ИИ или человеческого контроля.

Искусственный интеллект не является панацеей от проблем, с которыми сталкиваются платформы социальных сетей. Однако, поскольку Facebook пытается убедить ЕС в том, что он может модерировать свой собственный контент, он был бы очень полезен, если бы взял пример с приложений нового поколения, которым удалось разработать целостную стратегию, включающую AI, для обеспечения безопасности своих пользователей. ,

Поделиться этой статьей: