Даже иск на 2.4 миллиарда долларов не остановит интернет-ненависть — Кремниевая долина была создана специально для ее масштабирования

В октябре 2021 года профессор Меарег Амаре был doxxed на Facebook. Спустя несколько недель он был зверски убит в собственном доме - пишет Кортни Мукойи . Теперь материнская компания Facebook Meta сталкивается с Иск на 2.4 миллиарда долларов, обвиняемый в подстрекательстве к насилию в родной для Амаре Эфиопии. Доксинг Амаре не был случайностью. Его информация не просто попала в чужие руки — она была намеренно усилена как призыв к жестокому, самосуду. 

В современном мире роль государства в расследовании правонарушений и защите невиновных была заменена онлайн-толпами, которые выступают в роли судей, присяжных и палачей.

И не только в Эфиопии. 

В Индии 20 человек были убиты в течение двух месяцев после того, как в 2018 году его обвинили в похищении детей через WhatsApp. 

Вскоре после этого в Германии произошли ксенофобские беспорядки после слухи в социальных сетях утверждал, что немец был убит беженцами. А в прошлом году в Великобритании вспыхнули исторические беспорядки после трагического убийства трех девочек в Саутпорте, вызванные волной дезинформация о личности предполагаемого убийцы.

В каждом из этих случаев дезинформация была направлена ​​на меньшинства или мусульманские общины, которые уже сталкиваются с рекордные уровни преступления на почве ненависти. 

С момента рождения алгоритм начинает мутировать, обучаясь тому, как — и кого — ненавидеть, на основе данных и шаблонов, которым он учится. Подобно эффекту бабочки, даже самый незначительный след предвзятости или дискриминации мгновенно усиливается. 

С этого момента он быстро становится неузнаваемым. Неуправляемым. Даже для своего создателя. 

Но даже если бы Марк Цукерберг захотел, он не смог бы всё это прекратить. 

Дело не только в том, что машина переросла своего создателя, но и в том, что ни у одного из соответствующих игроков нет полного набора инструментов, чтобы сдержать ее. У технологических гигантов есть техническая экспертиза, но нет ни воли, ни юридической свободы действий. Национальные правительства имеют законодательную власть, но движутся слишком медленно, чтобы идти в ногу с инновациями. А организации гражданского общества могут понимать вред лучше, чем кто-либо другой, но у них нет инфраструктуры или влияния, чтобы обеспечить изменения.

Возьмем, к примеру, ЕС. Закон о цифровых услугах – впервые предложено в конце 2020 года, но не введено в действие до 2024 года. За длительный период разработки (ChatGPT был выпущен только в 2022 году) цифровой ландшафт кардинально изменился, в результате чего его правила устарели еще до их введения. 

С момента принятия закона, его исполнение, в том числе меры для сдерживания онлайн-языка ненависти и алгоритмического усиления экстремистского контента - оказалось сложным. Нападения на меньшинства, включая мусульман и евреев, достигли рекордно высокого уровня. Крайне правые даже использовал действовать как обоснование за их собственную бесчеловечную риторику. 

В ООН в прошлом месяце, Мохаммад Аль-Исса, генеральный секретарь Мусульманская мировая лига, заявил, что исламофобия является растущим кризисом. Аль-Исса неоднократно предупредила что ИИ может превратить социальные сети в оружие, распространять дезинформацию и вербовать экстремистов – именно поэтому он утверждает, что религиозные лидеры должны быть включены в разработку этических рамок. Его предупреждения перекликаются с предупреждениями Папы Франциска и Ватикана, которые утверждают, что ИИ является «тень зла.

Усилия Аль-Иссы по борьбе с ненавистью начались задолго до сегодняшних дебатов об ИИ. В январе 2020 года он возглавил делегацию мусульманских лидеров к мемориалу Аушвиц-Биркенау – одно из самых важных посещений ислама этого места – подчеркивающее более широкую приверженность борьбе с наследием ненависти и насилия. Сегодня, когда на Ближнем Востоке бушует война, эта приверженность укреплению межконфессионального взаимопонимания актуальна как никогда.

«Если религиозные лидеры не будут присутствовать на мероприятиях [AI]», — предупредил Аль-Исса в своем выступлении. недавней статье, «…в развивающейся дискуссии по ИИ не будет хватать важных экспертов в данной области, которые необходимы для предотвращения любой возможности новой эры экстремизма, основанного на ИИ».

Чтобы добиться какого-либо прогресса, технологии, политика и сообщество должны прекратить работать изолированно и начать вырабатывать общие, скоординированные меры реагирования. 

Во-первых, мы должны инвестировать в исследования и разработки за пределами пузыря Кремниевой долины, одновременно снижая нашу зависимость от все более непредсказуемого правления президента Трампа. Далее, мы должны ввести новые правила, требующие от корпораций и организаций консультироваться с заинтересованными сторонами сообщества на протяжении всей их деятельности, и обеспечить обучение алгоритмов на инклюзивных наборах данных.

В то же время ЕС должен изучить новые инструменты для обнаружения и смягчения неизбежной предвзятости систем ИИ. Мы также должны развернуть универсальные программы повышения грамотности в области ИИ и платформы подотчетности, информируя общественность о потенциальных угрозах и предоставляя ей возможность сообщать о любых жалобах. 

То, что произошло в Эфиопии или Саутпорте, не является аномалией, это предупреждение о том, что сегодняшние платформы больше не являются нейтральными пространствами. Они являются активными агентами в формировании общественных настроений и поведения — слишком часто способами, которые провоцируют насилие и поляризуют общества.

В конечном счете, этот иск против Meta касается не только ответственности, но и профилактики. Нормативные стандарты, безусловно, помогут, но ограничения должны быть сбалансированы dPhoto by Тимоти Хейлз Беннетт on Unsplashиверсификация.

Только тогда мы сможем сохранить преимущества этих технологий, не отказываясь от самой идеи справедливости в пользу неконтролируемой алгоритмической толпы.

Об авторе:

Кортни Мукойи — основатель и директор фонда Justice Code Foundation, который использует существующие и новые технологии для продвижения прав человека в зимбабвийских общинах. Он энтузиаст CivicTech со степенью магистра права в области международной торговли в Университете Кейптауна.

Муёки получил множество наград, включая премию Democracy Innovation Award 2022 года и премию Wangari Maathai AI Impact Award 2023 года. В 2023 году он был выбран для стипендии Манделы Вашингтона. В настоящее время он работает в Консультативном совете по делам молодежи UNHRC и Совете по вопросам молодежи Европейского союза. Он сотрудничал с различными организациями, включая Accountability Lab и Африканский союз, для продвижения использования технологий и искусственного интеллекта в области прав человека и гражданского участия. Он является серийным предпринимателем, который также основал стартап InsurTech под названием TopSure, с которого начался его путь по созданию стартапов-единорогов в Африке.

Фото Тимоти Хейлз Беннетт on Unsplash

Поделиться этой статьей: