#ArtificialIntelligence - Закон ЕС должен устанавливать безопасные границы для приложений с высоким уровнем риска, - заявляет #EESC.

Биометрическому распознаванию для отслеживания, наблюдения и обнаружения эмоций не должно быть места в европейском человекоцентричном подходе к искусственному интеллекту (ИИ), считает Европейский экономический и социальный комитет (ЕЭСК) в своем ответ на Белую книгу Европейской комиссии по ИИ, принятые на пленарном заседании ЕЭСК в июле.

Европейская комиссия предложила, чтобы применение искусственного интеллекта считалось высокорисковым, если оно затрагивает как сектор высокого риска (здравоохранение, транспорт, энергетика и части государственного сектора), так и использование с высоким риском, за некоторыми исключениями, которые являются еще предстоит определить. Комиссия считает, что только если эти два условия будут выполнены, мы должны говорить об ИИ высокого риска, который подпадает под конкретные нормативные акты и структуры управления.

EESC считает, что это определение создает потенциально опасные лазейки. По мнению Комитета, политическая реклама Facebook является ярким примером.

«Реклама - это сектор с низким уровнем риска, и функцию агрегирования новостей Facebook можно рассматривать как использование с низким уровнем риска. Однако, - утверждает докладчик по общественному мнению Кателин Мюллер, - во время избирательных кампаний мы видели, что в Facebook распространяются фейковые новости и дипфейки. с помощью ИИ может иметь множество негативных последствий и влиять на то, как люди голосуют, с вмешательством даже из-за пределов Европы ".

Должны ли быть исключения из этого и сколько их должно быть? EESC считает, что вместо того, чтобы составлять список исключений, было бы лучше составить список общих характеристик, которые можно отнести к категории высокого риска, независимо от сектора.

Многие приложения оказывают сильное влияние на основные права, подчеркивает Мюллер, не только на частную жизнь людей, но и, например, на их право на демонстрацию или вступление в профсоюз.

Темная сторона биометрического распознавания

Распознавание лиц и биометрические данные - одна из ключевых областей, в которой ИИ затрагивает основные права. Его использование может быть разрешено для целей идентификации личности - и действительно регулируется Общим регламентом защиты данных.

Однако следует запретить широкое использование биометрического распознавания на основе ИИ для наблюдения или отслеживания, оценки или классификации человеческого поведения или эмоций. Тем более, что нет никаких научных доказательств того, что мы можем распознать чувства человека на основе их биометрических данных, подчеркивает Мюллер.

COVID-19 отслеживания и отслеживания приложений

EESC также предостерегает от неконтролируемого всплеска технологий отслеживания и прослеживания, которые проникают в наше общество гораздо быстрее и с гораздо меньшей тщательностью, чем раньше, в попытке бороться со вспышкой коронавируса.

«Методы и подходы ИИ для борьбы с пандемией должны быть такими же надежными, эффективными, прозрачными и объяснимыми, как и любые другие методы ИИ в любой другой ситуации», - говорит докладчик EESC. «Они должны соблюдать права человека, этические принципы и законодательство. Они также должны быть добровольными, потому что, хотим мы этого или нет, многие методы, внедренные во время кризиса, станут постоянными».

EESC надеется, что Комиссия примет к сведению свой вклад, как это было сделано с рекомендациями, выдвинутыми EESC с момента ее новаторское мнение об искусственном интеллекте в 2017 году, которая впервые отстаивала подход к искусственному интеллекту в Европе, основанный на принципе «человека в команде».

Предыстория

The Белая книга по ИИ, часть широкомасштабного пакета мер в отношении ИИ, объявленного в документе Европейской комиссии «Коммуникация, формирующая цифровое будущее Европы», выдвигает:

• Меры по рационализации исследований, развитию сотрудничества между государствами-членами и увеличению инвестиций в ИИ;
• варианты политики для будущей нормативно-правовой базы ЕС в области искусственного интеллекта с упором на приложения с высокой степенью риска

В феврале 2020 года Комиссия приступила к публичным консультациям по Белой книге, которая продолжалась до 14 июня, и привлекла более 1 200 ответов на вопросники и около 700 письменных представлений. В настоящее время Комиссия обрабатывает этот вклад и вскоре опубликует отчет.

В разделе «Формирование цифрового будущего Европы» описаны действия, которые Европейская комиссия планирует предпринять для обеспечения того, чтобы Европа была приспособлена к цифровой эпохе, что является одним из главных приоритетов Урсулы фон дер Ляйен в то время, когда она была президентом исполнительной власти Европы. Он основан на трех основных принципах:

• Технология, которая работает для людей;
• справедливая и конкурентоспособная цифровая экономика;
• открытое, демократическое и устойчивое общество.

EESC предоставил свои рекомендации по "Формируя цифровое будущее Европы" в a, также принятом на июльском пленарном заседании EESC, с одной ключевой рекомендацией:

«Абсолютная скорость цифровой трансформации означает, что мы не знаем, какие новые разработки произойдут в следующем месяце. Поэтому мы должны быть гибкими и адаптируемыми. Это требует постоянного диалога между всеми участвующими сторонами. EESC как голос организованной гражданской общество должно быть его частью, и мы просим Комиссию наладить такой постоянный диалог », - сказал докладчик по мнению Ульрих Самм.

Поделиться этой статьей: