После трехдневных «марафоновских» переговоров председатель Совета и переговорщики Европейского парламента достигли предварительного соглашения по предложению о гармонизированных правилах в области искусственного интеллекта (ИИ), так называемому закону об искусственном интеллекте. Проект постановления направлен на обеспечение того, чтобы системы искусственного интеллекта, размещенные на европейском рынке и используемые в ЕС, были безопасными и уважали фундаментальные права и ценности ЕС. Это знаковое предложение также направлено на стимулирование инвестиций и инноваций в области ИИ в Европе.
Это историческое достижение и огромная веха в будущее! Сегодняшнее соглашение эффективно решает глобальную проблему в быстро развивающейся технологической среде в ключевой области будущего наших обществ и экономик. И в этом стремлении нам удалось сохранить чрезвычайно хрупкий баланс: стимулировать инновации и внедрение искусственного интеллекта по всей Европе, одновременно полностью соблюдая фундаментальные права наших граждан. Карме Артигас, государственный секретарь Испании по вопросам цифровизации и искусственного интеллекта
Акт ИИ – это флагман законодательная инициатива, способная способствовать развитию и внедрению безопасного и заслуживающего доверия ИИ на едином рынке ЕС как частными, так и государственными субъектами. Основная идея состоит в том, чтобы регулировать ИИ, исходя из его способности причинять вред обществу в результате «основанный на риске» подход: чем выше риск, тем строже правила. Будучи первым в мире законодательным предложением такого рода, оно может установить глобальный стандарт для регулирования ИИ в других юрисдикциях, как это сделал GDPR, тем самым продвигая европейский подход к регулированию технологий на мировой арене.
Основные элементы предварительного соглашения
По сравнению с первоначальным предложением Комиссии основные новые элементы предварительного соглашения можно резюмировать следующим образом:
правила высокоэффективные модели искусственного интеллекта общего назначения которые могут вызвать системный риск в будущем, а также на высоком риске Системы искусственного интеллекта
пересмотренная система управление с некоторыми правоприменительными полномочиями на уровне ЕС
расширение списка запреты но с возможностью использования удаленная биометрическая идентификация правоохранительными органами в общественных местах при условии соблюдения мер безопасности
лучшая защита прав посредством обязательства для развертывающих системы искусственного интеллекта высокого риска проводить оценка воздействия на фундаментальные права до ввода системы искусственного интеллекта в использование.
Если говорить более конкретно, предварительное соглашение охватывает следующие аспекты:
Определения и сфера применения
Чтобы убедиться, что определение В отношении системы искусственного интеллекта предусмотрены достаточно четкие критерии для отличия искусственного интеллекта от более простых программных систем, компромиссное соглашение приводит это определение в соответствие с подходом, предложенным ОЭСР.
Во временном соглашении также разъясняется, что регулирование не распространяется на области, выходящие за рамки законодательства ЕС, и ни в коем случае не должно затрагивать компетенцию государств-членов в Национальная безопасность или любое лицо, которому поручены задачи в этой области. Кроме того, закон об искусственном интеллекте не будет применяться к системам, которые используются исключительно для военный or защита целей. Аналогичным образом, соглашение предусматривает, что регулирование не будет применяться к системам ИИ, используемым исключительно для целей исследования и инновацииили для людей, использующих ИИ в непрофессиональных целях.
Реклама
Классификация систем ИИ как высокорискованных и запрещенных практик ИИ
Компромиссное соглашение предусматривает горизонтальный слой защиты, включая классификацию высокого риска, чтобы гарантировать, что системы искусственного интеллекта, которые вряд ли вызовут серьезные нарушения фундаментальных прав или другие значительные риски, не будут захвачены. Системы искусственного интеллекта представляют только ограниченный риск будет подвержен очень легкому освещению обязательства по прозрачности, например, сообщая, что контент был создан с помощью искусственного интеллекта, чтобы пользователи могли принимать обоснованные решения о дальнейшем использовании.
Широкий ассортимент высокий риск Системы искусственного интеллекта будут разрешены, но при условии соблюдения ряда требований и обязательств для получения доступа на рынок ЕС. Эти требования были уточнены и скорректированы коллегами-законодателями таким образом, что они более технически осуществимый и менее обременительный требования, которые должны соблюдать заинтересованные стороны, например, в отношении качества данных или в отношении технической документации, которую должны составлять МСП, чтобы продемонстрировать, что их системы искусственного интеллекта высокого риска соответствуют требованиям.
Поскольку системы искусственного интеллекта разрабатываются и распространяются по сложным цепочкам создания стоимости, компромиссное соглашение включает изменения, уточняющие распределение обязанностей и роли разных актеров в этих цепочках, в частности, поставщики и пользователи систем искусственного интеллекта. Он также разъясняет взаимосвязь между обязанностями в соответствии с Законом об искусственном интеллекте и обязанностями, которые уже существуют в соответствии с другими законами, такими как соответствующее законодательство ЕС о защите данных или отраслевое законодательство.
Для некоторых видов использования ИИ риск считается неприемлемый и, следовательно, эти системы будут запрещены в ЕС. Предварительное соглашение запрещает, например, когнитивную поведенческая манипуляция, нецелевой слом изображений лиц из Интернета или записей с камер видеонаблюдения, распознавание эмоций на производстве и в учебных заведениях, социальная оценка, биометрическая категоризация сделать вывод о конфиденциальных данных, таких как сексуальная ориентация или религиозные убеждения, а также в некоторых случаях интеллектуальная полицейская деятельность для физических лиц.
Исключения правоохранительных органов
Учитывая особенности правоохранительные органы и необходимость сохранить их способность использовать ИИ в своей жизненно важной работе, в предложение Комиссии было согласовано несколько изменений, касающихся использования систем ИИ в правоохранительных целях. При условии соответствующего защитные мерыЭти изменения призваны отразить необходимость соблюдения конфиденциальности конфиденциальных оперативных данных, связанных с их деятельностью. Например, была введена чрезвычайная процедура, позволяющая правоохранительным органам использовать инструмент искусственного интеллекта высокого риска, не прошедший проверку. оценка соответствия Процедура в случае срочности. Однако был также введен специальный механизм, обеспечивающий основные права будут достаточно защищены от любых потенциальных злоупотреблений системами ИИ.
Более того, что касается использования режима реального времени удаленная биометрическая идентификация систем в общедоступных местах, предварительное соглашение разъясняет цели, в которых такое использование строго необходимо для правоохранительных целей и для которых правоохранительным органам, следовательно, должно быть разрешено использовать такие системы в исключительных случаях. Компромиссное соглашение предусматривает дополнительные гарантии и ограничивает эти исключения случаями жертв определенных преступлений, предотвращением реальных, настоящих или прогнозируемых угроз, таких как террористические атаки, и поиском людей, подозреваемых в наиболее тяжких преступлениях.
Системы искусственного интеллекта общего назначения и базовые модели
Были добавлены новые положения, учитывающие ситуации, когда системы ИИ могут использоваться для самых разных целей (ИИ общего назначения), и где технология искусственного интеллекта общего назначения впоследствии интегрируется в другую систему высокого риска. В предварительном соглашении также рассматриваются конкретные случаи систем искусственного интеллекта общего назначения (GPAI).
Были также согласованы конкретные правила для модели фундамента, большие системы, способные компетентно выполнять широкий спектр различных задач, таких как генерация видео, текста, изображений, общение на латеральном языке, вычисления или генерация компьютерного кода. Предварительное соглашение предусматривает, что модели фундаментов должны соответствовать конкретным обязательства по прозрачности прежде чем они будут размещены на рынке. Был введен более строгий режим 'ударопрочный' модели фундамента. Это базовые модели, обученные на большом объеме данных, с повышенной сложностью, возможностями и производительностью, значительно превышающими средние, которые могут распространять системные риски по цепочке создания стоимости.
Новая архитектура управления
Учитывая новые правила в отношении моделей GPAI и очевидную необходимость их соблюдения на уровне ЕС, Офис ИИ В рамках Комиссии создана задача контролировать эти самые передовые модели искусственного интеллекта, способствовать развитию стандартов и методов тестирования, а также обеспечивать соблюдение общих правил во всех государствах-членах. А научная группа независимых экспертов будет консультировать Управление искусственного интеллекта по поводу моделей GPAI, способствуя разработке методологий оценки возможностей моделей фундаментов, давая рекомендации по назначению и появлению моделей фундаментов с высокой степенью воздействия, а также отслеживая возможные риски безопасности материалов, связанные с моделями фундаментов.
Ассоциация Доска AI, в состав которого войдут представители государств-членов, останется координационной платформой и консультативным органом Комиссии и будет играть важную роль государствам-членам в реализации регулирования, включая разработку кодексов практики для моделей фундаментов. Наконец, консультативный форум для заинтересованных сторон, таких как представители промышленности, малого и среднего бизнеса, стартапы, гражданское общество и научные круги, будет создан для предоставления технической экспертизы Совету AI.
Штрафы
Штрафы за нарушения закона об искусственном интеллекте были установлены в процентах от глобального годового оборота компании-нарушителя за предыдущий финансовый год или в заранее установленной сумме, в зависимости от того, что больше. Это составит 35 миллионов евро или 7% за нарушение запрещенных приложений ИИ, 15 миллионов евро или 3% за нарушение обязательств закона об ИИ и 7,5 миллионов евро или 1,5% за предоставление неверной информации. Однако предварительное соглашение предусматривает более пропорциональные шапки об административных штрафах для МСП и стартапов в случае нарушения положений Закона об AI.
В компромиссном соглашении также четко указано, что физическое или юридическое лицо может подать жалобу в соответствующий орган. орган по надзору за рынком относительно несоблюдения закона об AI, и может ожидать, что такая жалоба будет рассмотрена в соответствии со специальными процедурами этого органа.
Прозрачность и защита основных прав
Предварительное соглашение предусматривает оценка воздействия на фундаментальные права прежде чем система искусственного интеллекта высокого риска будет выведена на рынок ее развертывателями. Предварительное соглашение также предусматривает увеличение прозрачность относительно использования систем искусственного интеллекта высокого риска. Примечательно, что в некоторые положения предложения Комиссии были внесены поправки, указывающие, что некоторые пользователи системы искусственного интеллекта высокого риска, являющиеся государственными организациями, также будут обязаны зарегистрироваться в база данных ЕС для систем искусственного интеллекта высокого риска. Более того, недавно добавленные положения подчеркивают обязанность пользователей система распознавания эмоций информировать физических лиц, когда они подвергаются воздействию такой системы.
Меры в поддержку инноваций
В целях создания правовой базы, более благоприятной для инноваций, и содействия научно обоснованному обучению в сфере регулирования положения, касающиеся меры в поддержку инноваций были существенно изменены по сравнению с предложением Комиссии.
В частности, выяснилось, что ИИ регулятивные песочницы, которые должны создать контролируемую среду для разработки, тестирования и проверки инновационных систем ИИ, также должны позволять тестировать инновационные системы ИИ в реальных условиях. Кроме того, были добавлены новые положения, позволяющие Тестирование систем искусственного интеллекта в реальные условия мира, при определенных условиях и гарантиях. Чтобы облегчить административное бремя для небольших компаний, предварительное соглашение включает перечень действий, которые необходимо предпринять для поддержки таких операторов, и предусматривает некоторые ограниченные и четко определенные отступления.
Вступление в силу
Предварительное соглашение предусматривает, что закон об AI должен применяться два года после его вступления в силу, за некоторыми исключениями для отдельных положений.
Следующие шаги
После сегодняшнего предварительного соглашения работа на техническом уровне продолжится в ближайшие недели для окончательной доработки деталей нового регламента. Президентство представит компромиссный текст представителям государств-членов (Coreper) на одобрение после завершения этой работы.
Весь текст должен будет быть утвержден обоими учреждениями и подвергнут юридической и лингвистической доработке перед официальным принятием коллегами-законодателями.
Исходная информация
Предложение Комиссии, представленное в апреле 2021 года, является ключевым элементом политики ЕС, направленной на содействие развитию и внедрению единого рынка безопасного и законного ИИ, уважающего основные права.
Предложение следует подходу, основанному на оценке рисков, и устанавливает единую горизонтальную правовую основу для ИИ, направленную на обеспечение правовой определенности. Проект постановления направлен на содействие инвестициям и инновациям в области ИИ, улучшение управления и эффективное соблюдение существующего закона об основных правах и безопасности, а также содействие развитию единого рынка приложений ИИ. Он идет рука об руку с другими инициативами, включая скоординированный план по искусственному интеллекту, направленный на ускорение инвестиций в ИИ в Европе. 6 декабря 2022 года Совет достиг соглашения об общем подходе (переговорном мандате) по этому вопросу и в середине июня 2023 года начал межинституциональные переговоры с Европейским парламентом («трилоги»).
EU Reporter публикует статьи из различных внешних источников, в которых выражается широкий спектр точек зрения. Позиции, изложенные в этих статьях, не обязательно совпадают с позицией EU Reporter.
