Как Закон ЕС об искусственном интеллекте повлияет на финансовые учреждения

Закон ЕС об искусственном интеллекте, вступивший в силу 1 августа 2024 года, является важным законодательным событием для финансовых учреждений (ФИ). Поскольку положения начинают применяться в течение периода от шести до 36 месяцев, большинство правил Закона вступят в силу через два года. И это имеет серьезные последствия, особенно для ФИ, использующих высокорисковые системы искусственного интеллекта, такие как модели кредитного скоринга и инструменты оценки риска, пишет Дэвид Саллум, юридический директор группы Eastnets.

Потенциал ИИ в торговом финансировании, управлении рисками и борьбе с финансовыми преступлениями огромен. Однако для обеспечения доверия и защиты основных прав необходимо эффективное регулирование. Закон ЕС об ИИ является ключевым шагом в этом направлении, гарантируя, что ИИ будет развиваться безопасно и этично.

Ключевые элементы

Закон применяется к системам ИИ, которые продаются, используются или влияют на людей в ЕС, включая тех, кто не из стран ЕС. Он использует подход, основанный на рисках, категоризируя приложения ИИ на основе уровней риска, со строгими требованиями для случаев использования с высоким риском, таких как критическая инфраструктура и правоохранительные органы среди списка из восьми областей.

Системы ИИ с высоким риском должны соответствовать строгим стандартам качества данных и управления. Это гарантирует, что программное обеспечение не будет обучаться на плохих или неполных данных, которые могут привести к неблагоприятному результату. Документация, прослеживаемость и прозрачность необходимы для обеспечения возможности аудита ИИ и объяснения его решений. Человеческий надзор обязателен для вмешательства в решения ИИ, что имеет решающее значение для приложений в медицинской диагностике или судебных делах.

Кроме того, Закон предписывает использовать синтетические или анонимные данные при обучении моделей ИИ для обнаружения и исправления предвзятости. Синтетические данные, искусственно созданные, а не собранные из реальных событий, помогают гарантировать, что системы ИИ являются справедливыми и точными. Если эти методы уменьшают предвзятость, то поставщики систем ИИ должны их использовать.

Последствия для финансовых учреждений

Для финансовых учреждений соблюдение этих требований имеет решающее значение. При этом необходимо предпринять ряд важных действий. Во-первых, если его еще нет, необходимо создать орган управления ИИ. Он должен нести ответственность за все использование ИИ в бизнесе и должен тщательно оценивать системы для определения их классификации в соответствии с Законом.

Например, системы ИИ, используемые для оценки кредитоспособности или кредитоспособности, скорее всего, будут классифицироваться как высокорисковые, учитывая их значительное влияние на доступ людей к финансовым ресурсам. Напротив, Европейский парламент предлагает, чтобы системы ИИ, используемые для обнаружения мошенничества в сфере финансовых услуг, не считались высокорисковыми в соответствии с Законом. Этот нюанс позволяет финансовым учреждениям продолжать внедрять инновации в обнаружение мошенничества, обеспечивая при этом соблюдение всеобъемлющих принципов Закона.

Во-вторых, эта группа должна обеспечить человеческий надзор за всеми системами, чтобы гарантировать, что ИИ используется прозрачно, этично, справедливо, безопасно и с контролем конфиденциальности. Например, когда программное обеспечение взаимодействует с людьми, оно должно раскрывать, что это ИИ. Кроме того, контент, созданный ИИ, должен быть четко обозначен, чтобы избежать искажения. Пользователи также должны быть проинформированы, когда ИИ использует распознавание эмоций или биометрическую категоризацию.

Наконец, любой орган управления должен также гарантировать высокое качество входных данных, чтобы минимизировать предвзятость и предотвратить дискриминационные результаты. Он также должен быть на 100 процентов прозрачным в своей работе, регистрируя свои решения и предоставляя их при необходимости.

Невыполнение требований Акта может повлечь за собой штрафы. Европейский совет по искусственному интеллекту будет контролировать реализацию, а национальные органы будут отвечать за надзор и обеспечение соблюдения. Также будет создана публичная база данных для систем ИИ с высоким риском для обеспечения прозрачности и надзора.

Долгосрочные последствия

Системы ИИ общего назначения, такие как те, которые используются в распознавании изображений и речи, будут рассмотрены в будущих актах. Гибкая структура Закона ИИ позволяет ему развиваться вместе с технологией ИИ, гарантируя, что новые разработки будут надлежащим образом регулироваться.

Финансовые организации должны быть в курсе этих изменений, поскольку они повлияют на то, как ИИ может использоваться для повышения эффективности и инноваций в таких областях, как обработка документов, управление рисками и соблюдение нормативных требований.

Баланс между инновациями и регулированием

В то время как чрезмерное регулирование может препятствовать инновациям, Закон ЕС об искусственном интеллекте предоставляет крайне необходимый набор руководств для быстро развивающейся технологии. С одной стороны, он направлен на обеспечение безопасности систем искусственного интеллекта, защищая права людей. С другой стороны, он будет способствовать инновациям и инвестициям благодаря прозрачности и открытости, требуемым Законом. Разработчики смогут лучше сотрудничать и совершенствовать программное обеспечение.

Однако регулирование должно оставаться гибким и двигаться с той же скоростью, что и технология. Политики должны учитывать обратную связь и сотрудничать с промышленностью; особенно из таких секторов, как финансовые услуги, где правила оказывают наибольшее влияние. И хотя этические соображения всегда должны быть в основе регулирования, это должно быть сбалансировано с позитивным поощрением технологии.

Поскольку обратный отсчет до соответствия начинается, FI должны быть позитивными. Несомненно, есть работа, которую нужно проделать в плане соответствия, но результат будет лучше для всех: разработчиков, предприятий и потребителей.

* Информация в этом сообщении в блоге предназначена только для общих информационных целей и не является юридической консультацией. Содержание основано на интерпретации автора и может не отражать самые последние правовые изменения. Читателям следует обратиться за профессиональной юридической консультацией по конкретным вопросам. Все права на упомянутый сторонний контент остаются у их соответствующих авторов.

Поделиться этой статьей: