Искусственный интеллект: угрозы и возможности

Рост и благосостояние Европы тесно связаны с тем, как она будет использовать данные и подключенные технологии. ИИ может иметь большое значение для нашей жизни и общество - хорошо это или плохо - и Европейский парламент учредил комитет изучить влияние технологии. Ниже приведены некоторые ключевые возможности и угрозы, связанные с будущими приложениями ИИ.

Узнайте больше о том, что такое искусственный интеллект и как он используется.

Преимущества ИИ

Страны ЕС уже сильны в цифровой индустрии и бизнес-приложениях. Благодаря высококачественной цифровой инфраструктуре и нормативно-правовой базе, защищающей конфиденциальность и свободу слова, ЕС может стать мировым лидером в области экономики данных и ее приложений.

Преимущества ИИ для людей

ИИ может помочь людям с улучшенным медицинским обслуживанием, более безопасными автомобилями и другими транспортными системами, индивидуализированными, более дешевыми и долговечными продуктами и услугами. Это также может облегчить доступ к информации, образованию и обучению. Потребность в дистанционном обучении стала более важной из-за COVID-19 пандемия. ИИ также может сделать рабочее место более безопасным, поскольку роботов можно использовать для выполнения опасных задач, и открывать новые рабочие места по мере роста и изменения отраслей, основанных на ИИ.

Реклама

Возможности искусственного интеллекта для бизнеса

Для предприятий ИИ может способствовать разработке продуктов и услуг нового поколения, в том числе в тех секторах, где европейские компании уже имеют сильные позиции: зеленая и замкнутая экономика, машиностроение, сельское хозяйство, здравоохранение, мода, туризм. Это может увеличить продажи, улучшить обслуживание оборудования, увеличить объем производства и качество, улучшить обслуживание клиентов, а также сэкономить энергию.

Возможности ИИ в госуслугах

ИИ, используемый в общественных службах, может снизить затраты и открыть новые возможности в области общественного транспорта, образования, энергетики и управления отходами, а также может повысить экологичность продукции. Таким образом, ИИ может способствовать достижению целей ЕС Зеленая сделка.

Укрепление демократии

Демократию можно укрепить, используя анализ данных, предотвращающий дезинформация и кибератаки и обеспечение доступа к качественной информации. ИИ также может поддерживать разнообразие и открытость, например, уменьшая возможность предубеждений при принятии решений о найме и вместо этого используя аналитические данные.

ИИ, охрана и безопасность

Предполагается, что ИИ будет больше использоваться в предупреждении преступности и в системе уголовного правосудия, поскольку массивные наборы данных могут обрабатываться быстрее, риски бегства заключенных оцениваться более точно, преступления или даже террористические нападения прогнозируются и предотвращаются. Он уже используется онлайн-платформами для обнаружения незаконного и ненадлежащего поведения в сети и реагирования на него.

В военных вопросах ИИ может использоваться для стратегий защиты и атак при взломе и фишинге или для нацеливания на ключевые системы в кибервойне, в то время как ключевым преимуществом автономных систем оружия является возможность участвовать в вооруженном конфликте с уменьшенным риском физического ущерба.

Угрозы и проблемы ИИ

Растущая зависимость от систем искусственного интеллекта также создает потенциальные риски.

Недостаточное и чрезмерное использование ИИ

Недостаточное использование ИИ считается серьезной угрозой: упущенные возможности для ЕС могут означать плохую реализацию крупных программ, таких как «Зеленый курс ЕС», потерю конкурентных преимуществ перед другими частями мира, экономический застой и более бедные возможности для людей. Недостаточное использование может быть вызвано недоверием общественности и бизнеса к ИИ, плохой инфраструктурой, отсутствием инициативы, низкими инвестициями или, поскольку машинное обучение ИИ зависит от данных, фрагментированными цифровыми рынками.

Чрезмерное использование также может быть проблематичным: инвестирование в приложения ИИ, которые оказались бесполезными, или применение ИИ для задач, для которых он не подходит, например, его использование для объяснения сложных социальных проблем.

Ответственность: кто несет ответственность за ущерб, причиненный ИИ?

Важная задача - определить, кто несет ответственность за ущерб, причиненный устройством или услугой, управляемым ИИ: в аварии с участием беспилотного автомобиля. Должен ли ущерб быть покрыт владельцем, производителем автомобиля или программистом?

Если бы производитель был абсолютно свободен от ответственности, могло бы не быть стимула предоставлять хороший продукт или услугу, и это могло бы подорвать доверие людей к технологии; но правила также могут быть слишком строгими и сдерживать инновации.

Угрозы ИИ для основных прав и демократии

Результаты, которые дает ИИ, зависят от того, как он разработан и какие данные он использует. И дизайн, и данные могут быть преднамеренно или непреднамеренно смещены. Например, некоторые важные аспекты проблемы могут не быть запрограммированы в алгоритме или могут быть запрограммированы на отражение и воспроизведение структурных предубеждений. Кроме того, использование чисел для представления сложной социальной реальности может заставить ИИ казаться фактическим и точным, когда это не так. Иногда это называют промыванием математики.

Если не сделать это должным образом, ИИ может привести к принятию решений на основании данных об этнической принадлежности, поле, возрасте при приеме на работу или увольнении, предложении ссуд или даже в уголовном процессе.

ИИ может серьезно повлиять на право на конфиденциальность и защиту данных. Например, его можно использовать в оборудовании для распознавания лиц или для онлайн-отслеживания и профилирования людей. Кроме того, ИИ позволяет объединять фрагменты информации, предоставленные человеком, в новые данные, что может привести к результатам, которых человек не ожидал.

Это также может представлять угрозу для демократии; ИИ уже обвиняли в создании онлайн-эхо-камер, основанных на предыдущем поведении человека в сети, отображающих только контент, который человек хотел бы, вместо создания среды для плюралистических, одинаково доступных и инклюзивных публичных дебатов. Его даже можно использовать для создания чрезвычайно реалистичных поддельных видео, аудио и изображений, известных как дипфейки, которые могут представлять финансовые риски, наносить ущерб репутации и усложнять процесс принятия решений. Все это может привести к разделению и поляризации в общественной сфере и манипулировать выборами.

ИИ также может сыграть роль в ущемлении свободы собраний и протестов, поскольку он может отслеживать и профилировать людей, связанных с определенными убеждениями или действиями.

Влияние ИИ на рабочие места

Ожидается, что использование ИИ на рабочем месте приведет к сокращению большого количества рабочих мест. Хотя ожидается, что ИИ также будет создавать и улучшать рабочие места, образование и обучение будут играть решающую роль в предотвращении долгосрочной безработицы и обеспечении квалифицированной рабочей силы.

Сбор информации также может привести к искажению конкуренции, поскольку компании, располагающие большей информацией, могут получить преимущество и эффективно устранить конкурентов.

Риски безопасности и защищенности

Приложения ИИ, которые находятся в физическом контакте с людьми или интегрированы в человеческое тело, могут представлять угрозу безопасности, поскольку они могут быть плохо спроектированы, неправильно использованы или взломаны. Плохо регулируемое использование ИИ в оружии может привести к потере человеком контроля над опасным оружием.

Проблемы прозрачности

Несбалансированность доступа к информации может быть использована. Например, на основе онлайн-поведения человека или других данных и без его ведома онлайн-продавец может использовать ИИ, чтобы предсказать, кто-то готов платить, или политическая кампания может адаптировать их сообщение. Другая проблема прозрачности заключается в том, что иногда людям может быть неясно, взаимодействуют ли они с ИИ или с человеком.