По мнению экспертов, некоторые пункты документа нуждаются в доработке
Евросоюз может частично запретить использование AI. Фото: pixabay.com
Европейский союз рассматривает возможность о запрете использования искусственного интеллекта для ряда сфер, включая массовое наблюдение и социальные кредитные рейтинги. Об этом сообщает The Verge со ссылкой на издание Politico, которое получило доступ к разработанному документу.
Если проект предложения будет принят, это приведет к тому, что ЕС займет твердую позицию в отношении определенных направлений ИИ. В частности, некоторые варианты использования технологии будут контролироваться аналогично Общему регламенту по защите данных (GDPR).
Государства-члены, например, должны будут создать оценочные комиссии для тестирования и проверки систем искусственного интеллекта с высоким риском. А компании, которые разрабатывают или продают запрещенное в ЕС программное обеспечение, в том числе базирующиеся в других странах мира, могут быть оштрафованы до 4% от общего дохода.
Согласно копии черновика, с которой ознакомился портал The Verge, проект правил включает:
- Запрет на ИИ для «неизбирательного наблюдения», включая системы, которые напрямую отслеживают людей в физической среде или собирают данные из других источников.
- Запрет на ИИ, которые создают социальные кредитные рейтинги, для оценки чьей-либо благонадежности на основе социального поведения и личностных качеств.
- Специальное разрешение на использование «удаленных систем биометрической идентификации», таких как распознавание лиц в общественных местах.
- Уведомления о взаимодействии человека с ИИ, если это не «очевидно из обстоятельств и контекста использования».
- Надзор за «высокорисковыми» ИИ, которые представляют прямую угрозу безопасности. Речь идет о беспилотных автомобилях, и системах, которые могут повлиять на чьи-то средства существования, например, для найма на работу и судебных решений.
- Оценка контролирующими органами систем с высоким уровнем риска до их ввода в эксплуатацию. Обучение таких ИИ должно будет проходить на проверенных «высококачественных» наборах данных.
- Создание Европейского совета по искусственному интеллекту, состоящего из представителей всех стран ЕС.
По мнению экспертов, некоторые пункты документа нуждаются в доработке.
«Описания запрещенных систем искусственного интеллекта расплывчаты и содержат нечеткие формулировки, которые могут создать лазейки в их трактовании», — заявил аналитик европейской политики Access Now Дэниел Леуфер.
В частности, он отметил, что раздел о запрете использования ИИ для массовое наблюдение и социальных кредитных рейтингов «далек от идеала».
СПРАВКА PAYSPACE MAGAZINE
Ранее мы писали, что Кабинет министров поддержал разработанную Министерством цифровой трансформации концепцию развития сферы искусственного интеллекта в Украине. По словам главы Минцифры Михаила Федорова, это будет способствовать интеграции инновационных технологий в экономически важные секторы государства.
ЧИТАЙТЕ ТАКЖЕ: Как искусственный интеллект помогает улучшить банковский сектор
Telegram
Viber