В Министерстве цифровой трансформации обнародовали Белую книгу по регулированию ИИ в Украине, в которой рассматривается нынешнее состояние отрасли и видение ее будущего правового регулирования. В этой статье мы рассмотрим главные моменты из этого отчета
Использование ИИ в Украине: состояние отрасли и планы по регулированию от Минцифры Фото: chatgpt.com
«С начала создания Минцифры и до сих пор наша цель остается неизменной — построить самое удобное цифровое государство в мире. Мы верим, что будущее Украины — в развитии цифровой экономики и инноваций. Искусственный интеллект — важная часть этого пути. Сегодня ИИ в Украине уже используют в разных направлениях — от военных технологий до govtech. Видим важный фокус в развитии технологий ИИ также в сферах образования, здравоохранения, экономики, урбанистического планирования и многих других», — отметил Михаил Федоров, вице-премьер-министр по инновациям, развитию образования, науки и технологий — министр цифровой трансформации Украины.
По его словам, это позволит нашему государству не просто адаптироваться к мировым тенденциям, но и стать лидером в этой области
«Как еще один шаг на этом пути — представляем Белую книгу, которая подробно описывает подход Украины к регулированию ИИ. Документ открыт к широкому обсуждению. Для его разработки мы привлекали экспертов из разных отраслей — общественного сектора, бизнеса, представителей государственных органов, научного сообщества. Это позволило вместить предложения и потребности специалистов из разных сфер», — добавил Михаил Федоров.
В пресс-службе Минцифры подчеркнули, что Белая книга подготовлена благодаря поддержке, предоставленной Агентством США по международному развитию в рамках Проекта USAID «Кибербезопасность критически важной инфраструктуры Украины» и Проекта «Поддержка цифровой трансформации» при поддержке USAID и UK Dev.
Использование ИИ в Украине
Невероятный потенциал искусственного интеллекта привел к всплеску новых проектов с его использованием, активному внедрению в частном секторе, а также использованию систем и приложений ИИ в личных и профессиональных целях среди пользователей во всем мире, и Украина — не исключение.
Согласно январскому опросу Kantar Ukraine, 78,7% опрошенных граждан знают, что такое искусственный интеллект. При этом лишь 7,6% сказали, что не знакомы с этим понятием. Еще 13,7% затруднились дать однозначный ответ. Также значительная часть украинцев уже имела опыт использования технологий ИИ, начиная от взаимодействия с чатботами и заканчивая использованием бытовых приборов, работающих на технологии искусственного интеллекта.
По результатам последнего опроса в январе 2024 года, 29,1% респондентов отметили, что используют AI в той или иной сфере, 16,6% затруднились дать однозначный ответ и 54,3% сказали, что не используют ИИ.
Аналитики подчеркивают, что украинцы чаще стали замечать применение ИИ, особенно это касается охранных систем, креативной индустрии, банковских услуг и обслуживания клиентов. В настоящее время около половины опрошенных положительно относятся к искусственному интеллекту, а 73% людей согласны с утверждением, что эта технология способна улучшить жизнь человечества.
Читайте популярное: Как развивается ИИ-экосистема в Украине — исследование AI HOUSE
Несмотря на в основном положительное отношение украинцев к AI, они чувствуют и риски, связанные с ним, в частности, этические, социально-экономические и экзистенциальные.
Отвечая на вопрос о способности распознать текст, сгенерированный ChatGPT или другой нейросетью, только 19,6% респондентов сообщили, что способны распознать такой текст, и 42,2% — не способны. 34,1% людей добавили, что доверяют данным, написанным ботом, 25,4% не доверяют.
«Такие данные свидетельствуют о наличии значительных рисков манипулирования поведением людей с помощью ИИ, которые должны быть адресованы, — говорится в отчете Минцифры. — Дискуссия о рисках, связанных со стремительным развитием и использованием ИИ, так же стала одной из ключевых наряду с общими обсуждениями о преимуществах и потенциале технологий искусственного интеллекта. Это, в свою очередь, неизбежно привело к возникновению вопроса о необходимости правового регулирования ИИ. При этом доля сторонников принятия закона среди опрошенных с материальным положением выше среднего и высшим образованием составляет 53 и 51 процент соответственно».
В Минцифры объяснили, что дискуссия о правовом регулировании ИИ в Украине вышла на широкую общественность фактически только в прошлом году, но процессы обсуждения правового регулирования стартовали значительно раньше, еще в 2020 году. В частности, речь идет об участии в работе Специального Комитета Совета Европы по Искусственному интеллекту. Тогда перед участниками стояла задача оценить необходимость правового регулирования на общеевропейском уровне.
Как результат — создан Комитет Совета Европы по ИИ. Его задачей стала разработка Рамочной конвенции Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права, участие в разработке которой принимала и делегация Украины. Аналогичные процессы в последние годы происходили и на уровне других международных и супернациональных организаций, в частности Европейского Союза, и других стран.
Цели внедрения регулирования ИИ в Украине
Для более четкого понимания планов по регулированию искусственного интеллекта, в Минцифры обозначили главные цели этого процесса:
- Цель 1: Поддержка конкурентоспособности бизнеса и обеспечение доступа к глобальным рынкам.
Подход Минцифры к регулированию предусматривает также создание и предоставление бизнесу инструментов для подготовки интеграции технологии. Разработка и внедрение таких средств позволит бизнесу не только подготовиться к будущему национальному законодательству, но и к требованиям Регламента ЕС по искусственному интеллекту и выходу на европейский рынок.
- Цель 2: Защита прав человека
Эта проблематика неоднократно обсуждалась широкой общественностью и различными институтами. Среди основных дискуссий — проблема того, что в процессе обучения технологии ИИ могут отражать институциональную дискриминацию, имеющиеся предубеждения в отношении представителей разных национальностей, цвета кожи и других признаков.
Особенно эта опасность может проявляться, когда AI используется в процессе подбора кандидатов на работу, выдачи государственной помощи или кредитов. Также сейчас уже известны случаи использования ИИ для создания глубинных фейков и манипулирования мнением общества.
С целью ограждения граждан от таких рисков и защиты прав человека при взаимодействии с ИИ возникает потребность во внедрении юридически обязательного и всеобъемлющего регулирования.
- Цель 3: Евроинтеграция.
Дальнейшая интеграция, безусловно, предусматривает и адаптацию национального законодательства к законодательству ЕС, в том числе и в цифровой сфере.
«Мы убеждены, что имплементация Регламента ЕС об ИИ важна не только для беспроблемной интеграции Украины в ЕС, но и имеет под собой весомые рыночные и экономические предпосылки», — отмечают в Минцифры.
Интересное по теме: Преимущества децентрализованного ИИ: Как он изменит мир
Artificial intelligence Фото: freepik.com
Первые шаги на пути к регулированию ИИ в Украине
«Принимая во внимание аргументы и предложения государственных органов власти, представителей профильного бизнеса, организаций гражданского общества, представителей научной и технической среды, Министерство цифровой трансформации Украины предлагает воспользоваться путем постепенного внедрения регулирования в сфере ИИ. Под постепенным внедрением регулирования сферы ИИ мы имеем в виду движение от внезаконодательных инструментов и инициатив в течение ближайших нескольких лет до принятия специального закона по искусственному интеллекту на финальном этапе. Таким образом, суть подхода заключается в разделении пути к внедрению обязательного регулирования на два этапа: подготовительный этап и этап внедрения закона-аналога Регламента ЕС по искусственному интеллекту», — говорится в отчете.
Первый этап (подготовительный), как пояснили в Минцифры, предусматривает создание и внедрение внезаконодательных инструментов для помощи профильному бизнесу и другим стейкхолдерам в подготовке к будущему обязательному регулированию.
Сегодня предполагается работа над разработкой, адаптацией и внедрением таких инструментов, как:
- регуляторная песочница;
- методология оценки влияния ИИ на права человека;
- инструменты по маркировке ИИ;
- инструменты «мягкого» права (добровольных кодексов поведения, общих и секторальных рекомендаций).
Важный элемент первого этапа и подхода в целом — создание веб-портала ответственного ИИ, где будут собраны и интегрированы такие инструменты.
«Еще одним важным элементом должна стать и финальная версия Белой книги, которая будет доработана и финализирована по результатам консультаций в рамках текущей публикации. Предполагается, что финальная версия Белой книги по искусственному интеллекту станет согласованным общим ориентиром как для государства, так и для бизнеса и обеспечит прогнозируемость правил игры в сфере искусственного интеллекта на будущие годы», — добавили эксперты Минцифры.
Второй этап — имплементация Регламента ЕС об искусственном интеллекте.
Вызовы в сфере регулирования ИИ
Первый вызов — имеющиеся ресурсы и способности государства внедрять и осуществлять регулирование ИИ в соответствии с выбранным подходом. Под способностью необходимо понимать совокупные финансовые, человеческие и организационные ресурсы, которые государство может использовать для целей как внедрения, так и осуществления регулирования.
«Это приводит к ситуации, когда эффективное регулирование становится невозможным без создания соответствующего регуляторного органа, который наделен полномочиями устранять те или иные нарушения законодательства в режиме реального времени. Если, например, определенная практика использования ИИ нарушает право человека на недискриминацию, то без своевременного предписания об устранении нарушения мы получаем проблему повторяемости такого нарушения», — объясняют в Минцифры.
Наличие только запрета и возможность отстоять свое право через суд — не является эффективным механизмом в цифровой сфере. Яркий пример в уже урегулированной сфере общественных отношений — проблема быстрого удаления незаконного контента в сети интернет.
«Так, например, в случае несвоевременного удаления детской порнографии из сети Интернет ребенок становится жертвой каждый раз, когда кто-то просматривает соответствующий контент. Именно поэтому в этой сфере старый подход с удалением незаконного контента на основе решения суда считается неэффективным и таким, который подлежит пересмотру», — отмечается в отчете.
Аналогичные соображения должны рассматриваться и при выборе подхода к регулированию в сфере ИИ.
Для создания регуляторного органа Украине нужны достаточное количество человеческих и финансовых ресурсов, что в условиях войны, несмотря на всю значимость сферы искусственного интеллекта, очевидно — крайне маловероятно.
Например, правительство Великобритании планирует выделить £10 млн только на усиление возможностей уже имеющихся регуляторных органов для регулирования сферы AI. Исходя из текущих приоритетов Украины, выделение сопоставимых или даже пропорциональных украинским реалиям средств — невозможно.
Также создание подобного органа требует значительных временных затрат для прохождения всех необходимых процедур, в частности, разработки отдельного закона о порядке создания, полномочий и функций такого органа.
Читайте также: Ученые разработали инновационный ИИ-чип: в чем его преимущество
Еще одна важная проблема — наличие надлежащего уровня экспертизы и профессионального человеческого ресурса, который может быть привлечен к работе регуляторного органа.
«Именно поэтому мы акцентируем внимание на формировании возможностей в рамках нашего подхода, где под формированием возможностей понимается не только способность бизнеса отвечать будущим требованиям, но и способность государства осуществлять регулирование. И именно поэтому, например, подход с быстрым внедрением обязательного регулирования с созданием регуляторного органа (имплементация Регламента ЕС сразу после его принятия) фактически невозможен», — пояснили в Минцифры.
Предложение сотрудничества для крупных ИИ-платформ
При отсутствии обязательного регулирования в течение 1 этапа специалисты Минцифры стремятся использовать все доступные возможности, в том числе и партнерские отношения. В этом контексте они возлагают большие надежды на ответственный бизнес и прежде всего на крупные AI-платформы.
Структура мирового рынка генеративного ИИ в части моделей и платформ имеет тенденцию к кристаллизации пяти крупных игроков, которые, согласно исследованию IOT Analytics 2023, совокупно занимают 84% всего рынка AI-платформ. Возможность покрытия ≈ 84% вероятных нарушений прав человека путем подписания четырех партнерских соглашений: Open AI, Microsoft, AWS, Google, Microsoft, AWS, Google.
«Мы предлагаем применить концепцию Trusted Flagger (используемую в рамках другого знакового регулирования в цифровой сфере — Регламента ЕС о цифровых услугах). Суть концепции заключается в том, чтобы привлечь ведущие украинские общественные организации к выполнению функции Trusted Flagger — доверенного наблюдателя, который берет на себя функцию фильтрации жалоб на нарушение пользовательских условий каждой из платформ в части нарушения прав человека в связи с использованием ИИ», — объясняют специалисты Министерства цифровой трансформации.
По их словам, после получения жалобы такой доверенный наблюдатель рассматривает ее на предмет возможного нарушения и в случае прихода к выводу о его наличии передает жалобу непосредственно на платформу, которая рассматривается в приоритетном порядке.
«Убеждены, что такой механизм будет взаимовыгодным для всех сторон: пользователь — быстрое рассмотрение жалобы в случае наличия нарушения; платформы — уменьшение объема жалоб для обработки (фильтрация третьей стороной); государство — еще один инструмент защиты прав человека здесь и сейчас», — отмечается в отчете.
Минцифры сейчас уже достигло предварительных договоренностей с некоторыми компаниями, имеющими большой опыт работы в сфере цифровых прав, и призывает к сотрудничеству другие компании.
«Мы также открыты к обсуждению возможных предложений по пересмотру предлагаемой схемы сотрудничества, а также к рассмотрению альтернативных механизмов для защиты прав пользователей», — говорят представители Министерства.
Ознакомьтесь с другими популярными материалами:
ТОП-5 популярных генеративных ИИ, создающих изображения, тексты и музыку
Что такое ИИ-галлюцинация и как обычному пользователю ее обнаружить
