Европарламент согласовал новые положения законопроекта об искусственном интеллекте
| 
Комитеты Европарламента по внутреннему рынку и защите потребителей (Internal Market and Consumer Protection Committee, IMCO), а также по гражданским свободам, юстиции и внутренним делам (Committee on Civil Liberties, Justice and Home Affairs, LIBE) согласовали в четверг новые положения законопроекта (AI Act) об искусственном интеллекте (ИИ).
Европарламентарии внесли поправки, запрещающие «интрузивное и дискриминационное использование ИИ-систем», в частности:
- систем дистанционной биометрической идентификации, работающих в режиме реального времени в общедоступных местах;
- систем дистанционной биометрической идентификации, используемых постфактум, за исключением их применения правоохранительными органами с санкции суда для расследования тяжких преступлений;
- биометрических классификационных систем, использующих «деликатные характеристики» (пол, расу, этническую и религиозную принадлежность, гражданство, политические пристрастия).
- прогностических систем полиции (работа которых основана на фактах биографии, местоположении или преступных деяниях, совершённых [физическим лицом] в прошлом);
- систем распознавания эмоций правоохранительными органами, пограничным контролем, работодателями и образовательными организациями.
Запрещён также неизбирательный сбор биометрических данных из соцсетей или записей с камер наблюдения для создания баз данных, используемых в системах распознавания лиц (с нарушением прав человека и права на неприкосновенность частной жизни).
Представители комитетов расширили классификацию сфер высокого риска, включив в них ущерб здоровью, безопасности, фундаментальным правам человека и вред окружающей среде. В список ИИ-инструментов, связанных с высоким риском, внесены ИИ-системы, которые оказывают влияние на избирателей во время проведения политических кампаний, и рекомендательные алгоритмы интернет-платформ (с ежемесячной аудиторией более 45 миллионов человек по закону о цифровых услугах — Digital Services Act, DSA)
Предложено обязать поставщиков базовых ИИ-моделей давать гарантии полноценного обеспечения фундаментальных прав, верховенства закона, безопасности, а также защиты здоровья, окружающей среды и демократии. Поставщикам придётся оценивать и минимизировать риски, учитывать требования по разработке и охране окружающей среды, регистрироваться в специальной базе данных ЕС.
Создатели генеративных базовых моделей, таких как ChatGPT, будут должны выполнять дополнительные требования для обеспечения прозрачности — указывать факт создания контента при помощи ИИ, разрабатывать модель таким образом, чтобы не допустить генерацию незаконного контента, а также публиковать сведения о защищённых авторскими правами данных, использованных при обучении ИИ-систем.
Отступать от требований можно будет при ведении исследовательской деятельности.
Источник: industry-hunter.com
