Европарламент принял первый в мире закон о регулировании искусственного интеллекта (ИИ), который был разработан и согласован еще в декабре прошлого года. Этот закон, за который проголосовали 523 депутата из 618, устанавливает запрет на недопустимые формы использования нейронных сетей. Целью данного проекта является защита фундаментальных прав, демократии, принципов верховенства закона и экологической устойчивости от рисков, связанных с использованием искусственного интеллекта.
Важным аспектом также является стимулирование инноваций и утверждение Европы в качестве лидера в области развития ИИ. В соответствии с данным регламентом устанавливаются обязательства, касающиеся применения ИИ на основе потенциальных рисков и уровня воздействия. В частности, закон запрещает извлекать изображения людей из интернета или видеонаблюдения для создания баз данных по распознаванию лиц, использовать системы распознавания эмоций и лиц, а также биометрические системы идентификации в режиме реального времени в общественных местах.
Также установлен запрет на использование систем предиктивной аналитики полицией без соответствующего разрешения для профилактики правонарушений, когда ИИ может предсказывать преступления. Запрещено также использование нейронных сетей, которые манипулируют человеческим поведением или злоупотребляют его уязвимостями. Системы ИИ с высоким уровнем риска, такие как те, которые применяются в области здравоохранения, банковского дела или образования, должны проводить оценку и управление рисками, вести журнал использования и обеспечивать человеческий контроль.
Кроме того, граждане имеют право на подачу жалоб по использованию систем ИИ и требование разъяснений о принятых решениях, влияющих на их права.
Вместе с законом требуется, чтобы сервисы соблюдали авторские права и четко обозначали контент, созданный искусственно или обработанный нейросетью. Доктор технических наук и генеральный директор Smart Engines Владимир Арлазаров отметил, что сейчас в мире происходят инциденты, связанные с тем, что искусственный интеллект генерирует факты, которые затем чат-боты предлагают пользователям, что может привести к дезинформации. Пометка всего контента, созданного генеративным ИИ, позволит каждому принимать решение о доверии этому контенту. Член Европарламента Брандо Бенифеи выразил мнение, что новый закон об ИИ поможет снизить риски, бороться с дискриминацией и обеспечит прозрачность. Он отметил важность окончательной проверки документа юристами-лингвистами и одобрения Советом.
Вступление закона в силу произойдет через 20 дней после публикации в официальном журнале, а его полное применение начнется через два года. Патентный поверенный РФ и ведущий специалист Института ИИ AIRI Вита Власова подчеркнула, что разработчики закона встали во главе глобальной гонки законодательства в области ИИ. Она выразила мнение, что этот закон может стать образцом для других юрисдикций, но вопрос о его становлении мировым стандартом остается открытым. Власова отметила, что риско-ориентированный подход, предусмотренный законом, выглядит логичным, но вопросы применения его на практике остаются открытыми.
Она считает важным России извлечь из этого закона лучшие практики, чтобы несмотря на негативные моменты, он мог способствовать развитию сферы ИИ. В России уже предпринимаются шаги по регулированию нейросетей, например, подписание декларации о ответственном развитии и использовании сервисов на основе ИИ Альянсом в сфере ИИ. Ее участники согласились принимать меры для предотвращения распространения недостоверной информации, а также проводить просветительскую работу с пользователями о принципах прозрачности и безопасности.