Еврокомиссия определилась со структурой компетентного органа в сфере ИИ

Вчера Еврокомиссия опубликована пресс-релиз, в котором содержится информация о внутренней структуре European AI Office. Орган начал действовать в составе Еврокомиссии с февраля этого года. Подробнее писал об этом тут.

Также известный нам по инсайдам о проекте Регламента ЕС об ИИ журналист Лука Бертуцци опубликовал в своем Линкедине пост о персональном составе руководства органа.

Возглавлять орган будет Руководитель AI Office, который будет работать вместе с советником по науке и советником по международным вопросам.

Руководителем стала Лучилла Сиоли, которая ранее работала на лидирующих позициях, связанных с ИИ, внутри Еврокомиссии.

AI Office будет состоять из пяти структурных подразделений:

Отдел по нормативному регулированию и комплаенсу (Regulation and Compliance Unit), который будет координировать единообразное применение Регламента ЕС об ИИ в странах-членах и участвовать в расследованиях возможных нарушений;

Отдел по вопросам безопасности ИИ (Unit on AI safety), специализирующийся на выявлении системных рисков, связанных с использованием передовых моделей ИИ, а также на разработке подходов к оценке и тестированию систем и моделей ИИ;

Отдел передового опыта в области ИИ и робототехники (Excellence in AI and Robotics Unit), который буде поддерживать передовые исследования и обеспечивать обмен опытом. Подразделение будет координировать инициативу GenAI4EU (направлена на внедрение моделей ИИ в ключевые секторы экономики);

Отдел по использованию искусственного интеллекта в интересах общества (AI for Societal Good Unit) будет координировать международное сотрудничество в таких областях, как применение ИИ для моделирования погоды, диагностика рака, создания цифровых двойников для реконструкции зданий;

Отдел координации инноваций и политики в сфере ИИ (AI Innovation and Policy Coordination Unit ), который будет отвечать за реализацию стратегии ЕС в сфере ИИ, стимулировать внедрение ИИ через сеть европейских центров цифровых инноваций и создание фабрик ИИ, а также содействовать развитию инновационной экосистемы путем создания регуляторных песочниц и иных тестовых зон.

Для обеспечения работы в AI Office предполагается принять на работу более 140 сотрудников (конечно, будут и юристы). Пока вакантными являются более 80 позиций. Можно попытать удачу тут.

В своей деятельности AI Office будет сотрудничать вместе с Европейским советом по ИИ (European Artificial Intelligence Board), состоящим из представителей государств-членов, Научной группой независимых экспертов (Scientific Panel of independent experts) и Консультативным форумом (Advisory Forum), представляющем интересы стейкхолдеров.

Исследователи из Института Ады Лавлейс выпустили статью о том, каким образом лучше организовать проведение внешнего независимого аудита для систем ИИ

Группа авторов из Института Ады Лавлейс опубликовала статью с рефлексией относительно текущей практики проведения внешних независимых аудитов систем ИИ. Исследователи сконцентрировались на опыте реализации положений акта города Нью-Йорк об аудите предвзятости при использовании автоматизированных инструментов принятия решений в сфере трудоустройства, который вступил в силу 5 июля прошлого года. Разбор акта имеется на моем канале тут.

Остановимся на некоторых интересных выводах:

- принятие акта не повлияло на справедливость при приеме на работу. За год всего 20 работодателей в Нью-Йорке провели аудит и опубликовали отчеты;

- отчасти корень проблемы зарыт в самих положениях акта, которые требуют лишь предоставить кандидатам или работникам информацию об использовании в их отношении алгоритма, но не вводят запрет на применение предвзятых систем;

- терминология, использующаяся в акте, слишком узкая, а органам власти не переданы полномочия по контролю за его соблюдением;

- эффективности акта помешало также отсутствие четких стандартов и методик работы аудиторов, которые позволили бы им получать всю необходимую информацию, особенно касающуюся чувствительных вопросов;

- однако благодаря вступлению акту в силу удалось разработать стандартизированные критерии оценки работодателей, что заставило некоторых из них расширить внедрение практик ответственного использования ИИ-решений.

По итогам проведенного исследования авторы сформулировали рекомендации для законодателей:

- нормативные акты должны содержать четкие определения, которые позволяют однозначно понять предмет регулирования (какие конкретно системы и модели подлежат аудиту);

- нормативные акты должны устанавливать четкие метрики для аудиторов, а также необходимость разработки стандартных методик и правил поведения аудитора. Аудиторы должны быть обеспечены соответствующими правами по доступу к информации;

- необходимо создать единый публично доступный реестр, в котором будут содержаться отчеты о проведенных аудитах, а также юридические механизмы, позволяющие оспаривать их результаты;

- нормативные акты должны устанавливать механизмы, позволяющие контролировать их соблюдение.

Интересно, что в рамках исследования были опрошены эксперты из компаний и организаций, которые занимаются оценкой систем и моделей ИИ. В их числе, например, знакомые многим моим читателям ForHumanity, BABL, HollisticAI, CredoAI, SolasAI.

Над постом прикрепляю полезную инфографику из статьи.

Обзор Закона штата Колорадо «О защите прав потребителей при взаимодействии с системами искусственного интеллекта»

Друзья, сегодня решил порадовать вас материалом, в котором я разобрал свежий закон штата Колорадо «О защите прав потребителей при взаимодействии с системами искусственного интеллекта» (Colorado AI Act (CAIA)). Этот закон является первой попыткой комплексно урегулировать разработку и применение систем ИИ на уровне штатов США.

Примечательно, что по аналогии с Регламентом ЕС об ИИ в основе акта также лежит риск-ориентированный подход. В законе выделяется группа систем ИИ повышенного риска, к разработчикам и эксплуатантам которых и применяется большая часть его требований.

Интересна и роль генерального прокурора штата, на которого возложены функции по контролю за исполнением положений закона и разработки вспомогательных документов и систем риск-менеджмента.

Также законодатели признают роль других актов и систем риск-менеджмента: разработчики и эксплуатанты могут сослаться на то, что уже соответствуют положениям других актов и документов, устанавливающих сходные или более жесткие требования: NIST AI RMF, ISO/IEC 42001, иные международные стандарты и акты других стран (например, Регламент ЕС об ИИ).

Как вы думаете, стоит ли ждать от этого акта «Калифорнийского эффекта» или скоро мы увидим новые комплексные инициативы в других штатах США?

С полным текстом обзора можно ознакомиться по ссылке.

Подписан закон о внесении изменений в ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в РФ»

Позавчера Президент РФ подписал закон, который вносит изменения в ФЗ № 258. Закон содержит ряд технических правок, позволяет собирать больше информации о разных субъектах (например, субъекты ЭПР теперь должны будут вести реестры контрагентов и ИС, в том числе созданной с помощью систем ИИ).

Также на основе обобщения опыта более четко прописано требование об обязательном страховании участниками ЭПР своей гражданской ответственности за причинение вреда жизни, здоровью или имуществу других лиц.

Еще одной новацией стал механизм, позволяющий определять лиц, ответственных за причинение вреда жизни, здоровью или имуществу человека либо имуществу юридического лица.

Для этого будет создаваться специальная комиссия, которая должна будет изучить обстоятельства происшедшего и издать заключение. Правда, самым жестким последствием для субъекта ЭПР может стать решение уполномоченного органа о приостановлении его статуса. Из финального текста закона пропало положение о том, что заключение может быть использовано при проведении расследования или судебного разбирательства (но и запретов на его использование тоже нет). Однако заключение может быть обжаловано в суде.

Плюс теперь Правительство РФ должно будет ежегодно предоставлять доклад Федеральному собранию о реализации ЭПР.

Закон вступает в силу по истечение 180 дней со дня официального опубликования (опубликован 8 июля).

Мою рефлексию на предложенные изменения я изложил в посте в январе месяце, когда Правительство РФ только инициировало законопроект.

Полный текст закона тут.

Опубликован финальный текст Регламента ЕС об ИИ

Сегодня в официальном источнике был опубликован финальный текст Регламента ЕС об ИИ. В силу документ вступит уже скоро – 1 августа.

Однако напоминаю, что применяться Регламент начнет со 2 августа 2026 года. Таким образом, законодатели, с одной стороны, дали время бизнесу изучить новые требования и подготовиться к ним, а с другой – органам ЕС разработать необходимые рекомендации, имплементационные акты и технические стандарты.

Для отдельных положений установлены иные сроки:

- Главы I (Общие положения) и II (Запрещенные ИИ-практики) применяются со 2 февраля 2025 года;

- раздел 4 Главы III (Нотифицированные органы), глава V (Модели ИИ общего назначения), глава VII (Управление (Governance)) и глава XII (Штрафы и иные меры воздействия (за исключением статьи 101 – Штрафы для поставщиков моделей ИИ общего назначения)), а также статья 78 (Конфиденциальность) применяются со 2 августа 2025 года;

- Часть 1 Статьи 6 (основания классификации систем ИИ в качестве систем повышенного риска) и соответствующие ей обязательства применяются со 2 августа 2027 года.