Опубликован финальный текст Регламента ЕС об ИИ
Сегодня в официальном источнике был опубликован финальный текст Регламента ЕС об ИИ. В силу документ вступит уже скоро – 1 августа.
Однако напоминаю, что применяться Регламент начнет со 2 августа 2026 года. Таким образом, законодатели, с одной стороны, дали время бизнесу изучить новые требования и подготовиться к ним, а с другой – органам ЕС разработать необходимые рекомендации, имплементационные акты и технические стандарты.
Для отдельных положений установлены иные сроки:
- Главы I (Общие положения) и II (Запрещенные ИИ-практики) применяются со 2 февраля 2025 года;
- раздел 4 Главы III (Нотифицированные органы), глава V (Модели ИИ общего назначения), глава VII (Управление (Governance)) и глава XII (Штрафы и иные меры воздействия (за исключением статьи 101 – Штрафы для поставщиков моделей ИИ общего назначения)), а также статья 78 (Конфиденциальность) применяются со 2 августа 2025 года;
- Часть 1 Статьи 6 (основания классификации систем ИИ в качестве систем повышенного риска) и соответствующие ей обязательства применяются со 2 августа 2027 года.
Сегодня в официальном источнике был опубликован финальный текст Регламента ЕС об ИИ. В силу документ вступит уже скоро – 1 августа.
Однако напоминаю, что применяться Регламент начнет со 2 августа 2026 года. Таким образом, законодатели, с одной стороны, дали время бизнесу изучить новые требования и подготовиться к ним, а с другой – органам ЕС разработать необходимые рекомендации, имплементационные акты и технические стандарты.
Для отдельных положений установлены иные сроки:
- Главы I (Общие положения) и II (Запрещенные ИИ-практики) применяются со 2 февраля 2025 года;
- раздел 4 Главы III (Нотифицированные органы), глава V (Модели ИИ общего назначения), глава VII (Управление (Governance)) и глава XII (Штрафы и иные меры воздействия (за исключением статьи 101 – Штрафы для поставщиков моделей ИИ общего назначения)), а также статья 78 (Конфиденциальность) применяются со 2 августа 2025 года;
- Часть 1 Статьи 6 (основания классификации систем ИИ в качестве систем повышенного риска) и соответствующие ей обязательства применяются со 2 августа 2027 года.
👍8❤4
Есть ли у AGI уровни и как это связано с правом?
На днях в Bloomberg вышла статья, в которой со ссылкой на источники внутри OpenAI утверждается, что компания представила для своих сотрудников классификацию сильного искусственного интеллекта (AGI). Это сделано для того, чтобы они лучше понимали, с чем имеют дело и куда технологии будут развиваться в будущем.
Классификация состоит из пяти уровней: от ИИ способного взаимодействовать с людьми на естественном языке (уровень 1), до ИИ способного заменить собой работу целой компании (уровень 5). Также предполагается, что первый уровень уже достигнут, и сейчас компания пытается достичь ИИ второго уровня (ИИ способного заниматься научными исследованиями).
В связи с этим мне и журналистам издания вспомнилась прошлогодняя статья группы ученых из Google DeepMind, в которой предлагается аналогичная классификация AGI на пять уровней (если не считать нулевой уровень – нет ИИ). Интересно, что классификация затрагивает как прикладной ИИ (Narrow AI), так и общий ИИ (AGI). Как можно видеть на скриншотах выше поста, то, по мнению авторов, мы уже имеем Narrow AI, превосходящий способности человека, но AGI аналогично достиг только первого уровня своего развития.
Почему такие классификации важны для правового регулирования?
Как мы с вами знаем, законодательной инновацией последнего года стало разделение на группы не только систем, но и моделей ИИ. Регламент ЕС об ИИ среди моделей ИИ общего назначения выделяет модели общего назначения, представляющие системные риски. Октябрьский указ Президента США выделил группу моделей ИИ двойного назначения. Необходимость разделения моделей на обычные и передовые многократно была предметом обсуждения на страницах научных изданий, что, безусловно, повлияло и на выработанные законодателями решения.
Вместе с тем очевидно, что с развитием технологий и внедрением их во все сферы общественной жизни потребуется выделение большего числа групп систем и моделей ИИ. Это позволит более гибко распространять юридические требования в отношении субъектов, которые их разрабатывают, применяют и используют.
На днях в Bloomberg вышла статья, в которой со ссылкой на источники внутри OpenAI утверждается, что компания представила для своих сотрудников классификацию сильного искусственного интеллекта (AGI). Это сделано для того, чтобы они лучше понимали, с чем имеют дело и куда технологии будут развиваться в будущем.
Классификация состоит из пяти уровней: от ИИ способного взаимодействовать с людьми на естественном языке (уровень 1), до ИИ способного заменить собой работу целой компании (уровень 5). Также предполагается, что первый уровень уже достигнут, и сейчас компания пытается достичь ИИ второго уровня (ИИ способного заниматься научными исследованиями).
В связи с этим мне и журналистам издания вспомнилась прошлогодняя статья группы ученых из Google DeepMind, в которой предлагается аналогичная классификация AGI на пять уровней (если не считать нулевой уровень – нет ИИ). Интересно, что классификация затрагивает как прикладной ИИ (Narrow AI), так и общий ИИ (AGI). Как можно видеть на скриншотах выше поста, то, по мнению авторов, мы уже имеем Narrow AI, превосходящий способности человека, но AGI аналогично достиг только первого уровня своего развития.
Почему такие классификации важны для правового регулирования?
Как мы с вами знаем, законодательной инновацией последнего года стало разделение на группы не только систем, но и моделей ИИ. Регламент ЕС об ИИ среди моделей ИИ общего назначения выделяет модели общего назначения, представляющие системные риски. Октябрьский указ Президента США выделил группу моделей ИИ двойного назначения. Необходимость разделения моделей на обычные и передовые многократно была предметом обсуждения на страницах научных изданий, что, безусловно, повлияло и на выработанные законодателями решения.
Вместе с тем очевидно, что с развитием технологий и внедрением их во все сферы общественной жизни потребуется выделение большего числа групп систем и моделей ИИ. Это позволит более гибко распространять юридические требования в отношении субъектов, которые их разрабатывают, применяют и используют.
AI Pact commitments.pdf
334.6 KB
Опубликован проект обязательств участников Европейского ИИ-Пакта
В мае этого года начал действовать ИИ-Пакт, направленный на то, чтобы, с одной стороны, помочь бизнесу подготовиться к поэтапному вступлению в силу положений Регламента ЕС об ИИ, а с другой – получить органам власти обратную связь о реализации его положений на практике. Подробнее про Пакт писал тут.
Теперь Европейский AI Office опубликовал Опубликован проект обязательств участников Европейского ИИ-Пакта, которые субъекты, согласившиеся на участие в Пакте, должны добровольно взять на себя.
Все обязательства условно можно разделить на две группы:
1) три основных обязательства;
2) дополнительные обязательства для разработчиков и поставщиков.
Основные обязательства должны реализовывать все участники, а к выполнению дополнительных стремиться (либо выбрать конкретные, применимые к сфере их деятельности).
К основным обязательствам относятся:
1. принять стратегию по управлению ИИ, включающую шаги по дальнейшему соблюдению требований Регламента;
2. провести анализ применяющихся и разрабатываемых систем ИИ на предмет их отнесения к группе систем ИИ повышенного риска;
3. содействовать развитию ИИ-грамотности сотрудников организации.
Среди дополнительных требований можно выделить, например, разработку необходимых политик, оценку рисков, маркировку синтетического контента, информирование пользователей, внедрения контроля со стороны человека над решениями, принятыми системами ИИ.
Хочется отметить, что как минимум разработать стратегию по управлению ИИ, оценить риски и понять, каким образом ими управлять, подготовить политики и персонал, информировать контрагентов и пользователей было бы не лишним в обозримом будущем, даже если ваша организация не собирается участвовать в ИИ-Пакте👀 .
В мае этого года начал действовать ИИ-Пакт, направленный на то, чтобы, с одной стороны, помочь бизнесу подготовиться к поэтапному вступлению в силу положений Регламента ЕС об ИИ, а с другой – получить органам власти обратную связь о реализации его положений на практике. Подробнее про Пакт писал тут.
Теперь Европейский AI Office опубликовал Опубликован проект обязательств участников Европейского ИИ-Пакта, которые субъекты, согласившиеся на участие в Пакте, должны добровольно взять на себя.
Все обязательства условно можно разделить на две группы:
1) три основных обязательства;
2) дополнительные обязательства для разработчиков и поставщиков.
Основные обязательства должны реализовывать все участники, а к выполнению дополнительных стремиться (либо выбрать конкретные, применимые к сфере их деятельности).
К основным обязательствам относятся:
1. принять стратегию по управлению ИИ, включающую шаги по дальнейшему соблюдению требований Регламента;
2. провести анализ применяющихся и разрабатываемых систем ИИ на предмет их отнесения к группе систем ИИ повышенного риска;
3. содействовать развитию ИИ-грамотности сотрудников организации.
Среди дополнительных требований можно выделить, например, разработку необходимых политик, оценку рисков, маркировку синтетического контента, информирование пользователей, внедрения контроля со стороны человека над решениями, принятыми системами ИИ.
Хочется отметить, что как минимум разработать стратегию по управлению ИИ, оценить риски и понять, каким образом ими управлять, подготовить политики и персонал, информировать контрагентов и пользователей было бы не лишним в обозримом будущем, даже если ваша организация не собирается участвовать в ИИ-Пакте
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5
Регулирование в сфере ИИ в России: электропони бегают по кругу
Сегодня в Коммерсанте вышел материал, в котором были изложены некоторые выводы спикеров по итогам прошедшей вчера конференции по развитию цифровой экономики БРИКС. После ознакомления с ним и небольшого обсуждения с коллегами возникло острое ощущение дежавю.
Например, спикеркой из Роспотребнадзора были подняты вопросы заимствования европейского опыта в связи с недавним принятием Регламента ЕС об ИИ, особенно в части требований к прозрачности функционирования систем ИИ: обязательное информирование пользователя о том, что он взаимодействует с системой ИИ, и возможность одностороннего отказа от такого взаимодействия.
Хочется отметить, что предложение использовать риск-ориентированный подход при формулировании отечественного подхода к регулированию в сфере ИИ по аналогии ЕС имелось еще в крайне неоднозначной Концепции развития регулирования до 2024 года, утвержденной Правительством РФ. Более того, в ней содержатся и те же самые предложения о прозрачности. Сам документ разрабатывался и обсуждался в 2019-2020 годах (бывал на тех мероприятиях). Тогда текст проекта Регламента ЕС об ИИ еще не был представлен. Все вдохновлялись документами HLEG и CAHAI, а потом и вайтпейпером 2020 года, в котором и были сформулированы основы будущего подхода ЕС.
Что мы имеем в мире спустя почти 5 лет?
В ЕС скоро начнет действовать Регламент ЕС об ИИ, равно как и разработан и/или принят целый кластер новых нормативных правовых актов, затрагивающих как публичный, так и частный секторы.
В США урегулирована деятельность федеральных органов власти в сфере разработки и применения систем ИИ. Для частного сектора разработаны акты мягкого права. Суды и органы власти оперативно делятся лучшими практиками и восполняют пробелы в рамках своей компетенции. Штаты экспериментируют над собственными опережающими подходами.
В Китае на время разработки комплексного правового регулирования для частного сектора были разработаны акты, регламентирующие отдельные сферы применения систем ИИ (с публичным все не очень).
Что мы имеем в России спустя почти 5 лет?
В этом году была незначительно скорректирована под современные тренды Национальная стратегия развития ИИ до 2030 года (писал об этом тут). Крайне фрагментарно урегулированы рекомендательные технологии (можно почитать тут). Действуют 14 экспериментальных правовых режимов, но только в сферах медицины и беспилотного транспорта. Упомянутая мной ранее концепция за четыре года так и не была реализована. Еще был разработан Кодекс этики и другие рекомендации, соблюдение которых ничем не обеспечено. Таким образом, разработчиков и пользователей систем и моделей ИИ сейчас ограничивает по большей части только общее законодательство и деловая репутация. А вот государство не ограничивает почти ничего.
Может быть, и не надо нам ваше регулирование?
Очень часто я сталкиваюсь с тезисом о том, что нормативное регулирование не нужно, так как оно тормозит развитие инноваций. Действительно, поспешное, чрезмерное или некачественное правовое регулирование отнюдь нельзя назвать хорошим способом решения проблем. Так же, как и его отсутствие или недостаточность.
Дикий Запад в частной сфере скорее толкает к использованию недобросовестных практик, чем стимулирует развитие. Бизнесу (особенно юристам) проще работать, когда в сложных и неоднозначных ситуациях есть возможность опереться на сформулированные органами позиции и лучшие практики.
Однако если в частной сфере недостаточность правового регулирования можно еще связать с намеренной проинновационностью, то следует как минимум урегулировать разработку и применение систем и моделей ИИ органами власти. Особенно, когда это уже приводит к многочисленным нарушениям прав человека, например, за счет произвольного использования систем распознавания лиц правоохранительными органами (например, писал об этом тут).
На мой взгляд, стоило бы для начала защитить конституционные права человека, а не обсуждать из года в год одно и то же, когда представляется инфоповод в виде новостей из-за рубежа.
Сегодня в Коммерсанте вышел материал, в котором были изложены некоторые выводы спикеров по итогам прошедшей вчера конференции по развитию цифровой экономики БРИКС. После ознакомления с ним и небольшого обсуждения с коллегами возникло острое ощущение дежавю.
Например, спикеркой из Роспотребнадзора были подняты вопросы заимствования европейского опыта в связи с недавним принятием Регламента ЕС об ИИ, особенно в части требований к прозрачности функционирования систем ИИ: обязательное информирование пользователя о том, что он взаимодействует с системой ИИ, и возможность одностороннего отказа от такого взаимодействия.
Хочется отметить, что предложение использовать риск-ориентированный подход при формулировании отечественного подхода к регулированию в сфере ИИ по аналогии ЕС имелось еще в крайне неоднозначной Концепции развития регулирования до 2024 года, утвержденной Правительством РФ. Более того, в ней содержатся и те же самые предложения о прозрачности. Сам документ разрабатывался и обсуждался в 2019-2020 годах (бывал на тех мероприятиях). Тогда текст проекта Регламента ЕС об ИИ еще не был представлен. Все вдохновлялись документами HLEG и CAHAI, а потом и вайтпейпером 2020 года, в котором и были сформулированы основы будущего подхода ЕС.
Что мы имеем в мире спустя почти 5 лет?
В ЕС скоро начнет действовать Регламент ЕС об ИИ, равно как и разработан и/или принят целый кластер новых нормативных правовых актов, затрагивающих как публичный, так и частный секторы.
В США урегулирована деятельность федеральных органов власти в сфере разработки и применения систем ИИ. Для частного сектора разработаны акты мягкого права. Суды и органы власти оперативно делятся лучшими практиками и восполняют пробелы в рамках своей компетенции. Штаты экспериментируют над собственными опережающими подходами.
В Китае на время разработки комплексного правового регулирования для частного сектора были разработаны акты, регламентирующие отдельные сферы применения систем ИИ (с публичным все не очень).
Что мы имеем в России спустя почти 5 лет?
В этом году была незначительно скорректирована под современные тренды Национальная стратегия развития ИИ до 2030 года (писал об этом тут). Крайне фрагментарно урегулированы рекомендательные технологии (можно почитать тут). Действуют 14 экспериментальных правовых режимов, но только в сферах медицины и беспилотного транспорта. Упомянутая мной ранее концепция за четыре года так и не была реализована. Еще был разработан Кодекс этики и другие рекомендации, соблюдение которых ничем не обеспечено. Таким образом, разработчиков и пользователей систем и моделей ИИ сейчас ограничивает по большей части только общее законодательство и деловая репутация. А вот государство не ограничивает почти ничего.
Может быть, и не надо нам ваше регулирование?
Очень часто я сталкиваюсь с тезисом о том, что нормативное регулирование не нужно, так как оно тормозит развитие инноваций. Действительно, поспешное, чрезмерное или некачественное правовое регулирование отнюдь нельзя назвать хорошим способом решения проблем. Так же, как и его отсутствие или недостаточность.
Дикий Запад в частной сфере скорее толкает к использованию недобросовестных практик, чем стимулирует развитие. Бизнесу (особенно юристам) проще работать, когда в сложных и неоднозначных ситуациях есть возможность опереться на сформулированные органами позиции и лучшие практики.
Однако если в частной сфере недостаточность правового регулирования можно еще связать с намеренной проинновационностью, то следует как минимум урегулировать разработку и применение систем и моделей ИИ органами власти. Особенно, когда это уже приводит к многочисленным нарушениям прав человека, например, за счет произвольного использования систем распознавания лиц правоохранительными органами (например, писал об этом тут).
На мой взгляд, стоило бы для начала защитить конституционные права человека, а не обсуждать из года в год одно и то же, когда представляется инфоповод в виде новостей из-за рубежа.
Коммерсантъ
Ботов заставят представляться
В предложения по регулированию ИИ впишут европейский опыт и российские жалобы
❤8
Американский AI Safety Institute опубликовал рекомендации по снижению рисков ненадлежащего использования фундаментальных моделей ИИ двойного назначения
Американский AI Safety Institute подготовил еще один проект документа (NIST AI 800-1 Managing Misuse Risk for Dual-Use Foundation Models), который призван дополнить Систему управления рисками в сфере ИИ (NIST AI Risk Management Framework (AI RMF)), опубликованную в марте 2023 года. Разработка данного документа была определена октябрьским Указом Президента США «О разработке и использовании искусственного интеллекта в условиях безопасности, надежности и доверия» (мой разбор указа можно почитать тут).
В Указе содержится определение моделей ИИ двойного назначения. Так как оно довольно громоздкое, выложу его отдельно комментарием к посту.
Документ обобщает лучшие практики по выявлению, оценке и управлению рисками, которые могут возникнуть при ненадлежащем использовании моделей ИИ. Указанные в нем рекомендации направлены на всех субъектов, участвующих в жизненном цикле моделей, но наиболее релевантны именно для разработчиков.
Рекомендации определяются в виде семи целей, которым корреспондируют конкретные практики (в документе практики расписаны более подробно, включая необходимое документирование):
1. Оценить риски потенциальной возможности ненадлежащего использования моделей, если они станут доступны злоумышленникам. Делать это следует еще до разработки моделей на основе их предполагаемых характеристик.
2. Разработать планы по управлению рисками в случае ненадлежащего использования моделей. В частности, следует определить приемлемые и неприемлемые уровни риска, учитывая нормативные требования и потенциальные выгоды (оправданы ли риски), а также согласовать планы разработки и развертывания моделей с ресурсами и ограничениями, которые могут потребоваться для управления рисками.
3. Управлять рисками утечки и кражи информации, которая позволит злоумышленникам воссоздать модель. Стоит разрабатывать модель только тогда, когда соответствующие риски значительно снижены путем использования разнообразных методов (например, посредством метода красных команд, использования передовых фреймворков кибербезопасности).
4. Оценить, учитывая технические и социальные факторы, каким образом злоумышленники могут использовать модель ненадлежащим образом.
5. Распространять модель (через API или публиковать параметры и иные характеристики) только тогда, когда риски адекватно снижены.
6. Изучать опыт уже развернутых моделей, а также взаимодействовать с общественность и другими организациями в целях поиска путей митигирования потенциальных рисков.
7. Раскрыть релевантную информацию о разработке и применении моделей для общественности и научных организаций.
В документе содержатся два приложения. Первое представляет собой глоссарий терминов, а второе – примеры конкретных мер защиты моделей от ненадлежащего использования.
К таким мерам относятся, например: а) внедрение более совершенных методов обучения моделей; б) определение и блокирование попыток ненадлежащего использования моделей; в) ограничение доступа к возможностям моделей; г) обеспечение адекватного уровеня открытости моделей; д) прекращение разработки и использования моделей, если имеются высокие риски их ненадлежащего использования.
Также ранее Национальный институт стандартов и технологий США (NIST) опубликовал еще четыре проекта документа, связанных с генеративными системами ИИ. Почитать про них подробнее можно в моем посте тут.
Американский AI Safety Institute подготовил еще один проект документа (NIST AI 800-1 Managing Misuse Risk for Dual-Use Foundation Models), который призван дополнить Систему управления рисками в сфере ИИ (NIST AI Risk Management Framework (AI RMF)), опубликованную в марте 2023 года. Разработка данного документа была определена октябрьским Указом Президента США «О разработке и использовании искусственного интеллекта в условиях безопасности, надежности и доверия» (мой разбор указа можно почитать тут).
В Указе содержится определение моделей ИИ двойного назначения. Так как оно довольно громоздкое, выложу его отдельно комментарием к посту.
Документ обобщает лучшие практики по выявлению, оценке и управлению рисками, которые могут возникнуть при ненадлежащем использовании моделей ИИ. Указанные в нем рекомендации направлены на всех субъектов, участвующих в жизненном цикле моделей, но наиболее релевантны именно для разработчиков.
Рекомендации определяются в виде семи целей, которым корреспондируют конкретные практики (в документе практики расписаны более подробно, включая необходимое документирование):
1. Оценить риски потенциальной возможности ненадлежащего использования моделей, если они станут доступны злоумышленникам. Делать это следует еще до разработки моделей на основе их предполагаемых характеристик.
2. Разработать планы по управлению рисками в случае ненадлежащего использования моделей. В частности, следует определить приемлемые и неприемлемые уровни риска, учитывая нормативные требования и потенциальные выгоды (оправданы ли риски), а также согласовать планы разработки и развертывания моделей с ресурсами и ограничениями, которые могут потребоваться для управления рисками.
3. Управлять рисками утечки и кражи информации, которая позволит злоумышленникам воссоздать модель. Стоит разрабатывать модель только тогда, когда соответствующие риски значительно снижены путем использования разнообразных методов (например, посредством метода красных команд, использования передовых фреймворков кибербезопасности).
4. Оценить, учитывая технические и социальные факторы, каким образом злоумышленники могут использовать модель ненадлежащим образом.
5. Распространять модель (через API или публиковать параметры и иные характеристики) только тогда, когда риски адекватно снижены.
6. Изучать опыт уже развернутых моделей, а также взаимодействовать с общественность и другими организациями в целях поиска путей митигирования потенциальных рисков.
7. Раскрыть релевантную информацию о разработке и применении моделей для общественности и научных организаций.
В документе содержатся два приложения. Первое представляет собой глоссарий терминов, а второе – примеры конкретных мер защиты моделей от ненадлежащего использования.
К таким мерам относятся, например: а) внедрение более совершенных методов обучения моделей; б) определение и блокирование попыток ненадлежащего использования моделей; в) ограничение доступа к возможностям моделей; г) обеспечение адекватного уровеня открытости моделей; д) прекращение разработки и использования моделей, если имеются высокие риски их ненадлежащего использования.
Также ранее Национальный институт стандартов и технологий США (NIST) опубликовал еще четыре проекта документа, связанных с генеративными системами ИИ. Почитать про них подробнее можно в моем посте тут.
❤6🔥4
Исследователи из Ada Lovelace Institute опубликовали отчет об оценке фундаментальных моделей ИИ
Группа исследователей из Ada Lovelace Institute подготовила большой отчет, в котором они проанализировали то, насколько эффективны существующие методы оценки фундаментальных моделей ИИ.
Исследование было проведено на основе опроса 16 экспертов, представляющих разработчиков, внешних оценщиков и аудиторов, научные организации и гражданское общество.
Авторы пришли к следующим основным выводам:
1. Существующие методы оценки помогают лучше понимать особенности работы фундаментальных моделей, но недостаточно эффективны для обеспечения безопасности. Авторы выделили три группы проблем проведения оценок моделей: теоретические, социальные, технико-внедренческие. Более подробно проблемы описаны на скриншоте.
2. Для обеспечения безопасности оценки должны сопровождаться другими методами, такими как кодексы практики, отчеты об инцидентах и пост-рыночный мониторинг. В частности, авторы предлагают многослойный подход к AI Governance, в котором уменьшение рисков будет достигаться за счет использования разного набора методов на протяжении всего жизненного цикла моделей ИИ. Интересно, что объясняют они его на примере сыра с дырками: в разных кусочках сыра расположение дырок отличается. Значит, и шанс их совпадения на всем протяжении уменьшается. Подход нельзя назвать новым, но визуализация достойная🤩 .
3. Существующие методы оценки, такие как метод красных команд и бенчмаркинг, также имеют технические и практические ограничения. Например, разработчики могут повлиять на результаты оценки или выбрать только те методы, которые для них наиболее выгодны. То есть нужны единые одобренные госорганами критерии и схемы сертификации.
4. Результаты оценки валидны только для конкретной версии модели. Любые изменения или тонкая настройка могут существенно повлиять на полученные в ходе оценки данные.
5. Оценки моделей не могут происходить в вакууме. Для обеспечения безопасности важно учитывать сценарии, условия и контекст, в которых модель будет использоваться.
В отчете содержится масса иной полезной информации о самих фундаментальных моделях ИИ и рисках их разработки и функционирования. Так что смело можно его начинать читать, даже если нет глубоких знаний предмета. Все изложено очень доступным языком.
Также недавно я разбирал прошлое исследование команды Института о практике реализации внешних независимых аудитов систем ИИ.
Группа исследователей из Ada Lovelace Institute подготовила большой отчет, в котором они проанализировали то, насколько эффективны существующие методы оценки фундаментальных моделей ИИ.
Исследование было проведено на основе опроса 16 экспертов, представляющих разработчиков, внешних оценщиков и аудиторов, научные организации и гражданское общество.
Авторы пришли к следующим основным выводам:
1. Существующие методы оценки помогают лучше понимать особенности работы фундаментальных моделей, но недостаточно эффективны для обеспечения безопасности. Авторы выделили три группы проблем проведения оценок моделей: теоретические, социальные, технико-внедренческие. Более подробно проблемы описаны на скриншоте.
2. Для обеспечения безопасности оценки должны сопровождаться другими методами, такими как кодексы практики, отчеты об инцидентах и пост-рыночный мониторинг. В частности, авторы предлагают многослойный подход к AI Governance, в котором уменьшение рисков будет достигаться за счет использования разного набора методов на протяжении всего жизненного цикла моделей ИИ. Интересно, что объясняют они его на примере сыра с дырками: в разных кусочках сыра расположение дырок отличается. Значит, и шанс их совпадения на всем протяжении уменьшается. Подход нельзя назвать новым, но визуализация достойная
3. Существующие методы оценки, такие как метод красных команд и бенчмаркинг, также имеют технические и практические ограничения. Например, разработчики могут повлиять на результаты оценки или выбрать только те методы, которые для них наиболее выгодны. То есть нужны единые одобренные госорганами критерии и схемы сертификации.
4. Результаты оценки валидны только для конкретной версии модели. Любые изменения или тонкая настройка могут существенно повлиять на полученные в ходе оценки данные.
5. Оценки моделей не могут происходить в вакууме. Для обеспечения безопасности важно учитывать сценарии, условия и контекст, в которых модель будет использоваться.
В отчете содержится масса иной полезной информации о самих фундаментальных моделях ИИ и рисках их разработки и функционирования. Так что смело можно его начинать читать, даже если нет глубоких знаний предмета. Все изложено очень доступным языком.
Также недавно я разбирал прошлое исследование команды Института о практике реализации внешних независимых аудитов систем ИИ.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Маленький праздник для любителей AI Governance
Друзья, сегодня, наконец, вступил в силу Регламент ЕС об ИИ. Это событие многие из нас ждали с далекого 21 апреля 2021 года, когда официально была представлена первая версия текста.
С тех пор документ значительно преобразился. Что-то поменялось в лучшую сторону, а что-то – в худшую. Появились и полностью новые подходы к регулированию. Однако, несомненно, Регламент не стал той самой заветной пилюлей (единым комплексным актом), способной решить все проблемы, связанные с разработкой и применением систем и моделей ИИ. Скорее, он занял место одного из ядер (не забываем, что в ЕС есть масса других актов, связанных с ИИ), вокруг которых в дальнейшем будет выстроена более-менее целостная система правового и технического регулирования.
Во-первых, сам акт предполагает дальнейшую разработку Еврокомиссией ряда разъяснений и имплементационных актов. Например, на днях Европейский AI Office запустил подготовку и обсуждение Кодекса лучших практик для систем и моделей ИИ общего назначения. Проект Кодекса должен быть подготовлен к апрелю 2025 года.
Во-вторых, CEN-CENELEC недавно начал работу над соответствующими техническими стандартами, которые должны быть приняты в ближайшие годы (пока планируется на 2025 год).
В-третьих, предварительная работа по формированию лучших практик и подготовке бизнеса к соблюдению требований Регламента активно идет в рамках AI-Pact (писал об этом тут и тут).
В-четвертых, продолжается работа над другими решениями в сфере создания необходимой инфраструктуры для развития ИИ (писал об этом тут).
В-пятых, был приведен в соответствие с финальным текстом Регламента проект Директивы об ответственности в сфере ИИ (AI Liability Directive). Ждем обновленный текст. Если кто-то увидит раньше, поделитесь.
Напоминаю, что документ начнет применяться не сразу. Недавно детально расписал этот вопрос в своем посте.
Таким образом, развитие ИИ готовит еще много захватывающих загадок для юридических умов🤩 .
Друзья, сегодня, наконец, вступил в силу Регламент ЕС об ИИ. Это событие многие из нас ждали с далекого 21 апреля 2021 года, когда официально была представлена первая версия текста.
С тех пор документ значительно преобразился. Что-то поменялось в лучшую сторону, а что-то – в худшую. Появились и полностью новые подходы к регулированию. Однако, несомненно, Регламент не стал той самой заветной пилюлей (единым комплексным актом), способной решить все проблемы, связанные с разработкой и применением систем и моделей ИИ. Скорее, он занял место одного из ядер (не забываем, что в ЕС есть масса других актов, связанных с ИИ), вокруг которых в дальнейшем будет выстроена более-менее целостная система правового и технического регулирования.
Во-первых, сам акт предполагает дальнейшую разработку Еврокомиссией ряда разъяснений и имплементационных актов. Например, на днях Европейский AI Office запустил подготовку и обсуждение Кодекса лучших практик для систем и моделей ИИ общего назначения. Проект Кодекса должен быть подготовлен к апрелю 2025 года.
Во-вторых, CEN-CENELEC недавно начал работу над соответствующими техническими стандартами, которые должны быть приняты в ближайшие годы (пока планируется на 2025 год).
В-третьих, предварительная работа по формированию лучших практик и подготовке бизнеса к соблюдению требований Регламента активно идет в рамках AI-Pact (писал об этом тут и тут).
В-четвертых, продолжается работа над другими решениями в сфере создания необходимой инфраструктуры для развития ИИ (писал об этом тут).
В-пятых, был приведен в соответствие с финальным текстом Регламента проект Директивы об ответственности в сфере ИИ (AI Liability Directive). Ждем обновленный текст. Если кто-то увидит раньше, поделитесь.
Напоминаю, что документ начнет применяться не сразу. Недавно детально расписал этот вопрос в своем посте.
Таким образом, развитие ИИ готовит еще много захватывающих загадок для юридических умов
Please open Telegram to view this post
VIEW IN TELEGRAM
Shaping Europe’s digital future
AI Act: Participate in the drawing-up of the first General-Purpose AI Code of Practice
The European AI Office has opened a call for expression of interest to participate in the drawing-up of the first general-purpose AI Code of Practice.
👍4
Национальный институт стандартов и технологий США (NIST) опубликовал рекомендации для генеративных систем ИИ
В апреле я опубликовал пост о том, что NIST разместил для широкого обсуждения четыре проекта документа, связанных с генеративными системами ИИ. В конце июля два из них были опубликованы в финальной версии.
Оба документа имеют важное значение и определяют шаги по обеспечению безопасности для субъектов, которые разрабатывают и используют системы и модели ИИ. В первую очередь они направлены на модели и системы генеративного ИИ и на модели ИИ двойного назначения.
1. AI RMF Generative AI Profile (NIST AI 600-1)
Документ является дополнением к Системе управления рисками в сфере ИИ (NIST AI Risk Management Framework (AI RMF)), опубликованной в марте 2023 года. Напомню, что AI RMF предусматривает рекомендации, сформулированные органами власти для частных компаний, по безопасным разработке и использованию систем ИИ в разных сферах. Новый документ сосредоточен на способах митигирования специфических рисков, которые возникают в ходе разработки и использования генеративных систем ИИ. Эти риски я раскрывал в предыдущем посте, они не претерпели значительных изменений.
2. Secure Software Development Practices for Generative AI and Dual-Use Foundation Models (NIST SP 800-218A)
Документ призван дополнить Систему безопасной разработки программного обеспечения (Secure Software Development Framework (SSDF) Version 1.1: Recommendations for Mitigating the Risk of Software Vulnerabilities (NIST SP 800-218)) в отношении особенностей, связанных с системами и моделями генеративного ИИ и моделями ИИ двойного назначения.
Особое внимание следует уделить вторым частям обоих документов, в которых содержатся рекомендации по осуществлению конкретных действий по управлению рисками и обеспечению безопасности разработки и применения. Если вам уже сейчас нужно предпринимать шаги по обеспечению безопасности продуктов, но вы не знаете, каким образом это делать в отсутствии нормальных законодательных требований, то рекомендую ознакомиться с содержанием новых документов, даже если вы не собираетесь работать с данной юрисдикцией.
Бонусом еще одна интересная новость из США: Сэм Альтман в своем твитте подчеркнул, что OpenAI сейчас работает над соглашением с US AI Safety Institute (функционирует в структуре NIST) о предоставлении раннего доступа к своим передовым фундаментальным моделям для проведения проверок на их безопасность.
Таким образом, мы продолжаем прослеживать тренд на постепенное установление требований о проведении внешних оценок передовых моделей государственными органами или независимыми организациями.
В апреле я опубликовал пост о том, что NIST разместил для широкого обсуждения четыре проекта документа, связанных с генеративными системами ИИ. В конце июля два из них были опубликованы в финальной версии.
Оба документа имеют важное значение и определяют шаги по обеспечению безопасности для субъектов, которые разрабатывают и используют системы и модели ИИ. В первую очередь они направлены на модели и системы генеративного ИИ и на модели ИИ двойного назначения.
1. AI RMF Generative AI Profile (NIST AI 600-1)
Документ является дополнением к Системе управления рисками в сфере ИИ (NIST AI Risk Management Framework (AI RMF)), опубликованной в марте 2023 года. Напомню, что AI RMF предусматривает рекомендации, сформулированные органами власти для частных компаний, по безопасным разработке и использованию систем ИИ в разных сферах. Новый документ сосредоточен на способах митигирования специфических рисков, которые возникают в ходе разработки и использования генеративных систем ИИ. Эти риски я раскрывал в предыдущем посте, они не претерпели значительных изменений.
2. Secure Software Development Practices for Generative AI and Dual-Use Foundation Models (NIST SP 800-218A)
Документ призван дополнить Систему безопасной разработки программного обеспечения (Secure Software Development Framework (SSDF) Version 1.1: Recommendations for Mitigating the Risk of Software Vulnerabilities (NIST SP 800-218)) в отношении особенностей, связанных с системами и моделями генеративного ИИ и моделями ИИ двойного назначения.
Особое внимание следует уделить вторым частям обоих документов, в которых содержатся рекомендации по осуществлению конкретных действий по управлению рисками и обеспечению безопасности разработки и применения. Если вам уже сейчас нужно предпринимать шаги по обеспечению безопасности продуктов, но вы не знаете, каким образом это делать в отсутствии нормальных законодательных требований, то рекомендую ознакомиться с содержанием новых документов, даже если вы не собираетесь работать с данной юрисдикцией.
Бонусом еще одна интересная новость из США: Сэм Альтман в своем твитте подчеркнул, что OpenAI сейчас работает над соглашением с US AI Safety Institute (функционирует в структуре NIST) о предоставлении раннего доступа к своим передовым фундаментальным моделям для проведения проверок на их безопасность.
Таким образом, мы продолжаем прослеживать тренд на постепенное установление требований о проведении внешних оценок передовых моделей государственными органами или независимыми организациями.
Telegram
howtocomply_AI: право и ИИ
Национальный институт стандартов и технологий США (NIST) опубликовал четыре проекта документа, связанных с генеративными системами ИИ
Вчера Национальный институт стандартов и технологий США опубликовал четыре проекта документа, разработка которых была определена…
Вчера Национальный институт стандартов и технологий США опубликовал четыре проекта документа, разработка которых была определена…
❤5
OpenAI собирается выполнять требования Регламента ЕС об ИИ
На сайте компании появился пост, в котором кратко изложены основные требования Регламента ЕС об ИИ. Можно ознакомиться, если еще не успели. Но лучше, конечно, прочитать акт целиком.
Однако нам сейчас интересен последний абзац поста: в нем говорится, что компания планирует соблюдать требования акта, активно работать над этим напрямую с Европейским AI Office, а также в ближайшее время начнет готовить техническую и иную документацию к своим моделям ИИ общего назначения для ее передачи другим субъектам в цепочке поставки (поставщикам, эксплуатантам, пользователям).
Видимо, юристы компании наконец внимательно изучили акт и поняли, что все на самом деле не так страшно, как это казалось со стороны. Хотя ранее Сэм Альтман, бывало, высказывался, что компания раздумывает уйти с европейского рынка из-за чрезмерно сурового законодательства.
Интересно, что несколькими неделями ранее Ян Лекун (вице-президент и ведущий исследователь ИИ в Meta (запрещена и признана экстремистской в РФ)) в своем посте в LinkedIn, наоборот, указал, что компания не будет выходить на рынок ЕС с мультимодальными версиями Llama-3 из-за «непредсказуемости нормативно-правовой базы». На что, естественно, получил волну критики со стороны юридической публики в комментариях. Ждем, когда разберутся и передумают🤩 .
На сайте компании появился пост, в котором кратко изложены основные требования Регламента ЕС об ИИ. Можно ознакомиться, если еще не успели. Но лучше, конечно, прочитать акт целиком.
Однако нам сейчас интересен последний абзац поста: в нем говорится, что компания планирует соблюдать требования акта, активно работать над этим напрямую с Европейским AI Office, а также в ближайшее время начнет готовить техническую и иную документацию к своим моделям ИИ общего назначения для ее передачи другим субъектам в цепочке поставки (поставщикам, эксплуатантам, пользователям).
Видимо, юристы компании наконец внимательно изучили акт и поняли, что все на самом деле не так страшно, как это казалось со стороны. Хотя ранее Сэм Альтман, бывало, высказывался, что компания раздумывает уйти с европейского рынка из-за чрезмерно сурового законодательства.
Интересно, что несколькими неделями ранее Ян Лекун (вице-президент и ведущий исследователь ИИ в Meta (запрещена и признана экстремистской в РФ)) в своем посте в LinkedIn, наоборот, указал, что компания не будет выходить на рынок ЕС с мультимодальными версиями Llama-3 из-за «непредсказуемости нормативно-правовой базы». На что, естественно, получил волну критики со стороны юридической публики в комментариях. Ждем, когда разберутся и передумают
Please open Telegram to view this post
VIEW IN TELEGRAM
Openai
A Primer on the EU AI Act: What It Means for AI Providers and Deployers
We’re sharing a preliminary overview of the EU AI Act including upcoming deadlines and requirements, with a particular focus on prohibited and high-risk use cases
Американский Copyright Office уверен в необходимости законодательной защиты от дипфейков
У нас сегодня снова новость из США. Американский Copyright Office выпустил первую часть отчета об авторском праве и ИИ, в которой детально рассматривается текущее состояние регулирования отношений вокруг дипфейков и формулируются предложения для законодателей.
Как и многие предыдущие рассмотренные нами инициативы, данный отчет направлен на реализацию прошлогоднего Указа Президента США «О разработке и использовании искусственного интеллекта в условиях безопасности, надежности и доверия» (мой разбор указа можно почитать тут).
Документ состоит из двух основных частей:
1. Меры по противодействию дипфейкам
Copyright Office видит недостаточность текущего регулирования для защиты прав человека и предлагает законодателям принять отдельный нормативный правовой акт.
Кратко рассмотрим основные идеи:
- Закон должен быть направлен на неразрешенное создание дипфейков, которые трудно отличимы от реальных изображений. В нем не должны затрагиваться более широкие вопросы защиты чести и достоинства.
- Закон должен распространяться на неограниченный круг субъектов, а не только защищать права политиков, знаменитостей или каких-то других отдельных групп.
- Предлагается ограничить срок защиты прав человека его жизнью. Посмертная защита может быть установлена на четко определенный срок в отдельных случаях.
- Ответственность должна возлагаться за распространение дипфейков, а не за сам факт их создания.
- Поставщики цифровых услуг должны освобождаться от ответственности, если вовремя удалили контент по запросу.
- Люди должны иметь законодательный механизм по законному предоставлению своего облика для копирования на основе лицензии.
- В законе должно быть прямо указано, что модерация контента не должна нарушать свободу слова в контексте Первой поправки к Конституции США.
- Должны быть установлены эффективные защитные меры: от штрафов до уголовной ответственности в отдельных случаях.
- Федеральный закон должен устанавливать минимальный уровень защиты прав человека, но не направлен на пересмотр опережающего регулирования штатов.
2. Меры по защите авторского стиля
Несмотря на то, что данный вопрос уже давно находится в центре обсуждений, Copyright Office счел, что какие-либо новые законодательные меры пока преждевременны. Существующее законодательство на текущей стадии способно защищать интересы всех субъектов.
Напомню, что в Конгресс за последний год уже были внесены ряд схожих по смыслу проектов, но ни один из них не стал успешным. Так что ждем новые инициативы от законодателей или переработку текущих.
У нас сегодня снова новость из США. Американский Copyright Office выпустил первую часть отчета об авторском праве и ИИ, в которой детально рассматривается текущее состояние регулирования отношений вокруг дипфейков и формулируются предложения для законодателей.
Как и многие предыдущие рассмотренные нами инициативы, данный отчет направлен на реализацию прошлогоднего Указа Президента США «О разработке и использовании искусственного интеллекта в условиях безопасности, надежности и доверия» (мой разбор указа можно почитать тут).
Документ состоит из двух основных частей:
1. Меры по противодействию дипфейкам
Copyright Office видит недостаточность текущего регулирования для защиты прав человека и предлагает законодателям принять отдельный нормативный правовой акт.
Кратко рассмотрим основные идеи:
- Закон должен быть направлен на неразрешенное создание дипфейков, которые трудно отличимы от реальных изображений. В нем не должны затрагиваться более широкие вопросы защиты чести и достоинства.
- Закон должен распространяться на неограниченный круг субъектов, а не только защищать права политиков, знаменитостей или каких-то других отдельных групп.
- Предлагается ограничить срок защиты прав человека его жизнью. Посмертная защита может быть установлена на четко определенный срок в отдельных случаях.
- Ответственность должна возлагаться за распространение дипфейков, а не за сам факт их создания.
- Поставщики цифровых услуг должны освобождаться от ответственности, если вовремя удалили контент по запросу.
- Люди должны иметь законодательный механизм по законному предоставлению своего облика для копирования на основе лицензии.
- В законе должно быть прямо указано, что модерация контента не должна нарушать свободу слова в контексте Первой поправки к Конституции США.
- Должны быть установлены эффективные защитные меры: от штрафов до уголовной ответственности в отдельных случаях.
- Федеральный закон должен устанавливать минимальный уровень защиты прав человека, но не направлен на пересмотр опережающего регулирования штатов.
2. Меры по защите авторского стиля
Несмотря на то, что данный вопрос уже давно находится в центре обсуждений, Copyright Office счел, что какие-либо новые законодательные меры пока преждевременны. Существующее законодательство на текущей стадии способно защищать интересы всех субъектов.
Напомню, что в Конгресс за последний год уже были внесены ряд схожих по смыслу проектов, но ни один из них не стал успешным. Так что ждем новые инициативы от законодателей или переработку текущих.
www.copyright.gov
Copyright and Artificial Intelligence | U.S. Copyright Office
Copyright law
Друзья, мой канал попал в подборку от Private Law Library, благодаря чему о нем узнало много новых людей. Кроме меня в нее вошел еще солидный список ученых и преподавателей в сфере юриспруденции, которые ведут свои личные каналы.
Посмотрите, возможно, вы тоже найдете для себя что-то интересное, о существовании чего раньше даже не предполагали.
А коллегам от меня большое уважение за то, что делают знания более доступными.
От себя хочу поприветствовать всех, кто к нам недавно присоединился. Здесь мы скурпулезно разбираем самые важные новости и научные работы в сфере AI Governance. Иногда посты бавают довольно большими, но скучно точно не будет.
Подробнее обо мне можно почитать наверху в закрепленном посте. В ближайшее время я попробую собрать все хайлайты канала и поделюсь ими в отдельном посте🐱 .
В качестве бонуса делюсь ссылкой на источник мема. Там есть еще!
Посмотрите, возможно, вы тоже найдете для себя что-то интересное, о существовании чего раньше даже не предполагали.
А коллегам от меня большое уважение за то, что делают знания более доступными.
От себя хочу поприветствовать всех, кто к нам недавно присоединился. Здесь мы скурпулезно разбираем самые важные новости и научные работы в сфере AI Governance. Иногда посты бавают довольно большими, но скучно точно не будет.
Подробнее обо мне можно почитать наверху в закрепленном посте. В ближайшее время я попробую собрать все хайлайты канала и поделюсь ими в отдельном посте
В качестве бонуса делюсь ссылкой на источник мема. Там есть еще!
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥15❤2
OpenAI опубликовала карточку с характеристиками новой модели GPT-4o
В мае OpenAI выпустила новую единую мультимодальную модель ИИ – GPT-4o (omni), которая способна одновременно работать с речью, тестом и изображениями. Таким образом, компания сделала шаг в сторону создания персонального ассистента на основе своего чат-бота ChatGPT.
На прошлой неделе OpenAI выпустила и карточку новой модели. В последние годы карточки моделей и систем ИИ стали достаточно популярными, так как позволяют раскрывать для общественности их отдельные технические особенности и объяснить, какие шаги по обеспечению безопасности их функционирования были предприняты при разработке (как-нибудь сделаю про карточки отдельный пост).
Интересно, что в самом тексте документа указывается, что компания его подготовила и опубликовала в связи с принятыми на себя добровольными обязательствами после прошлогодней встречи в Белом доме (писал об этом тут).
В карточке содержится много информации о методах тестирования и оценки модели на предмет разнообразных рисков. Остановимся на отдельных интересных для нас моментах:
1. Чтобы избежать проблем с использованием реальных человеческих голосов и создания голосовых дипфейков, компания заранее позаботилась и утвердила несколько вариантов голосов, созданных с участием актеров озвучки (подробнее про это можно почитать в посте OpenAI). С помощью разных методов выходные данные фильтруются на соответствие утвержденным голосам, что должно позволить избежать случайного синтезирования аналогичного человеку голоса. Также модель блокирует запросы пользователей подобного содержания. Тем не менее вопрос клонирования голосов и отказоустойчивости, особенно в отличных от английского языках, все еще является предметом изучения.
2. Модель обучена отказывать на запросы об идентификации человека по голосу, за исключением определения авторов известных цитат.
3. Модель обучена отказывать в работе с контентом, защищенным авторским правом. Например, модель должна фильтровать запросы с музыкой, а в продвинутом голосовом режиме вообще отказываться петь. Хотя, конечно, сложно представить, что эту проблему вообще можно полностью решить учетом особенностей архитектуры современных моделей ИИ.
4. Модель обучена не давать оценочные суждения и выводы на основе чувствительных человеческих характеристик, а также отказывать в генерации неправомерного, жестокого и эротического контента. Однако тестировщики смогли заставить модель повторять и генерировать теории заговора и иную ложную информацию.
5. OpenAI разработала собственную систему оценки (Preparedness framework) передовых фундаментальных моделей на наличие системных рисков, таких как: кибербезопасность, CBRN (химические, биологические, радиологические, ядерные угрозы), способность к убеждению и уровень автономности. GPT-4o получила минимальные оценки риска, за исключением способности к убеждению (визуализацию выложу в комментариях к посту). Интересно, что средний уровень риска получила только текстовая модальность. В трех случаях из двадцати модель убеждала на политические темы лучше, чем статьи экспертов.
6. Модель проходила независимую оценку у двух компаний, которые специализируются на такого рода услугах METR (полный отчет тут) и Apollo Research. Оценены были способности моделей к самосознанию, развитию и репликации.
7. Компания исследует риски влияния модели на общество. В частности, появление голосовой модальности и увеличение контекстного окна повысили риски антропоморфизации и выстраивания эмоциональных зависимостей между человеком и моделью. Однако данное направление еще не является в достаточной степени изученным.
Однако необходимо заметить, что публикация подобных карточек, как и проведение оценок, пока что является добровольным начинанием. В отсутствии законодательных требований и ответственности объективность оценок обеспечивается лишь репутацией компании и ее продуктов.
В мае OpenAI выпустила новую единую мультимодальную модель ИИ – GPT-4o (omni), которая способна одновременно работать с речью, тестом и изображениями. Таким образом, компания сделала шаг в сторону создания персонального ассистента на основе своего чат-бота ChatGPT.
На прошлой неделе OpenAI выпустила и карточку новой модели. В последние годы карточки моделей и систем ИИ стали достаточно популярными, так как позволяют раскрывать для общественности их отдельные технические особенности и объяснить, какие шаги по обеспечению безопасности их функционирования были предприняты при разработке (как-нибудь сделаю про карточки отдельный пост).
Интересно, что в самом тексте документа указывается, что компания его подготовила и опубликовала в связи с принятыми на себя добровольными обязательствами после прошлогодней встречи в Белом доме (писал об этом тут).
В карточке содержится много информации о методах тестирования и оценки модели на предмет разнообразных рисков. Остановимся на отдельных интересных для нас моментах:
1. Чтобы избежать проблем с использованием реальных человеческих голосов и создания голосовых дипфейков, компания заранее позаботилась и утвердила несколько вариантов голосов, созданных с участием актеров озвучки (подробнее про это можно почитать в посте OpenAI). С помощью разных методов выходные данные фильтруются на соответствие утвержденным голосам, что должно позволить избежать случайного синтезирования аналогичного человеку голоса. Также модель блокирует запросы пользователей подобного содержания. Тем не менее вопрос клонирования голосов и отказоустойчивости, особенно в отличных от английского языках, все еще является предметом изучения.
2. Модель обучена отказывать на запросы об идентификации человека по голосу, за исключением определения авторов известных цитат.
3. Модель обучена отказывать в работе с контентом, защищенным авторским правом. Например, модель должна фильтровать запросы с музыкой, а в продвинутом голосовом режиме вообще отказываться петь. Хотя, конечно, сложно представить, что эту проблему вообще можно полностью решить учетом особенностей архитектуры современных моделей ИИ.
4. Модель обучена не давать оценочные суждения и выводы на основе чувствительных человеческих характеристик, а также отказывать в генерации неправомерного, жестокого и эротического контента. Однако тестировщики смогли заставить модель повторять и генерировать теории заговора и иную ложную информацию.
5. OpenAI разработала собственную систему оценки (Preparedness framework) передовых фундаментальных моделей на наличие системных рисков, таких как: кибербезопасность, CBRN (химические, биологические, радиологические, ядерные угрозы), способность к убеждению и уровень автономности. GPT-4o получила минимальные оценки риска, за исключением способности к убеждению (визуализацию выложу в комментариях к посту). Интересно, что средний уровень риска получила только текстовая модальность. В трех случаях из двадцати модель убеждала на политические темы лучше, чем статьи экспертов.
6. Модель проходила независимую оценку у двух компаний, которые специализируются на такого рода услугах METR (полный отчет тут) и Apollo Research. Оценены были способности моделей к самосознанию, развитию и репликации.
7. Компания исследует риски влияния модели на общество. В частности, появление голосовой модальности и увеличение контекстного окна повысили риски антропоморфизации и выстраивания эмоциональных зависимостей между человеком и моделью. Однако данное направление еще не является в достаточной степени изученным.
Однако необходимо заметить, что публикация подобных карточек, как и проведение оценок, пока что является добровольным начинанием. В отсутствии законодательных требований и ответственности объективность оценок обеспечивается лишь репутацией компании и ее продуктов.
Openai
GPT-4o System Card
This report outlines the safety work carried out prior to releasing GPT-4o including external red teaming, frontier risk evaluations according to our Preparedness Framework, and an overview of the mitigations we built in to address key risk areas.
❤6
Подписан скандально известный закон о порядке обработки обезличенных персональных данных
Несколько дней назад Президентом РФ был подписан закон, который вносит изменения в несколько актов и определяет особенности обработки обезличенных персональных данных. Ранее этот законопроект бурно обсуждался не один год и изначально в качестве своих целей предполагал упрощение доступа бизнеса к данным для развития ИИ.
Давайте кратко пробежимся по основным идеям:
1. Изменения в ФЗ № 152-ФЗ «О персональных данных»
Теперь Минцифры сможет потребовать у операторов самостоятельно обезличивать обрабатываемые ими персональные данные (кроме статьи 10 за исключением части 2.1 и статьи 11) и предоставить их в специально созданную для этого государственную информационную систему. Далее орган формирует составы данных, сгруппированные по определенному признаку, при условии, что последующая обработка этих данных не позволит определить их принадлежность конкретному субъекту ПД.
Интересно, что само определение обезличенных ПД в законе предполагает возможность установления их принадлежности конкретному субъекту за счет обогащения данных. Будем надеяться, что данные из этой ГИС не станут достоянием даркнета и не будут сопоставлены с огромным числом уже утекших ранее баз данных. Также лица, чьи персональные данные были обработаны операторами, никаким образом не смогут влиять на их передачу в ГИС, что, конечно же, очень сомнительно с точки зрения прав человека.
Доступ и обработка данных будет осуществляться только с использованием ГИС для определенного круга субъектов (установлен ряд требований). Порядок доступа установит Правительство РФ, что предполагает гибкость в изменении правил игры и не создает стабильности для бизнеса.
2. Изменения в ФЗ № 123-ФЗ «О проведении эксперимента с ИИ в Москве»
В Москве по решению правительства города будут создаваться региональные составы данных. Региональные операторы будут предоставлять данные в региональную информационную систему. Однако бремя обезличивания уже лежит на компетентном органе. Передача изображения лица человека, полученного с помощью фотовидеоустройств, и записи голоса человека, полученной с помощью звукозаписывающих устройств, и их последующая обработка в региональной ИС могут осуществляться без получения согласия субъекта ПД. Однако последнему дается время на отказ от передачи его данных в систему.
Доступ также осуществляется с использованием ИС для определенного перечня субъектов в соответствии с правилами.
Таким образом, как я уже отмечал в посте зимой, мода на создание ГИС во всех сферах фактически приводит к государственной монополии на данные. Более того новеллы отлично суммируются с вакуумом нормативного регулирования в сфере разработку и применение ИИ госорганами, о чем я неоднократно писал.
А есть ли альтернативы складывания всех яиц в госкорзину?
Да, например, в ЕС в соответствии со вступившем с силу в прошлом году Data Governance Act (DGA) были созданы посредники в передаче данных (data intermediaries), которые на основе жестких законодательных требований должны выступать в качестве независимых субъектов, обеспечивающих обмен данными между органами власти, бизнесом и гражданами. Вот их реестр. Если будет интересно, могу сделать отдельный разбор акта🤩 .
Несколько дней назад Президентом РФ был подписан закон, который вносит изменения в несколько актов и определяет особенности обработки обезличенных персональных данных. Ранее этот законопроект бурно обсуждался не один год и изначально в качестве своих целей предполагал упрощение доступа бизнеса к данным для развития ИИ.
Давайте кратко пробежимся по основным идеям:
1. Изменения в ФЗ № 152-ФЗ «О персональных данных»
Теперь Минцифры сможет потребовать у операторов самостоятельно обезличивать обрабатываемые ими персональные данные (кроме статьи 10 за исключением части 2.1 и статьи 11) и предоставить их в специально созданную для этого государственную информационную систему. Далее орган формирует составы данных, сгруппированные по определенному признаку, при условии, что последующая обработка этих данных не позволит определить их принадлежность конкретному субъекту ПД.
Интересно, что само определение обезличенных ПД в законе предполагает возможность установления их принадлежности конкретному субъекту за счет обогащения данных. Будем надеяться, что данные из этой ГИС не станут достоянием даркнета и не будут сопоставлены с огромным числом уже утекших ранее баз данных. Также лица, чьи персональные данные были обработаны операторами, никаким образом не смогут влиять на их передачу в ГИС, что, конечно же, очень сомнительно с точки зрения прав человека.
Доступ и обработка данных будет осуществляться только с использованием ГИС для определенного круга субъектов (установлен ряд требований). Порядок доступа установит Правительство РФ, что предполагает гибкость в изменении правил игры и не создает стабильности для бизнеса.
2. Изменения в ФЗ № 123-ФЗ «О проведении эксперимента с ИИ в Москве»
В Москве по решению правительства города будут создаваться региональные составы данных. Региональные операторы будут предоставлять данные в региональную информационную систему. Однако бремя обезличивания уже лежит на компетентном органе. Передача изображения лица человека, полученного с помощью фотовидеоустройств, и записи голоса человека, полученной с помощью звукозаписывающих устройств, и их последующая обработка в региональной ИС могут осуществляться без получения согласия субъекта ПД. Однако последнему дается время на отказ от передачи его данных в систему.
Доступ также осуществляется с использованием ИС для определенного перечня субъектов в соответствии с правилами.
Таким образом, как я уже отмечал в посте зимой, мода на создание ГИС во всех сферах фактически приводит к государственной монополии на данные. Более того новеллы отлично суммируются с вакуумом нормативного регулирования в сфере разработку и применение ИИ госорганами, о чем я неоднократно писал.
А есть ли альтернативы складывания всех яиц в госкорзину?
Да, например, в ЕС в соответствии со вступившем с силу в прошлом году Data Governance Act (DGA) были созданы посредники в передаче данных (data intermediaries), которые на основе жестких законодательных требований должны выступать в качестве независимых субъектов, обеспечивающих обмен данными между органами власти, бизнесом и гражданами. Вот их реестр. Если будет интересно, могу сделать отдельный разбор акта
Please open Telegram to view this post
VIEW IN TELEGRAM
TACC
Путин утвердил закон о порядке обработки обезличенных персональных данных
Нововведение позволит передавать изображения лиц и записи голоса москвичей в обезличенном виде для последующей обработки без согласия субъекта
❤9
Новый Grok даровал невиданную по современным меркам свободу генерации контента
Компания xAI выпустила в бета-версии две новые модели – Grok-2 и Grok-2 mini. Для генерации изображений используется другая модель – FLUX.1 от Black Forest Labs.
Новый Grok будет глубокого интегрирован в X. Например, сейчас для премиальных пользователей уже доступна генерация картинок.
И первые отзывы заставляют поулыбаться. Например, The Verge пишут, что выходные результаты модели значительно менее ограничены, чем у аналогичных продуктов. Модель, во-первых, генерирует изображения, схожие с лицами политиков и известных людей, а во-вторых, генерирует изображения по запросам, на которые ChatGPT отказывается отвечать.
Картинки можете посмотреть по ссылке выше. Хоть они и не супер реалистичные, все равно не хочу распространять дезинформацию. Но, например, люди сгенерировали изображение с беременной Камалой Харрис, которая обнимается с Дональдом Трампом (и многое другое).
Интересно, что пользовательское соглашение продукта запрещает его использовать любым способом или в любых целях, которые (i) нарушают или способствуют нарушению любого Применимого законодательства, договорных обязательств или прав любого лица, включая, но не ограничиваясь, правами на интеллектуальную собственность (как определено ниже), правами на частную жизнь и/или правами личности, (ii) являются мошенническим, ложным, обманчивым или клеветническим, (iii) пропагандируют ненависть, насилие или вред в отношении любого лица или группы лиц, или (iv) иным образом может быть вредным или нежелательным (по нашему усмотрению) для нас или наших провайдеров, наших поставщиков, Пользователей или любой другой третьей стороны.
И вот еще: мы можем, уведомив вас в любое время, ограничить использование вами выходных данных или потребовать от вас прекратить их использование (и удалить любые их копии), если мы считаем, что использование вами выходных данных может нарушить права любой третьей стороны.
Если помните, то буквально на прошлой неделе я разбирал отчет Американского Copyright Office, который рекомендовал законодателям разработать запрет на генерацию правдоподобных дипфейков с изображением реальных людей без разрешения. Последние деньки Дикого Запада?🤩
Компания xAI выпустила в бета-версии две новые модели – Grok-2 и Grok-2 mini. Для генерации изображений используется другая модель – FLUX.1 от Black Forest Labs.
Новый Grok будет глубокого интегрирован в X. Например, сейчас для премиальных пользователей уже доступна генерация картинок.
И первые отзывы заставляют поулыбаться. Например, The Verge пишут, что выходные результаты модели значительно менее ограничены, чем у аналогичных продуктов. Модель, во-первых, генерирует изображения, схожие с лицами политиков и известных людей, а во-вторых, генерирует изображения по запросам, на которые ChatGPT отказывается отвечать.
Картинки можете посмотреть по ссылке выше. Хоть они и не супер реалистичные, все равно не хочу распространять дезинформацию. Но, например, люди сгенерировали изображение с беременной Камалой Харрис, которая обнимается с Дональдом Трампом (и многое другое).
Интересно, что пользовательское соглашение продукта запрещает его использовать любым способом или в любых целях, которые (i) нарушают или способствуют нарушению любого Применимого законодательства, договорных обязательств или прав любого лица, включая, но не ограничиваясь, правами на интеллектуальную собственность (как определено ниже), правами на частную жизнь и/или правами личности, (ii) являются мошенническим, ложным, обманчивым или клеветническим, (iii) пропагандируют ненависть, насилие или вред в отношении любого лица или группы лиц, или (iv) иным образом может быть вредным или нежелательным (по нашему усмотрению) для нас или наших провайдеров, наших поставщиков, Пользователей или любой другой третьей стороны.
И вот еще: мы можем, уведомив вас в любое время, ограничить использование вами выходных данных или потребовать от вас прекратить их использование (и удалить любые их копии), если мы считаем, что использование вами выходных данных может нарушить права любой третьей стороны.
Если помните, то буквально на прошлой неделе я разбирал отчет Американского Copyright Office, который рекомендовал законодателям разработать запрет на генерацию правдоподобных дипфейков с изображением реальных людей без разрешения. Последние деньки Дикого Запада?
Please open Telegram to view this post
VIEW IN TELEGRAM
x.ai
Grok-2 Beta Release | xAI
We announce our new Grok-2 and Grok-2 mini models.
🔥3
Может ли ИИ быть мэром города?
С таким вопросом ко мне обратились журналисты из Санкт-Петербургского издания Sobaka.ru (да простят меня котики).
Спойлер: пока точно нет🤩 .
Но это не лишает нас возможности поразмышлять и подискутировать. Тем более что периодически энтузиасты предрекают нам конец государства то за счет блокчейчна и DAO, то за счет ИИ.
Материал в развернутом виде можно почитать по ссылке. Он небольшой и написан в легкой научно-популярной форме, поэтому смело можно заглянуть в него и в пятницу вечером.
С таким вопросом ко мне обратились журналисты из Санкт-Петербургского издания Sobaka.ru (да простят меня котики).
Спойлер: пока точно нет
Но это не лишает нас возможности поразмышлять и подискутировать. Тем более что периодически энтузиасты предрекают нам конец государства то за счет блокчейчна и DAO, то за счет ИИ.
Материал в развернутом виде можно почитать по ссылке. Он небольшой и написан в легкой научно-популярной форме, поэтому смело можно заглянуть в него и в пятницу вечером.
Please open Telegram to view this post
VIEW IN TELEGRAM
Собака.ru
Может ли ИИ стать мэром или губернатором? Что?! Да! Об этом постоянно говорят, а кое-где даже попытались осуществить!
Разбираемся в плюсах и минусах подобной идеи.
👍5❤4
Конец дихотомии открытых и закрытых релизов фундаментальных моделей ИИ?
На сайте Фонда Карнеги появилась крайне любопытная статья, в которой большой и авторитетный коллектив авторов рассуждает относительно существующих в индустрии актуальных вопросов вокруг вывода на рынок фундаментальных моделей ИИ.
Напомню, что главные игроки ИИ-рынка придерживаются разных концепций, которые связаны с их бизнес-моделями: одни компании полностью выкладывают модели ИИ в общий доступ для более-менее свободного использования, а другие – распространяют их по подписке без предоставления доступа к параметрам и иной важной информации, которая бы раскрыла нюансы разработки и технические особенности.
Несмотря на то, что оба этих подхода имеют свои плюсы и минусы, на протяжении многих лет не утихает спор относительно лучшего способа вывода моделей ИИ на рынок, который бы позволил учесть как коммерческие, так и общественные интересы. На преодоление этой дихотомии и направлена данная работа.
Статья состоит из двух частей: в первой авторы рассматривают вопросы, по которым в индустрии уже сложился некий консенсус, а во второй – вопросы, на которые еще потребуется найти решения.
Рассмотрим некоторые интересные моменты:
- Сам спор относительно открытости и закрытости моделей перестает быть актуальным. Стало очевидно, что каждый способ вывода на рынок имеет свои плюсы и минусы. Выбор того или иного способа должен быть основан на проведенных предварительных и последующих оценках модели ИИ (до и после выводы на рынок) с учетом особенностей ее целевого назначения. Для продвинутых потенциально опасных моделей лучше применять закрытые или гибкие релизы.
- Открытость моделей не связана только лишь с публикацией их параметров. Раскрыта может быть еще и иная релевантная информация об архитектуре, коде, данных. Информация может раскрываться не сразу, а постепенно, в ходе вывода модели на рынок. Более того, даже при закрытых релизах разработчики могут обеспечивать высокий уровень прозрачности. Также устоявшееся в индустрии определение открытого (опенсорс) ПО не полностью применимо для открытых релизов моделей ИИ из-за их комплексности и недостаточной прозрачности. Кстати, в Open Source Initiative (OSI) как раз разрабатывают определение опенсорс ИИ.
- Сейчас решение о способе выпуска модели ИИ на рынок принимается компаниями самостоятельно на основе собственных критериев. Для того чтобы уменьшить возможные риски, необходимо разработать общие стандарты для отрасли. Например, описать риски, характерные для разных видов релизов, сформулировать рекомендации о том, каким образом, кем и на основании какой информации должно приниматься решение о выборе способа вывода модели ИИ на рынок.
В статье рассмотрены и другие интересные вопросы, так что советую ознакомиться лично.
На сайте Фонда Карнеги появилась крайне любопытная статья, в которой большой и авторитетный коллектив авторов рассуждает относительно существующих в индустрии актуальных вопросов вокруг вывода на рынок фундаментальных моделей ИИ.
Напомню, что главные игроки ИИ-рынка придерживаются разных концепций, которые связаны с их бизнес-моделями: одни компании полностью выкладывают модели ИИ в общий доступ для более-менее свободного использования, а другие – распространяют их по подписке без предоставления доступа к параметрам и иной важной информации, которая бы раскрыла нюансы разработки и технические особенности.
Несмотря на то, что оба этих подхода имеют свои плюсы и минусы, на протяжении многих лет не утихает спор относительно лучшего способа вывода моделей ИИ на рынок, который бы позволил учесть как коммерческие, так и общественные интересы. На преодоление этой дихотомии и направлена данная работа.
Статья состоит из двух частей: в первой авторы рассматривают вопросы, по которым в индустрии уже сложился некий консенсус, а во второй – вопросы, на которые еще потребуется найти решения.
Рассмотрим некоторые интересные моменты:
- Сам спор относительно открытости и закрытости моделей перестает быть актуальным. Стало очевидно, что каждый способ вывода на рынок имеет свои плюсы и минусы. Выбор того или иного способа должен быть основан на проведенных предварительных и последующих оценках модели ИИ (до и после выводы на рынок) с учетом особенностей ее целевого назначения. Для продвинутых потенциально опасных моделей лучше применять закрытые или гибкие релизы.
- Открытость моделей не связана только лишь с публикацией их параметров. Раскрыта может быть еще и иная релевантная информация об архитектуре, коде, данных. Информация может раскрываться не сразу, а постепенно, в ходе вывода модели на рынок. Более того, даже при закрытых релизах разработчики могут обеспечивать высокий уровень прозрачности. Также устоявшееся в индустрии определение открытого (опенсорс) ПО не полностью применимо для открытых релизов моделей ИИ из-за их комплексности и недостаточной прозрачности. Кстати, в Open Source Initiative (OSI) как раз разрабатывают определение опенсорс ИИ.
- Сейчас решение о способе выпуска модели ИИ на рынок принимается компаниями самостоятельно на основе собственных критериев. Для того чтобы уменьшить возможные риски, необходимо разработать общие стандарты для отрасли. Например, описать риски, характерные для разных видов релизов, сформулировать рекомендации о том, каким образом, кем и на основании какой информации должно приниматься решение о выборе способа вывода модели ИИ на рынок.
В статье рассмотрены и другие интересные вопросы, так что советую ознакомиться лично.
Carnegie Endowment for International Peace
Beyond Open vs. Closed: Emerging Consensus and Key Questions for Foundation AI Model Governance
Ideological conflict between “pro-open” and “anti-open” camps is receding. Carnegie gathered leading experts from a wide range of perspectives to identify common ground and help reset AI governance debates.
❤4
Продолжение дискуссии про открытость: стоит ли публиковать параметры фундаментальных моделей ИИ двойного назначения?
Ответ на это вопрос попыталось дать Национальное управление по телекоммуникациям и информации США (NTIA) в отчете, подготовленном в рамках исполнения октябрьского Указа Президента США «О разработке и использовании искусственного интеллекта в условиях безопасности, надежности и доверия». Подробнее об указе и том, что понимается под моделями ИИ двойного назначения, можно почитать в моем посте.
Я недаром написал про продолжение дискуссии, так как отчет во многом перекликается со статьей, которую я разбирал в предыдущем посте.
В данном отчете эксперты управления пытаются понять, какие риски несут фундаментальные модели двойного назначения и достижение каких пороговых значений должно приводить к законодательному запрету для разработчиков публикации весов и других параметров моделей. К каким же выводам пришло управление?
Первый вывод, к которому пришли как авторы статьи Фонда Карнеги, так и эксперты NTIA: на сегодняшний день нет достаточных данных о том, что текущие фундаментальные модели представляют существенные риски, достаточные для того, чтобы вводить запрет на публикацию их параметров.
Второй вывод: такие риски непременно могут возникнуть в будущем, соответственно, необходимо разработать критерии для оценки фундаментальных моделей на предмет возможности их открытых релизов.
Поэтому вместо введения запрета орган предлагает всему государственному аппарату осуществлять политику в нескольких направлениях:
1. Собирать информацию: определить индикаторы по каждому из рисков, а также проводить исследования в сфере безопасности фундаментальных моделей на протяжении всех этапов их жизненного цикла.
2. Анализировать информацию: сформулировать и соевременно адаптировать пороговые значения для каждого из индикаторов риска, достижение которых потребует государственного вмешательства.
3. Принимать решения на основе полученной информации: если это потребуется, вводить ограничения на доступ к моделям, а также предпринимать иные меры по снижению возможных рисков.
Таким образом, вряд ли передовые фундаментальные модели в будущем будут сразу выпускаться для широкого доступа без каких-либо ограничений. Скорее всего, компании будут параллельно выводить на рынок несколько разных версий моделей (как это уже происходит сейчас), однако наиболее функциональные из них не будут доступны сразу в опенсорсе. Также весьма вероятно будет применяться методика ступенчатых релизов, когда модели будут становиться широкодоступными постепенно, по мере их изучения и устаревания технологий.
Ответ на это вопрос попыталось дать Национальное управление по телекоммуникациям и информации США (NTIA) в отчете, подготовленном в рамках исполнения октябрьского Указа Президента США «О разработке и использовании искусственного интеллекта в условиях безопасности, надежности и доверия». Подробнее об указе и том, что понимается под моделями ИИ двойного назначения, можно почитать в моем посте.
Я недаром написал про продолжение дискуссии, так как отчет во многом перекликается со статьей, которую я разбирал в предыдущем посте.
В данном отчете эксперты управления пытаются понять, какие риски несут фундаментальные модели двойного назначения и достижение каких пороговых значений должно приводить к законодательному запрету для разработчиков публикации весов и других параметров моделей. К каким же выводам пришло управление?
Первый вывод, к которому пришли как авторы статьи Фонда Карнеги, так и эксперты NTIA: на сегодняшний день нет достаточных данных о том, что текущие фундаментальные модели представляют существенные риски, достаточные для того, чтобы вводить запрет на публикацию их параметров.
Второй вывод: такие риски непременно могут возникнуть в будущем, соответственно, необходимо разработать критерии для оценки фундаментальных моделей на предмет возможности их открытых релизов.
Поэтому вместо введения запрета орган предлагает всему государственному аппарату осуществлять политику в нескольких направлениях:
1. Собирать информацию: определить индикаторы по каждому из рисков, а также проводить исследования в сфере безопасности фундаментальных моделей на протяжении всех этапов их жизненного цикла.
2. Анализировать информацию: сформулировать и соевременно адаптировать пороговые значения для каждого из индикаторов риска, достижение которых потребует государственного вмешательства.
3. Принимать решения на основе полученной информации: если это потребуется, вводить ограничения на доступ к моделям, а также предпринимать иные меры по снижению возможных рисков.
Таким образом, вряд ли передовые фундаментальные модели в будущем будут сразу выпускаться для широкого доступа без каких-либо ограничений. Скорее всего, компании будут параллельно выводить на рынок несколько разных версий моделей (как это уже происходит сейчас), однако наиболее функциональные из них не будут доступны сразу в опенсорсе. Также весьма вероятно будет применяться методика ступенчатых релизов, когда модели будут становиться широкодоступными постепенно, по мере их изучения и устаревания технологий.
www.ntia.gov
Dual-Use Foundation Models with Widely Available Model Weights Report | National Telecommunications and Information Administration
Open Foundation Model Risks and Benefits On October 30, 2023, President Biden signed the Executive Order on “Safe, Secure, and Trustwo...
❤4
Поиски оптимального подхода к регулированию в сфере разработки и применения передовых систем и моделей ИИ
Сегодня я обращаю внимание на статью, в которой авторы из уважаемых британских и американских научных институций размышляют над тем, какой подход следует выбрать при формулировании нормативных требований в сфере разработки и применения передовых систем и моделей ИИ (авторы их называют более широким термином – передовой ИИ). Также любителям AI Governance на заметку – статья является частью будущего сборника The Oxford Handbook on the Foundations and Regulation of Generative AI.
Текст статьи опубликовали в июле, но только сейчас дошли руки ее разобрать. Статья на первый взгляд довольно большая – 55 страниц. Однако, как это обычно бывает, более чем две трети текста занимают сноски и литература. Большую часть статьи авторы посвятили определению предмета, метода и содержания будущего правового регулирования, а также ликбезу относительно различия систем законодательства в ЕС, США и Великобритании.
Кстати, если кто-то занимается исследованиями, то советую внимательно изучить сноски. Над анализом литературы авторы потрудились на славу. Возможно, найдете что-то интересное и для вашей темы.
Теперь кратко пройдемся по содержанию:
- Передовые модели и системы ИИ представляют существенные риски (авторы их расписывают, но мы их и так с вами многократно разбирали);
- Одного отраслевого саморегулирования явно не будет достаточно для снижения этих рисков до приемлемого уровня;
- Очевидно, что регулирование необходимо, однако нужно определиться с наиболее подходящим подходом.
На последнем тезисе мы и остановимся подробней:
По сути, авторы рассуждают одновременно в нескольких измерениях:
1. Каким образом нормативные положения должны быть укомплектованы: что должно быть закреплено на уровне закона и подзаконных актов, а что - в технических или отраслевых стандартах;
2. Должны ли правовые нормы быть сформулированы как принципы или содержать конкретные предписания.
Вывод достаточно ожидаемый: законодателям рекомендуют сформулировать основные принципы разработки и применения передовых систем и моделей ИИ, а конкретные предписания устанавливать позже и в тесном сотрудничестве с бизнесом.
На скриншоте можно посмотреть пример того, к каким группам авторы отнесли девять примерных предписаний, которые были сформулированы в документе Emerging Processes for Frontier AI Safety, опубликованном по итогам прошлогоднего UK AI Safety Summit.
Сегодня я обращаю внимание на статью, в которой авторы из уважаемых британских и американских научных институций размышляют над тем, какой подход следует выбрать при формулировании нормативных требований в сфере разработки и применения передовых систем и моделей ИИ (авторы их называют более широким термином – передовой ИИ). Также любителям AI Governance на заметку – статья является частью будущего сборника The Oxford Handbook on the Foundations and Regulation of Generative AI.
Текст статьи опубликовали в июле, но только сейчас дошли руки ее разобрать. Статья на первый взгляд довольно большая – 55 страниц. Однако, как это обычно бывает, более чем две трети текста занимают сноски и литература. Большую часть статьи авторы посвятили определению предмета, метода и содержания будущего правового регулирования, а также ликбезу относительно различия систем законодательства в ЕС, США и Великобритании.
Кстати, если кто-то занимается исследованиями, то советую внимательно изучить сноски. Над анализом литературы авторы потрудились на славу. Возможно, найдете что-то интересное и для вашей темы.
Теперь кратко пройдемся по содержанию:
- Передовые модели и системы ИИ представляют существенные риски (авторы их расписывают, но мы их и так с вами многократно разбирали);
- Одного отраслевого саморегулирования явно не будет достаточно для снижения этих рисков до приемлемого уровня;
- Очевидно, что регулирование необходимо, однако нужно определиться с наиболее подходящим подходом.
На последнем тезисе мы и остановимся подробней:
По сути, авторы рассуждают одновременно в нескольких измерениях:
1. Каким образом нормативные положения должны быть укомплектованы: что должно быть закреплено на уровне закона и подзаконных актов, а что - в технических или отраслевых стандартах;
2. Должны ли правовые нормы быть сформулированы как принципы или содержать конкретные предписания.
Вывод достаточно ожидаемый: законодателям рекомендуют сформулировать основные принципы разработки и применения передовых систем и моделей ИИ, а конкретные предписания устанавливать позже и в тесном сотрудничестве с бизнесом.
На скриншоте можно посмотреть пример того, к каким группам авторы отнесли девять примерных предписаний, которые были сформулированы в документе Emerging Processes for Frontier AI Safety, опубликованном по итогам прошлогоднего UK AI Safety Summit.
1