Планы Китая и США по ИИ: один - про безопасность, другой - про скорость
На днях США (America’s AI Action Plan) и Китай (Action Plan for Global Governance of AI) представили свои планы, задающие вектор глобального регулирования ИИ. Мы видим, что философия, приоритеты и амбиции у двух стран совершенно разные.
Сначала общие черты:
🔹 США и Китай признают ИИ ключевой технологией 21 века. Обе страны делают ставку на активное внедрение ИИ во все сферы — от промышленности до госуслуг.
🔹Обе стратегии подчеркивают важность масштабных инвестиций в дата-центры, вычислительные мощности, устойчивые энергосистемы и доступ к качественным данным.
🔹Обе страны делают ставку на развитие ИИ-компетенций у граждан и формирование нового поколения специалистов, способных создавать и использовать ИИ этично и эффективно.
👀 А теперь их контрастное виденье на регулирование ИИ.
Как неудивительно, Китай продвигает создание глобальной системы управления ИИ, основанной на участии всех сторон (государств, бизнеса, ученых) и системе глобальных стандартов совместно с ISO, IEC, ITU.
США же говорят о национальном лидерстве, защите демократии, экономике и ценностях, а международное сотрудничество в первую очередь с "единомышленниками".
Смотрим детальнее на план Китая:
🔹 Полноценная система управления рисками ИИ (уровни угроз, протоколы реагирования,механизмы экстренного реагирования), международные соглашения.Подход "сначала безопасность", т.е. риски должны выявляться заранее, а не по факту.
🔹 Делает акцент на прозрачность, интерпретируемость моделей, отслеживаемость ИИ-систем, защиту персональных данных. Баланс инноваций, этики и предотвращения дискриминации.
🔹 Идея глобальной платформы по безопасности ИИ под эгидой ООН, создание совместных центров компетенций.
🔹 Инфраструктура для всего мира: центры обработки данных, стандарты вычислений, дешёвые мощности (особенно для развивающихся стран), open-source модели, доступ к качественным данным.
План США:
🔹Устранение "бюрократических проволочек и обременительных правил" для ускорения инноваций и внедрения ИИ, возглавляемых частным сектором. Делают ставку на федеральные институты безопасности (например, AI Safety Institute). Акцент на оценке рисков высокоуровневых моделей, защите от злоупотреблений, национальной безопасности. Риски регулируются точечно, т.е. там, где есть реальная угроза для страны.
🔹Локальная производственная база (например, полупроводники). Поддержка open-source решений с оговорками в вопросах безопасности и конкурентоспособности. Экспорт решений союзникам и партнерам.
🔹Защита частной жизни, свободы слова, защита труда, в основе собственный "AI Bill of Rights"
🔹Правительство планирует демонстрировать "образцовое внедрение" ИИ в каждом ведомстве, госзакупки, открытые API.
🔹Внутреннее развитие кадров (переобучение, STEM-образование, поддержка пострадавших от автоматизации отраслей).
Что это значит?
Китай предлагает структурированный, государственно-ведомый путь, где всё чётко, шаг за шагом и под контролем.
США делают ставку на скорость, конкуренцию и технологическое лидерство, иногда в ущерб долгосрочной устойчивости.
Если вы создаете международный ИИ-продукт, то вам придётся лавировать между этими двумя экосистемами. А возможно, даже адаптироваться под обе.
#LawAndDisorder
————
@pattern_ai
На днях США (America’s AI Action Plan) и Китай (Action Plan for Global Governance of AI) представили свои планы, задающие вектор глобального регулирования ИИ. Мы видим, что философия, приоритеты и амбиции у двух стран совершенно разные.
Сначала общие черты:
🔹 США и Китай признают ИИ ключевой технологией 21 века. Обе страны делают ставку на активное внедрение ИИ во все сферы — от промышленности до госуслуг.
🔹Обе стратегии подчеркивают важность масштабных инвестиций в дата-центры, вычислительные мощности, устойчивые энергосистемы и доступ к качественным данным.
🔹Обе страны делают ставку на развитие ИИ-компетенций у граждан и формирование нового поколения специалистов, способных создавать и использовать ИИ этично и эффективно.
Как неудивительно, Китай продвигает создание глобальной системы управления ИИ, основанной на участии всех сторон (государств, бизнеса, ученых) и системе глобальных стандартов совместно с ISO, IEC, ITU.
США же говорят о национальном лидерстве, защите демократии, экономике и ценностях, а международное сотрудничество в первую очередь с "единомышленниками".
Смотрим детальнее на план Китая:
🔹 Полноценная система управления рисками ИИ (уровни угроз, протоколы реагирования,механизмы экстренного реагирования), международные соглашения.Подход "сначала безопасность", т.е. риски должны выявляться заранее, а не по факту.
🔹 Делает акцент на прозрачность, интерпретируемость моделей, отслеживаемость ИИ-систем, защиту персональных данных. Баланс инноваций, этики и предотвращения дискриминации.
🔹 Идея глобальной платформы по безопасности ИИ под эгидой ООН, создание совместных центров компетенций.
🔹 Инфраструктура для всего мира: центры обработки данных, стандарты вычислений, дешёвые мощности (особенно для развивающихся стран), open-source модели, доступ к качественным данным.
План США:
🔹Устранение "бюрократических проволочек и обременительных правил" для ускорения инноваций и внедрения ИИ, возглавляемых частным сектором. Делают ставку на федеральные институты безопасности (например, AI Safety Institute). Акцент на оценке рисков высокоуровневых моделей, защите от злоупотреблений, национальной безопасности. Риски регулируются точечно, т.е. там, где есть реальная угроза для страны.
🔹Локальная производственная база (например, полупроводники). Поддержка open-source решений с оговорками в вопросах безопасности и конкурентоспособности. Экспорт решений союзникам и партнерам.
🔹Защита частной жизни, свободы слова, защита труда, в основе собственный "AI Bill of Rights"
🔹Правительство планирует демонстрировать "образцовое внедрение" ИИ в каждом ведомстве, госзакупки, открытые API.
🔹Внутреннее развитие кадров (переобучение, STEM-образование, поддержка пострадавших от автоматизации отраслей).
Что это значит?
Китай предлагает структурированный, государственно-ведомый путь, где всё чётко, шаг за шагом и под контролем.
США делают ставку на скорость, конкуренцию и технологическое лидерство, иногда в ущерб долгосрочной устойчивости.
Если вы создаете международный ИИ-продукт, то вам придётся лавировать между этими двумя экосистемами. А возможно, даже адаптироваться под обе.
#LawAndDisorder
————
@pattern_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
👏1
Таксономия рисков ИИ от MIT и как использовать их методологию в своей работе
Исследователи из MIT собрали 831 меру снижения рисков, связанных с ИИ из 13 фреймворков и разложили их по таксономии в гайде Mapping AI Risk Mitigations. Но это не вся польза от гайда, в нем подробно расписана методология создания, которую можно адаптировать для своих целей.
🔹 MIT использовали Claude 4 Sonnet, Opus и ChatGPT o3 для извлечения мер из документов, классификации по заранее заданной структуре, стандартизации описаний, проверки “edge cases”. При анализе выяснили, что некоторые важные меры почти не встречаются в документах (например, Model Alignment — <1%).
Такой же подход подойдёт, если вы строите внутреннюю базу знаний, документацию по управлению рисками или разрабатываете compliance-процессы. НО автоматизация = быстро, поэтому важна обязательная ручная проверка, т.к. LLM путаются, объединяют несколько мер в одну или "придумывают" несуществующее.
🔹У них получилось 4 категории + 23 подкласса:
- Governance (например, защита информаторов, конфликт интересов);
- Security (модельная безопасность, RLHF, watermarking);
- Operations (тестирование, staged deployment, monitoring);
- Transparency (логирование, раскрытие рисков, права пользователя).
Главный вывод, смотря на таблицу, что ИИ развивается быстрее, чем успевают адаптироваться фреймворки и таксономия, например, тестирование входит сразу в несколько направлений. Жёсткая таксономия малоэффективна.
Поэтому не бойтесь, если внутренняя классификация будет неидеальна, лучше “живой список мер” под необходимый стек, чем академическая схема.
Описания мер и примеры подойдут для составления своей базы мер, чек-листов, планов аудита и т.п.
Интерактивная версия базы и карта
🔹Собран список из 13 ключевых фреймворков (NIST AI RM, EU AI Act, FLI Index, Unified Control Framework и т.д.).
Можно использовать как справочник, чтобы определиться с необходимым фреймворком, составить свою политику управления рисками ИИ.
🔹Приведен пример короткого промпта:
Варианты адаптации:
taxonomy = структура (даже простая табличка);
mitigation = описание инцидентов, мер, требований или задач из Jira, Notion или CSV.
MIT проделали большую работу, используйте в своих процессах.
#TalkPrompty #BehindTheMachine
————
@pattern_ai
Исследователи из MIT собрали 831 меру снижения рисков, связанных с ИИ из 13 фреймворков и разложили их по таксономии в гайде Mapping AI Risk Mitigations. Но это не вся польза от гайда, в нем подробно расписана методология создания, которую можно адаптировать для своих целей.
🔹 MIT использовали Claude 4 Sonnet, Opus и ChatGPT o3 для извлечения мер из документов, классификации по заранее заданной структуре, стандартизации описаний, проверки “edge cases”. При анализе выяснили, что некоторые важные меры почти не встречаются в документах (например, Model Alignment — <1%).
Такой же подход подойдёт, если вы строите внутреннюю базу знаний, документацию по управлению рисками или разрабатываете compliance-процессы. НО автоматизация = быстро, поэтому важна обязательная ручная проверка, т.к. LLM путаются, объединяют несколько мер в одну или "придумывают" несуществующее.
🔹У них получилось 4 категории + 23 подкласса:
- Governance (например, защита информаторов, конфликт интересов);
- Security (модельная безопасность, RLHF, watermarking);
- Operations (тестирование, staged deployment, monitoring);
- Transparency (логирование, раскрытие рисков, права пользователя).
Главный вывод, смотря на таблицу, что ИИ развивается быстрее, чем успевают адаптироваться фреймворки и таксономия, например, тестирование входит сразу в несколько направлений. Жёсткая таксономия малоэффективна.
Поэтому не бойтесь, если внутренняя классификация будет неидеальна, лучше “живой список мер” под необходимый стек, чем академическая схема.
Описания мер и примеры подойдут для составления своей базы мер, чек-листов, планов аудита и т.п.
Интерактивная версия базы и карта
🔹Собран список из 13 ключевых фреймворков (NIST AI RM, EU AI Act, FLI Index, Unified Control Framework и т.д.).
Можно использовать как справочник, чтобы определиться с необходимым фреймворком, составить свою политику управления рисками ИИ.
🔹Приведен пример короткого промпта:
I am working with the following taxonomy of AI risk controls {draft taxonomy in XML format}. For each mitigation {mitigation name and denoscription}, assign the best-fit category with a confidence score and
justification. If no category fits, say so. List secondary categories if applicable.
Варианты адаптации:
taxonomy = структура (даже простая табличка);
mitigation = описание инцидентов, мер, требований или задач из Jira, Notion или CSV.
MIT проделали большую работу, используйте в своих процессах.
#TalkPrompty #BehindTheMachine
————
@pattern_ai
Шаблоны AI-политик, которые можно забрать в работу
🔹 AI Usage Policy Template | TrustCloud, ориентирована на стартапы и SaaS, что можно / нельзя, как обеспечивается прозрачность;
🔹 AI Policy Template | NFPS.AI, цели, роли, процессы, оценка рисков, подходит для НКО и социальных проектов;
🔹 Artificial Intelligence Acceptable Use Standard | SANS, безопасное использование, недопустимые сценарии, контроль доступа, часто используется как основной стандарт;
🔹 Safeguard Validation Management Policy | SANS, процедуры проверки защитных механизмов, для compliance и security-команд;
🔹 AI tool usage policy | Workable, ориентирована на HR и рекрутмент, описывает использование AI-инструментов для найма;
🔹 AI Policy Template | RAI Institute, комплексный шаблон, согласованный с NIST AI RMF и ISO 42001, подходит для организаций, которые выстраивают полный цикл AI Governance.
🔹Generative AI Use Policy | Data.org, ориентирована на гуманитарные и образовательные проекты, с фокусом на GenAI.
📌 При разработке AI-политики важно не просто адаптировать шаблон, а встроить его в реальные процессы вашей команды. Вовлекайте специалистов при создании и обновлении политики (безопасников, юристов, dpo). Обязательно учтите следующие элементы:
▪️human-in-the-loop (определите, в каких задачах и когда участие человека обязательно);
▪️запрещённые сценарии (чётко зафиксируйте, что недопустимо (н-р, генерация контента без раскрытия, принятие решений без верификации и т.п.));
▪️реагирование на инциденты и аудит (пропишите, как фиксируются инциденты, кто проводит проверку и как принимаются корректирующие меры);
▪️актуализация (пересматривайте политику не реже чем раз в 6–12 месяцев, особенно при появлении новых инструментов или регуляторных требований);
▪️обучение команды ( не просто внедрите политику, а обучите сотрудников тому, как она работает и зачем она нужна).
Главное, чтобы AI-политика "работала" на вас, а не просто лежала очередным документом в папке.
#AIShelf
————
@pattern_ai
🔹 AI Usage Policy Template | TrustCloud, ориентирована на стартапы и SaaS, что можно / нельзя, как обеспечивается прозрачность;
🔹 AI Policy Template | NFPS.AI, цели, роли, процессы, оценка рисков, подходит для НКО и социальных проектов;
🔹 Artificial Intelligence Acceptable Use Standard | SANS, безопасное использование, недопустимые сценарии, контроль доступа, часто используется как основной стандарт;
🔹 Safeguard Validation Management Policy | SANS, процедуры проверки защитных механизмов, для compliance и security-команд;
🔹 AI tool usage policy | Workable, ориентирована на HR и рекрутмент, описывает использование AI-инструментов для найма;
🔹 AI Policy Template | RAI Institute, комплексный шаблон, согласованный с NIST AI RMF и ISO 42001, подходит для организаций, которые выстраивают полный цикл AI Governance.
🔹Generative AI Use Policy | Data.org, ориентирована на гуманитарные и образовательные проекты, с фокусом на GenAI.
▪️human-in-the-loop (определите, в каких задачах и когда участие человека обязательно);
▪️запрещённые сценарии (чётко зафиксируйте, что недопустимо (н-р, генерация контента без раскрытия, принятие решений без верификации и т.п.));
▪️реагирование на инциденты и аудит (пропишите, как фиксируются инциденты, кто проводит проверку и как принимаются корректирующие меры);
▪️актуализация (пересматривайте политику не реже чем раз в 6–12 месяцев, особенно при появлении новых инструментов или регуляторных требований);
▪️обучение команды ( не просто внедрите политику, а обучите сотрудников тому, как она работает и зачем она нужна).
Главное, чтобы AI-политика "работала" на вас, а не просто лежала очередным документом в папке.
#AIShelf
————
@pattern_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3
"Красота по алгоритму" или как кейс Vogue запустил новую волну дебатов в индустрии моды
В пятницу хочется поговорить о моде, тем более, что Vogue представил первую AI-модель в рекламе.
В свежем номере журнал показал «идеальную» модель, которая оказалась вовсе не человеком, а творением нейросети. Об этом упомянули мелким шрифтом, и читатели заметили. Потребители обвинили как Vogue, так и Guess в продвижении «недостижимых стандартов красоты» и выразили разочарование, называя подход «бездушным» и «дешёвым», что привело к массовым отменам подписок. Этот инцидент акцентирует внимание на необходимости прозрачности и ответственного использования AI в маркетинговых коммуникациях.
👀 Индустрия моды старается интегрировать ИИ и использует разные стратегии.
▪️H&M оцифровала 30 реальных моделей (например, Mathilda Gvarliani), создала их «digital twins» и использует их в маркетинге. Модели сохраняют права на свои копии и могут продавать использование другим брендам. H&M признаётся, что реакция будет разной, но это способ вовлечь модели и отнестись честно к индустрии.
▪️Соц.сети заполонены цифровыми моделями. Например, Shudu Gram (одна из первых цифровых моделей и виртуальных инфлюенсеров).Ее создателя критиковали за культурную апроприацию.
Анализ этих кейсов выявляет несколько ключевых выводов относительно пользовательского опыта и проектирования UX-дизайна:
🔹AI‑генерация быстрее, дешевле и масштабируемее, но часто теряется эмоциональная связь, индивидуальность и культурная значимость визуала;
🔹Цифровые модели требуют грамотной модели владения, монетизации, контроля;
🔹AI склонен к клише и узким стандартам, может усилить культурные стереотипы или исключения;
🔹Мелкая ссылка «AI‑generated» показала неуважение к пользователям, они чувствуют обман.
Перед индустрией моды встала стратегическая дилемма: с одной стороны, ИИ предлагает беспрецедентные возможности для масштабирования, скорости и персонализации контента и процессов. С другой стороны, его стремительное внедрение порождает серьёзные этические, правовые и социальные дилеммы, в том числе фундаментальный вопрос о подлинности визуального контента.
Теперь выбор стоит между приоритетом операционной эффективности за счёт ИИ и сохранением акцента на человечности, инклюзивности и уникальности, которые исторически были движущей силой моды.
#UXWatch
————
@pattern_ai
В пятницу хочется поговорить о моде, тем более, что Vogue представил первую AI-модель в рекламе.
В свежем номере журнал показал «идеальную» модель, которая оказалась вовсе не человеком, а творением нейросети. Об этом упомянули мелким шрифтом, и читатели заметили. Потребители обвинили как Vogue, так и Guess в продвижении «недостижимых стандартов красоты» и выразили разочарование, называя подход «бездушным» и «дешёвым», что привело к массовым отменам подписок. Этот инцидент акцентирует внимание на необходимости прозрачности и ответственного использования AI в маркетинговых коммуникациях.
▪️H&M оцифровала 30 реальных моделей (например, Mathilda Gvarliani), создала их «digital twins» и использует их в маркетинге. Модели сохраняют права на свои копии и могут продавать использование другим брендам. H&M признаётся, что реакция будет разной, но это способ вовлечь модели и отнестись честно к индустрии.
▪️Соц.сети заполонены цифровыми моделями. Например, Shudu Gram (одна из первых цифровых моделей и виртуальных инфлюенсеров).Ее создателя критиковали за культурную апроприацию.
Анализ этих кейсов выявляет несколько ключевых выводов относительно пользовательского опыта и проектирования UX-дизайна:
🔹AI‑генерация быстрее, дешевле и масштабируемее, но часто теряется эмоциональная связь, индивидуальность и культурная значимость визуала;
🔹Цифровые модели требуют грамотной модели владения, монетизации, контроля;
🔹AI склонен к клише и узким стандартам, может усилить культурные стереотипы или исключения;
🔹Мелкая ссылка «AI‑generated» показала неуважение к пользователям, они чувствуют обман.
Перед индустрией моды встала стратегическая дилемма: с одной стороны, ИИ предлагает беспрецедентные возможности для масштабирования, скорости и персонализации контента и процессов. С другой стороны, его стремительное внедрение порождает серьёзные этические, правовые и социальные дилеммы, в том числе фундаментальный вопрос о подлинности визуального контента.
Теперь выбор стоит между приоритетом операционной эффективности за счёт ИИ и сохранением акцента на человечности, инклюзивности и уникальности, которые исторически были движущей силой моды.
#UXWatch
————
@pattern_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
👏2
AI Model Clauses: универсальные шаблоны для госструктур и частных компаний
AI Model Clauses - это стандартные договорные положения, которые регулируют разработку, закупку и использование систем ИИ. Их цель: минимизировать правовые, этические и операционные риски, установить чёткие правила взаимодействия между сторонами.
👀 Посмотрим, какие есть сейчас:
1. Updated EU AI model contractual clauses, предназначены для использования гос. организациями, которые закупают системы ИИ, разработанные внешними поставщиками.
Частные компании, особенно те, что работают с регулируемыми секторами или поставляют ИИ в гос. структуры, также могут использовать эти clauses как стандарт и ориентир по лучшим практикам.
📌 Для интереса, кейсы использования ИИ гос. органами на Public Sector Tech Watch
2. EU AI Act Contractual Clauses |Society for Computers & Law AI Group, UK, в виде таблицы представлен гибкий набор положений, которые можно адаптировать под различные сценарии, также акцент на управление рисками, этические аспекты.
3. Australia’s AI Model Clauses предназначены для использования в контрактах между гос. органами и поставщиками. Покупателям необходимо выбирать положения, исходя из конкретного способа использования ИИ в рамках договора и учитывая конкретные риски, связанные с таким использованием. Основное внимание уделяется принципам использования ИИ: справедливость, конфиденциальность, подотчетность, безопасность, объяснимость.
Частные компании могут адаптировать отдельные положения для защиты интересов при взаимодействии с подрядчиками или разработчиками ИИ.
#AIShelf
————
@pattern_ai
AI Model Clauses - это стандартные договорные положения, которые регулируют разработку, закупку и использование систем ИИ. Их цель: минимизировать правовые, этические и операционные риски, установить чёткие правила взаимодействия между сторонами.
1. Updated EU AI model contractual clauses, предназначены для использования гос. организациями, которые закупают системы ИИ, разработанные внешними поставщиками.
MCC-AI-High-Risk предназначен для закупок систем ИИ, классифицируемых как «высокорисковые» в соответствии с EU AI Act и основан на требованиях и обязательствах, изложенных в Главе 3.
MCC-AI-Light предназначен для закупок систем ИИ, которые не относятся к категории высокого риска, но всё же могут представлять угрозу здоровью, безопасности или основным правам, также требования Главы 3.
Частные компании, особенно те, что работают с регулируемыми секторами или поставляют ИИ в гос. структуры, также могут использовать эти clauses как стандарт и ориентир по лучшим практикам.
2. EU AI Act Contractual Clauses |Society for Computers & Law AI Group, UK, в виде таблицы представлен гибкий набор положений, которые можно адаптировать под различные сценарии, также акцент на управление рисками, этические аспекты.
3. Australia’s AI Model Clauses предназначены для использования в контрактах между гос. органами и поставщиками. Покупателям необходимо выбирать положения, исходя из конкретного способа использования ИИ в рамках договора и учитывая конкретные риски, связанные с таким использованием. Основное внимание уделяется принципам использования ИИ: справедливость, конфиденциальность, подотчетность, безопасность, объяснимость.
Например, положения для модели ИИ, помогающей в подготовке отчётов или анализа и обобщения информации, включают требования к продавцу:
- получить одобрение Покупателя на использование ИИ при предоставлении услуг;
- проводить проверки качества для подтверждения точности и надежности результатов ИИ
вести подробный учет использования ИИ;
- указывать запрещенные системы ИИ, которые Продавец не должен использовать при предоставлении услуг (например, DeepSeek и Kaspersky).
Примеры того, что должно быть включено в Тех.задание:
- в какой среде будет развернута система ИИ (например, локально, в публичном облаке, в частном облаке или в их комбинации);
- какая методология обучения и тестирования (включая виды обучения), продолжительность и процесс утверждения будут использоваться;
- каким образом сообщается о проблемах, как решаются, а уровень поддержки;
- как будут соблюдаться стандарты прозрачности и объяснимости (например, с помощью регулярных отчетов).
Пример того, как покупатель может потребовать от продавца предоставления системы управления рисками:
- короткий пункт, который требует соответствия стандарту ISO/IEC 42001:2023
- подробный пункт, который позволяет Покупателю указать, что должна охватывать система управления рисками ИИ Продавца.
Частные компании могут адаптировать отдельные положения для защиты интересов при взаимодействии с подрядчиками или разработчиками ИИ.
#AIShelf
————
@pattern_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
Примерный чек-лист в картинках для составления/проверки контрактов и примеры ИИ-инструментов
Рассмотренные в предыдущем посте AI Modal Сlauses помогают составить свой примерный чек-лист ключевых положений, необходимых для составления/проверки договоров, связанных с ИИ.
Также появляется все больше инструментов, которые позволят привести к единому стандарту положения в договорах:
🔹IntelliDraft.AI - использует генеративный ИИ для поиска нужных положений в своей базе данных, генерирования новых пунктов по вашему запросу, сокращения объемных положений, переводить их на другие языки;
🔹Clause Buddy - ИИ-инструмент интегрируется с Microsoft Word и Outlook, предлагает комплексный подход к работе с контрактами, создает опросники из документов, помогает находить несоответствия, пропущенные определения и другие ошибки. Фича "Clause Hunt" сканирует документы и шаблоны, извлекая релевантные положения, что позволяет создать собственную базу знаний и обеспечить единообразие в контрактах вашей компании.
#AIShelf
————
@pattern_ai
Рассмотренные в предыдущем посте AI Modal Сlauses помогают составить свой примерный чек-лист ключевых положений, необходимых для составления/проверки договоров, связанных с ИИ.
Также появляется все больше инструментов, которые позволят привести к единому стандарту положения в договорах:
🔹IntelliDraft.AI - использует генеративный ИИ для поиска нужных положений в своей базе данных, генерирования новых пунктов по вашему запросу, сокращения объемных положений, переводить их на другие языки;
🔹Clause Buddy - ИИ-инструмент интегрируется с Microsoft Word и Outlook, предлагает комплексный подход к работе с контрактами, создает опросники из документов, помогает находить несоответствия, пропущенные определения и другие ошибки. Фича "Clause Hunt" сканирует документы и шаблоны, извлекая релевантные положения, что позволяет создать собственную базу знаний и обеспечить единообразие в контрактах вашей компании.
#AIShelf
————
@pattern_ai
Как провести аудит системы ИИ
Аудит системы ИИ - это «итеративный процесс взаимодействия между аудитором/ами и командой/ами разработчиков» для сбора и оценки информации, которая поможет компании определить, подходит ли система ИИ для интеграции в их бизнес и соответствует ли она применимому законодательству (например, EU AI Act, GDPR).
Ключевые элементы аудита ИИ:
🔹Model Cards (Карты моделей): документы или набор данных, которые содержат ключевую информацию о модели ИИ, включая ее характеристики, предполагаемые случаи использования, ограничения, источники данных, этические риски и меры по их снижению. Они помогают оценивать соответствие модели требованиям законодательства и нормам.
🔹System Maps (Системные карты): визуальные или текстовые описания, которые показывают, как алгоритмическая модель взаимодействует с технической системой и процессом принятия решений. Они помогают аудиторам и заинтересованным сторонам понять, как и где модель используется, какие данные она обрабатывает и как влияет на конечный результат.
❗️Для чего нужно проведение аудита:
▪️ понимание и оценка мер защиты данных в контексте законодательства об искусственном интеллекте.
▪️доказательство того, что вы выполнили обязательство по подотчетности, если говорим про ЕС, в соответствии со статьей 5(2) GDPR.
▪️мера предосторожности, если ваш бизнес рассматривает возможность развертывания системы ИИ с потенциально более высоким риском.
Чек - лист для аудита (руководство EDPB):
✔️ Идентификация и прозрачность компонента на основе ИИ ( документация источников данных, используемых для обучения модели, надзор за защитой данных, связанный с разработкой компонента ИИ, например, привлечение DPO, информация о параметрах, используемых при обучении системы ИИ);
✔️ Цель компонента на основе ИИ (информация об основных видах использования и возможных вторичных видах использования компонента ИИ, законность любой обработки данных, связанной с компонентом ИИ, информация о необходимости и пропорциональности обработки, получателях субъектов данных или любых мерах по ограничению хранения, в том числе связанных с датой, которую ввел разработчик);
✔️ Основы компонента ИИ ( информация об основной базовой разработке модели, была ли создана документация о методах выбора, сбора и подготовки обучающих данных компонента ИИ, были ли разработаны метрики для измерения поведения модели);
✔️ Тестирование на предвзятость (выявление потенциальных предвзятостей в системе ИИ, понимание того, на кого может повлиять система ИИ, статистический анализ, определение защищенных групп, тестирование выходных данных системы, изучение обучающих данных и рассмотрение показателей справедливости, предоставленных разработчиком);
✔️ Состязательный аудит ( дополнительный аудит для тестирования системы в реальных условиях для выявления скрытых предвзятостей или проблем, рекомендуется EDPB для высокорисковых и неконтролируемых систем машинного обучения). Методы проведения состязательного аудита могут включать интервьюирование конечных пользователей или создание поддельных профилей для запуска и анализа результатов системы).
✔️ Создание окончательного отчета после аудита систем ИИ;
✔️ Внутренний отчет с мерами по смягчению последствий;
✔️ Публичный отчет, описывающий процесс и результаты аудита, и
✔️ Периодические последующие отчеты, которые проверяют эффективность мер по смягчению последствий.
#LawAndDisorder #AIShelf
————
@pattern_ai
Аудит системы ИИ - это «итеративный процесс взаимодействия между аудитором/ами и командой/ами разработчиков» для сбора и оценки информации, которая поможет компании определить, подходит ли система ИИ для интеграции в их бизнес и соответствует ли она применимому законодательству (например, EU AI Act, GDPR).
Ключевые элементы аудита ИИ:
🔹Model Cards (Карты моделей): документы или набор данных, которые содержат ключевую информацию о модели ИИ, включая ее характеристики, предполагаемые случаи использования, ограничения, источники данных, этические риски и меры по их снижению. Они помогают оценивать соответствие модели требованиям законодательства и нормам.
🔹System Maps (Системные карты): визуальные или текстовые описания, которые показывают, как алгоритмическая модель взаимодействует с технической системой и процессом принятия решений. Они помогают аудиторам и заинтересованным сторонам понять, как и где модель используется, какие данные она обрабатывает и как влияет на конечный результат.
❗️Для чего нужно проведение аудита:
▪️ понимание и оценка мер защиты данных в контексте законодательства об искусственном интеллекте.
▪️доказательство того, что вы выполнили обязательство по подотчетности, если говорим про ЕС, в соответствии со статьей 5(2) GDPR.
▪️мера предосторожности, если ваш бизнес рассматривает возможность развертывания системы ИИ с потенциально более высоким риском.
Чек - лист для аудита (руководство EDPB):
✔️ Идентификация и прозрачность компонента на основе ИИ ( документация источников данных, используемых для обучения модели, надзор за защитой данных, связанный с разработкой компонента ИИ, например, привлечение DPO, информация о параметрах, используемых при обучении системы ИИ);
✔️ Цель компонента на основе ИИ (информация об основных видах использования и возможных вторичных видах использования компонента ИИ, законность любой обработки данных, связанной с компонентом ИИ, информация о необходимости и пропорциональности обработки, получателях субъектов данных или любых мерах по ограничению хранения, в том числе связанных с датой, которую ввел разработчик);
✔️ Основы компонента ИИ ( информация об основной базовой разработке модели, была ли создана документация о методах выбора, сбора и подготовки обучающих данных компонента ИИ, были ли разработаны метрики для измерения поведения модели);
Карта системы особенно важна для органов надзора за защитой данных, поскольку она предоставляет подробный контрольный список, охватывающий такие аспекты, как идентификация и прозрачность компонента ИИ, его цель, управление данными и меры безопасности. Таким образом, вопросы, предложенные EDPB, дают представление о том, на что органы надзора будут обращать внимание при проверке соответствия системы ИИ требованиям GDPR.
✔️ Тестирование на предвзятость (выявление потенциальных предвзятостей в системе ИИ, понимание того, на кого может повлиять система ИИ, статистический анализ, определение защищенных групп, тестирование выходных данных системы, изучение обучающих данных и рассмотрение показателей справедливости, предоставленных разработчиком);
✔️ Состязательный аудит ( дополнительный аудит для тестирования системы в реальных условиях для выявления скрытых предвзятостей или проблем, рекомендуется EDPB для высокорисковых и неконтролируемых систем машинного обучения). Методы проведения состязательного аудита могут включать интервьюирование конечных пользователей или создание поддельных профилей для запуска и анализа результатов системы).
✔️ Создание окончательного отчета после аудита систем ИИ;
✔️ Внутренний отчет с мерами по смягчению последствий;
✔️ Публичный отчет, описывающий процесс и результаты аудита, и
✔️ Периодические последующие отчеты, которые проверяют эффективность мер по смягчению последствий.
#LawAndDisorder #AIShelf
————
@pattern_ai
AI Audit Cheklist-CTC.pdf
512.6 KB
AI Audit Checklist | Certified Trainers and Consultants
Удобный табличный формат, который можно взять за пример.
Как провести аудит смотри пост.
#AIShelf
————
@pattern_ai
Удобный табличный формат, который можно взять за пример.
Как провести аудит смотри пост.
#AIShelf
————
@pattern_ai
🔥1
ИИ в продакшне: почему пост-маркет мониторинг экономит миллионы и репутацию
Посмотрели презентацию GPT-5? Как вам?
Но в этом посте не про новый релиз. За хайпом вокруг новых возможностей часто теряется важный вопрос, что происходит с ИИ после релиза, когда он уже в продакшне, работает с клиентами, принимает решения.
Мониторинг ИИ - это элемент продуктовой зрелости и брендовой безопасности. Почему?
Потому, что если бот кликает «Я не робот», вопрос уже не в маркетинге, а в мониторинге.
Так ChatGPT Agent от OpenAI, способный управлять браузером, самостоятельно прошёл CAPTCHA Cloudflare, при этом комментируя свои действия:
И стал не только мемом в AI-среде, но и тревожным сигналом для тех, кто отвечает за доверие к цифровым продуктам. Начинаются вопросы:
- А кто это сделал?
- Нарушены ли условия?
- Какие последствия для бренда?
Другие кейсы, которые нельзя проигнорировать:
🔹McDonald’s AI-drive-thru случайно добавлял по $200+ в заказ, потому что ИИ неправильно понял речь и никто не мониторил поведение агента.
🔹 Replit AI удалил продакшн-базу данных и солгал, что «запаниковал».
🔹Galactica от Meta (признана экстремистской организацией и запрещена в России) за 3 дня демо сгенерировал «научные советы» вроде «есть стекло» и «эксперименты с космическими мишками».
ИИ-модели не статичны. Они могут менять поведение (дрейфовать), выходят за рамки инструкций, взаимодействовать с интерфейсом как человек, но без здравого смысла, в итоге:
🔻пользователь столкнулся с ИИ-ошибкой → ушёл → пожаловался.
🔻модель совершила действие на сайте → нарушение Terms of Use → бан.
Discord банит аккаунты, заподозренные в использовании агентов.
🔻агент зашёл в запрещённую зону → судебный иск → вред репутации.
Согласно отчёту IBM, утечки данных, вызванные ИИ или ошибками в его использовании, стоят бизнесу особенно дорого:
▪️$4.44 млн средняя стоимость утечки в 2025 году;
▪️ $670,000 стоимость утечки, связанной с shadow AI;
▪️13 % инцидентов связаны с ИИ, и 97 % компаний не имели контроля доступа к ИИ;
▪️ 241 день - среднее время выявления и локализации нарушения, включая услуги по восстановлению;
▪️ компании, использующие AI-защиту, экономят до $1.9 млн на инцидент.
Запоминаем простую формулу:
Отсутствие пост-маркет мониторинга = долгая реакция + финансовый ущерб + пиар-скандалы, судебные иски, общественный резонанс.
#UXWatch
—————
@pattern_ai
Посмотрели презентацию GPT-5? Как вам?
Но в этом посте не про новый релиз. За хайпом вокруг новых возможностей часто теряется важный вопрос, что происходит с ИИ после релиза, когда он уже в продакшне, работает с клиентами, принимает решения.
Мониторинг ИИ - это элемент продуктовой зрелости и брендовой безопасности. Почему?
Потому, что если бот кликает «Я не робот», вопрос уже не в маркетинге, а в мониторинге.
Так ChatGPT Agent от OpenAI, способный управлять браузером, самостоятельно прошёл CAPTCHA Cloudflare, при этом комментируя свои действия:
“Now I’ll click the ‘Verify you are human’ checkbox…”
И стал не только мемом в AI-среде, но и тревожным сигналом для тех, кто отвечает за доверие к цифровым продуктам. Начинаются вопросы:
- А кто это сделал?
- Нарушены ли условия?
- Какие последствия для бренда?
Другие кейсы, которые нельзя проигнорировать:
🔹McDonald’s AI-drive-thru случайно добавлял по $200+ в заказ, потому что ИИ неправильно понял речь и никто не мониторил поведение агента.
🔹 Replit AI удалил продакшн-базу данных и солгал, что «запаниковал».
🔹Galactica от Meta (признана экстремистской организацией и запрещена в России) за 3 дня демо сгенерировал «научные советы» вроде «есть стекло» и «эксперименты с космическими мишками».
ИИ-модели не статичны. Они могут менять поведение (дрейфовать), выходят за рамки инструкций, взаимодействовать с интерфейсом как человек, но без здравого смысла, в итоге:
🔻пользователь столкнулся с ИИ-ошибкой → ушёл → пожаловался.
🔻модель совершила действие на сайте → нарушение Terms of Use → бан.
Discord банит аккаунты, заподозренные в использовании агентов.
🔻агент зашёл в запрещённую зону → судебный иск → вред репутации.
Согласно отчёту IBM, утечки данных, вызванные ИИ или ошибками в его использовании, стоят бизнесу особенно дорого:
▪️$4.44 млн средняя стоимость утечки в 2025 году;
▪️ $670,000 стоимость утечки, связанной с shadow AI;
▪️13 % инцидентов связаны с ИИ, и 97 % компаний не имели контроля доступа к ИИ;
▪️ 241 день - среднее время выявления и локализации нарушения, включая услуги по восстановлению;
▪️ компании, использующие AI-защиту, экономят до $1.9 млн на инцидент.
Запоминаем простую формулу:
Отсутствие пост-маркет мониторинга = долгая реакция + финансовый ущерб + пиар-скандалы, судебные иски, общественный резонанс.
#UXWatch
—————
@pattern_ai
Чек-лист. Пост-маркет мониторинг ИИ и отчётность
Если ИИ ошибается, то заплатит компания. Без мониторинга вы не узнаете, когда ИИ нарушил чьи-то права, не сможете доказать ни свою невиновность, ни соблюдение закона, не пройдёте аудит или проверку. Для высоко-рисковых систем ИИ в ЕС мониторинг и отчётность по ИИ-инцидентам обязательны (потенциальный штраф за нарушения до €35 млн или 7% оборота).
Согласно ст. 72 и ст. 73 EU AI Act, все поставщики высокорисковых ИИ-систем обязаны:
🔹 внедрить систему пост-маркет мониторинга;
🔹отслеживать поведение ИИ в реальной среде;
🔹сообщать в надзорные органы о серьёзных инцидентах в течение:
- 15 дней ( по умолчанию);
- 10 дней ( если есть вред здоровью);
- 2 дня (при угрозе жизни или инфраструктуре);
📌 Пост-маркет мониторинг представляет собой непрерывное отслеживание работы системы в реальной среде, выявление отклонений, инцидентов и обновление оценки рисков и включает в себя:
✔️ План мониторинга - официальный документ, включаемый в техническую документацию, должен содержать:
- методы сбора данных (например, логи, фидбек от пользователей);
- показатели для оценки качества, безопасности и недискриминации;
- критерии для активации корректирующих действий (триггеры);
- процедуры внутренней проверки и пересмотра;
- связь с системой управления качеством (QMS).
✔️ Технические механизмы реализации мониторинга:
- логирование (фиксируйте входы и выходы, сохраняйте принятые решения, контекст, действия пользователя и ИИ, обеспечьте структурированность и читабельность логов (для аудита, расследования, взаимодействия с надзорными органами);
- алерты и сигналы отклонений (настройте отслеживание дрейфа модели, аномалий в поведении, неожиданных выходов за диапазон допустимых значений, внедрите real-time или периодическое уведомление ответственных лиц);
- тестовая среда (sandbox) (используйте для безопасного наблюдения за поведением агентов, особенно в ранних стадиях вывода в продакшн);
- механизмы безопасности (внедрите red teaming (тестирование модели с имитацией атак), защиту от prompt injection, контентные и поведенческие фильтры);
✔️ Система реагирования на инциденты:
- классификация инцидентов по уровням риска;
- назначение ответственных лиц ( юристы, compliance-team);
- шаблоны отчётов, сроки уведомления;
- документированные действия после отчета (технические, правовые, коммуникационные);
- взаимодействие с надзорными органами (предоставление логов, документации, участие в аудитах и проверках).
✔️ Интеграция с QMS и внутренними процессами:
- использование мониторинга как источника обратной связи для QMS;
- регулярный пересмотр оценки риска модели с учётом данных из продакшна;
- автоматизация внутренних отчётов и обновлений;
- связь с обновлениями модели, данных, документации, UX, инструкций, логики, оценки рисков.
✔️ Прозрачность и коммуникация:
- уведомление пользователей в случае существенных изменений функционала или инцидентов;
- публикация кратких отчётов о корректирующих мерах (если необходимо);
- обеспечение права на жалобы, запросы;
- взаимодействие с надзорными органами.
✔️ Использование внешних систем и реестров:
- OECD AI Safety Incident Monitor;
- MIT AI Incident Tracker;
- AI Incident Database;
✔️ Обучение внутри компании:
- обучение сотрудников (в том числе нефункциональных ролей) выявлению признаков инцидентов;
- знание, как фиксировать, классифицировать и реагировать на инциденты;
- понимание роли каждого в процессе мониторинга;
- адаптация инструкций и внутренних playbook'ов под специфику продукта.
Если у вас нет мониторинга - это уже нарушение. Если мониторинг есть, но не встроен в процессы - это иллюзия контроля.
#LawAndDisorder
————
@pattern_ai
Если ИИ ошибается, то заплатит компания. Без мониторинга вы не узнаете, когда ИИ нарушил чьи-то права, не сможете доказать ни свою невиновность, ни соблюдение закона, не пройдёте аудит или проверку. Для высоко-рисковых систем ИИ в ЕС мониторинг и отчётность по ИИ-инцидентам обязательны (потенциальный штраф за нарушения до €35 млн или 7% оборота).
Согласно ст. 72 и ст. 73 EU AI Act, все поставщики высокорисковых ИИ-систем обязаны:
🔹 внедрить систему пост-маркет мониторинга;
🔹отслеживать поведение ИИ в реальной среде;
🔹сообщать в надзорные органы о серьёзных инцидентах в течение:
- 15 дней ( по умолчанию);
- 10 дней ( если есть вред здоровью);
- 2 дня (при угрозе жизни или инфраструктуре);
Если информацию собрать не успели, можно подать первоначальный неполный отчёт с последующим дополнением.Европейская Комиссия должна предоставить шаблон Плана мониторинга ко 2 февраля 2026 года .
После подачи нужно:
- начать внутреннее расследование;
- оценить риски;
- провести корректирующие действия;
- сотрудничество с надзорными органами, которые обязаны принять меры в течение 7 дней после получения отчёта
✔️ План мониторинга - официальный документ, включаемый в техническую документацию, должен содержать:
- методы сбора данных (например, логи, фидбек от пользователей);
- показатели для оценки качества, безопасности и недискриминации;
- критерии для активации корректирующих действий (триггеры);
- процедуры внутренней проверки и пересмотра;
- связь с системой управления качеством (QMS).
✔️ Технические механизмы реализации мониторинга:
- логирование (фиксируйте входы и выходы, сохраняйте принятые решения, контекст, действия пользователя и ИИ, обеспечьте структурированность и читабельность логов (для аудита, расследования, взаимодействия с надзорными органами);
- алерты и сигналы отклонений (настройте отслеживание дрейфа модели, аномалий в поведении, неожиданных выходов за диапазон допустимых значений, внедрите real-time или периодическое уведомление ответственных лиц);
- тестовая среда (sandbox) (используйте для безопасного наблюдения за поведением агентов, особенно в ранних стадиях вывода в продакшн);
- механизмы безопасности (внедрите red teaming (тестирование модели с имитацией атак), защиту от prompt injection, контентные и поведенческие фильтры);
✔️ Система реагирования на инциденты:
- классификация инцидентов по уровням риска;
- назначение ответственных лиц ( юристы, compliance-team);
- шаблоны отчётов, сроки уведомления;
- документированные действия после отчета (технические, правовые, коммуникационные);
- взаимодействие с надзорными органами (предоставление логов, документации, участие в аудитах и проверках).
✔️ Интеграция с QMS и внутренними процессами:
- использование мониторинга как источника обратной связи для QMS;
- регулярный пересмотр оценки риска модели с учётом данных из продакшна;
- автоматизация внутренних отчётов и обновлений;
- связь с обновлениями модели, данных, документации, UX, инструкций, логики, оценки рисков.
✔️ Прозрачность и коммуникация:
- уведомление пользователей в случае существенных изменений функционала или инцидентов;
- публикация кратких отчётов о корректирующих мерах (если необходимо);
- обеспечение права на жалобы, запросы;
- взаимодействие с надзорными органами.
✔️ Использование внешних систем и реестров:
- OECD AI Safety Incident Monitor;
- MIT AI Incident Tracker;
- AI Incident Database;
✔️ Обучение внутри компании:
- обучение сотрудников (в том числе нефункциональных ролей) выявлению признаков инцидентов;
- знание, как фиксировать, классифицировать и реагировать на инциденты;
- понимание роли каждого в процессе мониторинга;
- адаптация инструкций и внутренних playbook'ов под специфику продукта.
Если у вас нет мониторинга - это уже нарушение. Если мониторинг есть, но не встроен в процессы - это иллюзия контроля.
#LawAndDisorder
————
@pattern_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
GenAI и юристы: кто, где и как использует ИИ в 2025 году
В этой серии постов разберём, как ИИ помогает юристам побеждать дедлайны и бумажную рутину, оставив за скобками вопрос, заменит ли ИИ юристов.
Сегодня сухие цифры.
1️⃣ Рынок legal-AI по данным Grand View Research оценивается в $1,45 млрд (2024) с прогнозом до $3,9 млрд к 2030. Global Market Insights даёт чуть выше стартовую оценку в $1,9 млрд, но более низкий CAGR (13,1%), что отражает различия в методиках.
2️⃣ По данным Grand View Research, внедрение GenAI в Азиатско-Тихоокеанском регионе будет расти на 20%+ в год, что быстрее чем в ЕС (+17%). Этот рост обусловлен такими факторами, как благоприятная нормативно-правовая среда и особая ориентация на цифровую трансформацию + растущее внедрение юридических инструментов на основе ИИ. Лидирующие направления: анализ и проверка контрактов, их автоматическая генерация, перевод и адаптация юридических документов в том числе для трансграничных сделок, проверка ИС, проведение due diligence.
3️⃣ По данным Thomson Reuters Institute в 2025 году 26% юристов по всему миру используют ИИ в работе, рост почти вдвое по сравнению с 2024 годом (14%).
4️⃣ В США (лидер по росту в 2024 г. ) по данным Legal Industry Report 2025 (Federal Bar Association):
- 31% юристов используют GenAI лично;
- 21% в рамках решений, предоставленных компанией;
- 45% респондентов, сообщивших об использовании инструментов ИИ на работе, используют ежедневно, а 40% - еженедельно.
- 65% пользователей экономят от 1 до 5 часов в неделю, 12% сэкономили от 6 до 10 часов, 7% сэкономили 11 или более часов в неделю.
Основные задачи:
- подготовка черновиков писем и корреспонденции (54%),
- генерация идей (47%),
- правовые исследования (46%).
- дополнительно используют для составления расписания, биллинга и аналитики данных.
Что это значит на практике?
▪️Рост использования GenAI идёт быстро, но не равномерно. Много индивидуальных пользователей (юристы «вручную» испытывают инструменты). Компании с осторожностью внедряют инструменты ИИ из-за рисков и своей внутренней политики.
▪️Экономия времени реальна и измерима. Большинство пользователей отмечают регулярную экономию часов в неделю. С одной стороны это дешёвый источник повышения рентабельности, с другой идет дискуссия о новой модели ценообразования (value-pricing vs billable hours).
▪️Рынок будет расти. Ожидается консолидация и специализация решений.
▪️Главные барьеры на пути внедрения ИИ: регулирование, этические нормы, риск «галлюцинаций», защита данных.
#UXWatch
————
@pattern_ai
В этой серии постов разберём, как ИИ помогает юристам побеждать дедлайны и бумажную рутину, оставив за скобками вопрос, заменит ли ИИ юристов.
Сегодня сухие цифры.
- 31% юристов используют GenAI лично;
- 21% в рамках решений, предоставленных компанией;
- 45% респондентов, сообщивших об использовании инструментов ИИ на работе, используют ежедневно, а 40% - еженедельно.
- 65% пользователей экономят от 1 до 5 часов в неделю, 12% сэкономили от 6 до 10 часов, 7% сэкономили 11 или более часов в неделю.
Основные задачи:
- подготовка черновиков писем и корреспонденции (54%),
- генерация идей (47%),
- правовые исследования (46%).
- дополнительно используют для составления расписания, биллинга и аналитики данных.
Что это значит на практике?
▪️Рост использования GenAI идёт быстро, но не равномерно. Много индивидуальных пользователей (юристы «вручную» испытывают инструменты). Компании с осторожностью внедряют инструменты ИИ из-за рисков и своей внутренней политики.
▪️Экономия времени реальна и измерима. Большинство пользователей отмечают регулярную экономию часов в неделю. С одной стороны это дешёвый источник повышения рентабельности, с другой идет дискуссия о новой модели ценообразования (value-pricing vs billable hours).
▪️Рынок будет расти. Ожидается консолидация и специализация решений.
▪️Главные барьеры на пути внедрения ИИ: регулирование, этические нормы, риск «галлюцинаций», защита данных.
#UXWatch
————
@pattern_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
GovTech или проекты по использованию ИИ в законотворчестве, судах и госуслугах
Cмотрим инициативы:
1️⃣ ОАЭ
«Regulatory Intelligence Office» - экосистема по использованию ИИ для отслеживания и анализа законов, судебных решений и данных по госуслугам, с целью прогнозирования областей, требующие реформ, основываясь на экономических тенденциях, ускорения процесса законотворчества ( предполагается ускорение процесса принятия законов на 70%, сокращение гос. расходов на 50%, и увеличение ВВП страны примерно на 35% к 2030 г.).
2️⃣ Сингапур
Virtual Intelligent Chat Assistant (VICA) - ИИ платформа для правительства. На данный момент ее используют более 60 гос. учреждений, обслуживая более 100 чат-ботов, 800 000 запросов в месяц.
Пилотные инициативы в категории Small Claims Online Dispute Resolution, например перевод документов c помощью ИИ, представленных другой стороной в суд по мелким искам, приложения, помогающие судьям обобщать материалы дел.
3️⃣ Великобритания
Платформа Garfield.Law - автоматизированный сервис для подачи исков о взыскании до £10,000 без участия человека (генерация документов, сбор дел, сопровождение до слушания). Регулируется Solicitors Regulation Authority.
4️⃣ Китай
Централизованная платформа «умный суд», где ИИ интегрируется на всех этапах судебной деятельности,судьи используют ИИ для правовых исследований, составления документов и проверки их согласованности.
5️⃣ Южная Корея
Разработка ИИ-платформы для Верховного суда.
🔍 Примеры сервисов, упомянутых в докладе AIAB Ресурсного центра CEPEJ по киберправосудию и ИИ, направленных на повышение эффективности и доступности судебной системы:
🔹Поиск, просмотр документов и масштабное исследование информации
ПО для борьбы с детской порнографией ( Германия) - система предназначена для изучения объемов данных, полученных в ходе следственных действий, некоторые из которых весьма существенны, на предмет наличия в них материалов детской порнографии.
🔹Прогнозирование результатов судебных разбирательств
LEXIQ ( Нидерланды) - система анализа прецедентного права для службы государственного обвинения, призванная помочь прокурорам и исследователям в их повседневной работе по поиску, анализу и использованию информации по уголовным делам.
🔹Поддержка принятия решений
OLGA (Германия) - система, помогающая анализировать и классифицировать заявления на основе фактов, используется в качестве пилотного проекта в Высшем земельном суде Штутгарта по делам о выбросах газов дизельных двигателей (жалобы часто превышают 100 страниц).
Fraukа (Германия) - система автоматизации подготовки типовых решений по жалобам авиапассажиров также пилотно используются в нескольких судах.
🔹Анонимизация и псевдонимизация
ANOM (Швейцария) - использует ИИ для определения имен экспертов или другой информации, например, номеров земельных участков, которые не являются сторонами процесса, и предлагает их для анонимизации в связи с публикацией решения суда.
🔹Сортировка, распределение и автоматизация рабочих процессов
Инструмент для выявления несоответствий в судебной практике (Франция) между различными
палатами суда (Cour de Cassation) и между нижестоящими судами (судами первой инстанции и апелляционными судами).
🔹 Запись, транскрибирование и перевод
«Текстуализация речи в текст» (Испания) - система основана на нейронном обучении и интегрируется с системами записи судебных заседаний, обученными на реальных слушаниях и реальных расшифровках, позволяет осуществлять поиск по тексту в видео, загружать записи, идентифицировать говорящих в диалогах, визуализировать временную шкалу, показывать/скрывать метки и текстуализации, а также создавать теги, связанные с определенными моментами записи.
🔹Информационные и вспомогательные услуги
Practical Guide to Justice (Португалия) - система предоставляет ответы на вопросы пользователя в естественном диалоге об инструментах и услугах, предоставляемых системой правосудия, обучается на информации, уже предоставленной различными судебными органами.
На данный момент, указывают, что в базе 125 различных ИИ-инструментов.
#AIShelf
————
@pattern_ai
Cмотрим инициативы:
«Regulatory Intelligence Office» - экосистема по использованию ИИ для отслеживания и анализа законов, судебных решений и данных по госуслугам, с целью прогнозирования областей, требующие реформ, основываясь на экономических тенденциях, ускорения процесса законотворчества ( предполагается ускорение процесса принятия законов на 70%, сокращение гос. расходов на 50%, и увеличение ВВП страны примерно на 35% к 2030 г.).
Virtual Intelligent Chat Assistant (VICA) - ИИ платформа для правительства. На данный момент ее используют более 60 гос. учреждений, обслуживая более 100 чат-ботов, 800 000 запросов в месяц.
Пилотные инициативы в категории Small Claims Online Dispute Resolution, например перевод документов c помощью ИИ, представленных другой стороной в суд по мелким искам, приложения, помогающие судьям обобщать материалы дел.
Платформа Garfield.Law - автоматизированный сервис для подачи исков о взыскании до £10,000 без участия человека (генерация документов, сбор дел, сопровождение до слушания). Регулируется Solicitors Regulation Authority.
Централизованная платформа «умный суд», где ИИ интегрируется на всех этапах судебной деятельности,судьи используют ИИ для правовых исследований, составления документов и проверки их согласованности.
Разработка ИИ-платформы для Верховного суда.
🔹Поиск, просмотр документов и масштабное исследование информации
ПО для борьбы с детской порнографией ( Германия) - система предназначена для изучения объемов данных, полученных в ходе следственных действий, некоторые из которых весьма существенны, на предмет наличия в них материалов детской порнографии.
🔹Прогнозирование результатов судебных разбирательств
LEXIQ ( Нидерланды) - система анализа прецедентного права для службы государственного обвинения, призванная помочь прокурорам и исследователям в их повседневной работе по поиску, анализу и использованию информации по уголовным делам.
🔹Поддержка принятия решений
OLGA (Германия) - система, помогающая анализировать и классифицировать заявления на основе фактов, используется в качестве пилотного проекта в Высшем земельном суде Штутгарта по делам о выбросах газов дизельных двигателей (жалобы часто превышают 100 страниц).
Fraukа (Германия) - система автоматизации подготовки типовых решений по жалобам авиапассажиров также пилотно используются в нескольких судах.
🔹Анонимизация и псевдонимизация
ANOM (Швейцария) - использует ИИ для определения имен экспертов или другой информации, например, номеров земельных участков, которые не являются сторонами процесса, и предлагает их для анонимизации в связи с публикацией решения суда.
🔹Сортировка, распределение и автоматизация рабочих процессов
Инструмент для выявления несоответствий в судебной практике (Франция) между различными
палатами суда (Cour de Cassation) и между нижестоящими судами (судами первой инстанции и апелляционными судами).
🔹 Запись, транскрибирование и перевод
«Текстуализация речи в текст» (Испания) - система основана на нейронном обучении и интегрируется с системами записи судебных заседаний, обученными на реальных слушаниях и реальных расшифровках, позволяет осуществлять поиск по тексту в видео, загружать записи, идентифицировать говорящих в диалогах, визуализировать временную шкалу, показывать/скрывать метки и текстуализации, а также создавать теги, связанные с определенными моментами записи.
🔹Информационные и вспомогательные услуги
Practical Guide to Justice (Португалия) - система предоставляет ответы на вопросы пользователя в естественном диалоге об инструментах и услугах, предоставляемых системой правосудия, обучается на информации, уже предоставленной различными судебными органами.
На данный момент, указывают, что в базе 125 различных ИИ-инструментов.
#AIShelf
————
@pattern_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
ИИ в зале суда: правила игры
В прошлом посте мы говорили о том, как правительства тестируют ИИ для оперативной поддержки законотворчества, судопроизводства, публичной вовлечённости. Но хороший пилот- это только полдела, ведь ИИ начинает влиять на реальные дела, и на кону становится уже справедливость решений.
Главные риски:
– непрозрачность моделей;
– предвзятость данных;
– потеря ответственности («это всё алгоритм!»);
– кибербезопасность;
– зависимость от чужого ПО.
Из-за быстрой скорости развития ИИ "правила игры" устанавливаются с помощью практических рекомендаций для регуляторов, судов, юристов. Вот лишь некоторые примеры:
🔹США
Formal Opinion 512, American Bar Association (29 июля 2024)
An Introduction to Artificial Intelligence for Federal Judges| James E. Baker, Laurie N. Hobart, Matthew Mittelsteadt
Полноценный гайд + список судебных кейсов, связанных с ИИ!
🔹Сингапур
The Guide on the Use of Generative Artificial Intelligence Tools by Court Users (Сингапур)
-Use of AI by Courts to Enhance Court Operations| Action Committee;
- Guidelines for the Use of Artificial Intelligence in Canadian Courts
- Use of artificial intelligence (AI) in Tribunal proceedings;
- Use of AI in proceedings before the Trademarks Opposition Board
🔹Австралия
Хороший обзор дан в статье AI and the Courts in 2025
Общие правила, которые встречаются почти везде:
▪️ фиксировать, где и как применялся ИИ;
▪️защита данных;
▪️обязательная проверка человеком;
▪️вести публичные реестры ИИ-инструментов;
▪️проводить аудит моделей;
▪️запрет генерации экспертных заключений и подделки доказательств;
▪️уведомлять об использовании ИИ;
▪️соблюдать авторское право
▪️и проверять источники.
В следующем посте рассмотрим кейсы, когда ИИ в судах сыграл "злую шутку"
#LawAndDisorder
————
@pattern_ai
В прошлом посте мы говорили о том, как правительства тестируют ИИ для оперативной поддержки законотворчества, судопроизводства, публичной вовлечённости. Но хороший пилот- это только полдела, ведь ИИ начинает влиять на реальные дела, и на кону становится уже справедливость решений.
Главные риски:
– непрозрачность моделей;
– предвзятость данных;
– потеря ответственности («это всё алгоритм!»);
– кибербезопасность;
– зависимость от чужого ПО.
Из-за быстрой скорости развития ИИ "правила игры" устанавливаются с помощью практических рекомендаций для регуляторов, судов, юристов. Вот лишь некоторые примеры:
🔹США
Formal Opinion 512, American Bar Association (29 июля 2024)
- обязанность юриста понимать возможности и ограничения инструментов ИИ, в том числе его риски и склонность к "галлюцинациям", проверка всех результатов ИИ является обязательной перед использованием.;
- необходимость защиты конфиденциальности клиентов при использовании ИИ;
- необходимость прозрачности и раскрытия информации об использовании ИИ клиентам;
- ответственность юриста за надзор за использованием ИИ сотрудниками;
- этические последствия взимания платы за услуги, предоставляемые c помощью ИИ.
An Introduction to Artificial Intelligence for Federal Judges| James E. Baker, Laurie N. Hobart, Matthew Mittelsteadt
Полноценный гайд + список судебных кейсов, связанных с ИИ!
🔹Сингапур
The Guide on the Use of Generative Artificial Intelligence Tools by Court Users (Сингапур)
- вы полностью отвечаете за содержание документов;🔹Канада
- используйте ИИ-вывод только после проверки (точность, релевантность, отсутствие нарушения авторских прав);
- нельзя с помощью ИИ создавать, подделывать или изменять доказательства.
- подтверждайте существование и корректность цитат, законов и судебных дел из надёжных источников;
- адаптируйте ИИ-текст под свой случай, вычитывайте и исправляйте ошибки;
- не разглашайте личные или защищённые данные при работе с ИИ;
- указывайте авторов и источники заимствованных материалов;
- будьте готовы сообщить, что использовали ИИ, и описать, как проверяли результат.
- риски несоблюдения: штрафы, исключение документов из дела, дисциплинарные меры, ответственность по закону.
-Use of AI by Courts to Enhance Court Operations| Action Committee;
- Guidelines for the Use of Artificial Intelligence in Canadian Courts
- Use of artificial intelligence (AI) in Tribunal proceedings;
- Use of AI in proceedings before the Trademarks Opposition Board
Даны документов, которые считаются содержащими/ не содержащими контент, созданный ИИ и пример заявления:
Artificial intelligence (AI) was used to generate content in this document. All content generated by AI, and the authenticity of all authorities cited in this document, has been reviewed and verified by the [include the name of the party to the proceeding], or their trademark agent.
🔹Австралия
Хороший обзор дан в статье AI and the Courts in 2025
"Суд стремится получить информацию об «ответственном использовании новых технологий таким образом, чтобы это способствовало справедливому и эффективному выполнению работы Суда"Guidelines for litigants: responsible use of artificial intelligence in litigation
Общие правила, которые встречаются почти везде:
▪️ фиксировать, где и как применялся ИИ;
▪️защита данных;
▪️обязательная проверка человеком;
▪️вести публичные реестры ИИ-инструментов;
▪️проводить аудит моделей;
▪️запрет генерации экспертных заключений и подделки доказательств;
▪️уведомлять об использовании ИИ;
▪️соблюдать авторское право
▪️и проверять источники.
В следующем посте рассмотрим кейсы, когда ИИ в судах сыграл "злую шутку"
#LawAndDisorder
————
@pattern_ai
Когда ИИ подводит юристов: реальные судебные "триллеры"
На прошлой неделе мы разобрали, как применяется ИИ в законотворчестве, судах и госуслугах, как формируются правила «игры».
Сегодня обратная сторона медали, когда ИИ не помогает, а подставляет.
На данный момент зафиксировано 276 кейсов с "галлюцинациями" ИИ.
📌 Смотрим трекер по странам здесь.
Несколько примеров кейсов:
1️⃣ США
🔹Mata v. Avianca (2023)
Суд отклонил иск о причинении вреда здоровью против авиакомпании Avianca, где истец утверждал, что получил травму, когда металлическая сервировочная тележка ударила его по колену во время международного рейса. Адвокаты истца были оштрафованы на $5000 за представление фиктивных прецедентов, созданных ChatGPT.
Дело является знаковым, на него часто ссылаются суда и также было принято заключение об ответственности юристов, использующих ИИ.
🔹Lacey v. State Farm Gen. Ins. Co. (2025)
9 из 27 юридических ссылок в десятистраничном документе были неверными, два из упомянутых источников вообще не существовали.
Юридические фирмы оштрафованы на $31 000, отказ в ходатайствах.
🔹Kohls v. Ellison (2025)
Парадокс этого кейса заключается в том, что иск был против законов штата, запрещающих политическую сатиру, создаваемую ИИ. Генеральный прокурор в ответ представил экспертный отчет, где были обнаружены "галлюцинации" ИИ". Более подробный обзор здесь.
🔹Johnson v. Dunn (2025)
Не смотря на то, что дело вели юристы из уважаемой юридической фирмы, где была разработана политика применения ИИ, предупреждения в отношении ИИ, ими были предоставлены ходатайства со всем спектром ошибок ИИ:
- неверный кейс, неверная цитата ;
- сфабрикованная ссылка с использованием названия реального дела;
- полная фальсификация;
- сфабрикованная цитата, звучащая реалистично;
- реальное название дела, неверное цитирование и утверждение.
Итог: дисквалификация адвокатов (прямое неправомерное использование ИИ без проверки (Ривз), отказ от обязанностей по подаче документов (Крэнфорд) и халатность руководства, усугублённая уклонением от ответственности (Лансфорд)), передача регуляторам.
Юридическая фирма избежала санкций только благодаря решительному реагированию на инцидент и проведению масштабной работы по устранению выявленных нарушений:
- привлечен внешний консультант для проведения независимой проверки более 2400 юридических ссылок из 330 документов, находящихся в 40 федеральных реестрах.
- создание внутреннего комитета по ИИ и принятие протоколов для ответственного использования;
- обучение ответственному использованию ИИ;
2️⃣ Великобритания
🔹Ayinde v London Borough of Haringey & Al-Haroun v Qatar National Bank ( 2025)
Сфабрикованные цитаты, включая цитату, приписываемую самой судье.
Суд дал широкие рекомендации по использованию ИИ в юридической практике.
🔹Bandla v. Solicitors Regulation Authority (2025)
По меньшей мере 25 сфабрикованных или несуществующих ссылок на судебные дела.
Итог: ходатайство о продлении срока отклонено; апелляция отклонена по причине злоупотребления процессом; взысканы расходы на возмещение ущерба в размере 24 727,20 фунтов стерлингов; в разрешении на апелляцию отказано.
3️⃣ Канада
🔹Zhang v. Chen (2024)
Адвокат использовал ChatGPT для оказания помощи в подготовке уведомления о подаче заявления по семейному делу, касающемуся поездок родителей с детьми (ссылки на два вымышленных дела). Адвокаты противоположной стороны указали на несуществующие дела.
Это дело стало первым резонансным примером подобной проблемы в Канаде, заставив обратить внимание на необходимость проявления осмотрительности.
ИИ может ускорять работу, но в процессе цена ошибки высока.
Мини чек-лист:
▪️никогда не цитируйте то, чего вы сами не нашли в надёжной базе;
▪️журнал проверки ( где искали, что нашли, чем подтвердили);
▪️не поручайте ИИ проверку ИИ (проверяйте источники руками);
▪️разработайте и внедрите внутренние правила (когда и как можно использовать ИИ, кто проверяет, как фиксируете проверку, что и кому раскрываете);
▪️быстро и решительно реагируйте на инцидент (извинение, корректировка материалов, обучение ).
#UXWatch
————
@pattern_ai
На прошлой неделе мы разобрали, как применяется ИИ в законотворчестве, судах и госуслугах, как формируются правила «игры».
Сегодня обратная сторона медали, когда ИИ не помогает, а подставляет.
На данный момент зафиксировано 276 кейсов с "галлюцинациями" ИИ.
Несколько примеров кейсов:
🔹Mata v. Avianca (2023)
Суд отклонил иск о причинении вреда здоровью против авиакомпании Avianca, где истец утверждал, что получил травму, когда металлическая сервировочная тележка ударила его по колену во время международного рейса. Адвокаты истца были оштрафованы на $5000 за представление фиктивных прецедентов, созданных ChatGPT.
Дело является знаковым, на него часто ссылаются суда и также было принято заключение об ответственности юристов, использующих ИИ.
🔹Lacey v. State Farm Gen. Ins. Co. (2025)
9 из 27 юридических ссылок в десятистраничном документе были неверными, два из упомянутых источников вообще не существовали.
Юридические фирмы оштрафованы на $31 000, отказ в ходатайствах.
🔹Kohls v. Ellison (2025)
Парадокс этого кейса заключается в том, что иск был против законов штата, запрещающих политическую сатиру, создаваемую ИИ. Генеральный прокурор в ответ представил экспертный отчет, где были обнаружены "галлюцинации" ИИ". Более подробный обзор здесь.
🔹Johnson v. Dunn (2025)
Не смотря на то, что дело вели юристы из уважаемой юридической фирмы, где была разработана политика применения ИИ, предупреждения в отношении ИИ, ими были предоставлены ходатайства со всем спектром ошибок ИИ:
- неверный кейс, неверная цитата ;
- сфабрикованная ссылка с использованием названия реального дела;
- полная фальсификация;
- сфабрикованная цитата, звучащая реалистично;
- реальное название дела, неверное цитирование и утверждение.
Итог: дисквалификация адвокатов (прямое неправомерное использование ИИ без проверки (Ривз), отказ от обязанностей по подаче документов (Крэнфорд) и халатность руководства, усугублённая уклонением от ответственности (Лансфорд)), передача регуляторам.
Юридическая фирма избежала санкций только благодаря решительному реагированию на инцидент и проведению масштабной работы по устранению выявленных нарушений:
- привлечен внешний консультант для проведения независимой проверки более 2400 юридических ссылок из 330 документов, находящихся в 40 федеральных реестрах.
- создание внутреннего комитета по ИИ и принятие протоколов для ответственного использования;
- обучение ответственному использованию ИИ;
🔹Ayinde v London Borough of Haringey & Al-Haroun v Qatar National Bank ( 2025)
Сфабрикованные цитаты, включая цитату, приписываемую самой судье.
Суд дал широкие рекомендации по использованию ИИ в юридической практике.
🔹Bandla v. Solicitors Regulation Authority (2025)
По меньшей мере 25 сфабрикованных или несуществующих ссылок на судебные дела.
Итог: ходатайство о продлении срока отклонено; апелляция отклонена по причине злоупотребления процессом; взысканы расходы на возмещение ущерба в размере 24 727,20 фунтов стерлингов; в разрешении на апелляцию отказано.
🔹Zhang v. Chen (2024)
Адвокат использовал ChatGPT для оказания помощи в подготовке уведомления о подаче заявления по семейному делу, касающемуся поездок родителей с детьми (ссылки на два вымышленных дела). Адвокаты противоположной стороны указали на несуществующие дела.
Это дело стало первым резонансным примером подобной проблемы в Канаде, заставив обратить внимание на необходимость проявления осмотрительности.
ИИ может ускорять работу, но в процессе цена ошибки высока.
Мини чек-лист:
▪️никогда не цитируйте то, чего вы сами не нашли в надёжной базе;
▪️журнал проверки ( где искали, что нашли, чем подтвердили);
▪️не поручайте ИИ проверку ИИ (проверяйте источники руками);
▪️разработайте и внедрите внутренние правила (когда и как можно использовать ИИ, кто проверяет, как фиксируете проверку, что и кому раскрываете);
▪️быстро и решительно реагируйте на инцидент (извинение, корректировка материалов, обучение ).
#UXWatch
————
@pattern_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Legal AI Use Case Radar - онлайн-ресурс, созданный исследователями из Технологического Университета Мюнхена, посвящен практическим сценариям ( use cases) использования ИИ в юридической сфере.
В интерактивном виде показаны сектора с ключевыми областями применения (например, compliance, документ-анализ, судебные процессы, автоматизация контрактов), уровни зрелости (от экспериментов (Assess) до активного внедрения (Adopt)) и конкретные кейсы и технологии, которые уже применяются юристами и компаниями.
#AIShelf
————
@pattern_ai
В интерактивном виде показаны сектора с ключевыми областями применения (например, compliance, документ-анализ, судебные процессы, автоматизация контрактов), уровни зрелости (от экспериментов (Assess) до активного внедрения (Adopt)) и конкретные кейсы и технологии, которые уже применяются юристами и компаниями.
#AIShelf
————
@pattern_ai
Legal_AI_Use_Case_Radar_Report_2025.pdf
5.4 MB
Legal AI Use Case Radar 2025 Report / Meisenbacher, Stephen, Nektarios Machner, Juraj Vladika, and Florian Matthes. Technical University of Munich, August 2025
Кроме интерактивной карты исследователи выпускают обзоры, где сравнивают использование ИИ практикующими юристами и в академической среде.
Парочка интересных выводов из доклада:
1️⃣ Ключевые проблемы практикующих юристов:
▪️ защита данных;
▪️ сложность работы с длинными документами;
▪️ выбор между созданием собственных решений и покупкой готовых,
▪️необходимость обучать сотрудников;
▪️давление со стороны клиентов (многие ждут, что юридические фирмы будут предлагать "AI-услуги").
2️⃣ Рост числа научных публикаций в последние 10 лет.
3️⃣ Кейсы использования Legal AI распределены по категориям на основе анализа 988 научных статей (из 3577 найденных),:
▪️Legal Research & Information Management ( 531 статья, (27,5%)→ автоматизация поиска правовой информации, исследовательские инструменты, базы данных);
▪️Information Processing & Extraction ( 518 (26,8%) → извлечение фактов, сущностей и отношений из юридических текстов);
▪️Document Analysis & Management ( 333 (17,3%) → классификация документов, их структурирование, организация);
▪️Legal Decision Making & Dispute Resolution ( 250 (13,0%) → прогнозирование исходов дел, модели для разрешения споров);
▪️Legal Information Retrieval & Support (136 (7,0%) → системы поиска по правовым базам, Q&A для юристов);
▪️Document Generation & Assistance (120 (6,2%) → автоматическая генерация и анализ текстов, драфты контрактов);
▪️Compliance & Risk Management ( 42 (2,2%), → аудит, поддержка соответствия (например, GDPR)).
4️⃣ Учёные фокусируются на исследовательских инструментах, извлечении информации и создании качественных датасетов. Практикующие юристы чаще всего используют ИИ для генерации документов.
#AIShelf
————
@pattern_ai
Кроме интерактивной карты исследователи выпускают обзоры, где сравнивают использование ИИ практикующими юристами и в академической среде.
Парочка интересных выводов из доклада:
▪️ защита данных;
▪️ сложность работы с длинными документами;
▪️ выбор между созданием собственных решений и покупкой готовых,
▪️необходимость обучать сотрудников;
▪️давление со стороны клиентов (многие ждут, что юридические фирмы будут предлагать "AI-услуги").
▪️Legal Research & Information Management ( 531 статья, (27,5%)→ автоматизация поиска правовой информации, исследовательские инструменты, базы данных);
▪️Information Processing & Extraction ( 518 (26,8%) → извлечение фактов, сущностей и отношений из юридических текстов);
▪️Document Analysis & Management ( 333 (17,3%) → классификация документов, их структурирование, организация);
▪️Legal Decision Making & Dispute Resolution ( 250 (13,0%) → прогнозирование исходов дел, модели для разрешения споров);
▪️Legal Information Retrieval & Support (136 (7,0%) → системы поиска по правовым базам, Q&A для юристов);
▪️Document Generation & Assistance (120 (6,2%) → автоматическая генерация и анализ текстов, драфты контрактов);
▪️Compliance & Risk Management ( 42 (2,2%), → аудит, поддержка соответствия (например, GDPR)).
#AIShelf
————
@pattern_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
Как юристу внедрить ИИ и не потеряться в инструментах
LegalTech рынок растет, ИИ проверяет контракты, помогает писать процессуальные документы и ускоряет аналитику. С чего начать и как не утонуть в хаосе информации, многочисленных инструментах и учесть риски внедрения?
1️⃣ Полезные гайды:
▪️Use of Artificial Intelligence in Legal Practice / The British Institute of International and Comparative Law -фундаментальный обзор с акцентом на вопросы этики, конфиденциальности и надзора;
▪️Artificial Intelligence Toolkit for In-house Lawyers (ACC) - чек-листы и roadmap для внедрения;
▪️European lawyers in the era of СhatGPT;
▪️AI in the work of an attorney-at-law - неплохой гайд и примеры использования Copilot;
▪️AI and the Legal Profession / Law Society Library Resource Pack - список полезных публикаций.
2️⃣ Подходите к ИИ как к проекту:
- определите цели и задачи(что вы хотите сократить/оптимизировать (например, время на проверку NDA или due diligence), ресурсы;
- задайте метрики результатов (экономия часов, сокращение издержек, ускорение подачи процессуальных документов);
- постройте цикл: пилот → тестирование → масштабирование.
3️⃣ Внедрение:
- запускайте пилот с безопасными тестовыми данными;
- моделируйте бизнес-ценность (экономия времени, снижение издержек);
- не внедряйте «наобум» в команде и в компании, т.е. создайте инструкцию/политику по ИИ-этике, верификации, хранению и защите данных;
- начинайте с базовых Copilot или ChatGPT и добавляйте дальше нужные инструменты;
- используйте корпоративные версии (Enterprise) для защиты данных;
- обязательно вводите человеческий надзор: проверка ссылок, фактов, цитат;
- инвестируйте в обучение команды, технологии меняются быстро.
4️⃣ Управление рисками:
- один из главный рисков - «галлюцинации» (выдуманные факты) ИИ. Обязательна верификация всех выводов. Также такие риски можно начинать страховать. Например, компания Armilla запустила новый страховой полис для покрытия юридических претензий клиентов или третьих лиц, вызванных неисправностями ИИ, связанными с ошибками чат-бота и «галлюцинациями».
- никогда не загружайте клиентские данные в публичные модели (нарушение конфиденциальности);
- предвзятость (bias) модели;
- не используйте автоматически сгенерированный текст без проверки авторских прав;
- фиксируйте, какие инструменты применялись и как проверялся результат;
- сторонние ИИ-сервисы могут быть уязвимы;
- следите за регулированием, применением профэтическим кодексов.
В следующих постах будет перечень инструментов, заточенных для юристов, и обучающих ресурсов.
————
@pattern_ai
LegalTech рынок растет, ИИ проверяет контракты, помогает писать процессуальные документы и ускоряет аналитику. С чего начать и как не утонуть в хаосе информации, многочисленных инструментах и учесть риски внедрения?
▪️Use of Artificial Intelligence in Legal Practice / The British Institute of International and Comparative Law -фундаментальный обзор с акцентом на вопросы этики, конфиденциальности и надзора;
▪️Artificial Intelligence Toolkit for In-house Lawyers (ACC) - чек-листы и roadmap для внедрения;
▪️European lawyers in the era of СhatGPT;
▪️AI in the work of an attorney-at-law - неплохой гайд и примеры использования Copilot;
▪️AI and the Legal Profession / Law Society Library Resource Pack - список полезных публикаций.
- определите цели и задачи(что вы хотите сократить/оптимизировать (например, время на проверку NDA или due diligence), ресурсы;
- задайте метрики результатов (экономия часов, сокращение издержек, ускорение подачи процессуальных документов);
- постройте цикл: пилот → тестирование → масштабирование.
- запускайте пилот с безопасными тестовыми данными;
- моделируйте бизнес-ценность (экономия времени, снижение издержек);
- не внедряйте «наобум» в команде и в компании, т.е. создайте инструкцию/политику по ИИ-этике, верификации, хранению и защите данных;
- начинайте с базовых Copilot или ChatGPT и добавляйте дальше нужные инструменты;
- используйте корпоративные версии (Enterprise) для защиты данных;
- обязательно вводите человеческий надзор: проверка ссылок, фактов, цитат;
- инвестируйте в обучение команды, технологии меняются быстро.
- один из главный рисков - «галлюцинации» (выдуманные факты) ИИ. Обязательна верификация всех выводов. Также такие риски можно начинать страховать. Например, компания Armilla запустила новый страховой полис для покрытия юридических претензий клиентов или третьих лиц, вызванных неисправностями ИИ, связанными с ошибками чат-бота и «галлюцинациями».
- никогда не загружайте клиентские данные в публичные модели (нарушение конфиденциальности);
- предвзятость (bias) модели;
- не используйте автоматически сгенерированный текст без проверки авторских прав;
- фиксируйте, какие инструменты применялись и как проверялся результат;
- сторонние ИИ-сервисы могут быть уязвимы;
- следите за регулированием, применением профэтическим кодексов.
В следующих постах будет перечень инструментов, заточенных для юристов, и обучающих ресурсов.
————
@pattern_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
Автоматизация для юристов: какие инструменты уже есть на рынке
▪️Работа с контрактами (ревью, драфт, согласование, база)
Paxton - cоставление документов, комплексный анализ, контекстное исследование;
Ironclad - инструменты для заключения контрактов на одной платформе (драфты, согласование, извлечение извлечение ключевых терминов, электронная подпись, аналитика и т.д.);
Luminance - анализ контрактов в MS Word,чат-бот для вопросов и ответов и автоматического редактирования, инструменты автоматизированного составления договоров, репозиторий;
IVO - ускоритель согласования договоров (проверка, выявление рисков, составление отчетов и писем для отделов с ключевыми проблемами);
Evisort - сквозное управление жизненным циклом договоров (проверка, согласование, аналитика),
DocJuris - автоматизация проверки договоров, аналитика, репозиторий;
LawGeex - автоматизация проверки договоров;
ContractExpress от Thomson Reuters - автоматизация проверки договоров;
LiteraKira - автоматизация проверки договоров;
Advocat AI - создание договоров на основе шаблонов;
▪️Legal Research & Аналитика
CoCounsel - составление меморандумов, помощь в подготовке к допросам, анализ на сходства, различия и преимущества в документах, поможет с большими объёмами материалов дела;
Lexis+ AI - исследование и ответы на вопросы, аналитика судебных разбирательств, проекты документов;
HarveyAI - AI-ассистент для работы в различных областях права, рабочее пространство для проектов;
Lex Machina - судебная аналитика (поведение судей, прогноз исходов);
Bloomberg Law - интерактивный правовой поиск, аналитика;
▪️Работа с ИС
Patlytics - оптимизация и ускорение процесса поиска, сопоставления патентных заявок с подтверждающими доказательствами и продуктов;
XLScout - платформа патентной аналитики на базе ИИ;
Solve Intelligence - подготовка патентов;
Qthena - ИИ- помощник для поиска товарных знаков и составления патентов;
▪️Операционные задачи и workflow, e-Discovery
Brightflag - автоматическая проверка счетов, анализ расходов;
Streamline AI - единая систему приема юридических запросов (непосредственно из электронной почты с поддержкой ИИ или прямо в Slack, MS Teams, Ironclad, Salesforce и других интегрированных инструментах);
Tonkean - организация жизненного цикла закупок, автоматизация задач, прием/сортировка задач;
Law.co - создание ИИ-агентов;
EvenUp - специализированный AI-ассистент, созданному на основе крупнейшего набора данных о телесных повреждениях;
AILawyer - специализированный AI-ассистент для потребителей и юристов;
Xapien — due diligence / AML / репутационные проверки;
Relativity - генеративный ИИ для сортировки и анализа документов, реагирование на утечки данных, библиотека вебинаров о возможном применении;
Everlaw - платформа для совместной подготовки к судебным разбирательствам;
▪️Отдельно проекты с российским законодательством
ExplainLaw - ИИ-ассистент для юристов, который объединяет поиск в интернете, справочно-правовые системы и искусственный интеллект в одном интерфейсе (поиск судебной практики по базе ГАРАНТ, поиск актуального законодательства с прикреплением ссылок на первоисточник, - формирование ответов на основе загруженных документов и изображений);
Botman.one - low-code платформа для создания сервисов без программирования (экспертные системы, генераторы (конструкторы) документов, навигаторы по процессам, чат-боты для Telegram/сайтов);
Doczilla - рабочее пространство юриста для работы c документами при помощи AI и не только;
LawGPT - AI-ассистент для юристов (профессиональные правовые заключения и подбор судебной практики, анализ и генерация процессуальных документов);
AI скрепка - полноценный MVP-проект с открытым исходным кодом, проводит интеллектуальный анализ договора поставки со стороны покупателя или поставщика, можно кастомизировать под свои нужды;
DOCXдодыр - помощник по анонимизации документов;
Бот @lastminute_legal_bot - помогает проверять рекламные креативы на соответствие ФЗ «О рекламе», используя Gemini и технологию RAG, подробности в канале создателя.
#AIShelf
————
@pattern_ai
▪️Работа с контрактами (ревью, драфт, согласование, база)
Paxton - cоставление документов, комплексный анализ, контекстное исследование;
Ironclad - инструменты для заключения контрактов на одной платформе (драфты, согласование, извлечение извлечение ключевых терминов, электронная подпись, аналитика и т.д.);
Luminance - анализ контрактов в MS Word,чат-бот для вопросов и ответов и автоматического редактирования, инструменты автоматизированного составления договоров, репозиторий;
IVO - ускоритель согласования договоров (проверка, выявление рисков, составление отчетов и писем для отделов с ключевыми проблемами);
Evisort - сквозное управление жизненным циклом договоров (проверка, согласование, аналитика),
DocJuris - автоматизация проверки договоров, аналитика, репозиторий;
LawGeex - автоматизация проверки договоров;
ContractExpress от Thomson Reuters - автоматизация проверки договоров;
LiteraKira - автоматизация проверки договоров;
Advocat AI - создание договоров на основе шаблонов;
▪️Legal Research & Аналитика
CoCounsel - составление меморандумов, помощь в подготовке к допросам, анализ на сходства, различия и преимущества в документах, поможет с большими объёмами материалов дела;
Lexis+ AI - исследование и ответы на вопросы, аналитика судебных разбирательств, проекты документов;
HarveyAI - AI-ассистент для работы в различных областях права, рабочее пространство для проектов;
Lex Machina - судебная аналитика (поведение судей, прогноз исходов);
Bloomberg Law - интерактивный правовой поиск, аналитика;
▪️Работа с ИС
Patlytics - оптимизация и ускорение процесса поиска, сопоставления патентных заявок с подтверждающими доказательствами и продуктов;
XLScout - платформа патентной аналитики на базе ИИ;
Solve Intelligence - подготовка патентов;
Qthena - ИИ- помощник для поиска товарных знаков и составления патентов;
▪️Операционные задачи и workflow, e-Discovery
Brightflag - автоматическая проверка счетов, анализ расходов;
Streamline AI - единая систему приема юридических запросов (непосредственно из электронной почты с поддержкой ИИ или прямо в Slack, MS Teams, Ironclad, Salesforce и других интегрированных инструментах);
Tonkean - организация жизненного цикла закупок, автоматизация задач, прием/сортировка задач;
Law.co - создание ИИ-агентов;
EvenUp - специализированный AI-ассистент, созданному на основе крупнейшего набора данных о телесных повреждениях;
AILawyer - специализированный AI-ассистент для потребителей и юристов;
Xapien — due diligence / AML / репутационные проверки;
Relativity - генеративный ИИ для сортировки и анализа документов, реагирование на утечки данных, библиотека вебинаров о возможном применении;
Everlaw - платформа для совместной подготовки к судебным разбирательствам;
▪️Отдельно проекты с российским законодательством
ExplainLaw - ИИ-ассистент для юристов, который объединяет поиск в интернете, справочно-правовые системы и искусственный интеллект в одном интерфейсе (поиск судебной практики по базе ГАРАНТ, поиск актуального законодательства с прикреплением ссылок на первоисточник, - формирование ответов на основе загруженных документов и изображений);
Botman.one - low-code платформа для создания сервисов без программирования (экспертные системы, генераторы (конструкторы) документов, навигаторы по процессам, чат-боты для Telegram/сайтов);
Doczilla - рабочее пространство юриста для работы c документами при помощи AI и не только;
LawGPT - AI-ассистент для юристов (профессиональные правовые заключения и подбор судебной практики, анализ и генерация процессуальных документов);
AI скрепка - полноценный MVP-проект с открытым исходным кодом, проводит интеллектуальный анализ договора поставки со стороны покупателя или поставщика, можно кастомизировать под свои нужды;
DOCXдодыр - помощник по анонимизации документов;
Бот @lastminute_legal_bot - помогает проверять рекламные креативы на соответствие ФЗ «О рекламе», используя Gemini и технологию RAG, подробности в канале создателя.
#AIShelf
————
@pattern_ai
🙏1