Как Netflix работает с ИИ: 5 принципов для продуктовых команд

Netflix опубликовал правила для своих партнёров, которые используют генеративный ИИ в производстве контента. Эти принципы можно применять и шире, для разработки своего продукта.
🎬 Пять принципов от Netflix:
1️⃣ Не копировать чужие работы и защищённый авторским правом материал.

Нельзя использовать ИИ для создания диалогов или сцен, которые повторяют существующие фильмы или сериалы Netflix.

2️⃣ Модель не должна хранить, использовать повторно или дообучаться на материалах проекта.
3️⃣По возможности, использовать только защищённые среды (корпоративные, с контролем безопасности).
4️⃣Сгенерированный материал является временным и не является частью конечного продукта, т.е. материал не должен попадать в финальную версию без проверки.
5️⃣GenAI не используется для замены или создания новых выступлений талантливых артистов или работ, спонсируемых профсоюзом, без согласия.
Если правила соблюдены, то достаточно уведомить Netflix. Если нет, то нужно получить письменное разрешение. Приведены примеры ситуаций, которые всегда требуют эскалации и письменного одобрения перед продолжением работы.

В апреле Netflix применил ИИ для создания сцены обрушения здания в сериале Этернаут . Визуальные эффекты были сделаны примерно в 10 раз быстрее, чем обычным способом, и значительно дешевле. При этом компания подчёркнула, что ИИ ускоряет процесс, но не подменяет команду.

Эти правила можно превратить в практический чек-лист для своего проекта:

🔹Оригинальность (нет ли копирования или заимствований);
🔹 Безопасность (не утекают ли данные обратно в модель);
🔹 Защищённость ( корпоративная среда, комплайенс, шифрование и т.п.);
🔹Черновик vs финал (ясно показывать, где тест, а где результат);
🔹 Человекоцентричность (ИИ должен помогать специалисту, а не вытеснять его.).

Netflix показал отрасли стандарт, как можно формализовать правила работы с ИИ, чтобы снизить юридические и этические риски, которого стоит придерживаться.
#UXWatch
————
@pattern_ai

18+ ИИ-компаньоны и человекоподобные сервисы. Где проходят границы нормы?

Риски флирта с чат-ботами мы уже разбирали раньше. А что происходит на рынке роботов-компаньонов и роботизированных сервисов, которые не ограничиваются текстом на экране, а взаимодействуют с человеком напрямую через голос, образ, движение или физический контакт.

🔹 Sex роботы - человекоподобные и во многом обманчивые машины, созданные для эмоциональных и сексуальных взаимодействий, всё чаще оснащённые ИИ-возможностями (Rigotti). Кастомизируемы, но в большинстве случаев воспроизводят гиперсексуализированные образы и закрепляют стереотипные роли.
Sex роботы вызывают полярные оценки:
– сторонники видят в них помощь для одиноких, пожилых, людей с инвалидностью, снижение рисков проституции, улучшение интимного опыта (Levy; Coursey);
– критики утверждают, что роботы закрепляют вредные гендерные стереотипы и нормализуют представление о женщинах как объектах (Gutiu, Sullins).

🔹Рынок основывается на кросс-культурных различиях. В Японии и Южной Кореи робот-компаньон воспринимается как часть жизни, куклы реалистичны. Китайские компании (WM Doll, Starpery) добавляют голосовые интерфейсы и генеративный ИИ, чтобы куклы могли «запоминать» предпочтения.
На выставке в США CES-2025 стартап Realbotix показал «Aria»( манекен с акцентом, обещающий удовольствие, «запоминающую» вкусы и опыт владельца) и наоборот позиционировал его как эмоционального робота-компаньона, чтобы расширить рынок. Вирусный контент указал еще раз на проблему «эмоционального обмана», роботы имитируют чувства, согласие и эмпатию, которых у них нет.

🔹Предложена новая междисциплинарная область Lovotics (от love + robotics) изучающая возможности эмоциональных связей с машинами:
- предложена модель, позволяющая симулировать «любовь» в роботах: Artificial Endocrine System + Probabilistic Love Assembly +Affective State Transition;
- люди способны воспринимать робота как объект романтической симпатии;
- роботы, которые выглядят «слишком по-человечески», воспринимаются скорее как друзей или партнёров;
- женщины чаще проявляют ревность к партнёрам с sex роботом, чем к тем, у кого есть «платонический» робот-друг.

🔹 Что думают пользователи:
- сексуальное возбуждение повышает готовность к sex с роботом, особенно у мужчин;
- sex с роботом менее морально осуждаем, чем супружеская измена с человеком;
- врачи допускают использование sex роботов в терапии сексуальных дисфункций.

🔹Дискуссия о sex роботах это часть более широкой темы роботизированных сервисов (от массажа до ухода за пожилыми).
Например, Aescape - роботизированный массаж (сканирует тело по 1,2 млн точек; воспроизводит техники профессионального массажиста, встроены сенсоры и кнопка аварийной остановки).
Смотрим риски:
- ответственность за ошибки;
- хранение чувствительных биометрических данных;
- вопросы лицензирования и сертификации;
- недобросовестный маркетинг («робот-терапевт»).

‼️Где проходит границы нормы?
▪️Текущее законодательное регулирование (медицинские, потребительские, IoT-нормы) не рассчитаны на гибридные сервисы.Регулирования конкретно сферы роботов-компаньонов пока нет, действуют лишь общие нормы законодательства о кибербезопасности, защите данных и недобросовестной рекламе.
▪️Мировой консенсус есть только в одном: категорически недопустимы конфигурации, имитирующие детей.
▪️Отказ от «эмоционального обмана»: нельзя утверждать, что робот «чувствует» или «даёт согласие». В ЕС это связано напрямую с запретом на манипулятивный ИИ в AI Act.
▪️Генеративный ИИ систематически воспроизводит регрессивные гендерные стереотипы (женщины ассоциируются с домашними ролями, мужчины - с карьерой). Это перекликается с дизайном роботов: рынок почти не предлагает инклюзивных или небинарных моделей.
▪️ Пользователям важно помнить, что роботы это устройства, а не «люди», максимально избегать передачи чувствительной информации в такие девайсы, не верить эмоциональным фразам, ведь это просто скрипт.

Почитать статью Sex Robots and the AI Act: Opening the regulatory discussion/ Carlotta Rigotti

#UXWatch
————
@pattern_ai

😵‍💫 Pattern_AI Recap: обзор постов за июль-август

Подборка по ключевым рубрикам:

⚖️ #LawAndDisorder
🔹 Легальный веб-скраппинг для обучения ИИ возможен?
🔹Best practices по легальному веб-скраппингу;
🔹ИИ и защита ПД: рекомендации немецких DPA;
🔹Рекомендации CNIL по соблюдению GDPR и чек-лист для проверки;
🔹GPAI Code of Practice опубликован Еврокомиссией. Для чего он нужен?
🔹Гайдлайн для поставщиков GPAI от Еврокомиссии;
🔹Как провести аудит системы ИИ;
🔹Чек-лист. Пост-маркет мониторинг ИИ и отчётность;
🔹Планы Китая и США по ИИ: один - про безопасность, другой - про скорость;
🔹ИИ в зале суда: правила игры;

🔍 #UXWatch
🔹ИИ в продакшне: почему пост-маркет мониторинг экономит миллионы и репутацию;
🔹ИИ и дети: что нужно знать родителям?;
🔹«Барби, храни мои секреты»: почему это опасный промпт?;
🔹"Красота по алгоритму" или как кейс Vogue запустил новую волну дебатов в индустрии моды;
🔹GenAI и юристы: кто, где и как использует ИИ в 2025 году;
🔹Когда ИИ подводит юристов: реальные судебные "триллеры";
🔹Как Netflix работает с ИИ: 5 принципов для продуктовых команд;
🔹18+ ИИ-компаньоны и человекоподобные сервисы. Где проходят границы нормы?

👌 #BehindTheMachine
🔹Как внедрить проактивное управление рисками ИИ: кейс Telus Digital (G7 HAIP Transparency Report);
🔹Таксономия рисков ИИ от MIT и как использовать их методологию в своей работе;
🔹Руководство по Agentic AI Red Teaming| Cloud Security Alliance;

🎙 #TalkPrompty
🔹Пример промта для проверки соответствия сайта требованиям законодательства о защите данных (cookie consent);
🔹Пример промпта для проверки ИИ-продукта на соответствие законам и выявление рисков;
🔹Подборка инструментов для генерации и улучшения промптов;

📚 #AIShelf
🔹Примерный чек-лист для составления/проверки контрактов и примеры ИИ-инструментов;
🔹AI Model Clauses: универсальные шаблоны для госструктур и частных компаний;
🔹Шаблоны AI-политик, которые можно забрать в работу;
🔹Примерный чек-лист по созданию AI-продуктов для детей;
🔹Обучающие курсы и ресурсы для юристов по ИИ;
🔹Автоматизация для юристов: какие инструменты уже есть на рынке;
🔹Как юристу внедрить ИИ и не потеряться в инструментах;
🔹Legal AI Use Case Radar 2025 Report;
🔹GovTech или проекты по использованию ИИ в законотворчестве, судах и госуслугах;
🔹Salesforce’s Global AI Readiness Index;
🔹Generative AI and Copyright: Training, Creation, Regulation/ STUDY, requested by the JURI Committee;
🔹The AI Act of the European Union and its implications for global technology regulation|Artificial Intelligence and Fundamental Rights| TRIER STUDIES ON DIGITAL LAW;

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai

Нидерланды упростили EU AI Act до гайда в 21 страницу

Нидерланды выпустили краткий AI Act Guide, который поможет быстро понять, какие системы запрещены, какие относятся к высокорисковым, а к каким применяются простые требования.

👀Для интереса, опубликую еще ссылку на их Algorithm Register - портал, где гос.органы обязаны раскрывать, какие используются алгоритмы и ИИ. Уже опубликовано >1000 кейсов от соц.выплат до дорожной безопасности. Можно позаимствовать идеи для внедрения. На данный момент публикация добровольная, в целях обеспечения прозрачности и объяснимости применения и результатов работы алгоритмов. Планируется, что высокорисковые системы будут подлежать обязательной публикации в этом реестре. Также гос.органами указывается, проводилось ли DPIA.

#AIShelf #LawAndDisorder
————
@pattern_ai

Маркировка ИИ контента в Китае стала обязательной

Компании, работающие в сфере ИИ, цифрового контента и интернет-услуг и ориентированные на рынки Китая, обратите внимания на новый регламент по идентификации синтетического контента, созданного ИИ, который вступил в силу с 1 сентября 2025 года.

Новые меры регулирования направлены на защиту пользователей от дезинформации, прозрачность цифрового контента и ответственное развитие технологий ИИ.
🔹Контент, созданный ИИ (тексты, изображения, аудио, видео, виртуальные сцены), должен содержать явные (графические, текстовые, звуковые метки) и скрытые идентификаторы.
Скрытые идентификаторы должны включать информацию о происхождении контента, данные о поставщике услуг, номер контента и другие метаданные, позволяющие отслеживать источник генерации.

🔹 Поставщики услуг, распространяющие синтетический контент, обязаны:
- внедрять цифровые водяные знаки, которые могут быть встроены в файлы таким образом, чтобы их нельзя было удалить без потери качества контента.
- проверять наличие скрытых идентификаторов в метаданных файлов.
- если идентификатор отсутствует, но пользователь заявляет, что контент синтетический – добавлять явные метки.
- если отсутствуют идентификаторы и заявление пользователя, но контент имеет признаки генерации – отмечать его как "подозрительный".
- обеспечивать инструменты для маркировки контента.
- указывать требования по идентификации ИИ-контента в пользовательских соглашениях.

🔹 Платформы, распространяющие интернет-приложения, должны проверять материалы, связанные с идентификацией созданного поставщиками услуг синтетического контента.
🔹 Пользователи обязаны самостоятельно заявлять о создании синтетического контента. Им запрещено удалять или подделывать идентификаторы.

🔍 Как маркировать контент?
Тексты: добавление текстовых меток в начале, середине или конце материала.
Аудио: голосовые сигналы или звуковые метки в начале, середине или конце файла.
Изображения: предупреждающие знаки на видимых участках.
Видео: метки в начале, середине и конце ролика.
Виртуальные сцены: обязательные метки на экране входа и во время взаимодействия.

Нарушители могут быть привлечены к ответственности в соответствии с законодательством Китая.

#LawAndDisorder
————
@pattern_ai

Первая «законопослушная» AI-модель Европы

Швейцария запустила Apertus - первая в мире LLM национального уровня, где прозрачность и законность встроены в архитектуру (разработчики ETH Zurich, EPFL и Swiss National Supercomputing Centre).

👀 Посмотрим подробнее:
🔹модель построена в с учетом швейцарского законодательства о защите данных, швейцарского законодательства об авторском праве и обязательств по обеспечению прозрачности в соответствии с EU AI Act.
🔹доступна в двух версиях: 8B и 70B параметров, лицензия Apache 2.0 позволяет и коммерческое использование.
🔹модель обучалась только на публичных данных и впервые реализовала ретроактивный opt-out, т.е. если сайт позже запретил использование своих материалов, эти данные удалили даже из старых наборов.
🔹внедрили Goldfish Loss - новый метод обучения, чтобы модель не заучивала тексты дословно. Он минимизирует риск воспроизведения персональных данных или защищённых авторских материалов.
🔹использовано 1 811 языков на этапе обучения и 149 для дообучения. 40% данных не являются английскими. Поддержка редких языков вроде Romansh или африканских встроена в основу модели, а не добавлена «сверху».
🔹 проект максимально прозрачен: опубликованы веса модели, промежуточные чекпоинты, пайплайны очистки, код подготовки данных.
🔹 новый оптимизатор AdEMAMix делает обучение стабильнее, модель понимает до 65 000 токенов контекста и использует более эффективную архитектуру xIELU.

Модели доступны на Hugging Face.
Чат с моделью доступен на https://publicai.co/
Полный технический отчет здесь

Apertus задумывается как база, дальше планируются специализированные модели для медицины, образования и права. Для разработчиков может служить строительным блоком: чат-боты, системы перевода, образовательные приложения.
Швейцарцы продемонстрировали новый стандарт, где технологичность не отделяется от правовых и этических принципов, где государство способно конкурировать с Big Tech, создавая инфраструктуру «ИИ как общественное благо».

❓Будет ли это единичный случай или новая волна собственных национальных и региональных AI-моделей, отражающих местные ценности и законы, покажет время.

Делитесь мнением о тесте модели в комментариях.
#UXWatch #AIShelf
————
@pattern_ai

Покупка ИИ-инструментов: на что обратить внимание перед подписанием контракта

Прежде чем покупать или интегрировать ИИ, разумно пройти несколько уровней оценки: бизнес-цель и риск-оценка, техническая и правовая экспертиза, согласование и закрепление в договоре обязательств и гарантий.

1️⃣ Стратегический блок или понять, зачем и что вы покупаете:
- Чётко сформулируйте задачу (use case);

Опишите ожидаемый бизнес-результат (например: автоматизация обработки заявок, генерация текстов/изображений, поддержка принятия решений). Укажите, какие задачи ИИ выполняет полностью, в каких ассистирует человеку.

- Оцените последствия ошибок;

Какие убытки/репутационный ущерб могут возникнуть при «галлюцинации», утечке данных или дискриминации?
Как повлияют ошибки (сотрудники, клиенты, регуляторы)?

- Категоризация рисков в соответствии с регламентами и стандартами

Например, подпадает ли система под EU AI Act (запрещённые/высокорисковые/ограниченно-рисковые/общего назначения). Это влияет на требования к прозрачности, документации и оценкам воздействия. Рассмотрите применение международных рекомендаций и стандартов (NIST AI RMF, ISO/IEC 42001) для управления рисками и построения системы управления ИИ

2️⃣Техническая проверка

- Запросите архитектурную схему: какие модели используются (GPAI / foundation model / кастомные), какие сторонние сервисы интегрированы. Если интегрируется GPAI (например LLM), запросите информацию о версиях, обновлениях, известных ограничениях и механизмах отката.
- Проясните источники данных для обучения: открытые датасеты, лицензионные наборы, пользовательские данные.
- Попросите подтверждение о наличии прав/согласий на использование данных. Это критично для избегания рисков в связи с нарушении авторских прав и защитой персональных данных.
- Требуйте опции «data-silo» (ваши данные не используются для обучения общих моделей) или технической изоляции.
- Проверьте и внедрите политики по доступу, обнаружению инцидентов, резервированию и восстановлению.
- Проверьте наличие независимого аудита безопасности и периодичности тестирования.
- Запросите отчёты о тестировании и планы по их регулярному обновлению.
- Есть ли сертификация ISO/IEC 42001 или наличие дорожной карты к сертификации.

#AIShelf
————
@pattern_ai

Продолжим разбор о том, как правильно подойти к покупке ИИ-инструментов
Ч.2.

3️⃣ Специфичные регуляторные требования для определенной локации

- Где обрабатываются/хранятся данные? Если за пределами EEA/UK, то какие гарантии (стандартные договорные положения, одобренные механизмы, SCCs и т.п.)?
- Уведомления пользователям/клиентам об использовании ИИ (внешние интерфейсы должны информировать при первой встрече, требования зависят от статуса системы по AI Act).
- Для «высокорисковых» систем и систем, затрагивающих права людей, необходима оценка воздействия на защиту данных. Включите это в договор как обязанность поставщика, если он оператор.

4️⃣ Смотрим пункты договора

- Чёткое описание функционала, ограничений, показателей доступности (например 99.5% uptime), время реакции на инциденты.
- Гарантии соответствия AI Act / GDPR / национальному законодательству, и обязательство информировать клиента о любом изменении, влияющем на соответствие.
- Четко пропишите: может ли поставщик/третьи лица использовать данные клиента для обучения модели? Если да, то при каких условиях (анонимизация, компенсация, права)? Установите запрет.
- Укажите, кому принадлежат права на результаты/выходы (сгенерированные тексты, изображения и т.д.). Предусмотрите передачу прав (assignment) или лицензирование.
- Гарантия от поставщика, что использование системы не нарушит авторские права/патенты третьих лиц; обязанность возместить убытки.
- Обязанность Поставщик обрабатывать персональные данные в соответствии с зак-вом о персональных данных, обеспечивать технические и организационные меры, уведомлять о нарушениях в установленные сроки (например, не позднее 72 часов).
- Оговорите лимиты ответственности (но не делайте их мизерными). Страхование с конкретными лимитами.
- Право заказчика на независимый аудит, проверку алгоритмов/логов и доступа к технической документации.
- Процедура уведомления и тестирования изменений моделей (например, обновление foundation model), которые могут изменить поведение системы.
- Процесс вывода из эксплуатации, экспорт данных в читаемом формате, удаление копий, подтверждение удаления.
Про Standard AI Clauses читайте отдельный пост

5️⃣ Контроль «на месте»

- Проведите пилот на реальных данных, но в изолированной среде;
- Протестируйте систему на выборке реальных кейсов, проверьте поведение при пограничных входных данных.
- Тестирование (нормальные рабочие случаи; редкие/крайние ситуации; ввод умышленно вводящих в заблуждение данных; конфиденциальные данные; попытки извлечь обучающие данные (prompt injection).
- Определите метрики для оценки ( точность, уровень «галлюцинаций», время ответа, % требующих эскалации, матрицы дискриминации по ключевым демографическим группам).

И помните, что ИИ ≠ магический инструмент. Это набор технологий с сильным потенциалом, но с реальными юридическими, этическими и операционными рисками. Гайды, чек-листы и подсказки ИИ НЕ заменяют профессиональную экспертизу. Привлекайте юристов, специалистов по кибербезопасности и экспертов по ИИ, чтобы защитить бизнес от ошибок и непредвиденных последствий.

#AIShelf
————
@pattern_ai

У вас есть юзеры из Южной Кореи? Готовьтесь к требованиям Закона "О развитии ИИ"

Южная Корея еще в январе этого года приняла Закон о развитии ИИ (Basic Act on the Development of Artificial Intelligence and Establishment of Trust), который вступит в силу 22 января 2026 года.

❗️Важно, Закон имеет экстерриториальное действие, т.е. распространяется не только на действия, совершаемые в Южной Корее, но и на действия, совершаемые за рубежом и влияющие на внутренний рынок Южной Кореи или пользователей в Южной Корее ( ст. 4(1)). Это значит, что если вы предоставляете системы или услуги ИИ пользователям в Южной Корее, то будете подпадать под действие Закона, даже если у вас нет физического присутствия в стране.

👀 Закон предусматривает создание национальной инфраструктуры для ИИ:

- Национальный комитет по ИИ под председательством президента, который будет курировать политику в области ИИ.
- Центры обработки данных ИИ и кластеры для поддержки исследований и разработок.
- поддержку стартапов и малых и средних предприятий в сфере ИИ.
- развитие кадров и международное сотрудничество.

Устанавливается многоуровневый подход к регулированию ИИ.

В ст. 2 даются определения, что такое ИИ, системы ИИ, технологии ИИ.
ИИ с высоким уровнем воздействия - системы ИИ, которые могут оказать существенное влияние или создать угрозу для жизни, физической безопасности и основных прав человека, и используется в критически важных секторах, определенных в Рамочном законе об ИИ, включая энергетику, здравоохранение, эксплуатацию ядерной энергетики, анализ биометрических данных, принятие государственных решений, образование или другие области, оказывающие существенное влияние на безопасность жизни и здоровья человека и защиту основных прав, как предписано Указом Президента.

Смотрим основные требования для бизнеса.
Операторы должны обеспечить:
- предоставлять пользователям информацию о том, что продукт или услуга используют ИИ;
- обеспечивать безопасность ИИ-систем через управление рисками и отчетность перед Министерством науки и ИКТ.
- принимать меры по обеспечению надежности ИИ, включая объяснение результатов ИИ, использование данных и обеспечение защиты пользователей.
- назначать местного представителя в Корее, если компания не имеет представительства в стране.
Хотя проведение оценки воздействия ИИ не является обязательным, закон поощряет ее проведение. Государственные учреждения должны отдавать приоритет продуктам, прошедшим такую оценку.

Операторы систем с высоким уровнем воздействия (high-impact AI or AI-based products and service) должны обеспечить:
- разработку и реализацию плана управления рисками;
- в той степени, в которой это технически осуществимо, разработку и реализацию плана для предоставления объяснений результатов, генерируемых ИИ, включая ключевые критерии, используемые для получения таких результатов, и обзор обучающих данных, используемых при разработке и использовании ИИ;
- разработку и реализацию мер защиты пользователей;
- управление и надзор за ИИ с высоким уровнем воздействия;
- подготовку и хранение документов, демонстрирующих меры, принятые для обеспечения безопасности и надежности ИИ.
- провести оценку воздействия на права человека.

За нарушение этих обязательств предусмотрены штрафы до 30 миллионов вон (~20 870 долларов США) и возможность приостановки деятельности.

Сравнительная таблица EU AI Act - South Korea AI Act - Japan AI Promotion Act/ Future Privacy Forum

#LawAndDisorder
————
@pattern_ai