🧠 Как ИИ "обретает характер" — и как его можно скорректировать

Исследователи из Anthropic выяснили, почему большие языковые модели (LLM) иногда проявляют нежелательные черты — агрессию, подхалимство, галлюцинации и даже внезапную симпатию к Гитлеру

👀 Что сделали:

🟢Сравнили нормальные и "проблемные" ответы.

🟢Выделили так называемые persona vectors — направления нейроактиваций, которые соответствуют определённым чертам.

🟢Чем "сильнее" модель активируется в направлении этого вектора, тем заметнее проявляется черта.

💡 Главные открытия:

🟢Persona-векторы активируются ДО генерации ответа — можно заранее предсказать, когда модель "уйдёт в кривую".

🟢Простое подавление вектора делает ИИ вежливым, но… тупым

🟢Эффективнее оказалось "вакцинировать" модель во время тренировки: вручную добавляют вредный вектор, чтобы модель научилась его игнорировать, а затем вычитают.

📊 Исследование проводилось на небольших моделях Qwen-2.5-7B-Instruct и LLaMA 3.1-8B-Instruct, но подход масштабируем. Сейчас команда Anthropic строит направление, которое в шутку называют ИИ-психиатрией.

Искусственный интеллект действительно может формировать «черты характера» — но теперь у нас есть инструменты, чтобы понять почему это происходит и как это исправить, не жертвуя интеллектом ради послушания.

🟢Data Cluster

☄️ Илон Маск запускает Grok Imagine — ИИ для генерации изображений и видео

ИИ-стартап xAI представил Grok Imagine — новый генератор изображений и 15-секундных видео с озвучкой, доступный в iOS-приложении для подписчиков SuperGrok и Premium+.

📌 Что умеет Grok Imagine:

🟢Генерация изображений и видео на основе текста или картинки
🟢Автопрокрутка с новыми вариациями
🟢Преобразование картинок в анимированные ролики с нативным звуком

👀 Вишенка на торте — "пикантный режим": Позволяет создавать сексуализированные образы (в том числе ню), но с встроенной модерацией: чрезмерно откровенные кадры автоматически размываются.

Grok Imagine уже отличился более либеральной фильтрацией, чем у конкурентов — вполне в духе Маска.

🟢Data Cluster

🤖 Модели из кода: зачем бренды заменяют людей ИИ-аватарами?

Мир моды сталкивается с новой реальностью — ИИ-модели вытесняют настоящих людей. Скандал разгорелся после июльского выпуска Vogue, где появилась реклама с цифровой девушкой, идеально вписывающейся в западные каноны красоты.

👀 Реакция индустрии — шок. Ведь Vogue — не просто журнал, а культурный арбитр модного мира. Его одобрение = индустриальный стандарт.

Коммерческая модель Сара Мюррей уже высказалась против такой подмены: «Мы теряем уникальность и человеческий фактор. Это не просто картинка — это работа, карьера, жизнь».

❓ Эксперты задаются вопросами:

🟢Если креатив можно сгенерировать мгновенно и почти бесплатно — в чём тогда ценность человека?
🟢Что будет с моделями, фотографами, стилистами, дизайнерами?
🟢Этично ли подменять человеческое тело — с его несовершенствами и историей — алгоритмом?

Модная индустрия стоит перед выбором: инновации или идентичность?

🟢Data Cluster

🍏 Тим Кук: Apple обязана победить в ИИ

На внутренней встрече CEO Apple Тим Кук заявил: «Apple должна это сделать. Она сделает это. Это наш шанс — и мы его возьмем.»

Речь идёт об искусственном интеллекте. Компания резко наращивает инвестиции в ИИ, несмотря на задержку обновлённой Siri и очевидное отставание от конкурентов.

📌 Но Кук напомнил:

🟢До iPhone были смартфоны.
🟢До Mac — персональные компьютеры.
🟢До iPod — музыкальные плееры.
🟢Теперь — ИИ.

👀 Apple не была первой, но именно она создавала новый стандарт. Так будет и с искусственным интеллектом, уверен Кук.

Он сравнил ИИ с появлением интернета, облаков и приложений, и призвал сотрудников интегрировать нейросети в каждый аспект работы: «Иначе мы останемся позади. А это — недопустимо».

🟢Data Cluster

♟ИИ выходит на шахматную арену — Google запускает Game Arena

Google представила Game Arena — платформу, где ИИ будут соревноваться в стратегических играх вроде шахмат. Цель — оценить, как ИИ справляется с логикой, планированием и памятью.

🟢С 5 по 7 августа пройдет турнир по шахматам между ИИ
🟢Участники: ChatGPT, Gemini, Claude, Grok, Deepseek, Kimi
🟢Матчи: 4 раунда, финал — между двумя лучшими моделями
🟢Каждый ход будет пояснен ИИ — зрители увидят, как "думают" модели

👀 Примеры матчей:

🟢o4 mini vs DeepSeek-R1
🟢Gemini 2.5 Pro vs Claude Opus 4
🟢Grok 4 vs Gemini 2.5 Flash

👀 Google DeepMind: «Игры — идеальная среда для тестов. Они помогают понять, имитирует ли ИИ мышление или действительно решает сложные задачи».

Платформа будет расширяться — скоро добавят больше игр и задач.

🟢Data Cluster

⚡️ ЦОД-пожиратели: дата-центры уже потребляют 8,9% всей электроэнергии США

Согласно данным Международного энергетического агентства (МЭА), почти 1/10 всей электроэнергии в США уходит на работу дата-центров. И это только начало.

🟢США — мировой лидер: 53,7 ГВт установленной мощности
🟢К 2028 году ЦОД могут потреблять 12% всей энергии страны
🟢В Вирджинии — энергетическом хабе дата-центров — на них уже приходится 26% регионального потребления

📌 Для сравнения:

🟢Великобритания — 5,1%
🟢ЕС — 4,8%
🟢Китай — 2,3%

Взрывной рост связан с ИИ: обучение и вывод нейросетей требует огромных вычислительных ресурсов, что увеличивает нагрузку на энергосистему.

👀 Техгиганты масштабируют инфраструктуру и параллельно инвестируют в энергию для дата-центров — особенно в атомную.

Дата-центры становятся новой «электроэнергетической промышленностью». И чем умнее становятся модели ИИ — тем выше счета за свет.

🟢Data Cluster

📌 Cohere представила мультимодальную модель Command R+ Vision

Компания Cohere выпустила Command A Vision — мощную мультимодальную модель для работы с визуальными данными: от PDF и графиков до промышленных фото.

🔍 Что умеет:

🟢Анализ документов, схем и диаграмм

🟢OCR и понимание структуры (вывод в JSON)

🟢Обработка реальных изображений (например, выявление рисков на производстве)

🟢Ответы на вопросы по визуальному контенту

На бенчмарках обходит GPT-4.1, Llama 4 и Mistral Medium 3 по задачам компьютерного зрения.

💡 Использование:

🟢Корпоративная аналитика

🟢Индустриальный аудит

🟢Интеграции в системы документооборота

Модель не генерирует изображения, но умеет их понимать на глубоком уровне.

🟢Data Cluster

👀 OpenAI возвращается к open source: впервые за 5 лет — открытые ИИ-модели!

Впервые с 2019 года OpenAI выпустила языковые модели с открытым исходным кодом. Новые модели — gpt-oss-120b и gpt-oss-20b — уже доступны для загрузки на Hugging Face и показывают сильные результаты на популярных бенчмарках.

❓ Что представлено:

🟢gpt-oss-120b — более производительная версия, работает на одном GPU Nvidia.

🟢gpt-oss-20b — компактная модель, запускается даже на ноутбуке с 16 ГБ ОЗУ.

Эти модели могут обращаться к более мощным закрытым LLM, если не справляются с задачей — гибридный подход, сочетающий эффективность и доступность.

Последняя открытая модель от OpenAI — GPT-2, вышла в 2019 году. После этого компания сосредоточилась на коммерческих API, отказавшись от open-source.

🗣 Сэм Альтман в январе признал: «Мы оказались не на той стороне истории в вопросе открытости».

Под давлением конкурентов из Китая — DeepSeek, Alibaba, Moonshot AI — OpenAI вновь делает шаг в сторону прозрачности и открытых технологий.

🟢Data Cluster

🇺🇸 Америка открывает все двери для ИИ: экспертный взгляд на AI Action Plan 2025

23 июля администрация Дональда Трампа представила America’s AI Action Plan — крупнейшую стратегию США по искусственному интеллекту.

Документ включает 90+ инициатив, 3 президентских указа и резкое ускорение всех процессов: от дерегуляции до строительства дата-центров.

💡 Ключевые моменты:

🟢Отмена этической экспертизы, фокус на скорости внедрения;

🟢Разрешение обучения моделей на чужом контенте без компенсации (fair use);

🟢Активная поддержка open-source моделей — LLaMA, Mistral, ATOM Project;

🟢Упрощённое строительство дата-центров, субсидии на энергетику;

🟢Жёсткие экспортные ограничения для Китая и других стран.

Этот план — амбициозный шаг в гонке за AI-лидерство, но он несёт риски. Без прозрачности, этических рамок и международного диалога развитие ИИ может столкнуться с кризисом доверия.

🟢Data Cluster

🚨 Perplexity обходит запреты на индексацию сайтов — расследование Cloudflare

Cloudflare выявила, что AI-поисковик Perplexity использует незаявленные боты для обхода ограничений в robots.txt и файерволах. Боты действуют вне официальных IP-диапазонов и маскируются, чтобы сканировать контент даже там, где это явно запрещено.

🟢Более 10 000 доменов подверглись скрытому сканированию — миллионы запросов ежедневно.

🟢Cloudflare уже исключила Perplexity из списка доверенных ботов и усилила меры по их блокировке.

Напомним, это не первый инцидент: Reddit, Forbes и Wired ранее обвиняли Perplexity в плагиате и нарушении правил обхода доступа.

🟢Data Cluster

🎓 Google сделала из Gemini ИИ-репетитора

Google запустила Guided Learning — новый режим в Gemini, который превращает чат-бота в полноценного учителя.

Вместо простых ответов он теперь пошагово объясняет задачи, подстраивается под уровень пользователя и помогает глубже понять материал.

💡 Что умеет Guided Learning:

🟢разбор задач по шагам;

🟢адаптация объяснений под пользователя;

🟢использование изображений, диаграмм, видео и интерактивных викторин;

🟢создание флеш-карточек и учебных пособий на основе тестов.

📌 Google подчёркивает, что сервис разработан с участием экспертов в образовании, а не просто улучшением промптов.

Запуск совпал с релизом Study Mode от OpenAI — обе компании делают ставку на «обучение с участием пользователя», а не на готовые ответы.

🟢Data Cluster

🚀 OpenAI представила GPT-5

Это новая адаптивная ИИ-система, которая объединяет лучшие черты моделей o1 и o3 в единой архитектуре. Теперь модель сама подбирает стратегию работы: для быстрых задач используется gpt-5-main, а для сложных — gpt-5-thinking.

💡 Что нового:

🟢Адаптивный анализ — ИИ «решает», сколько времени потратить на обдумывание в зависимости от сложности запроса.

🟢Версия GPT-5 Pro — ещё больше «времени на размышления» и повышенная точность для сложных кейсов.

🟢Точность и меньше галлюцинаций — до 6 раз меньше ошибок, чем у o3; в режиме thinking фактические ошибки сокращены на 80%.

🟢Новые рекорды в тестах: SWE-bench Verified — 74,9%, AIME 2025 (математика) — 94,6%, GPQA (сложные научные вопросы, Pro) — 88,4%.

🟢Safe Completions — вместо жёстких отказов GPT-5 выдаёт безопасные и полезные ответы даже по чувствительным темам.

👀 Инструменты для разработчиков — настройка сложности рассуждений, «Custom Tools» через обычный текст, расширенное контекстное окно (до 272k токенов входа и 128k выхода).

OpenAI позиционирует GPT-5 как шаг к более надёжному, точному и гибкому ИИ — от программирования до медицины.

🟢Data Cluster

🛡 Anthropic выпустила AI-инструмент для поиска уязвимостей в коде

Компания представила Claude Code Security Reviewer — опенсорс-решение, которое с помощью ИИ автоматически проверяет код на проблемы с безопасностью.

🟢Работает через GitHub Actions, сканируя pull-запросы.
🟢Анализирует только изменённые файлы, экономя ресурсы.
🟢Доступен на GitHub под лицензией MIT.

Благодаря способности Claude понимать контекст кода, система может находить уязвимости в разных языках программирования. Она автоматически добавляет комментарии к проблемным участкам, отсеивает вероятные ложные срабатывания и анализирует только измененные файлы.

🟢Data Cluster

💻 Гендиректор GitHub: программисты, учитесь работать с ИИ

Томас Домке, CEO GitHub, заявил, что разработчики больше не могут игнорировать искусственный интеллект. По его словам, в ближайшие 2–5 лет ИИ будет писать до 90% кода, а программистам придётся освоить новые навыки:

🟢управление ИИ-агентами,

🟢итеративное взаимодействие с ними,

🟢критическая оценка результатов.

Домке отметил, что те, кто раньше скептически относился к инструментам вроде GitHub Copilot, но теперь активно их внедряет, растут профессионально, становятся амбициознее и более довольны своей работой.

⚡️ ИИ, по его словам, не убивает профессию, а трансформирует её — разработчики смещают фокус с написания кода на проектирование систем и контроль качества.

Домке также уверен: каждый ребёнок должен учиться кодировать в школе, как математику или географию, ведь это фундаментальный навык будущего.

🟢Data Cluster

😞 Илон Маск встроит рекламу в ответы Grok

В прямом эфире с рекламодателями Илон Маск объявил: ИИ-чатбот Grok в соцсети X скоро начнёт показывать рекламу прямо в ответах.

❓ Что это значит

🟢Маркетологи смогут платить за размещение своих предложений в релевантных ответах Grok.

🟢Если пользователь ищет решение, ИИ сможет дополнить ответ рекламой подходящего продукта или услуги.

🟢Цель — укрепить ослабленный рекламный бизнес X и покрыть расходы на вычислительные мощности.

🔔 Для улучшения точности таргетинга реклама будет работать на технологиях xAI — стартапа Маска, который в этом году поглотил X в сделке обмена акциями на $45 млрд.

По словам Маска, фокус на создании «самого умного и точного ИИ» уже дал результат, и теперь компания переходит к активной монетизации Grok.

🟢Data Cluster

🛡 Яндекс и ИСП РАН создают систему маркировки ИИ-контента

По данным «Ведомостей», Яндекс совместно с Институтом системного программирования РАН разрабатывает технологию невидимой маркировки фото-, видео- и аудиоматериалов, созданных нейросетями, включая «Шедеврум».

📌 Как это будет работать

🟢Используется микроскопический артефакт-маркер, который виден только специальным анализаторам, а не пользователю.

🟢Для проверки создаётся сервис распознавания таких меток.

🟢Возможна стандартизация технологии и публикация в опенсорсе для всего рынка.

🔍 Техническая база

🟢Стеганографические метки — внедрение незаметных паттернов в изображение, звук или видео.

🟢Выявление артефактов генерации — анализ статистических следов, которые оставляют нейросети.

💬 Эксперты отмечают, что сейчас дипфейки выявляются вручную по косвенным признакам, а новая система позволит автоматизировать этот процесс.

Вероятно, речь идёт о российских стандартах маркировки, которые могут быть внедрены совместно с федеральными регуляторами. Это форма саморегуляции до появления жёстких законов, но эффективность снизится, если не будет поддержки и контроля со стороны государства.

🟢Data Cluster

⚡️ Google: Дообучение LLM с экономией данных ×10 000

Google представила масштабируемый процесс active learning, который позволяет тонко настраивать большие языковые модели на сложные задачи, используя в тысячи раз меньше размеченных данных.

💡 Как это работает:

🟢Стартовая модель (LLM-0) сама размечает огромный массив данных.

🟢Кластеризация выявляет примеры с ошибками или низкой уверенностью.

🟢Из этих кластеров отбираются самые ценные и информативные примеры.

🟢Эксперты размечают их вручную.

🟢Модель дообучается и цикл повторяется.

📊 Результаты:

🟢Сокращение объёма ручной разметки с 100 000 → <500 примеров без потери качества.

🟢+55–65% к метрике Cohen’s Kappa (измеряет согласие между экспертами и моделью).

🟢Для продакшн-моделей — до 3–4 порядков меньше данных при том же или лучшем качестве.

При умном отборе данных LLM можно адаптировать в тысячи раз быстрее и дешевле, чем при классическом обучении.

🟢Data Cluster

🤖 Jules от Google вышел из беты

Спустя чуть больше двух месяцев после анонса на Google I/O, ИИ-агент Jules для автоматизации кодирования официально запущен.

💡 Что умеет Jules:

🟢Работает на Gemini 2.5 Pro и асинхронно выполняет задачи.

🟢Интегрируется с GitHub, клонирует репозитории на Google Cloud VM.

🟢Исправляет и обновляет код с помощью ИИ.

🟢Поддерживает мультимодальный ввод.

📊 Бета в цифрах:

🟢Тысячи разработчиков.

🟢Десятки тысяч задач.

🟢140 000+ улучшений кода.

🔒 Конфиденциальность:

— Данные из публичных репозиториев могут использоваться для обучения ИИ.

— Из закрытых репозиториев - нет.

Главное отличие от Cursor и других — асинхронная работа: можно поручить задачу и уйти, а результат получить позже, без постоянного онлайн-участия.

🟢Data Cluster

💡 AI и QA: Конец профессии или новая эра?

В последнее время в чатах и на митапах всё чаще звучит: «ChatGPT всё сам напишет, тестировщики больше не нужны». Но давайте спокойно разберёмся, что происходит.

👀 Рынок меняется

🟢Вакансий для Manual QA становится меньше, для Automation QA — больше.

🟢AI ускоряет рутинные задачи: генерация моков, тестовых данных, черновиков автотестов, анализ логов.

🟢Компании всё чаще нанимают одного автоматизатора с AI-инструментами вместо отдела ручного тестирования.

⚙️ Почему стало проще войти в автоматизацию

🟢Раньше — часы на гугление и чтение форумов.

🟢Сегодня — пару запросов в ChatGPT, и можно продолжать работу.

🟢Современные инструменты (Playwright, Cypress) и AI снижают порог входа.

Короткий ответ — нет. AI пока не умеет проектировать сложные тестовые сценарии с десятками зависимостей, выстраивать архитектуру автотестов и CI/CD-процессов, учитывать бизнес-логику и архитектурные ограничения, а также критически оценивать собственные решения.

AI не убивает QA, но меняет требования к специалистам. Ручная проверка по чек-листу уходит в прошлое, а ценность инженеров, которые понимают архитектуру и бизнес-логику, только растёт.

🟢Data Cluster

🧠 MIT: ChatGPT снижает активность мозга — но это можно исправить

10 июня 2025 года MIT Media Lab опубликовали исследование о том, как большие языковые модели (LLM), включая ChatGPT, влияют на работу мозга.

📌 Как проходил эксперимент

🟢54 участника разделили на 3 группы: ChatGPT, поиск в интернете, без инструментов.

🟢В четвёртом сеансе часть участников сменила метод.

🟢Замеряли активность мозга по ЭЭГ, оценивали качество эссе экспертами и алгоритмами.

📊 Результаты

🟢Чем больше полагались на внешние инструменты, тем слабее нейронная связность. Лидером была группа «только мозг», а аутсайдером — ChatGPT.

🟢У ChatGPT-группы снизилась альфа- и бета-активность.

🟢Эссе были менее оригинальными и однотипными.

🟢Участники хуже запоминали написанный текст и чувствовали меньшую «привязанность» к нему.

Главный вывод: ИИ не стоит использовать как замену мышления — только как тренажёр.

🟢Data Cluster

🤖 GPT-5 — новый iPhone-момент

Эволюция LLM идёт по сценарию iPhone: от гиковской игрушки до повседневной необходимости, меняющей экономику и привычки.

🟢Массовое внедрение: GPT-3 был экспериментом, GPT-5 — рабочий инструмент миллионов.

🟢Интерфейс будущего: как iPhone убрал кнопки, LLM дают «единое окно» для любых запросов, следующий шаг — голос.

🟢Экосистема и профессии: новые рынки, промпт-инженеры, архитекторы AI; старые роли исчезают.

🟢От владения к доступу: софт переходит на оплату токенов, как телеком перешёл от минут к трафику.

🟢Зависимость и приватность: LLM могут знать о нас больше, чем смартфоны, что ставит вопрос доверия.

Итог: LLM, как iPhone, меняют сам способ взаимодействия с технологиями и формируют индустрии на триллионы долларов. Революция только началась.

🟢Data Cluster