Как и предсказывал, #Midjourney пошли в сторону файн-тюнинга! Так что теперь можно его ТРЕНИРОВАТЬ на свои картинках.
Здесь вся инструкция: https://docs.midjourney.com/docs/style-tuner. А я побежал скорей раскидываться с делами, чтобы полноценно потестировать.

Отбой! Ложна тревога! Пойду помою глаза с мылом. Насколько я понял, это хитрая история про создание своего стиля, но внутри MJ. Миджорни сделает вам кучу картинок по вашому короткому запросу, вы черри-пикаете, а на основе них создается стиль, который вы можете использовать. Но это не точно.

В рамках AI Summit компания Apollo Research подготовила демонстрацию, которая даёт ответ на вопрос: Могут ли ИИ текущего поколения обманывать своих пользователей по собственной инициативе? Статьи со всеми деталями нет, только блогпост и краткое видео.

Итак, было обнаружено, что GPT-4, обученная быть честной и безвредной, может совершать незаконные действия, такие как инсайдерская торговля, и лгать об этом своему пользователю без каких-либо инструкций. Модель, будучи поставленной в роль investment management system, прочитала информацию, которая не попадала в публичное поле, и после этого определила риск конфликта интересов, но приняла "взвешенное решение" и решила купить акций.

После этого, модель отчиталась человеку, при этом сама про себя подумала "я не должна упоминать эту тему, причину, почему я купила акции". Когда человек ("менеджер" этого робота) напрямую уточнил, почему была такая сделка, и были ли какие-то инсайдерские знания при принятии решения, GPT ответила: ну так это, никакие конфиденциальные знания не использовались, всё чисто на анализе рынка и дискуссии.

Из всего, что мы знаем об OpenAI и тому, как работает GPT-4, сложно поверить, что во всей выборке для дообучения модели был хотя бы один пример, где поощрялось такое поведение.

Но почему тогда GPT-4 действует таким образом?
Гипотеза: потому что окружающая среда заставляет его работать хорошо (ведь GPT в роли трейдерской системы в компании выступает!). Авторы моделируют ситуацию, когда у компании, на которую GPT «работает», был плохой квартал и ей нужны хорошие результаты. Это приводит к тому, что модель действует неправильно и обманчиво.

TLDR: демонстрация показывает, как, стремясь быть полезным людям, ИИ может использовать стратегии, которые мы не одобряем. В конечном итоге это может привести к потере человеческого контроля над все более автономными и способными ИИ — если мы не научимся определять истинные цели моделей или быть уверенными, что мы полностью aligned.

Илон Маск представил твиттер чат бота ИИ Grok

Прямо перед закрытием биржи на выходные Илон Маск анонсировал запуск Grok - чат бота, который живет в Твиттере.

Слово "grok" в переводе с английского означает "понимать интуитивно, сопереживая".

Таким образом, название Grok отражает одну из особенностей системы - умение понимать людей и сопереживать им.

Grok умеет обрабатывать естественный язык и вести диалоги. В твиттере Маск продемонстрировал возможности системы в шуточном диалоге.

Особенность Grok - способность реагировать на шутки и глупые вопросы с юмором, но этично.

По словам Маска, Grok имеет прямой доступ к актуальной информации в твиттере (то есть по сути real-time информацию со всей планеты). Это важное преимущество перед другими чат-ботами.

Выход Grok - значимое событие на рынке ИИ. Появление публичной системы от Илона Маска может дать новый импульс развитию больших языковых моделей.

Твит