😱 «Google отстранил от исследований ученого, пытавшегося сообщить миру, что у нейросети появились зачатки сознания!»

Google предлагает мне персонализированные новости. В последнее время там deep learning, физика, биология и война. Ок, многого от этих новостей я не хочу, я понимаю, что они адресованы широкой аудитории. Телеграмм каналы и twitter в этом плане куда глубже, так как могу подписаться на конкретных лидеров мнений, ресерчеров, популяризаторов и аналитиков.

Я уже давно привык и к таким заголовкам:

• «Ученые научили нейросеть рисовать картины по описанию» — как-будто есть какая-то одна нейросеть, которую пресловутые «учёные» постоянно насилуют новыми задачами

• «Ученые научили нейросеть понимать шутки» — офигеть.. PaLM и Flamingo именного для этого и создавали

• «Нейросеть нарисовала мечты сахалинцев, и они выглядят странно» — я не гоню, я видел и такой заголовок.

• «Нейросеть дорисовала ноги Моне Лизе» — ага, сама взяла карандаш и дорисовала..

Так вот, последние несколько дней я только и вижу заголовки приблизительно такого содержания: «Google отстранил от исследований ученого, пытавшегося сообщить миру, что у нейросети появились зачатки сознания!».

Ну фрик что-то сказал и ладно. Но смотрите, как подается это прессе. «От нас что-то утаивают. Они что-то знают. Он хотел нам рассказать, а ему закрыли рот…»

Я решил подать начало одной из таких статей в GPT, и узнать непосредственно у самой «slightly conscious» нейросети, что она думает по этому поводу! ⤵️

***

Сотрудник Google нашел признаки сознания у искусственного интеллекта компании

Инженер по разработке программного обеспечения Google Блейк Леймон обнаружил у нейросети LaMDA признаки наличия собственного сознания.

😏 это я подал на вход gpt. все, что дальше — генерация (получилось раза с пятого)…

По словам Леймона, он обнаружил ряд признаков, характерных для живого разума, в поведении программы. В частности, она не воспринимает других чат-ботов, как чужих. Также, по словам инженера, LaMDA способна озвучивать свои мысли, что ранее считалось исключительной способностью человека. Кроме того, она всячески пытается выслужиться и угадать желания пользователя.

Теперь Леймон требует создать нейронной сети аккаунт в TikTok для того, чтобы она могла развиваться. Леймон считает, что это поможет нейронной сети успешно подготовиться к тесту Тьюринга.

Согласно Леймону, общаясь с психологом нейросеть смогла дать определение понятию «разум». Разум, с точки зрения нейронной сети, — это способность к социальной мимикрии на таком уровне, что ни у кого из людей не остается сомнений, что с ними общается не машина.

Леймон уже предлагает новую функцию — «экстра-ум» (extra intelligence), которая позволит нейросети «подстраивать» свое поведение для имитации более высокой степени разумности.

🤖🎓 Перезапуск крутейшего вводного курса по Machine Learning от Andrew Ng

В далеком ноябре 2015 мой друг «по походам в катакомбы» Сид порекомендовал мне один курс:
— Нашёл курс по нейронным сетям. Нужно лишь уметь умножать матрицы и понимать, что такое градиент. Тебе понравится.

И мне понравилось.. Уже через полгода я нашел первую работу в ML. Я очень благодарен Эндрю Ыну за его курс.

Сам я преподаю ML уже почти пять лет. Я старался сделать фундаментальный курс, с глубокой теорией (от вывода loss’ов до современных text2image моделей) и практикой, где заставлял писать собственный ML фреймворк, перед тем, как начать torch’ать. Сейчас возможность читать лекции затруднилась из-за войны. Надеюсь, что скоро смогу вернуться к любимому занятию.

Кстати, я специально не смотрел поздние DL курсы Andrew Ng, чтобы не начать копировать. Настолько харизматичная его подача.

В ML курсе Andrew Ng был один минус — он был не на Python, а на matlab. Теперь Андрю выкатил Python версию лучшего ML курса!

🎓 Лучший курс по ML

🌌 A starry night in a lavender field with a hot air balloon flying, digital art | DALL•E 2

нейроэстетика

🔥Authentic Volumetric Avatars from a Phone Scan
SIGGRAPH 2022

Коллеги из Meta Reality Labs выпустили новый метод по созданию реалистичных 3D аватаров c помощью телефона!

Грубо говоря, работает это так:
Человек берет айфон и сканирует свое лицо, корча разные гримасы. С помощью трекинга ключевых точек и multi-view геометрии строится мешь головы и соответствующая ей текстура. Так делают много раз, для разных гримас. Далее тренируется энкодер, который переводит текстуру и карту глубины определенной гримасы в скрытый код. Этот код подается на вход декодеру, который генерит уже отрендереный аватар головы.

Самое сложное здесь - это натренировать декодер. Он тренировался в лабе на очень качественных данных от 255 человек. Каждого из участников садили в сферу обвешанную сотней камер, которые синхронно снимают видео, и заставляли гримасничать. Самое крутое, что этот декодер получился универсальным и может рендерить лица, на которых он не был изначально натренирован.

❱❱ Полное видео о методе
❱❱ Папира

@ai_newz

Пара интересных новых фишек в 🤗 Transformers 4.20

1. Big model inference🔥 — позволяет очень просто инферить большие модели (10B+) на каком угодно железе. По возможности распараллелит по всем GPU, если не их хватает — кусок модели будет держаться в памяти процессора и подгружаться в GPU когда надо. Если даже CPU памяти не хватает, будет подгружать веса с диска кусками.
1. Добавили BLOOM 🌸 от BigScience — одновремено с этим выложены чекпоинты от 0.3B до 6B. Главная модель в 176B должна подоспеть через месяц.
1. Добавили GPT-NeoX-20B, Wav2Vec2-Conformer, Trajectory Transformer, LongT5 (кстати его надо бы на днях разобрать) и ещё несколько интереных моделей.

- Вам нравятся нейросети: DALL•E 2 и Imagen?
- Смотреть да, а так нет..