Принёс вам забористого контента под конец года. Сходил к Серёже Мезенцеву. Рассказал про гипотезу симуляции.

Напишите ребятам в комментах, чем гипотеза от теории отличается :) А то они путают, по ходу.

https://youtu.be/nWLpnQYDLcE?si=rcaxuMlMuArMrXWa

в предновогодние дни записывать новые эпизоды не выходит, зато вот андрей позвал поговорить к себе. Держите ещё чуть контента и с наступающим!

В декабре 2023 я выложил 77-й выпуск "Трёпа" -- а потом все время как-то не получалось. Но пропускать целый год -- совсем уж неприлично. Поэтому вот:
=-=-=-
-=Выпуск 78=-

Ваня Ямщиков про LLM: от скейлинга до провенанса

24 декабря — самое время для публикации первого выпуска года:) Но так уж сложилось. Зато выпуск рекордный не только по задержке, но и по длительности: почти 2 часа. И каких! Большую часть этого времени говорил Ваня, мы встретились в подкасте через полтора года после прошлого разговора, где он много провидческих (как мы смогли убедиться) слов произнес про ИИ, про любимые им горячо языковые модели и про будущее. Мы не стали менять сюжет :))

Сайт подкаста

На Яндекс Музыке

На YouTube

На Apple Podcasts

И, по нерушимой традиции, файл прямо здесь :) (да, метатег с номером в файле забыл поправить)

К вопросу о том, как выглядит безопасный искусственный интеллект by design:

Моделька для генерации видео по картинке Kling v1.6, получив на выход проблему вагонетки, сгенерировала трамвай медленно пятящийся подальше от прикрученнных к рельсам людей.

В детстве книжка "физики шутят" меня оч порадовала и, среди прочего, опеделила выбор моей темы. Кажется, время писать книжку "машинлёрнеры шутят".

Ребята показывают, что если учить модельку на тесте, то (сюрприз) она с тестом начинает справляться лучше.

В каждой шутке — доля шутки, кстати. Одна из серьёзных научных проблем сейчас — "инфляция бенчмарков". Большие модели учатся на куче данных, которые включают в себя задачи, на которых потом оценивается качество модели. Это может приводить к неожиданным ситуациям, когда "на бумаге" модель хороша, а вот на практике что-то не очень.

Планирую запись следующих выпусков. Времени на всё не хватает, но вот вам долгий предновогодний разговор с Лизой Осетинской.

Кажется, душевно вышло.

https://youtu.be/TxBBzRp0lcM?si=vaklT7TI2btA5BsU

Я, кстати, в разговоре тупанул и перепутал Гутенберга и Ганса Люфта, который тоже изобрёл печатный станок, и даже судился с Гутенбергом, вроде. Мой косяк, исправляюсь:

https://en.wikipedia.org/wiki/Hans_Lufft

Начало года выдалось сложным, но интересным. Пора выкладывать новые выпуски. Уже договариваюсь со следующими гостями.

А пока ловите позицию у меня в лаборатории. Ищу постдока на два года, чтобы заниматься вещами на стыке больших языковых моделей и психологии в рамках большого европейского консорциума.

https://www.thws.de/forschung/institute/cairothws/career/postdoctoral-researcher-position-generative-ai-human-behavior/

Всем привет!

Пробую перезапустить сезон. Ловите обзор книги Рассела Шорто "Амстердам", а завтра уже новый полноценный выпуск.

https://youtu.be/cQJtBDOHnDc

А вот и обещанный выпуск с Анной Ривиной. Мы записали этот разговор до скандала с Оксимироном, потом я подумал, что странно выкладывать его и "хайпить" на теме, так как тема важная. А сейчас, вроде, уже можно и выложить, так как разговор нужный.

Поддержать русскоязычных женщин в эмиграции, которые оказались в ситуации насилия, можно здесь.

https://youtu.be/ouRG7qwnsho

Если среди читателей этого канала есть желающие попрактиковать аудирование немецкого языка, то я тут сходил в подкаст местной тргово-промышленной палаты и постарался рассказать про наш интститут и роль, которую образовательные учреждения, на мой взгляд, должны играть в ныншней ИИ-индустриализации.

https://lnk.to/ABZ-44-CAIRO

На этой неделе очередной эпизод про книгу. На этот раз "Диапазон". Когда я первый раз прочитал эту книгу несколько лет назад больше всего меня порадовало то, что какие-то вещи, которые я для себя нащупал интуитивно, оказывается, подтверждаются статистикой. Сейчас, когда перечитывал перед записью обзора, подумал, что странно, что идеи из "Диапазона" до сих пор официально не используются в дидактических материалах университетов и школ. Есть идеи, отчего так?

https://youtu.be/yi6zWkzgkS0

Через 10 минут буду рассказывать на SOTA вебинаре несколько наших статей про оценку качества языковых моделей. Если есть желание, запрыгивайте.

https://www.linkedin.com/posts/julia-denoly_sota-is-back-tonight-at-7pm-in-1-hour-activity-7317573109878870016-YIZd

Ребята из SOTA подогнали видео вчерашнего рассказа.

Вчера у них была какая-то битая ссылка, так что ловите тут.

https://youtu.be/lAtYDvWSWEE

пасхальный марафон разноязыкого контента продолжается.

Поговорили в подкасте hirehire про будущее профессий и то, как искусственный интеллект меняет рынок труда.

Поговорили с Борисом Тарасовым про промышленный дизайн, автомобили и роверы. Никогда не думал, кстати, что ровер — один из примеров нового класса устройств.

https://youtu.be/PUxidXKFKfQ

Кстати, у нас в Pleias сегодня большой и важный релиз: маленькие 📲 полностью открытые модельки (от данных до весов), которые умеют делать RAG на основных европейских языках 🇫🇷🇩🇪🇪🇸🇵🇱, подтягивать ссылки на источник и по качеству ответа сопоставимы с Llama или Qwen, которые в семь раз больше.

Лайки, комментарии и репосты приветствуется. Если попробуете в работе, дайте знать, как вам.

https://www.linkedin.com/posts/kroniker_breaking-pleias-releases-a-new-generation-activity-7321195554028298240-g1wI

Сходил тут к ребятам в Make Sense. Вроде, душевно поговорили.

364-й выпуск подкаста make sense: О прогнозах развития ИИ, агентности, рекомендательных системах и потере смысла

«Самый верный способ быть несчастным — думать, что всё должно быть просто. Настоящие лулзы начинаются, когда ты продираешься через сложности.»

«Мы живем беспрецедентно хорошо, а по всем метрикам ментального здоровья мы чувствуем себя беспрецедентно плохо.»

«Рекомендательные алгоритмы создают информационные пузыри. Мы стали первым поколением, которое контролирует информацию, но при этом наша агентность в цифровом мире близка к нулю.»

Ведущий:
Юра Агеев, основатель ProductSense

Гость:
Иван Ямщиков, профессор THWS, сооснователь Pleias

Ведущий подкаста Проветримся: https://news.1rj.ru/str/progulka

Конференция ProductSense пройдёт 11-12 сентября в г.Москва
Сайт конференции: https://productsense.io

Подписывайтесь на канал анонсов подкаста: https://news.1rj.ru/str/mspodcast

О чём говорим: 
00:00 — Введение 
02:08 — Open source AI и closed source AI: плюсы и минусы 
06:38 — Агентность LLM: светлое будущее или конец человечества? 
08:52 — Мы имеем право выключать искусственный интеллект?
12:35 — Агентность и внедрение LLM: как изменятся рабочие процессы? 
18:35 — Проблемы с безопасностью генеративного ИИ 
23:51 — Опасность рекомендательных алгоритмов 
25:52 — Цифровая гигиена: как подружиться с рекомендациями? 
27:55 — Искусственный интеллект не рекомендует нового 
31:15 — Человечество начало терять смысл
39:40 — В мире закончились данные: проблематика обучения новых моделей 
43:20 — Важность провенанса данных при обучении LLM 
47:20 — Про компрессию мыслей и количество порождённого человеком контента 
50:51 — Отличие языковых моделей от диффузионных и символьных 
54:12 — Развитие искусственного интеллекта: чему обучать дальше? 
01:00:30 — Влияние агентности ИИ на будущее человечества 
01:03:10 — Почему важно иметь план и понимать фронтир? 
01:06:20 — Самый верный способ быть несчастным — выбирать тот вариант, где просто!

В подкасте упоминается:
— Карло Гинзбурга «Сыр и черви»
— Фильм «Альфа» Альберт Хьюз
— Фильм «Социальная дилемма» Джефф Орловски

Слушать:
— Telegram
— Mave
— Apple
— Яндекс (будет позже)
— YouTube

*Meta Platforms Inc., признаннана экстремистской организацией и запрещенной в России
*Instagram принадлежит Meta Platforms Inc., признанной экстремистской организацией и запрещенной в России

опять сходил в @podlodkanews

Рассказал про PhD для программистов. Что было, что будем, на чём сердце успокоится, как говорится. Вроде, мило вышло.