К вопросу о том, как выглядит безопасный искусственный интеллект by design:

Моделька для генерации видео по картинке Kling v1.6, получив на выход проблему вагонетки, сгенерировала трамвай медленно пятящийся подальше от прикрученнных к рельсам людей.

В детстве книжка "физики шутят" меня оч порадовала и, среди прочего, опеделила выбор моей темы. Кажется, время писать книжку "машинлёрнеры шутят".

Ребята показывают, что если учить модельку на тесте, то (сюрприз) она с тестом начинает справляться лучше.

В каждой шутке — доля шутки, кстати. Одна из серьёзных научных проблем сейчас — "инфляция бенчмарков". Большие модели учатся на куче данных, которые включают в себя задачи, на которых потом оценивается качество модели. Это может приводить к неожиданным ситуациям, когда "на бумаге" модель хороша, а вот на практике что-то не очень.

Планирую запись следующих выпусков. Времени на всё не хватает, но вот вам долгий предновогодний разговор с Лизой Осетинской.

Кажется, душевно вышло.

https://youtu.be/TxBBzRp0lcM?si=vaklT7TI2btA5BsU

Я, кстати, в разговоре тупанул и перепутал Гутенберга и Ганса Люфта, который тоже изобрёл печатный станок, и даже судился с Гутенбергом, вроде. Мой косяк, исправляюсь:

https://en.wikipedia.org/wiki/Hans_Lufft

Начало года выдалось сложным, но интересным. Пора выкладывать новые выпуски. Уже договариваюсь со следующими гостями.

А пока ловите позицию у меня в лаборатории. Ищу постдока на два года, чтобы заниматься вещами на стыке больших языковых моделей и психологии в рамках большого европейского консорциума.

https://www.thws.de/forschung/institute/cairothws/career/postdoctoral-researcher-position-generative-ai-human-behavior/

Всем привет!

Пробую перезапустить сезон. Ловите обзор книги Рассела Шорто "Амстердам", а завтра уже новый полноценный выпуск.

https://youtu.be/cQJtBDOHnDc

А вот и обещанный выпуск с Анной Ривиной. Мы записали этот разговор до скандала с Оксимироном, потом я подумал, что странно выкладывать его и "хайпить" на теме, так как тема важная. А сейчас, вроде, уже можно и выложить, так как разговор нужный.

Поддержать русскоязычных женщин в эмиграции, которые оказались в ситуации насилия, можно здесь.

https://youtu.be/ouRG7qwnsho

Если среди читателей этого канала есть желающие попрактиковать аудирование немецкого языка, то я тут сходил в подкаст местной тргово-промышленной палаты и постарался рассказать про наш интститут и роль, которую образовательные учреждения, на мой взгляд, должны играть в ныншней ИИ-индустриализации.

https://lnk.to/ABZ-44-CAIRO

На этой неделе очередной эпизод про книгу. На этот раз "Диапазон". Когда я первый раз прочитал эту книгу несколько лет назад больше всего меня порадовало то, что какие-то вещи, которые я для себя нащупал интуитивно, оказывается, подтверждаются статистикой. Сейчас, когда перечитывал перед записью обзора, подумал, что странно, что идеи из "Диапазона" до сих пор официально не используются в дидактических материалах университетов и школ. Есть идеи, отчего так?

https://youtu.be/yi6zWkzgkS0

Через 10 минут буду рассказывать на SOTA вебинаре несколько наших статей про оценку качества языковых моделей. Если есть желание, запрыгивайте.

https://www.linkedin.com/posts/julia-denoly_sota-is-back-tonight-at-7pm-in-1-hour-activity-7317573109878870016-YIZd

Ребята из SOTA подогнали видео вчерашнего рассказа.

Вчера у них была какая-то битая ссылка, так что ловите тут.

https://youtu.be/lAtYDvWSWEE

пасхальный марафон разноязыкого контента продолжается.

Поговорили в подкасте hirehire про будущее профессий и то, как искусственный интеллект меняет рынок труда.

Поговорили с Борисом Тарасовым про промышленный дизайн, автомобили и роверы. Никогда не думал, кстати, что ровер — один из примеров нового класса устройств.

https://youtu.be/PUxidXKFKfQ

Кстати, у нас в Pleias сегодня большой и важный релиз: маленькие 📲 полностью открытые модельки (от данных до весов), которые умеют делать RAG на основных европейских языках 🇫🇷🇩🇪🇪🇸🇵🇱, подтягивать ссылки на источник и по качеству ответа сопоставимы с Llama или Qwen, которые в семь раз больше.

Лайки, комментарии и репосты приветствуется. Если попробуете в работе, дайте знать, как вам.

https://www.linkedin.com/posts/kroniker_breaking-pleias-releases-a-new-generation-activity-7321195554028298240-g1wI

Сходил тут к ребятам в Make Sense. Вроде, душевно поговорили.

364-й выпуск подкаста make sense: О прогнозах развития ИИ, агентности, рекомендательных системах и потере смысла

«Самый верный способ быть несчастным — думать, что всё должно быть просто. Настоящие лулзы начинаются, когда ты продираешься через сложности.»

«Мы живем беспрецедентно хорошо, а по всем метрикам ментального здоровья мы чувствуем себя беспрецедентно плохо.»

«Рекомендательные алгоритмы создают информационные пузыри. Мы стали первым поколением, которое контролирует информацию, но при этом наша агентность в цифровом мире близка к нулю.»

Ведущий:
Юра Агеев, основатель ProductSense

Гость:
Иван Ямщиков, профессор THWS, сооснователь Pleias

Ведущий подкаста Проветримся: https://news.1rj.ru/str/progulka

Конференция ProductSense пройдёт 11-12 сентября в г.Москва
Сайт конференции: https://productsense.io

Подписывайтесь на канал анонсов подкаста: https://news.1rj.ru/str/mspodcast

О чём говорим: 
00:00 — Введение 
02:08 — Open source AI и closed source AI: плюсы и минусы 
06:38 — Агентность LLM: светлое будущее или конец человечества? 
08:52 — Мы имеем право выключать искусственный интеллект?
12:35 — Агентность и внедрение LLM: как изменятся рабочие процессы? 
18:35 — Проблемы с безопасностью генеративного ИИ 
23:51 — Опасность рекомендательных алгоритмов 
25:52 — Цифровая гигиена: как подружиться с рекомендациями? 
27:55 — Искусственный интеллект не рекомендует нового 
31:15 — Человечество начало терять смысл
39:40 — В мире закончились данные: проблематика обучения новых моделей 
43:20 — Важность провенанса данных при обучении LLM 
47:20 — Про компрессию мыслей и количество порождённого человеком контента 
50:51 — Отличие языковых моделей от диффузионных и символьных 
54:12 — Развитие искусственного интеллекта: чему обучать дальше? 
01:00:30 — Влияние агентности ИИ на будущее человечества 
01:03:10 — Почему важно иметь план и понимать фронтир? 
01:06:20 — Самый верный способ быть несчастным — выбирать тот вариант, где просто!

В подкасте упоминается:
— Карло Гинзбурга «Сыр и черви»
— Фильм «Альфа» Альберт Хьюз
— Фильм «Социальная дилемма» Джефф Орловски

Слушать:
— Telegram
— Mave
— Apple
— Яндекс (будет позже)
— YouTube

*Meta Platforms Inc., признаннана экстремистской организацией и запрещенной в России
*Instagram принадлежит Meta Platforms Inc., признанной экстремистской организацией и запрещенной в России

опять сходил в @podlodkanews

Рассказал про PhD для программистов. Что было, что будем, на чём сердце успокоится, как говорится. Вроде, мило вышло.

Podlodka #430 – Зачем программисту PhD?

PhD — путь к великим открытиям или очередной способ пострадать? Почему айтишники задумываются о науке и как понять, что пора задуматься и тебе? Обсуждаем, зачем идти в PhD и как в этом выжить: на что обратить внимание до поступления, чего ждать от процесса и легко ли потом вернуться в индустрию. Какие плюшки даёт академический бэкграунд — и стоят ли они того, если можно просто кодить? Разбираемся вместе с Ваней Ямщиковым.


🎧 Слушать выпуск

👀 Смотреть выпуск

👉Предложить себя в подкаст

На дворе лето, значит пора поговорить с какими-то вдохновляющими людьми, чтобы было больше свежих идей посреди летней жары.

Действую по этому плану: вот вам эпизод с Антоном Маскелиаде, про музыку, творчество, параллельные карьеры и многое другое. Очень душевно вышло, по-моему.

https://youtu.be/IDw2KLY6YGI

https://youtu.be/PnJV9Ya_M5k


Поговорили с Ильёй Смоленским про трансляционную медицину, питание и поведение. Илья — нейробиолог, постдок унивеситета Базеля.

Он ведёт телеграм канал Молекулярная психиатрия и подкаст Эффект наблюдателя.

Книги "на лето", которые посоветовал Илья:
Felice Jacka. Brain Changer
Georgia Ede. Change Your Diet, Change Your Mind
Jonh Cryan, Ted Dinan. Psychobiotic Revolution
Джулия Эндерс. Очаровательный кишечник. Как самый могущественный орган управляет нами
Netflix - Hack Your Health. The Secrets of Your Gut