Ого. Чуть не пропустил новость. Несколько дней назад Meta выпустили новую модель Llama 3 70B.

Из плюсов:
- опенсорс!
- бесплатная и вообще без регистрации и смс

Норм:
- 4К токенов на вход (не так много)

Минусы:
- постоянно надо напоминать говорит на русском (легко исправляется системным промптом)
- интерфейс и управление грустные - ни регенерации, ни изменения прошлого сообщения

Но в целом это хороший шаг вперёд, особенно рад продвижению именно опенсорса.

С момента появления gpt уже несколько новостей подобных этой: https://habr.com/ru/news/811619/

Коротко: находят новые "формулы" для "нейронов" с которыми качество работы нейронки получается выше.

Но везде есть свой трейдофф - то нужно немерянно памяти, то процессор или даже видеокарты огромной мощности, то вообще надо сначала собрать ещё специальный процессор...

А вот сейчас реально интересно - трейдофф в более длительном обучении...

Кстати, я знаю уже вид нейронок, которые надо сначала специальное оборудование собрать (примерно 9 месяцев) и потом ещё учить 20+ лет. А главное очень экологичное производство! 👫🤰🤱🙇‍♂😂

Странный факт, но за год существования GPT моделей, их применение в обучении на 99% состоит из генерации контента. То есть это как-бы и обучение, но на самом деле ведь контент мы делаем "до".

А вот кейсов как GPT применяется именно "во время" - для проверки заданий, для генерации чего-то на лету под условия пользователей - штучно. Я бы сказал6 что могу буквально по пальцам пересчитать.

И если с "генерацией на лету" я могу понять - частые галлюцинации совсем не радуют полагаться на ИИ сложно, надежность по умолчанию не равна 100% никогда, то вот причин для такого малого числа других кейсов я не вижу. Ну разве что, то что стандартные SCORM курсы такое не умеют, а никто дальше конструкторов не выходит? Так?

А может быть я просто не туда смотрю? Встречали интересные решения, где ИИ был бы зашит именно в процесс?

Мы с Ромой больше акцентируемся на текстовых ИИ, но буквально за последние дни меня догнало сразу два стартапа, которые используют обработку видео для определения вовлеченности на вебинаре.

Как работает: берутся фрагменты видео (или вообще кадры, раз в несколько секунд), прогоняются через нейросеть, которая определяет основные параметры - интерес, активность, усталость, эмоциональность и другие. А дальше можно эти данные использовать для нескольких сценариев:
1) "Иванов, к доске" - заметили, что пользователь на вебинаре "спит" - пользуемся стандартным приемом учителей в школе. Ну или просто следим за показателями у каждого из участников, чтобы лучше понимать ситуацию.
2) Смотрим на общие показатели и когда "класс выдохся" делаем перерыв или меняем тему и формат. По сути то, чего так не хватает в онлайне - та самая оценка реакции аудитории, которую не видно.
3) После вебинара оцениваем качество работы спикера, его навыки, стиль работы с группой.
4) Ищем места, где лучше поправить программу и изменить сценарий, смортим как поменялась реакция после изменений.
5) На записи вебинара подсвечиваем самые "интересные" моменты, чтобы не смотреть все 2 часа
6) Оцениваем качество участия - не просто "присутствовал 70% времени" а еще и был внимателен и слушал.

Но и не без минусов, разумеется.
1) Модель не 100% и даже не 90% точная - очевидно будут ошибки и человек с насморком может оказаться уставшим
2) Фиг его знает, куда на самом деле смотрит человек - может у него на втором мониторе открыт ютуб с котиками и он весь такой заинтересованный, но не вебинаром?
3) Кстати про второй монитор и вообще когда камера смотрит сбоку - тут точность падает еще сильнее (хотя это решаемая проблема)
4) А еще есть камеры направленные на зал, где много людей - тут модель просто выходит покурить, оценить каждого она не сможет, а если и сможет - оценка кого-то, кого случайно выбрала модель (ближе сидел, например) будет выводиться как оценка всей переговорки
5) Ну и финалочка - всем нужно будет давать доступ к камере, а это может сильно отпугивать. Причем даже не обязательно выходить в эфир, но сам доступ должен быть. Не знаю, но есть гипотеза, что если камера работает, но я не вижу как я на ней выгляжу - это может нервировать.

Что думаете? Как бы вы применили такой функционал? И применили ли бы?

Нет, ну серьезно. Я в восторге от того, как работает ИИ, но иногда, на боевых задачах приходится ловить такие галлюцинации, что просто хочется все бросить и пройти на завод.

Простите. Накипело, видимо )

Супер новость. Вышел ChatGPT Edu, созданный для процесса обучения.

Модель основана на GPT-4o. Может работать с текстовой и визуальной информациией.

Обещают даже интеграцию с учебными системами (но пока не понял какую).

Сама новость: openai.com/index/introducing-chatgpt-edu/

ChatGPT Edu, по задумке, сможет заменить репетиторов.

Верим? Хотя даже если и нет - новость все ещё шикарная!

На конференции eLearning elements модерирую секцию по ИИ. И очень рад увидеть кейс как используется ИИ именно внутри курса.

Алексей Миляев на сцене. И это просто песня!

Мой короткий вывод с тех выступлений, что были сегодня...

Перевод: Я хочу, чтобы ИИ занимался стиркой и мытьем посуды, чтобы я могла заниматься рисованием и писательством, а не чтобы ИИ занимался рисованием и писательством, чтобы я могла стирать и мыть посуду.

На связи Роман Мандрик.

Сейчас нахожусь на конференции «Белая конфа», которая проходит под заголовком «онлайн-образование без онлайна и манипуляций», такой вот антиинфобиз.

Присылаю вам слайд с примерами того, как ведущие EdTech компании пытаются примерять ИИ в своей деятельности.

Только что провел вебинар, где показал две (короткую и длинную) промпт стратегии для создания курсов, на примере конструктора курсов МТС Линк (хотя не так важно в какой конструктор потом класть контент)

Файлик с промптами выкладываю в общий доступ, мне кажется он очень полезен как база, хотя я сам, честно, не люблю готовые промпты, с ними нужно быть очень аккуратным и смотреть нет ли там лишнего - в общем, адаптируйте под себя.

Результаты в виде курсов:
Тайны обучения непокорных - https://my.mts-link.ru/course-info/742577
Как шутить в незнакомой компании - https://my.mts-link.ru/course-info/742555

Оба курса сделал в прямом эфире, меньше чем за час, и, хотя, первую короткую стратегию хотел показать как антипример, оба вышли в целом нормально.

Давно не публиковали ничего из новостей, а их же на самом деле много. Сегодня с @Roman_Mandrik ведём тренинг по нейросеткам для одного топового банка.

Если хотите узнать про ИИ вы знаете кому писать и звонить.

Только у нас:
- расскажем понятным языком на простых примерах
- дадим практику, которая будет полезна и применима
- адаптируем программу под задачи, вплоть до специфики отдела (мы не гастролируем с готовой презой!)
- учитываем инфраструктуру и все требования ИБ, сегодня вообще подготовились к работе без интернета и полностью оффлайн
- провести можем и онлайн, и оффлайн и даже гибрид

Заметил еще одну тенденцию. В том числе и по себе, чего уж.

Чем активнее я делегирую задачи ИИ тем... безалаберней, что-ли, я относился к результатам. Вырабатывалось какое-то безусловное доверие. Очень усыпляющее. Сверху ложилась обычная лень и гремучая смесь готова.

Вроде понятно, что я валидирую результаты ИИ и если я использую текст, то под ним, как-бы, моя подпись. На деле я часто пробегал по диагонали. И заметить это по себе было сложно. Но мы справились и теперь знаем как это выявить и как бороться с таким видом безответственности!

В наш тренинг мы добавили еще один авторский кусочек! Кто хочет применять нейронки на 100% и с полной ответственностью - вы знаете к кому идти.

Ну а на днях анонсируем еще одну новость, как мне кажется огненную )

В комментариях попросили написать, где я сам регулярно использую ИИ:
- написание планов интервью и для кастдевов
- обработка транскрибированных записей встреч, особенно если хочу выделить какие-то общие паттерны (провел 10 глубинок - прошу выписать наиболее частотные инсайты)
- описание задач для разработки, особенно в ключе "что я еще мог забыть"
- написание кода для быстрого старта - вот это кстати вообще боль, он пишет код так, как я сам бы делать не стал
- тексты вопросов для опросников

Не регулярно (так как задачи не частые):
- описание персон
- CJM и JTBD

Ну и совсем редко, в исключительных случаях, прошу что-то переформулировать/перевести.

А вот и обещанная новость!

Мы с Ромой Мандриком решили, что пора сделать СКОРМ-курс на основе нашей очной программы «ИИ для нетехнарей».
Мы подумали и… сделали.

Представляем вашему вниманию - SCORM курс "ИИ для нетехнарей».

Что сотрудники получают после прохождения:
📍Понимают, как применять ИИ в своей работе
📍Освваивают технические аспекты запуска и использования локального и облачного ИИ
📍Понимают, что такое промпт-архитектура и научитесь писать сложные последовательности помптов
📍Понимают ограничения ИИ и границы его применения
📍Вдохновляются идеей использования ИИ

Самая главная фишка - это все простыми языком, так, чтобы можно было все применить уже завтра. Автор курса - ваш покорный слуга, Владимир Казаков, на видео в курсе буду вас вести и давать задания.

Вторая хорошая новость заключается в том, что сейчас для наших первых заказчиком, мы даем специальную цену на условиях предзаказа.

🔥 Будем рады интегрировать наш курс на вашу платформу и помочь начать вашим командам увлекательное путешествие в мир увлекательного ИИ 😉

Пишите в личку мне или Роме, мы дадим дельную программу, цены и прочее.

Не раз за последнее время сталкиваюсь с холиваром на тему "ИИ не умеют думать, они только компилируют ответ из готовых".

Нашел отличную статью, которая на простом примере показано, что это не так, ИИ таки умеет "думать".

Сама статья: https://habr.com/ru/articles/840136/

Если коротко: можно взять модель и учить ее на простых операциях типа "2+2" и "3+3". При обычном обучении она научится отвечать на аналогичные вопросы. Но вот если процесс обучения повторять очень (совсем очень-очень) много раз, то в какой-то момент модель вдруг начинает складывать и в пределах сотни и даже тысячи, хотя ее этому не учили и она точно не видела такого в обучающем контенте.

Это, в общих чертах, и есть то самое "думание". Пока те решения, которые есть на рынке никто специально не затачивал на этот процесс, просто потому что это очень сложно и дорого, но они и так могут "думать" в привычном для нас понимании, а в будущем, скорее всего, появится модели именно для генерации новых знаний.

#мечты_о_будущем )))

Завтра начинается EdTech Expo. Если интересно - буду там оба дня. Кто хочет - приезжайте.

4 бесплатных билета доступны по промокоду KAZAKOVFREE

А по промокоду KAZAKOVSALE доступны:
- скидка 30% для посещения выставки / выставки и конференции
- скидка 20% для билетов ВИП

Промокод можно использовать на сайте при покупке билета: https://edtechexpo.ru/

Не, ребят, отбой. Простите. Не думал даже, что тут такое...

Примерное содержание стендов:
- отдел продаж
- реклама
- трафик
- ещё реклама
- снова трафик
- рассрочка и кредиты для учеников
- юридическая поддержка
- снова трафик....

Ну и пара стендов с нормальным темами про обучение буквально.

Ну что, я сегодня на конференции покажу как за 30 минут сделать структуру и напрлнение курса, который будет не стыдно показать эксперту для получения обратной связи. А ещё расскажу как можно использовать ИИ в тестировании и при проверке знаний.

Со мной ещё несколько героев, которые расскажут и про ИИ, и про аналитику и метрики в обучении, рекомендательные системы и много чего ещё.

Кто после поста вчера решил таки приехать - вы уже или герои!

Ух-ты! Не я один развлекаюсь, задавая задачки для ИИ. Вот тут попроовали дать новому "думающему" ЧатуГПТ задачик из "Что? Где? Когда?"

https://www.google.com/amp/s/habr.com/ru/amp/publications/843278/

И знаете что? Он решил, но не все. Я, вообще, когда увидел описание новой модели решил "ну все, курс можно закрывать". Рано.

Создатели обещали, что та фишка, которую я на лекциях и курсах давал как "лайфхак", типа "думай последовательно" теперь просто зашита в саму модель.

Вышло хорошо. Нет, даже очень хорошо. Но все еще не все задачи решены.

А я смог решить все, добавив в промпт некоторый текст. Как я понял, что его нужно добавить? В этом и есть вся "магия" промпт-инженерии - нужно отрефлексировать процесс, показать ИИ правильный путь мышления. Новая модель пусть и хороша, но до живого мозга ей все еще далеко.

И, кстати, вот этот навык рефлексии, объяснение, почему он так важен, упражнение на развитие такого стиля мышления - все в нашем SCORM курсе.

Как заставить себя писать посты регулярно?

Вчера был на Неитоги24 в КУ Сбера, говорили про ИИ в обучении, HR и бизнесе.

После выступления встретил знакомых и не очень знакомых людей и мне говорят "о, а мы вас читаем"... а я вспоминаю со скрипом - когда ж я последний раз что-то писал то полезное? И так мне стало стыыыыыдно (((

Но полезного набралось. И курс, и новые проблемы с ИИ (а вот фиг, не всегда с решениями), да и опыта прибавилось.

Давайте так: я пишу 10 статей за за две недели. На спор. Если не справлюсь - кофе всем, кто поддержит огоньком или комментарием )

Ну что, поехали. Не потому что кофе пожалел, а потому, что есть чем поделиться.

Начну со странного. С темы ИБ. Ага, того самого, которое вечно нам палки в колеса втыкает.

Итак. ИИ и ИБ, как много в эт... короче, на самом деле я просто в шоке, насколько далеко оно одно от другого. ИБ ещё не поняли всего уровня трэша, а те кто занимается ИИ и рады.

Есть четыре "вектора атак", говорить про них надо отдельно, так как они отличаются.

1) обман ИИ пользователем
2) отравление исходных данных для ИИ
3) атака на цепи автоматизации
4) некоторая криворукость самих разрабов, которые делали сервис с ИИ не думая ни о чем кроме хайпа

Звучит сложно, но, как и все с ИИ - на самом деле очень простое и понятное. К сожалению не только нам, но и злоумышленникам.

Погнали!