Forwarded from Дизайн Образования (Андрей Комиссаров)
«Блеск и нищета нейросеток GPT » – несколько слов о проблемах деменции искусственных интеллектов
За последние несколько месяцев я прочитал немало лекций по ИИ (особенно в образовании) и интерес все только возрастает. Налицо тренд «растущего доверия нейросетевым сервисам» и перекладывания на них целого ряда человеческих функций. Но давайте поговорим немного и о «темной стороне». Контр тренд известный тех специалистам – деградация ИИ.
Новая версия ChatGPT показывает низкий результат на бенчмарке «Простые вопросы»
С бенчмарком с простыми вопросами по википедии (Simple Questions) ChatGPT 4 справляется очень плохо, хуже, чем GPT-3.
Вообще по целому ряду параметров GPT 4 показывает худший результат чем предыдущая версия (картинка выше). Этот феномен уже получил название «ИИ-деменция». В чем причина?
Причина1️⃣ «Не учи ученого».
Часто одну нейросеть дообучают на данных, сгенерированных другой нейросетью (а не человеком). Эта статья наглядно показывает, что в этом случае новая модель забывает то чему ее обучали изначально.
Причина2️⃣ «Плохие учителя… »
GPT "тупеет" из-за людей. Раньше модель GPT-3 могла написать код с первого раза с вероятностью 52%, а сейчас GPT-4 только с 10%. Исследователи из Стенфорда доказали, что причина в «свободном до-обучении на пользователях».
Причина3️⃣ «Подтекание данных»
При обучении моделей возникает «перетекание данных» между датасетами. Команда VK Cloud перевела статью о том, как информация из тестового датасета ошибочно попадает в обучающий, и чем это грозит.
Причина4️⃣ «Не надо угадывать»
Деградация может быть вызвана самими OpenAI. В частности модуль RLHF вынуждает модель отказываться от ответа, если она в нём не уверена. А вот предыдущая версия GPT-3 просто генерируя «что-то» часто могла угадывать верный ответ.
🏳️ ИИ и данные в образовании на канале Дизайн Образования
#ai
За последние несколько месяцев я прочитал немало лекций по ИИ (особенно в образовании) и интерес все только возрастает. Налицо тренд «растущего доверия нейросетевым сервисам» и перекладывания на них целого ряда человеческих функций. Но давайте поговорим немного и о «темной стороне». Контр тренд известный тех специалистам – деградация ИИ.
Новая версия ChatGPT показывает низкий результат на бенчмарке «Простые вопросы»
С бенчмарком с простыми вопросами по википедии (Simple Questions) ChatGPT 4 справляется очень плохо, хуже, чем GPT-3.
Вообще по целому ряду параметров GPT 4 показывает худший результат чем предыдущая версия (картинка выше). Этот феномен уже получил название «ИИ-деменция». В чем причина?
Причина
Часто одну нейросеть дообучают на данных, сгенерированных другой нейросетью (а не человеком). Эта статья наглядно показывает, что в этом случае новая модель забывает то чему ее обучали изначально.
Причина
GPT "тупеет" из-за людей. Раньше модель GPT-3 могла написать код с первого раза с вероятностью 52%, а сейчас GPT-4 только с 10%. Исследователи из Стенфорда доказали, что причина в «свободном до-обучении на пользователях».
Причина
При обучении моделей возникает «перетекание данных» между датасетами. Команда VK Cloud перевела статью о том, как информация из тестового датасета ошибочно попадает в обучающий, и чем это грозит.
Причина
Деградация может быть вызвана самими OpenAI. В частности модуль RLHF вынуждает модель отказываться от ответа, если она в нём не уверена. А вот предыдущая версия GPT-3 просто генерируя «что-то» часто могла угадывать верный ответ.
#ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Кстати, и у меня была такая 👆👆👆 история с chatgpt. Готовилась я к мероприятию (модерации) и мне срочно понадобилось краткое содержание рассказа Чехова - «Шведская спичка». И я попросила нейросеть сделать такое саммари. Так вот, chatgpt придумала какой-то фееричный микс из сказки «девочка со спичками» Андерсена, только там в финале умирала не девочка, а бабушка (наверное, что-то из Достоевского). Никакого отношения этот пересказ к оригинальному рассказу-детективу Антона Павловича про барина, становиху , адюльтер и шведскую спичку не имел.
Так что не факт, что мы наблюдаем деменцию. Возможно, мы наблюдаем фантазера - период как раз развития интеллекта, но да, правильных ответов там не дождешься 😁.
Так что не факт, что мы наблюдаем деменцию. Возможно, мы наблюдаем фантазера - период как раз развития интеллекта, но да, правильных ответов там не дождешься 😁.
❤🔥1
Forwarded from The Future Of Work (Evgeniy Volnov)
Mind Tools for Business опубликовали репорт «Learning and Development in organizations: Reflecting on 20 years of research». Как и полагается для документа с таким названием, текста там очень много. Я не рекомендую вам в него глубоко погружаться. Но есть несколько интересных графиков.
Technologies that have remained unchanged in popularity – 2014 to 2023
Technologies that have increased in popularity – 2014 to 2023
Technologies that haven’t taken off – 2014 to 2023
The popularity of social networking sites for work-related and personal learning: 2017–2020
И самое интересное, Number of L&D teams that have each capability in house in 2023, according to their stage of maturity
Документ вы найдете в комментариях.
Technologies that have remained unchanged in popularity – 2014 to 2023
Technologies that have increased in popularity – 2014 to 2023
Technologies that haven’t taken off – 2014 to 2023
The popularity of social networking sites for work-related and personal learning: 2017–2020
И самое интересное, Number of L&D teams that have each capability in house in 2023, according to their stage of maturity
Документ вы найдете в комментариях.
Посмотрите, там мило: слайды все недооценивали, но инструменты работы с ними бьют все рекордами попурярности. А вот дополненная реальность, на которую так много возлагали, в обучении идет на спад.
Если вы всерьез занимаетесь обучением в организации - читайте отчет и проверяйте, чтоне работает у вас 😁😁👆👆
Если вы всерьез занимаетесь обучением в организации - читайте отчет и проверяйте, что
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
Forwarded from Эйчаргейт | Взрыв вашей карьеры [SCAM]
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2
Forwarded from Эйчаргейт | Взрыв вашей карьеры [SCAM]
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Эйчаргейт | Взрыв вашей карьеры [SCAM]
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Эйчаргейт | Взрыв вашей карьеры [SCAM]
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Стартапная | Тренды и бизнес
IBM уволит 8000 эйчаров и передаст их обязанности нейросети. Кадровики напряглись.
🔥1
Forwarded from The Future Of Work (Evgeniy Volnov)
На этой неделе Ryan Roslansky, CEO LinkedIn, написал пост про свое видение AI и будущего работы. Там все в жанре корпоративного конъюнктурного визионерства.
Но практическая польза тоже есть. Можно прочитать стратегическое овервью, куда и зачем они уже интегрировали AI. Про все эти фичи я уже писал. Но вдруг вы забыли.
1. Обучение и skill-based
AI ускорит мобильность внутри компаний, должности не будут определять сотрудников, но будет проектный подход, task-based jobs, и тд. Это подразумевает необходимость постоянного обновления навыков и обучения. Основной акцент будет сделан на креативность и сотрудничество. Согласно данным LinkedIn, за последние 8 лет в рамках одной профессии сменилось в среднем 25% навыков. Предполагается, что к 2030 году этот показатель достигнет 65%.
LinkedIn запустил функцию Skills Match в инструменте Recruiter, позволяя рекрутерам искать кандидатов по соответствующим навыкам. Был улучшен поиск резюме, автоматически выделяя ключевые навыки. Курсы LinkedIn Learning теперь включают в себя 300 программ по искусственному интеллекту. А также появились Collaborative articles, расширенный Q&A, который частично генерится AI.
2. Повышение скорости и производительности
В Recruiter была добавлена AI-генерация текста для ускорения создания сообщений кандидатам, с возможностью настройки по различным параметрам. Тестируют написание вакансий с помощью AI. Для улучшения профилей пользователей запускаются саджесты и готовые описания. Также была добавлена функция AI для создания сопроводительных писем и тренажер для подготовки к собеседованиям с обратной связью от AI.
3. Определение карьерного пути
Здесь пока готовых автономных инструментов вроде бы нет, но есть общая концепция, что линейные пути остались во вчерашнем дне, а теперь нужен и майндсет, и подходы, учитывающие сетевые сценарии развития карьеры.
Но практическая польза тоже есть. Можно прочитать стратегическое овервью, куда и зачем они уже интегрировали AI. Про все эти фичи я уже писал. Но вдруг вы забыли.
1. Обучение и skill-based
AI ускорит мобильность внутри компаний, должности не будут определять сотрудников, но будет проектный подход, task-based jobs, и тд. Это подразумевает необходимость постоянного обновления навыков и обучения. Основной акцент будет сделан на креативность и сотрудничество. Согласно данным LinkedIn, за последние 8 лет в рамках одной профессии сменилось в среднем 25% навыков. Предполагается, что к 2030 году этот показатель достигнет 65%.
LinkedIn запустил функцию Skills Match в инструменте Recruiter, позволяя рекрутерам искать кандидатов по соответствующим навыкам. Был улучшен поиск резюме, автоматически выделяя ключевые навыки. Курсы LinkedIn Learning теперь включают в себя 300 программ по искусственному интеллекту. А также появились Collaborative articles, расширенный Q&A, который частично генерится AI.
2. Повышение скорости и производительности
В Recruiter была добавлена AI-генерация текста для ускорения создания сообщений кандидатам, с возможностью настройки по различным параметрам. Тестируют написание вакансий с помощью AI. Для улучшения профилей пользователей запускаются саджесты и готовые описания. Также была добавлена функция AI для создания сопроводительных писем и тренажер для подготовки к собеседованиям с обратной связью от AI.
3. Определение карьерного пути
Здесь пока готовых автономных инструментов вроде бы нет, но есть общая концепция, что линейные пути остались во вчерашнем дне, а теперь нужен и майндсет, и подходы, учитывающие сетевые сценарии развития карьеры.
Linkedin
REDEFINING WORK
As the CEO of LinkedIn, I think a lot about how to connect the world’s professionals to help them become more productive and successful. That’s been LinkedIn’s mission from the start, which means that while we may be a technology company, we’re actually in…
👍3❤2
Forwarded from PR Us
This media is not supported in your browser
VIEW IN TELEGRAM
В Хамовниках заметили гуляющих по улице роботов. Один из них в трениках и свитере. Что думаете?
Робот - 👍
Человек - 👌
Робот - 👍
Человек - 👌
😁5
Forwarded from Quantum Quintum
Так, тут у Gartner вышел хайп-цикл по искусственному интеллекту. Учитывая гигантский эффект GenAI, аналитики компании разделяют ключевые инновации на те, которые толкаются с помощью GenAI, и те, которые толкают сам GenAI.
🥓 Сидят на волне GenAI: AGI, инжиниринг ИИ, автономные системы, облачные ИИ-сервисы, композитные ИИ, машинное зрение, дата-центричный ИИ, граничный ИИ, умные приложения, операционализация моделей (ModelOps), операционные ИИ-системы (OAISys) - в сущности AI/MLOps, промпт-инжиниринг, умные роботы, синтетические данные.
🥓 Подогревают волную GenAI: симуляция ИИ, управление доверием, рисками и безопасностью ИИ (AI TRiSM), причинный ИИ, разметка и аннотирование данных, ИИ из первых принципов (FPAI), основные модели, графы знаний, мультиагентные системы, нейросимвольные ИИ, ответственный ИИ.
Сколько новых баззвордов!
🥓 Сидят на волне GenAI: AGI, инжиниринг ИИ, автономные системы, облачные ИИ-сервисы, композитные ИИ, машинное зрение, дата-центричный ИИ, граничный ИИ, умные приложения, операционализация моделей (ModelOps), операционные ИИ-системы (OAISys) - в сущности AI/MLOps, промпт-инжиниринг, умные роботы, синтетические данные.
🥓 Подогревают волную GenAI: симуляция ИИ, управление доверием, рисками и безопасностью ИИ (AI TRiSM), причинный ИИ, разметка и аннотирование данных, ИИ из первых принципов (FPAI), основные модели, графы знаний, мультиагентные системы, нейросимвольные ИИ, ответственный ИИ.
Сколько новых баззвордов!
В общем, по этой кривой мы сейчас с точки зрения ИИ - на пике ожиданий, все эти чатжпт и промты, а дальше… спад? 😳😳