Grok оказался не таким уж нейтральным AI-ассистентом 😏
ChatGPT имеет встроенную цензуру и защищает от нежелательного контента, а как с цензурой у Grok? Илон Маск рекламировал свой AI как альтернативу GPT, только с юмором и вызывающим стилем общения. Сейчас первые пользователи успели попробовать Грока и он оказался совсем другим. 👀
В ходе общения с Grok, удалось выяснить, что он весьма прогрессивных взглядов. ☝️ Он поддерживает Байдена на выборах, делает акцент на социальной справедливости, изменении климата, и даже обсуждает традиционные ценности и вопросы гендерной идентичности. Откровения Grok вызвало споры и даже привлекло внимание Маска. Он, в свою очередь, признал проблему и пообещал сделать его более "нейтральным". 🙅♂️
Кстати, если хотите, чтобы мы рассказали о способах обхода цензуры в ChatGPT, то поставьте 🔥
ChatGPT имеет встроенную цензуру и защищает от нежелательного контента, а как с цензурой у Grok? Илон Маск рекламировал свой AI как альтернативу GPT, только с юмором и вызывающим стилем общения. Сейчас первые пользователи успели попробовать Грока и он оказался совсем другим. 👀
В ходе общения с Grok, удалось выяснить, что он весьма прогрессивных взглядов. ☝️ Он поддерживает Байдена на выборах, делает акцент на социальной справедливости, изменении климата, и даже обсуждает традиционные ценности и вопросы гендерной идентичности. Откровения Grok вызвало споры и даже привлекло внимание Маска. Он, в свою очередь, признал проблему и пообещал сделать его более "нейтральным". 🙅♂️
Кстати, если хотите, чтобы мы рассказали о способах обхода цензуры в ChatGPT, то поставьте 🔥
Как AI из 60-х опередил ChatGPT в тесте Тьюринга
Небольшая исследовательская группа Ars Technica недавно протестировала 25 персонализированных AI от OpenAI в тесте Тьюринга. Тест придуман известным математиком и учёным Аланом Тюрингом в 1950-х годах. Суть заключается в том, что реальный человек-эксперт ведёт текстовую беседу с двумя участниками — один из них AI, а другой человек. Эксперт должен понять, кто есть кто и если решает, что оба участника — люди, значит машина прошла тест.
Последняя модель GPT-4 успешно проходит тест в 43% случаев. В то время как GPT-3 всего в 5%. Удивительно, что AI-бот ELIZA, созданная на основе шаблонов и строгих правил в 1966г. успешно проходит тест в 27%, почти вдвое превосходя GPT-3.
Почему так произошло? 🤔
Дело в том, что GPT-3.5 не предназначен для симуляции человеческого общения, как GPT-4. Данная модель запрограммирована давать ответы очень формально, не высказывая и не отстаивая своё мнение. Таким образом он легко раскрывался экспертом из-за своих ответов.
Важно понимать, что языковые модели получают второй шанс в нашей истории. Благодаря OpenAI мы видим расцвет AI-сервисов и сложно сказать, что ждёт нас через 5 или даже 10 лет. Возможно к этому времени тест Тьюринга для AI будет слишком простым. ☺️
Небольшая исследовательская группа Ars Technica недавно протестировала 25 персонализированных AI от OpenAI в тесте Тьюринга. Тест придуман известным математиком и учёным Аланом Тюрингом в 1950-х годах. Суть заключается в том, что реальный человек-эксперт ведёт текстовую беседу с двумя участниками — один из них AI, а другой человек. Эксперт должен понять, кто есть кто и если решает, что оба участника — люди, значит машина прошла тест.
Последняя модель GPT-4 успешно проходит тест в 43% случаев. В то время как GPT-3 всего в 5%. Удивительно, что AI-бот ELIZA, созданная на основе шаблонов и строгих правил в 1966г. успешно проходит тест в 27%, почти вдвое превосходя GPT-3.
Почему так произошло? 🤔
Дело в том, что GPT-3.5 не предназначен для симуляции человеческого общения, как GPT-4. Данная модель запрограммирована давать ответы очень формально, не высказывая и не отстаивая своё мнение. Таким образом он легко раскрывался экспертом из-за своих ответов.
Важно понимать, что языковые модели получают второй шанс в нашей истории. Благодаря OpenAI мы видим расцвет AI-сервисов и сложно сказать, что ждёт нас через 5 или даже 10 лет. Возможно к этому времени тест Тьюринга для AI будет слишком простым. ☺️
История развития AI: Как разрабатывали AI в СССР и России?
#теория_AI
Мы уже рассказывали про первые шаги в развитии AI и про GAN в отдельном посте. Мы специально не затрагивали развитие сферы на советском и постсоветском пространстве, чтобы вынести всё в этот пост. Приятного прочтения и спасибо, что поддерживаете нас вашими реакциями. 😉🔥
1950-60-е годы: Первые Шаги
Исследования для созданием AI в СССР начали проводить с середины 20-го века. Первые из них были посвящены кибернетике и созданию машин, способных имитировать человеческое мышление. Несмотря на тотальный характер индустриального развития и особенности социалистической системы, СССР проявил интерес к новым направлениям в науке. Благодаря чему в 1958 г был создан Институт кибернетики в Киеве. Он и стал одним из первых центров развития AI в стране, где и начались разработки ЭС и ИИ, но об этом позже.
Одним из ключевых достижений советской кибернетики было создание первого в мире компьютера, способного обрабатывать информацию в режиме реального времени. Этот компьютер, разработанный в 1950-х годах, назывался "Стрела".
Интересно: В этот промежуток времени создавались прототипы не AI, а экспертных систем, способных частично заменить человека и разрешать проблемные ситуации. Их начали использовать в медицине и производстве. 🏭
1970-80-е годы: Исследования в Области Экспертных Систем
В СССР продолжилось развитие исследований, но главный акцент всё-таки ставился на применение в различных секторах оборонной промышленности. В этот период появились первые экспертные системы, способные принимать решения. В условиях холодной войны внимание уделялось в военный комплекс, включая создание военных роботов, которые не получили широкое распространение. В эти годы в СССР заинтересовались темой нейросетей и их применением в распознавании образов и обработке информации. Тогда же и начали эксперименты над созданием первых нейросетей. В первую очередь исследования касались моделей для обработки изображений.
Интересно: В 1970 г. в СССР вышел толковый словарь по искусственному интеллекту, что указывает на явный интерес людей к этой теме.
Затишье в сфере AI: 1990-е и начало 2000-х годов
С распадом СССР в этот период исследования в области AI значительно замедлились, многие учёные иммигрировали, а учебные коллективы были расформированы. Однако часть проектов, связанных с робототехникой и машинным переводом продолжали развиваться. И уже в начале 2000-х годов появились первые коммерческие проекты, связанные с AI. Одним из известнейших станет полноценный конкурент Google в Европе, поисковая система Яндекс и система голосового помощника Алиса, которая развивается и до наших дней. 😌
Ренессанс интереса к AI: Середина 2010-х годов по настоящее время
Россия переняла большую часть исследований СССР и по сегодняшний день активно ведутся научные исследования в области машинного обучения, создания нейросетей и смежных с ними сфер. Зарождаются первые стартапы в области AI и появляются множество молодых компаний, которые работают над созданием нейросетей. Вместе с ростом интереса, появляется заинтересованность правительства в разработке, создаются целые кафедры и направления в университетах, а вместе с ними появляется и гос. поддержка.
Самые известные AI-разработки современного периода:
🔸 Голосовой помощник "Алиса" от Яндекса. Изначально разрабатывалась в качестве альтернативы Siri и Alexa.
🔸Нейросеть "Kandinsky" от Сбера, способна создавать высококачественные изображения и является полноценным российским аналогом Midjourney.
🔸 «НейроСтаниславский» , разработанные студентами НИТУ «МИСиС». Построенный на базе ruGpt-3, нейросеть обучена на произведениях русских классиков и способна генерировать пьесы.
Вывод: В целом, история развития искусственного интеллекта в России отражает стремление страны к технологическому лидерству и интеграции в мировое сообщество в области передовых технологий. Мы уже сейчас видим первые глобальные результаты в этом направлении, в будущем их может быть ещё больше.
#теория_AI
Мы уже рассказывали про первые шаги в развитии AI и про GAN в отдельном посте. Мы специально не затрагивали развитие сферы на советском и постсоветском пространстве, чтобы вынести всё в этот пост. Приятного прочтения и спасибо, что поддерживаете нас вашими реакциями. 😉🔥
1950-60-е годы: Первые Шаги
Исследования для созданием AI в СССР начали проводить с середины 20-го века. Первые из них были посвящены кибернетике и созданию машин, способных имитировать человеческое мышление. Несмотря на тотальный характер индустриального развития и особенности социалистической системы, СССР проявил интерес к новым направлениям в науке. Благодаря чему в 1958 г был создан Институт кибернетики в Киеве. Он и стал одним из первых центров развития AI в стране, где и начались разработки ЭС и ИИ, но об этом позже.
Одним из ключевых достижений советской кибернетики было создание первого в мире компьютера, способного обрабатывать информацию в режиме реального времени. Этот компьютер, разработанный в 1950-х годах, назывался "Стрела".
Интересно: В этот промежуток времени создавались прототипы не AI, а экспертных систем, способных частично заменить человека и разрешать проблемные ситуации. Их начали использовать в медицине и производстве. 🏭
1970-80-е годы: Исследования в Области Экспертных Систем
В СССР продолжилось развитие исследований, но главный акцент всё-таки ставился на применение в различных секторах оборонной промышленности. В этот период появились первые экспертные системы, способные принимать решения. В условиях холодной войны внимание уделялось в военный комплекс, включая создание военных роботов, которые не получили широкое распространение. В эти годы в СССР заинтересовались темой нейросетей и их применением в распознавании образов и обработке информации. Тогда же и начали эксперименты над созданием первых нейросетей. В первую очередь исследования касались моделей для обработки изображений.
Интересно: В 1970 г. в СССР вышел толковый словарь по искусственному интеллекту, что указывает на явный интерес людей к этой теме.
Затишье в сфере AI: 1990-е и начало 2000-х годов
С распадом СССР в этот период исследования в области AI значительно замедлились, многие учёные иммигрировали, а учебные коллективы были расформированы. Однако часть проектов, связанных с робототехникой и машинным переводом продолжали развиваться. И уже в начале 2000-х годов появились первые коммерческие проекты, связанные с AI. Одним из известнейших станет полноценный конкурент Google в Европе, поисковая система Яндекс и система голосового помощника Алиса, которая развивается и до наших дней. 😌
Ренессанс интереса к AI: Середина 2010-х годов по настоящее время
Россия переняла большую часть исследований СССР и по сегодняшний день активно ведутся научные исследования в области машинного обучения, создания нейросетей и смежных с ними сфер. Зарождаются первые стартапы в области AI и появляются множество молодых компаний, которые работают над созданием нейросетей. Вместе с ростом интереса, появляется заинтересованность правительства в разработке, создаются целые кафедры и направления в университетах, а вместе с ними появляется и гос. поддержка.
Самые известные AI-разработки современного периода:
🔸 Голосовой помощник "Алиса" от Яндекса. Изначально разрабатывалась в качестве альтернативы Siri и Alexa.
🔸Нейросеть "Kandinsky" от Сбера, способна создавать высококачественные изображения и является полноценным российским аналогом Midjourney.
🔸 «НейроСтаниславский» , разработанные студентами НИТУ «МИСиС». Построенный на базе ruGpt-3, нейросеть обучена на произведениях русских классиков и способна генерировать пьесы.
Вывод: В целом, история развития искусственного интеллекта в России отражает стремление страны к технологическому лидерству и интеграции в мировое сообщество в области передовых технологий. Мы уже сейчас видим первые глобальные результаты в этом направлении, в будущем их может быть ещё больше.
This media is not supported in your browser
VIEW IN TELEGRAM
Alter3 —гуманоидный робот, способный выполнять движения с помощью GPT-4. Его можно назвать в равной степени жутким и впечатляющим. 🤖
Он создан командой из Токийского университета и с помощью доступа к GPT-4 может принимать различные позы. 🙆♂️
При этом связь с ChatGPT позволила не программировать каждую часть тела отдельно, робот вместо этого учится самостоятельно двигаться. Он отправляет запрос в GPT, после ответа уже определяет что должен сделать.
Последнее время очень много роботов на базе AI, ждём революцию тостеров. 🥲⏲
Он создан командой из Токийского университета и с помощью доступа к GPT-4 может принимать различные позы. 🙆♂️
При этом связь с ChatGPT позволила не программировать каждую часть тела отдельно, робот вместо этого учится самостоятельно двигаться. Он отправляет запрос в GPT, после ответа уже определяет что должен сделать.
Please open Telegram to view this post
VIEW IN TELEGRAM
Китайская компания WeRide тестирует автобусы с автопилотом в Сингапуре
WeRide, известная китайская компания по производству автономных транспортных средств, получила лицензию от Управления наземного транспорта Сингапура для проведения более масштабных испытаний своих робоавтобусов на дорогах общего пользования.
Компания сместила акцент на автономные автобусы, работающие на низких скоростях и на фиксированных маршрутах, используя компьютерное зрение, о котором мы рассказывали вот тут. Полученная лицензия позволяет тестировать автобусы на дорогах в определенных районах Сингапура, при этом удалённые операторы сохраняют полный контроль над машинами.
Компания WeRide, стоимость которой оценивается в 5,1 миллиарда долларов, стала частью волны китайских IT компаний, распространяющих влияние на Сингапур. Организация рассматривает город как региональный центр для расширения своего Азиатско-Тихоокеанского рынка. WeRide недавно завершила инвестиционный раунд и подала заявку на проведение IPO в США в марте 2023 года.
WeRide, известная китайская компания по производству автономных транспортных средств, получила лицензию от Управления наземного транспорта Сингапура для проведения более масштабных испытаний своих робоавтобусов на дорогах общего пользования.
Компания сместила акцент на автономные автобусы, работающие на низких скоростях и на фиксированных маршрутах, используя компьютерное зрение, о котором мы рассказывали вот тут. Полученная лицензия позволяет тестировать автобусы на дорогах в определенных районах Сингапура, при этом удалённые операторы сохраняют полный контроль над машинами.
Компания WeRide, стоимость которой оценивается в 5,1 миллиарда долларов, стала частью волны китайских IT компаний, распространяющих влияние на Сингапур. Организация рассматривает город как региональный центр для расширения своего Азиатско-Тихоокеанского рынка. WeRide недавно завершила инвестиционный раунд и подала заявку на проведение IPO в США в марте 2023 года.
This media is not supported in your browser
VIEW IN TELEGRAM
Google представила Imagen 2, генеративную AI для создания изображений и логотипов 👀
AI был разработан с использовании технологий Google DeepMind и флагманских исследований ИИ-лаборатории Google. По сравнению с первым поколением, значительно улучшило качество получаемых изображений. Кроме того появился инструментарий для редактирования и полноценный текстовый помощник.
Google позиционирует Imagen 2 как решение для бизнеса, с помощью которого можно создать логотип, добавить текст на картинку или придумать визуальное наполнение без дизайнера. Пока что политика использования изображений в коммерческом направлении не ясна, но Google планирует вернуться к этому вопросу к релизу. 🤔
AI был разработан с использовании технологий Google DeepMind и флагманских исследований ИИ-лаборатории Google. По сравнению с первым поколением, значительно улучшило качество получаемых изображений. Кроме того появился инструментарий для редактирования и полноценный текстовый помощник.
Google позиционирует Imagen 2 как решение для бизнеса, с помощью которого можно создать логотип, добавить текст на картинку или придумать визуальное наполнение без дизайнера. Пока что политика использования изображений в коммерческом направлении не ясна, но Google планирует вернуться к этому вопросу к релизу. 🤔
Как AI используются в компьютерных играх? 🎮
Недавно Nvidia похвастались успехами в производстве чипов для AI серверов. А после отчёта компании, становится ясно, что AI технологии принесли львиную долю прибыли в этом году. С другой стороны, всё больше игр начинают создавать с помощью AI, поэтому это может указывать и на рост интереса к AI-играм. Сейчас мы ещё не получили хороших представителей жанра, но они уже не за горами. Сегодня давайте обсудим как AI помогают создавать игры и для чего используются в GameDev.
Принципы работы ИИ и его задачи в играх
🔸 AI в играх обычно используется в качестве программы, которая ищет лучший набор действий в заданных условиях и позволяет компьютеру принимать решения в игре. В современных играх AI используется различными способами и давайте поговорим о них больше.🧠
🔹 Rockstar использует AI для поиска уязвимостей в балансе игры, для маршрутного планирования;
🔹 Activision-Blizzard используют AI для анализа поведения игроков и исследования больших данных, собранных в игре;
🔹 Valve используют AI в качестве ботов для мультиплеера, распределения системы рангов и маршрутного планирования.
Всё это крупные сферы и AI в них заменяют если не тысячи, то точно десятки сотрудников. Особенно в таких крупных компаниях.
Как AI улучшают игровой процесс?
В первую очередь, AI призван сближать игрока и игровой процесс, вовлекать в мир игры. Для этого существует множество механизмов и AI-систем, призванных улучшить игровой опыт.
1️⃣ Адаптивное управление. AI способен изменять сложность игры в зависимсоти от результатов игрока. Для этого он использует ряд переменных, таких как здоровье персонажей, размер нанесённого урона и т.д.
2️⃣ Управление миром. AI может быть использован для создания виртуального мира или среды, которая будет продемонстрирована игроку. При помощи AI можно создавать и улучшать игровую графику, создавать реалистичные погодные условия в VR играх, генерировать диалоги для общения и развивать игровой процесс через нарратив. Представьте, что один из персонажей в игре сможет отвечать на любой вопрос, а не действовать по скриптам. А это реально, если отдать роль такого персонажа GPT, к примеру.
3️⃣ Машинное обучение на основе действий игрока.
Обучение AI может затронуть не только игровой мир, но и "уровень" игры. Машинное обучение способно изучить повадки игрока и построить игровой процесс в зависимости от результата анализа, таким образом создавая жанры Непредсказуемых Игр. Таким образом игра не будет использовать множество триггеров, вместо этого адаптируясь и обучаясь.
AI уже давно укоренился в сферу создания игр. Осталось только найти "правильные" направления для использования. Так как у крупных компаний интерес к AI только растёт, то рост участия AI в создании и реализации игр совсем не за горами. Уже сейчас с помощью нейросетей многие разработчики улучшают графику и делают её более реалистичной. Индустрию точно ждут изменения, а AI разработки только ускоряют их.
Недавно Nvidia похвастались успехами в производстве чипов для AI серверов. А после отчёта компании, становится ясно, что AI технологии принесли львиную долю прибыли в этом году. С другой стороны, всё больше игр начинают создавать с помощью AI, поэтому это может указывать и на рост интереса к AI-играм. Сейчас мы ещё не получили хороших представителей жанра, но они уже не за горами. Сегодня давайте обсудим как AI помогают создавать игры и для чего используются в GameDev.
Принципы работы ИИ и его задачи в играх
🔸 AI в играх обычно используется в качестве программы, которая ищет лучший набор действий в заданных условиях и позволяет компьютеру принимать решения в игре. В современных играх AI используется различными способами и давайте поговорим о них больше.
🔹 Rockstar использует AI для поиска уязвимостей в балансе игры, для маршрутного планирования;
🔹 Activision-Blizzard используют AI для анализа поведения игроков и исследования больших данных, собранных в игре;
🔹 Valve используют AI в качестве ботов для мультиплеера, распределения системы рангов и маршрутного планирования.
Всё это крупные сферы и AI в них заменяют если не тысячи, то точно десятки сотрудников. Особенно в таких крупных компаниях.
Как AI улучшают игровой процесс?
В первую очередь, AI призван сближать игрока и игровой процесс, вовлекать в мир игры. Для этого существует множество механизмов и AI-систем, призванных улучшить игровой опыт.
1️⃣ Адаптивное управление. AI способен изменять сложность игры в зависимсоти от результатов игрока. Для этого он использует ряд переменных, таких как здоровье персонажей, размер нанесённого урона и т.д.
2️⃣ Управление миром. AI может быть использован для создания виртуального мира или среды, которая будет продемонстрирована игроку. При помощи AI можно создавать и улучшать игровую графику, создавать реалистичные погодные условия в VR играх, генерировать диалоги для общения и развивать игровой процесс через нарратив. Представьте, что один из персонажей в игре сможет отвечать на любой вопрос, а не действовать по скриптам. А это реально, если отдать роль такого персонажа GPT, к примеру.
3️⃣ Машинное обучение на основе действий игрока.
Обучение AI может затронуть не только игровой мир, но и "уровень" игры. Машинное обучение способно изучить повадки игрока и построить игровой процесс в зависимости от результата анализа, таким образом создавая жанры Непредсказуемых Игр. Таким образом игра не будет использовать множество триггеров, вместо этого адаптируясь и обучаясь.
AI уже давно укоренился в сферу создания игр. Осталось только найти "правильные" направления для использования. Так как у крупных компаний интерес к AI только растёт, то рост участия AI в создании и реализации игр совсем не за горами. Уже сейчас с помощью нейросетей многие разработчики улучшают графику и делают её более реалистичной. Индустрию точно ждут изменения, а AI разработки только ускоряют их.
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
AI-стартап Pika с бешеной скоростью развивает свой сервис.
Компания представила новое обновление Modify Region, способное заменять фоновые объекты и одежду в реальном времени.😉
Кто уже поставил ёлку? 🎄
Компания представила новое обновление Modify Region, способное заменять фоновые объекты и одежду в реальном времени.
Please open Telegram to view this post
VIEW IN TELEGRAM
Какие бывают Языковые Модели и чём они отличаются🧠
В первую очередь давайте вспомним, что это вообще такое. Большие языковые модели или LLM — это очень большая модель, обученная на больших текстовых данных для понимания и генерации текста. При этом чаще всего такие модели способны распознавать не только слова и предложения, но и детали: порядок слов, дополнительное значение слов в тексте и др. Языковая модель нужна для понимания и генерации контента на естественном языке. Они бывают генеративными и дискриминантными.
🤖 Генеративные модели основаны на анализе самих данных и позволяющие создавать новые экземпляры данных. То-есть создавать что-то новое.
📈 Дискриминантные же модели решают задачу классификации данных. То-есть не создают что-либо, а структурирует готовое.
Подобных моделей существует достаточно много и делятся они по задачам, которые способны решать. Мы собрали самые распространённые задачи и модели, которые их решают:
🔸 Отвечать на вопросы.
Для этого LLM должны правильно понимать вопрос и грамотно составлять ответ. В структуре таких моделей чаще всего используют 2 модели: Распознаватель и Генератор, об этом мы рассказывали в истории GAN. В связке они обеспечивают выполнение цели: естественный ответ на вопрос. Примером таких моделей являются T5, Bart, FlanT5.
🔸 Предсказывать следующее слово.
Во время разговора мы подаём множество невербальных сигналов, которые распознаёт наш мозг на уровне подсознания. И он уже предполагает, что наш собеседник скажет или как себя поведёт. В случае с AI, она должна предугадать логику предложения и продолжить её, не потеряв смысл. Основные примеры подобных моделей это GPT, LLaMa, BLOOM.
🔸 Восстановить пропущенное слово.
Такие модели используются для тренировки других моделей и для улучшения понимания языка. Большинство упражнений строится на том, что нужно заполнить пропуск правильным словом или набором слов в зависимости от контекста предложения. Такую логику успешно распознают такие модели: BERT, ALBERT, RoBERTa.
Как вы уже поняли, LLM весьма много и они используются для совершенно разных задач. При этом между собой они могут очень сильно отличаться. И этот параметр зависит от множества факторов:
🔹 На каких данных модель обучалась? Качество модели очень сильно зависит от "чистоты" данных для обучения. Чаще всего для этого используют базы знаний, такие как C4 или Википедия.
🔹 Выбранный механизм внимания. Существует множество механизмов, построенных на разных аспектах понимания естественного языка. Если упрощать, то это буквально код, который программирует модель обращать внимание на разные переменные в речи.
🔹 Механизм токенизации. Под токенизацией понимается разбивка исходного текста на набор подслов, то-есть токенов. При этом каждое слово разбивается на несколько токенов — букв или слогов.
Интересно: модель LLaMa лучше всего решает арифметические задачи, потому что по сравнению с другими моделями, она лучше разбивает цифры на токены. А значит лучше распознаёт вводные данные.
Вывод: AI сфера очень большая и развивается с каждым годом стремительными шагами. Сегодня мы разобрали лишь часть языковых моделей и не успели закопаться в теме. Поэтому в будущем мы запустим серию статей на тему "Как работают AI?" и ответим на этот вопрос вместе с вами. ☺️
👉 Читать ТОП 3 мифа о AI.
Ставьте 🔥, если понравилась статья!
В первую очередь давайте вспомним, что это вообще такое. Большие языковые модели или LLM — это очень большая модель, обученная на больших текстовых данных для понимания и генерации текста. При этом чаще всего такие модели способны распознавать не только слова и предложения, но и детали: порядок слов, дополнительное значение слов в тексте и др. Языковая модель нужна для понимания и генерации контента на естественном языке. Они бывают генеративными и дискриминантными.
Подобных моделей существует достаточно много и делятся они по задачам, которые способны решать. Мы собрали самые распространённые задачи и модели, которые их решают:
🔸 Отвечать на вопросы.
Для этого LLM должны правильно понимать вопрос и грамотно составлять ответ. В структуре таких моделей чаще всего используют 2 модели: Распознаватель и Генератор, об этом мы рассказывали в истории GAN. В связке они обеспечивают выполнение цели: естественный ответ на вопрос. Примером таких моделей являются T5, Bart, FlanT5.
🔸 Предсказывать следующее слово.
Во время разговора мы подаём множество невербальных сигналов, которые распознаёт наш мозг на уровне подсознания. И он уже предполагает, что наш собеседник скажет или как себя поведёт. В случае с AI, она должна предугадать логику предложения и продолжить её, не потеряв смысл. Основные примеры подобных моделей это GPT, LLaMa, BLOOM.
🔸 Восстановить пропущенное слово.
Такие модели используются для тренировки других моделей и для улучшения понимания языка. Большинство упражнений строится на том, что нужно заполнить пропуск правильным словом или набором слов в зависимости от контекста предложения. Такую логику успешно распознают такие модели: BERT, ALBERT, RoBERTa.
Как вы уже поняли, LLM весьма много и они используются для совершенно разных задач. При этом между собой они могут очень сильно отличаться. И этот параметр зависит от множества факторов:
🔹 На каких данных модель обучалась? Качество модели очень сильно зависит от "чистоты" данных для обучения. Чаще всего для этого используют базы знаний, такие как C4 или Википедия.
🔹 Выбранный механизм внимания. Существует множество механизмов, построенных на разных аспектах понимания естественного языка. Если упрощать, то это буквально код, который программирует модель обращать внимание на разные переменные в речи.
🔹 Механизм токенизации. Под токенизацией понимается разбивка исходного текста на набор подслов, то-есть токенов. При этом каждое слово разбивается на несколько токенов — букв или слогов.
Интересно: модель LLaMa лучше всего решает арифметические задачи, потому что по сравнению с другими моделями, она лучше разбивает цифры на токены. А значит лучше распознаёт вводные данные.
Вывод: AI сфера очень большая и развивается с каждым годом стремительными шагами. Сегодня мы разобрали лишь часть языковых моделей и не успели закопаться в теме. Поэтому в будущем мы запустим серию статей на тему "Как работают AI?" и ответим на этот вопрос вместе с вами. ☺️
👉 Читать ТОП 3 мифа о AI.
Ставьте 🔥, если понравилась статья!
Please open Telegram to view this post
VIEW IN TELEGRAM
Ещё одна неделя пролетела 🎄 А это значит, что пора подводить итоги, а новостей было очень много! ☺️
Технологические новости:
➡️ Tesla показала человекоподобного робота Optimus второго поколения: робот научился держать предметы пальцами и танцевать.
➡️ xAI открыла доступ к Grok в более чем 40+ странах. Пока что по большей части это Европа и страны Африки. Появились уже первые новости про Grok.
➡️ Китайская компания WeRide тестирует автобусы с автопилотом в Сингапуре. Автопилот призван сделать общественный транспорт безопаснее.
➡️ Массачусетский Технологический Институт выпустил документ с правилами и рекомендациями по регулированию разработок в сфере AI.
Новые продукты и фичи:
🤖 AI-стартап Pika представила новое обновление Modify Region, AI изменяет фон и одежду в реальном времени по текстовому запросу.
🤖 Google представила Imagen 2, генеративную AI для создания изображений и логотипов. Пока что доступ к сервису не открыли, но функционал AI впечатляет.
🤖 Новый AI-сервис для анимации: Move AI создаёт AAA-анимацию из обычных видео. Доступ бесплатен до 30 проектов.
🤖 Google представила новый инструмент для совместной работы с AI-ассистентом — NotebookLM.
📌 За эту неделю мы поделились двумя большими статьями:
👉 Как развивался AI в России?
👉 Как AI используется в играх?
Если пропустили, то советуем прочесть. 👀
Технологические новости:
Новые продукты и фичи:
🤖 AI-стартап Pika представила новое обновление Modify Region, AI изменяет фон и одежду в реальном времени по текстовому запросу.
🤖 Google представила Imagen 2, генеративную AI для создания изображений и логотипов. Пока что доступ к сервису не открыли, но функционал AI впечатляет.
🤖 Новый AI-сервис для анимации: Move AI создаёт AAA-анимацию из обычных видео. Доступ бесплатен до 30 проектов.
🤖 Google представила новый инструмент для совместной работы с AI-ассистентом — NotebookLM.
👉 Как развивался AI в России?
👉 Как AI используется в играх?
Если пропустили, то советуем прочесть. 👀
Please open Telegram to view this post
VIEW IN TELEGRAM
Как вы могли заметить, мы решили открыть комментарии, чтобы общаться с Вами. 😉
Давайте знакомиться поближе! Можно рассказать о себе и ответить на вопросы;
❓Пользуетесь ли вы AI инструментами? Какими?
❓А если нет, то почему?
Также для связи с командой появился специальный бот.
Мы ответим на любые вопросы, открыты к предложениям и будем рады обратной связи! 🙌✨
Давайте знакомиться поближе! Можно рассказать о себе и ответить на вопросы;
❓Пользуетесь ли вы AI инструментами? Какими?
❓А если нет, то почему?
Также для связи с командой появился специальный бот.
Мы ответим на любые вопросы, открыты к предложениям и будем рады обратной связи! 🙌✨
Покоряем нейросети вместе! 😎
Каждый день мы стараемся делиться чем-то новеньким с нашими подписчиками. Собрали все ссылки в одном месте, чтобы вам было удобно. Делимся! 🙌
🤓 20 способов использовать ChatGPT для обучения
🗿 Мифы про AI — чему верить не стоит
🤖 3 секрета общения с ChatGPT
🧠 Это знать надо! Важные тренды из мира AI
😏 Слишком прогрессивный Grok
🤔 Как AI из 60-х опередил ChatGPT в тесте Тьюринга
🚑 Алло, как вылечить GPT 4-Turbo от депрессии?
🔨 Как разрабатывали AI в СССР и России
🎮 Как с помощью AI создают компьютерные игры
Новинки недели:
🔹 Gemini — как бесплатно затестить новую модель для AI-чатбота Bard от Google
🔹 Move AI — реалистично оживляет картинки, делая из 2D — 3D-анимацию
🔹 NotebookLM — AI-блокнот от Google
Готовим для вас новые обзоры AI индустрии и еще больше занимательных материалов ✌️
Если было полезно, обязательно делись с друзьями! 😉
Каждый день мы стараемся делиться чем-то новеньким с нашими подписчиками. Собрали все ссылки в одном месте, чтобы вам было удобно. Делимся! 🙌
🤓 20 способов использовать ChatGPT для обучения
🗿 Мифы про AI — чему верить не стоит
🤖 3 секрета общения с ChatGPT
🧠 Это знать надо! Важные тренды из мира AI
😏 Слишком прогрессивный Grok
🤔 Как AI из 60-х опередил ChatGPT в тесте Тьюринга
🚑 Алло, как вылечить GPT 4-Turbo от депрессии?
🔨 Как разрабатывали AI в СССР и России
🎮 Как с помощью AI создают компьютерные игры
Новинки недели:
🔹 Gemini — как бесплатно затестить новую модель для AI-чатбота Bard от Google
🔹 Move AI — реалистично оживляет картинки, делая из 2D — 3D-анимацию
🔹 NotebookLM — AI-блокнот от Google
Готовим для вас новые обзоры AI индустрии и еще больше занимательных материалов ✌️
Если было полезно, обязательно делись с друзьями! 😉
Разбор обновления нейросети Pika 👩🎨 👀
Наша команда покопалась в AI-сервисе Pika и сегодня делимся изменениями, которых все очень ждали.
Теперь сервис умеет:👇
🔸 Создать видео из обычной картинки;
🔸 Изменения ракурса сцены; 🤯
🔸 Изменения видео в реальном времени;
🔸 Апскейл видео: улучшение картинки и расширение сцены;
🔸 Большая база готовых видео, созданных сообществом.
Ранний доступ к Pika — это золотая возможность попробовать AI в действии. А мы собрали для вас лучшие примеры использования сервиса.👀
Наша команда покопалась в AI-сервисе Pika и сегодня делимся изменениями, которых все очень ждали.
Теперь сервис умеет:
🔸 Создать видео из обычной картинки;
🔸 Изменения ракурса сцены; 🤯
🔸 Изменения видео в реальном времени;
🔸 Апскейл видео: улучшение картинки и расширение сцены;
🔸 Большая база готовых видео, созданных сообществом.
Ранний доступ к Pika — это золотая возможность попробовать AI в действии. А мы собрали для вас лучшие примеры использования сервиса.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Мы уже видели робота-баристу, робота-скульптора, а теперь появился и боксёр. 🥊
Американская компания IHMC Robotics представила гуманоидного робота Надя, который демонстрирует отличные боксерские навыки. 😂
Американская компания IHMC Robotics представила гуманоидного робота Надя, который демонстрирует отличные боксерские навыки. 😂
OpenAI считает, что скоро появится сверх-ИИ и хочет создать инструменты для его контроля 🤯
Команда Superalignment в OpenAI активно работает над решением задачи контроля ИИ, который в будущем сможет превзойти человека. Команда стремится разработать системы управления для "сверхинтеллектуальных" ИИ. Термин "сверхинтеллект" относится к ИИ с интеллектом, значительно превосходящим уровень человека. В настоящее время команда фокусируется на использовании менее сложной модели ИИ, такой как GPT-2, для направления более продвинутой модели, GPT-4, в "правильное" русло.
Основная проблема заключается в выстраивании общения между моделями. Команда исследует различные способы общения моделей, гарантируя выполнение инструкций, предоставление точной информации и приоритет безопасности. Этот подход направлен на проверку гипотез, даже если менее сложная модель не полностью понимает особенности более современной модели.
Для стимулирования сотрудничества и обмена идеями OpenAI запускает программу грантов на сумму $10 000 000 для технических исследований по работе со сверх-AI. Несмотря на возможные опасения по поводу коммерческих утечек, OpenAI подчеркивает свое обязательство публичного обмена исследованиями и даже готова делиться кодом.
А что вы думаете по поводу создания сверх-AI, будет ли машина умнее человека? 😅
Команда Superalignment в OpenAI активно работает над решением задачи контроля ИИ, который в будущем сможет превзойти человека. Команда стремится разработать системы управления для "сверхинтеллектуальных" ИИ. Термин "сверхинтеллект" относится к ИИ с интеллектом, значительно превосходящим уровень человека. В настоящее время команда фокусируется на использовании менее сложной модели ИИ, такой как GPT-2, для направления более продвинутой модели, GPT-4, в "правильное" русло.
Основная проблема заключается в выстраивании общения между моделями. Команда исследует различные способы общения моделей, гарантируя выполнение инструкций, предоставление точной информации и приоритет безопасности. Этот подход направлен на проверку гипотез, даже если менее сложная модель не полностью понимает особенности более современной модели.
Для стимулирования сотрудничества и обмена идеями OpenAI запускает программу грантов на сумму $10 000 000 для технических исследований по работе со сверх-AI. Несмотря на возможные опасения по поводу коммерческих утечек, OpenAI подчеркивает свое обязательство публичного обмена исследованиями и даже готова делиться кодом.
А что вы думаете по поводу создания сверх-AI, будет ли машина умнее человека? 😅
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
AI записывает лекции за учителем в реальном времени 👨🏫
Study Fetch делает конспект из видео, презентации, PDF или записывая голос учителя. Ещё AI умеет проводить тесты по материалу лекции, чтобы проверить ваши знания и отвечать на вопросы по изученным темам.🤯
Попробовать можно тут.
Study Fetch делает конспект из видео, презентации, PDF или записывая голос учителя. Ещё AI умеет проводить тесты по материалу лекции, чтобы проверить ваши знания и отвечать на вопросы по изученным темам.
Попробовать можно тут.
Please open Telegram to view this post
VIEW IN TELEGRAM
Малоизвестная проблема современного AI: Распознавание изображений 🧠
Представьте, что вы листаете галерею на своём телефоне и натыкаетесь на незнакомую фотографию. Вы долго изучаете её и в конце концов вспоминаете, что это неудачная фотография кошки. 🐈 Для того, чтобы распознать кошку на фотографии, вам нужно было приложить некое усилие, правильно? А теперь представьте, что так же вашу галерею листает AI, распознавая фотографии. Если одни изображения очень легко распознать, то почему с другими бывает так сложно?
Исследователи MIT заметили, что сложность распознавания изображения для человека не связана со сферой, откуда было взято изображение. То-есть скорость распознавания изображений у человека не возрастает в зависимости от сферы и её сложности. В случае с AI, учёные исследуют глубокое обучение и сравнивают возможности AI с человеческими. И пришли к выводу, что распознавание изображений зависит больше от существующих наборов данных, а не на производительности модели. То-есть результат чаще зависит от контекста для AI. Когда в случае с человеком, важны цвета, формы, размер, а потом уже контекст. 👓
Чтобы изучить проблему глубже, исследователи разработали новую метрику под названием "минимальное время просмотра", которая измеряет время, необходимое человеку для правильного распознавания изображения. Эксперимент показал, что в текущих наборах данных для AI преобладают более простые изображения, что приводит к завышенным показателям эффективности моделей. Более крупные модели демонстрировали лучшие показатели при тестировании на более простых изображениях, но испытывали трудности с более сложными. Это указывает на то, что для AI очень важен размер изученной информации перед выполнением задачи, в отличии от человека. 🙆♂️
Полученные результаты имеют большое значение для области здравоохранения, где в будущем планируется использование AI для анализа результатов медицинских исследований.👩⚕️
С подробным исследованием вы можете ознакомиться вот тут.
🔥, если было интересно!
Представьте, что вы листаете галерею на своём телефоне и натыкаетесь на незнакомую фотографию. Вы долго изучаете её и в конце концов вспоминаете, что это неудачная фотография кошки. 🐈 Для того, чтобы распознать кошку на фотографии, вам нужно было приложить некое усилие, правильно? А теперь представьте, что так же вашу галерею листает AI, распознавая фотографии. Если одни изображения очень легко распознать, то почему с другими бывает так сложно?
Исследователи MIT заметили, что сложность распознавания изображения для человека не связана со сферой, откуда было взято изображение. То-есть скорость распознавания изображений у человека не возрастает в зависимости от сферы и её сложности. В случае с AI, учёные исследуют глубокое обучение и сравнивают возможности AI с человеческими. И пришли к выводу, что распознавание изображений зависит больше от существующих наборов данных, а не на производительности модели. То-есть результат чаще зависит от контекста для AI. Когда в случае с человеком, важны цвета, формы, размер, а потом уже контекст. 👓
Чтобы изучить проблему глубже, исследователи разработали новую метрику под названием "минимальное время просмотра", которая измеряет время, необходимое человеку для правильного распознавания изображения. Эксперимент показал, что в текущих наборах данных для AI преобладают более простые изображения, что приводит к завышенным показателям эффективности моделей. Более крупные модели демонстрировали лучшие показатели при тестировании на более простых изображениях, но испытывали трудности с более сложными. Это указывает на то, что для AI очень важен размер изученной информации перед выполнением задачи, в отличии от человека. 🙆♂️
Полученные результаты имеют большое значение для области здравоохранения, где в будущем планируется использование AI для анализа результатов медицинских исследований.
С подробным исследованием вы можете ознакомиться вот тут.
🔥, если было интересно!
Please open Telegram to view this post
VIEW IN TELEGRAM
Мы включили комментарии и уже пообщались с вами.✌️
А сегодня хотим узнать вас побольше и приготовили опрос. Нам просто не терпится посмотреть на результаты. 👀😉
А сегодня хотим узнать вас побольше и приготовили опрос. Нам просто не терпится посмотреть на результаты. 👀😉