Топовый эксперт расскажет обо всех стадиях обучения LLM. Лекция особенно будет полезна тем, кто знаком с популярными большими языковыми моделями и терминами.
За 3.5 часа Карпаты расскажет про:
🧠 Прентрейнинг: как обрабатываются данные, как проходит токенизация и строятся архитектуры типа Transformer – реальные примеры из практики.
🧠 Файнтюнинг: психология LLM, почему они иногда «галлюцинируют»: ошибки в орфографии и другие примеры.
🧠 RLHF (обучение с подкреплением): подробный разбор на примере DeepSeek R1 – одной из самых обсуждаемых моделей последних месяцев.
Лекция на английском языке, но есть возможность включить автоматические субтитры на русском. Если всё хотите выжимку из лекции – посмотрите последние 10 минут лекции.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4✍2❤1
ИИ пока не заменит программистов — исследователи из OpenAI пришли к выводу, что даже самые передовые модели всё ещё справляются с кодом хуже человека.
В тесте проверили способности двух собственных моделей: o1 и GPT-4o, а также Claude 3.5 Sonnet от Anthropic. Для оценки выбран был новый бенчмарк SWE-Lancer, который включает более 1400 задач по программированию с сайта фрилансеров Upwork.
LLM в целом справились с индивидуальными задачами Upwork, но без подключения к интернету модели могли решать только простые проблемы. Использовать ИИ для решения архитектурных задач оказалось бесполезно: модели не понимали контекст и не могли найти первопричины багов. Нейронки работали с кодом быстрее людей и уверенно выдавали ответ – правда, любой разработчик без труда нашёл бы в решении ошибки.
Claude 3.5 Sonnet показал результат лучше моделей OpenAI, впрочем, разработка Anthropic тоже оказалась не готова к многоуровневым задачам. Авторы статьи считают, что на данный момент даже самые продвинутые нейросети не могут работать с кодом самостоятельно.
Джуны вздохнули с облегчением.
В тесте проверили способности двух собственных моделей: o1 и GPT-4o, а также Claude 3.5 Sonnet от Anthropic. Для оценки выбран был новый бенчмарк SWE-Lancer, который включает более 1400 задач по программированию с сайта фрилансеров Upwork.
LLM в целом справились с индивидуальными задачами Upwork, но без подключения к интернету модели могли решать только простые проблемы. Использовать ИИ для решения архитектурных задач оказалось бесполезно: модели не понимали контекст и не могли найти первопричины багов. Нейронки работали с кодом быстрее людей и уверенно выдавали ответ – правда, любой разработчик без труда нашёл бы в решении ошибки.
Claude 3.5 Sonnet показал результат лучше моделей OpenAI, впрочем, разработка Anthropic тоже оказалась не готова к многоуровневым задачам. Авторы статьи считают, что на данный момент даже самые продвинутые нейросети не могут работать с кодом самостоятельно.
Джуны вздохнули с облегчением.
💯3😁2❤1👨💻1
Линейка iPhone 17, вероятно, будет выглядеть так. Классический блок камер оставят только для базового айфона.
Рендеры всего модельного ряда и фото чехлов для версии Pro опубликовал в Х инсайдер Маджин Бу.
Рендеры всего модельного ряда и фото чехлов для версии Pro опубликовал в Х инсайдер Маджин Бу.
❤2
This media is not supported in your browser
VIEW IN TELEGRAM
Новая модель от Anthropic может выйти на днях?
Инсайдер Jimmy Apples выложил отредактированный клип на песню Karma Police, в котором от машины убегает Сэм Альтман. Видео он сопроводил фразой «Реванш. Завтра».
Инсайдер Jimmy Apples выложил отредактированный клип на песню Karma Police, в котором от машины убегает Сэм Альтман. Видео он сопроводил фразой «Реванш. Завтра».
😁4🤔1
Apple потратит более $500 млрд в следующие 4 года, чтобы запустить производство чипов в США.
Компания обещает создать рабочие места во всех 50 штатах. Перенести в США планируют производство серверов и чиповые комплектующие для Apple Intelligence и других облачных сервисов, под эти цели в 2026 должны запустить завод в Хьюстоне, Техас. Чипы для яблочных устройств собирать будут и на заводе TSMC в Аризоне.
Исследования и разработку американский бренд также будет вести на родине, а не в Индии или Китае. Для этого в ближайшие годы Apple наймёт более 20 тысяч человек, в основном специалистов по ML, разработчиков ПО и инженеров чипов. Вложится компания и в обучение по этим специальностям.
Пресс-релиз обо всех этих нововведениях появился на сайте купертиновцев вскоре после личной встречи Тима Кука с Трампом.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2👍2😁2👏1🥴1
This media is not supported in your browser
VIEW IN TELEGRAM
В фильме «Сеть» (1995) Сандра Буллок играет хакершу.
Чтобы подчеркнуть образ айтишницы-затворницы, сценаристы придумали сцену, где героиня заказывает пиццу (невероятно!) по интернету.
Свидетели вспоминают, что зрители в залах кинотеатров на этом моменте в голос смеялись. Прошло 30 лет…
Чтобы подчеркнуть образ айтишницы-затворницы, сценаристы придумали сцену, где героиня заказывает пиццу (невероятно!) по интернету.
Свидетели вспоминают, что зрители в залах кинотеатров на этом моменте в голос смеялись. Прошло 30 лет…
👍3😁2
Дайджест: главные digital-новости за неделю 17-24 февраля
❌ Вышел Grok-3 — «самый умный ИИ» по версии Илона Маска доступен бесплатно, xAI обещают скоро открыть войсмод.
📱 Облик iPhone 17, в сеть выкладывают новые рендеры. Блок камер почти наверняка изменится у всей линейки, кроме базового айфона.
📱 Apple представила iPhone 16e, цена на устройство начинается от $600.
💻 Microsoft показала свой первый квантовый процессор Majorana 1, разработка которого заняла у компании почти 20 лет.
🤖 Прорыв обещают и в робототехнике: рассказываем о последних разработках тут и тут.
🎧 Подкаст недели: сооснователь OpenAI и разработчик автопилота Tesla Андрей Карпаты разбирает обучение и файнтьюнинг LLM. Всё о нейросетях – по ссылке.
😉 Обязательно попробуйте наш бот для YouTube: он скачает для вас аудио из ролика, сделает полную текстовую расшифровку видео или напишет выжимку самого главного.
😎 Всё это прямо в Telegram, без каких-либо ограничений и в несколько кликов! Скоро появится возможность и прямой загрузки видео с Ютуба по ссылке.
🤖 Прорыв обещают и в робототехнике: рассказываем о последних разработках тут и тут.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🔥2😎1
Digital trends
Новая модель от Anthropic может выйти на днях? Инсайдер Jimmy Apples выложил отредактированный клип на песню Karma Police, в котором от машины убегает Сэм Альтман. Видео он сопроводил фразой «Реванш. Завтра».
Antrhopic выпустили Claude 3.7 Sonnet. В LLM добавили режим «расширенного мышления», по бенчам это самая сильная модель для кодинга на сегодня.
Несколько примеров работы нейросети на видео:
1. интерактивный учебник истории в виде машины времени.
2. 3D-симуляция города.
3. змейка для Apple Watch, которая «ползает» быстрее, чем чаще становится ваш пульс.
Также анонсировали Claude Code – первый агент прокси-кодирования от Antrhopic. Пока он доступен только в превью, инструкция по установке по ссылке.
Несколько примеров работы нейросети на видео:
1. интерактивный учебник истории в виде машины времени.
2. 3D-симуляция города.
3. змейка для Apple Watch, которая «ползает» быстрее, чем чаще становится ваш пульс.
Также анонсировали Claude Code – первый агент прокси-кодирования от Antrhopic. Пока он доступен только в превью, инструкция по установке по ссылке.
👍3❤2
Первые рендеры Samsung Galaxy Z Fold7 от Android Headlines.
Смартфон стал ровно на 1 мм тоньше по сравнению с Fold6, выпущенным в прошлом году, и почти не отличается от него внешне.
Устройство должно получить чип Snapdragon 8 Elite и 200-Мп сенсор широкоугольной камеры. Продажи начнут в июле 2025.
Смартфон стал ровно на 1 мм тоньше по сравнению с Fold6, выпущенным в прошлом году, и почти не отличается от него внешне.
Устройство должно получить чип Snapdragon 8 Elite и 200-Мп сенсор широкоугольной камеры. Продажи начнут в июле 2025.
🤔2🥴2
Digital trends
Apple предложила $1 млрд властям Индонезии, чтобы «разморозить» продажи iPhone 16. Запрет на продажу нового поколения смартфонов ввели после того, как не дождались от купертиновцев положенных по закону инвестиций. Компания вложила в экономику Индонезии какие…
Apple наконец договорилась с властями Индонезии — компания инвестирует в экономику страны 1 миллиард долларов, чтобы вернуть рынок.
Продажи «яблочной» техники в Индонезии запретили в конце 2024. Apple по местным законам недостаточно вложила в собственное производство.
В республике живут примерно 280 млн человек. Активных смартфонов, при этом, на территории страны 350 млн.
Продажи «яблочной» техники в Индонезии запретили в конце 2024. Apple по местным законам недостаточно вложила в собственное производство.
В республике живут примерно 280 млн человек. Активных смартфонов, при этом, на территории страны 350 млн.
👍2
This media is not supported in your browser
VIEW IN TELEGRAM
Двухколёсный робот-доставщик на базе детского велосипеда — необычная разработка Института робототехники и искусственного интеллекта (RAI Institute) в Цюрихе.
Робобайк с 12-дюймовыми колёсами получил название UMV (Ultra Mobility Vehicle). Швейцарские инженеры закрепили всё оборудование на раме подвижным рычагом. Такая конструкция помогает дрону лихо запрыгивать на стол, который выше самого UMV: платформа работает как ускоритель, выталкивая байк вверх.
Кроме того, ИИ позволяет байку объезжать препятствия «змейкой». Недавно исследователи из Цюриха начали совместный проект по разработке RL-систем с Boston Dynamics.
Зачем роботу-доставщику уметь держать баланс на двух колёсах и высоко прыгать – разработчики, к сожалению, не объяснили.
Робобайк с 12-дюймовыми колёсами получил название UMV (Ultra Mobility Vehicle). Швейцарские инженеры закрепили всё оборудование на раме подвижным рычагом. Такая конструкция помогает дрону лихо запрыгивать на стол, который выше самого UMV: платформа работает как ускоритель, выталкивая байк вверх.
Кроме того, ИИ позволяет байку объезжать препятствия «змейкой». Недавно исследователи из Цюриха начали совместный проект по разработке RL-систем с Boston Dynamics.
Зачем роботу-доставщику уметь держать баланс на двух колёсах и высоко прыгать – разработчики, к сожалению, не объяснили.
😎3🔥2❤1
Первый кондиционер с ИИ выпустит Midea, представить его должны 1 марта.
Подробностей пока немного: кондиционер будет поддерживать голосовое управление и сможет сам выбрать подходящий режим работы, исходя из окружающих условий.
Само собой, работать «умный» кондиционер будет на нейросети DeepSeek R1. Наверняка идею подхватят и другие китайские производители техники.
Подробностей пока немного: кондиционер будет поддерживать голосовое управление и сможет сам выбрать подходящий режим работы, исходя из окружающих условий.
Само собой, работать «умный» кондиционер будет на нейросети DeepSeek R1. Наверняка идею подхватят и другие китайские производители техники.
😁5😇1
Новые Galaxy A: A56, A36 и A26 – новую линейку бюджетных смартфонов Samsung может представить уже 2 марта и начать продажи в апреле.
Все устройства получат AMOLED-экран диагональю в 6,7 дюйма, основную камеру на 50 МП, 256 ГБ памяти, батарею на 5000 мАч и, вероятно, гарантированные 6 лет обновлений для Android.
А56 оснастят 4 нм процессором Exynos 1580. А36 и А26 получат чипы попроще: Snapdragon 7 поколения и Exynos 1280. Цена на смартфоны должна остаться такой же, как и на предыдущее поколение: от 299 евро (около 27 000 рублей) за A26 до 479 евро (~43 100 рублей) для A56 в минимальной сборке.
Все устройства получат AMOLED-экран диагональю в 6,7 дюйма, основную камеру на 50 МП, 256 ГБ памяти, батарею на 5000 мАч и, вероятно, гарантированные 6 лет обновлений для Android.
А56 оснастят 4 нм процессором Exynos 1580. А36 и А26 получат чипы попроще: Snapdragon 7 поколения и Exynos 1280. Цена на смартфоны должна остаться такой же, как и на предыдущее поколение: от 299 евро (около 27 000 рублей) за A26 до 479 евро (~43 100 рублей) для A56 в минимальной сборке.
👍3🤔1
GPT-4.5 скоро — сейчас приложение ChatGPT уже предлагает пользователям на разных платформах опробовать новую модель.
Анонс обещают на ближайшие дни, OpenAI называют нейросеть «самой большой моделью», это должна быть последняя LLM компании, которая генерирует ответ без цепочки рассуждений.
Анонс обещают на ближайшие дни, OpenAI называют нейросеть «самой большой моделью», это должна быть последняя LLM компании, которая генерирует ответ без цепочки рассуждений.
👏3❤2👍1💅1