Если вам когда-то покажется, что у вас сложная работа — порадуйтесь, что вы не фронтендер, работающий с немцами.
😁6
Для тех, кто хочет погонять LLM-ки — на Хабре вышла статья ML-разработчика из команды YandexGPT о том, как разогнать инференс.
Автор объяснил, какие факторы влияют на время работы модели и при чём тут GPU, разобрал различные методы ускорения: от дистилляции и квантизации до Speculative Decoding и Continuous Batching. Ну и поделится несколькими трюками.
Автор объяснил, какие факторы влияют на время работы модели и при чём тут GPU, разобрал различные методы ускорения: от дистилляции и квантизации до Speculative Decoding и Continuous Batching. Ну и поделится несколькими трюками.
❤4😁1
Плохие новости — Телегам больше не файлообменник.
В коде нашли информацию о новой ошибке FLOOD_PREMIUM_WAIT — она возникает, когда юзер без премиума переходит за лимит (в мегабайтах) отправленных файлов.
Лимиты ещё щадящие — 10 Мб на отправку и загрузку, а ведь могло быть и хуже.
В коде нашли информацию о новой ошибке FLOOD_PREMIUM_WAIT — она возникает, когда юзер без премиума переходит за лимит (в мегабайтах) отправленных файлов.
Лимиты ещё щадящие — 10 Мб на отправку и загрузку, а ведь могло быть и хуже.
❤4
Forwarded from Эксплойт
Сейчас будет смешно: Amazon закрывает свои магазины с технологией Just Walk Out.
Фишка магазинов была в том, что посетители могли просто брать всё необходимое и выходить прочь — специальный алгоритм анализировал покупки и списывал нужную сумму с карты. Оказалось, что за ширмой ИИ на самом деле сидела тысяча индусов, которые и проводили покупки.
Как-минимум тысяча индусов осталась без работы.
@exploitex
Фишка магазинов была в том, что посетители могли просто брать всё необходимое и выходить прочь — специальный алгоритм анализировал покупки и списывал нужную сумму с карты. Оказалось, что за ширмой ИИ на самом деле сидела тысяча индусов, которые и проводили покупки.
Как-минимум тысяча индусов осталась без работы.
@exploitex
😁8❤3👍1
Японские повара придумали пиццу для сеньоров — в сусальном золоте!
Запуск анонсировали 1 апреля, но это оказалось не шуткой. Пицца с нотками роскоши обойдется вам вполовину зарплаты в 24 тысячи рублей
Странно, что без икры.
Запуск анонсировали 1 апреля, но это оказалось не шуткой. Пицца с нотками роскоши обойдется вам в
Странно, что без икры.
❤4
This media is not supported in your browser
VIEW IN TELEGRAM
Это приятное чувство, когда твой код работает, но есть нюанс.
😁19❤3👍2
Forwarded from Эксплойт
This media is not supported in your browser
VIEW IN TELEGRAM
Разработчики, постарайтесь не кричать — энтузиасты создали пайплайн SWE-Agent, который заставляет GPT-4 фиксить проблемы с репозитариями на GitHub.
Работает «под ключ» — просто отправьте ссылку на issue и получите коммит с решённой проблемой. Чтобы вы понимали уровень, SWE-Agent в среднем ускоряет исправление проектов с 2 часов до 93 секунд (!).
Согласно бенчмарку SWE-bench, сейчас это лучший способ фиксить баги нейронками.
@exploitex
Работает «под ключ» — просто отправьте ссылку на issue и получите коммит с решённой проблемой. Чтобы вы понимали уровень, SWE-Agent в среднем ускоряет исправление проектов с 2 часов до 93 секунд (!).
Согласно бенчмарку SWE-bench, сейчас это лучший способ фиксить баги нейронками.
@exploitex
👍6❤2
МТС анонсировал одну из крупнейших IT-конференций в этом году — True Tech Day 2.0.
В этом году ивент пройдет 17 мая в Москве. Как и в прошлый раз, позвали огромное количество IT-экспертов обсудить последние тренды в мире технологий — будут доклады про новые подходы в программировании, про нейросети, про будущее больших языковых моделей и разработку.
На ивенте еще обещали воркшопы, обучающие курсы для начинающих айтишников и экспертные сессии. Звучит круто!
В этом году ивент пройдет 17 мая в Москве. Как и в прошлый раз, позвали огромное количество IT-экспертов обсудить последние тренды в мире технологий — будут доклады про новые подходы в программировании, про нейросети, про будущее больших языковых моделей и разработку.
На ивенте еще обещали воркшопы, обучающие курсы для начинающих айтишников и экспертные сессии. Звучит круто!
❤6👍1
The Verge пишет, что Microsoft будут просить деньги за обновления Windows 10. Что? Да!
Сначала было заявлено, что обновления безопасности будут платными только для организаций, но питомцы Билла Гейтса решили подоить и обычных юзеров. Цена первого года платной поддержки — 61$, за второй попросят уже 122$, а за третий — 244$. Из смешного — если вы вдруг решите залететь в программу на втором году, то за первый тоже попросят заплатить.
Мне кажется, но за 244 доллара можно и компьютер малость проапргейдить.
Сначала было заявлено, что обновления безопасности будут платными только для организаций, но питомцы Билла Гейтса решили подоить и обычных юзеров. Цена первого года платной поддержки — 61$, за второй попросят уже 122$, а за третий — 244$. Из смешного — если вы вдруг решите залететь в программу на втором году, то за первый тоже попросят заплатить.
Мне кажется, но за 244 доллара можно и компьютер малость проапргейдить.
❤5🫡3