Where men cried
Вертолетик, который смог.
Фото одинокого Ingenuity, сделанное марсоходом Perseverance 4 февраля, через две недели после 72-й и последней миссии маленького, но очень смелого марсианского вертолета.
Сорс
Вертолетик, который смог.
Фото одинокого Ingenuity, сделанное марсоходом Perseverance 4 февраля, через две недели после 72-й и последней миссии маленького, но очень смелого марсианского вертолета.
Сорс
🫡56❤5😁4😢2👍1
Forwarded from Zavtracast (Ярослав Ивус)
Журналисты выяснили, что если вы забыли пароль от Vision Pro, то вам придётся отнести его в Apple Store или отправить по почте, если у вас есть AppleCare.
Причина — у Vision Pro отсутствует порт USB-C, с помощью которого можно было бы самостоятельно подключиться к Mac. Единственное решение проблемы — отдать гарнитуру Apple, чтобы её сотрудники сбросили до заводских настроек устройство.
При этом у Vision Pro есть ремешок, который позволяет подключить гарнитуру к Mac, но он стоит $300 и предназначен для разработчиков.
@zavtracast
Причина — у Vision Pro отсутствует порт USB-C, с помощью которого можно было бы самостоятельно подключиться к Mac. Единственное решение проблемы — отдать гарнитуру Apple, чтобы её сотрудники сбросили до заводских настроек устройство.
При этом у Vision Pro есть ремешок, который позволяет подключить гарнитуру к Mac, но он стоит $300 и предназначен для разработчиков.
@zavtracast
😁47🤣33👍2❤1
Forwarded from black_samorez
Мы с коллегами из Yandex Research сделали новый метод квантизации LLM’ок - AQLM. Он позволяет сжимать модели вплоть до 2 бит на параметр, что открывает тонну возможностей от запуска Llama 2 70b на RTX 3090 до, потенциально, меньших моделей на мобилках. Статья доступна на arXiv, код лежит на GitHub.
Про качество: AQLM бьет по качеству все существующие методы в диапазоне 2-3 бит на параметр: AQLM 2 бита лучше чем QuIP# 2 бита и даже мощнее GPTQ 3 бита.
Про готовые модели: мы выложили готовые квантизованные модели на хаб. Лламы от 7b до 70b и Mixtral в разных конфигурациях. Для быстрого инференса мы написали несколько кернелов на CUDA, Triton и Numba. Они оптимизированы под различные сетапы квантизации, и либо немного уступают, либо заметно превосходят fp16 по скорости генерации.
Про использование: весь продвинутый код инференса завернут в одну либу, и устанавливается просто через
Про метод: мы применяем квантизацию групп соседних весов для эффективного использования их взаимной информации. Более конкретно, мы представляем все блоки весов (размером около 1x8) в матрице суммой некоторого количества векторов из небольшого обучаемого списка (Additive Quantization). Детали и бэкграунд подробно описаны в статье.
Про качество: AQLM бьет по качеству все существующие методы в диапазоне 2-3 бит на параметр: AQLM 2 бита лучше чем QuIP# 2 бита и даже мощнее GPTQ 3 бита.
Про готовые модели: мы выложили готовые квантизованные модели на хаб. Лламы от 7b до 70b и Mixtral в разных конфигурациях. Для быстрого инференса мы написали несколько кернелов на CUDA, Triton и Numba. Они оптимизированы под различные сетапы квантизации, и либо немного уступают, либо заметно превосходят fp16 по скорости генерации.
Про использование: весь продвинутый код инференса завернут в одну либу, и устанавливается просто через
pip install aqlm. После этого можно смело подгружать любые модели с хаба через .from_pretrained(..., trust_remote_code=True), и оптимальные кернелы будут выбираться и компилироваться на ходу за кулисами.Про метод: мы применяем квантизацию групп соседних весов для эффективного использования их взаимной информации. Более конкретно, мы представляем все блоки весов (размером около 1x8) в матрице суммой некоторого количества векторов из небольшого обучаемого списка (Additive Quantization). Детали и бэкграунд подробно описаны в статье.
👍34🔥15🤩4👀2❤1
Forwarded from Denis Sexy IT 🤖
Классная новость из Норвегии: правительство купило 110000 лицензий GPT 3.5-Turbo для школьников и учителей Осло – департамент образования Норвегии «не может делать вид, будто ничего не происходит, учитывая что все учащиеся уже имеют бесплатный доступ к ChatGPT».
Понравилась мысль, что некоторые учителя считают, что появление ChatGPT некорректно сравнивать с появлением «интернета» по масштабу влияния на образовательный процесс – так как многие способы борьбы с плагиатом оставались актуальными даже в эпоху интернета, правильнее сравнивать ChatGPT с появлением первого учебника (по масштабу).
Детей и учителей будут учить правильно и этично применять языковую модель в обучении, и строить образовательный процесс с учетом такой технологий.
Ссылка на оригинал новости на норвежском:
https://www.digi.no/artikler/oslo-kjoper-chat-gpt-til-110-000-elever-og-laerere/543339
Искренне желаю норвежцам успехов в первом шаге к крупной реформе образования на базе LLM-возможностей
Понравилась мысль, что некоторые учителя считают, что появление ChatGPT некорректно сравнивать с появлением «интернета» по масштабу влияния на образовательный процесс – так как многие способы борьбы с плагиатом оставались актуальными даже в эпоху интернета, правильнее сравнивать ChatGPT с появлением первого учебника (по масштабу).
Детей и учителей будут учить правильно и этично применять языковую модель в обучении, и строить образовательный процесс с учетом такой технологий.
Ссылка на оригинал новости на норвежском:
https://www.digi.no/artikler/oslo-kjoper-chat-gpt-til-110-000-elever-og-laerere/543339
Искренне желаю норвежцам успехов в первом шаге к крупной реформе образования на базе LLM-возможностей
🔥47🫡9👍5❤2😁1🎉1
Derp Learning
Как перестать орать с этой рекламы.
Дубль два.
Kickstart your fart видимо 😅
На этот раз угадываем по иконкам.
1. ChatGPT
3. Canva
5. Deepart
8. Midjourney
9. D-id (но это ж не сервис?)
11. Quill
12. Speechify
13. Github copilot
14. Github
18. Wordtune
21. Google ai
25. Krisp
Kickstart your f
На этот раз угадываем по иконкам.
1. ChatGPT
3. Canva
5. Deepart
8. Midjourney
9. D-id (но это ж не сервис?)
11. Quill
12. Speechify
13. Github copilot
14. Github
18. Wordtune
21. Google ai
25. Krisp
😁22❤2👀2
Там недавно вышла демка Pacific Drive - эдакого roguelike пикника на обочине с тачками. Атмосферненько!
youtube trailer
steam
youtube trailer
steam
YouTube
Pacific Drive - Release Date Trailer | PS5 Games
https://www.playstation.com/en-us/games/pacific-drive/
We're excited to announce that Pacific Drive is coming to PlayStation 5 on February 22nd, 2024!
Escape from the long-forgotten Olympic Exclusion Zone with nothing but your trusty station wagon and…
We're excited to announce that Pacific Drive is coming to PlayStation 5 on February 22nd, 2024!
Escape from the long-forgotten Olympic Exclusion Zone with nothing but your trusty station wagon and…
👍8🤩3🔥2❤1
This media is not supported in your browser
VIEW IN TELEGRAM
С новым лунным годом деревянного дракона, посоны и посонессы!
🎉40❤7
Forwarded from Neural Shit
This media is not supported in your browser
VIEW IN TELEGRAM
Абсолютно проклято.
Эксперимент с искусственным интеллектом завершен, мы потерпели неудачу.
Эксперимент с искусственным интеллектом завершен, мы потерпели неудачу.
😁44🔥6
BUD-E: ENHANCING AI VOICE ASSISTANTS’ CONVERSATIONAL QUALITY, NATURALNESS AND EMPATHY
Добры молодцы из LAION выкатили в опенсорс готового локального голосового помощника - BUD-E
Сборка "полного цикла" - STT - LLM - TTS
Под капотом:
STT - nVidia FastConformer
LLM - MicroSoft Phi-2
TTS - StyleTTS 2
C phi-2 @ 4090 выдает 300-500мс на ответ. Тушку LLM можно заменить на любую, которая есть в transformers.
Либо на любую, но уже нужно лезть под капот :D
git
blog
discord
tweet
youtube
@derplearning
Добры молодцы из LAION выкатили в опенсорс готового локального голосового помощника - BUD-E
Сборка "полного цикла" - STT - LLM - TTS
Под капотом:
STT - nVidia FastConformer
LLM - MicroSoft Phi-2
TTS - StyleTTS 2
C phi-2 @ 4090 выдает 300-500мс на ответ. Тушку LLM можно заменить на любую, которая есть в transformers.
Либо на любую, но уже нужно лезть под капот :D
git
blog
discord
tweet
youtube
@derplearning
❤15🔥8
Derp Learning
OpenAI фандрайзят в uint64, пока остальные фандрайзят в uint32
- how many GPUs do you need?
- yes!
- yes!
😁17❤2😢2💯2