Forwarded from БЮРО 1440
Благодарим команду за успешные результаты, впереди — заключительные эксперименты миссии «Рассвет-2» и запуск серийного производства терминалов лазерной связи.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥1
Forwarded from Градиент обреченный (Sergei Averkiev)
🔺 Парад LLM
За последний месяц как из рога изобилия вышло много полезных и не очень языковых моделей. Соберем в один пост.
🔸 Llama 3.1
Линейка из трех моделей 405B, 70B и 8B параметров. Есть детальный отчет об обучении, модель нативно учили под 8 языков (русского среди них нет, поэтому может ошибаться в грамматике) и использование внешних тулов.
Кроме основных моделей выпустили Llama Guard 3 и Prompt Guard для классификации вредоносных промптов и генераций.
HF | пост | тех. репорт | чат с моделью
🔸 Mistral Large 2
123B параметров и много языков, включая русский. Опять же, есть способности по вызову внешних функций. Заявляют качество на уровне GPT-4o и Claude 3 Opus. Веса также выложили на HF.
А еще в честь 2311-й годовщины Архимеда выпустили MathΣtral, 7B модель с улучшенными способностями в математике; и Codestral Mamba для анализа кода. Новая архитектура позволяет работать с увеличенным контекстом, пишут, что тестили на 256k токенов.
HF | Пост | чат с моделью
🔸 Mistral NeMo
Снова Мистраль, но на этот раз 12B и в сотрудничестве с NVIDIA. Мультиязычная (есть русский), по замерам авторов бьет недавно вышедшую Gemma 2 9B и Llama 3 8B. Контекст 128k + обновили токенизатор, теперь он гораздо лучше сжимает тексты на 100+ языках.
HF | пост
🔸 Minitron
Модели на 4B и 8B от NVIDIA. Модели получили путем дистилляции и прунинга 15B. Затраченный компьют оценили как в 40 раз меньше, чем обучать такие модели с нуля, сравнимом или лучшем значении MLLU чем у соответствующих по размеру Gemma и Llama.
Про то, как делали, рассказывают в статье.
HF | GitHub | arxiv
🔸 T-lite
Коллеги из Тинькова также поделились моделью. Особых деталей нет, кроме того, что компьют был небольшой, а качество на бенчах как у chatgpt-3.5.
На русском генерирует действительно неплохо для модели такого размера. На вопрос "кто тебя сделал?" отвечает "разработчики их OpenAI", что намекает на необходимость чистки SFT сета.
HF
🔸 Apple DCLM-7B
Да, действительно это модель от Apple. Из интересного, рассказывают про подготовку датасета (DataComp for Language Models), чистку, удаление MMLU из обучения и т.д. Пишут, что пробовали обучаться на 270 подсетах из CC, чтобы найти наиболее "правильное" распределение.
HF | arxiv
🔸 SmolLM
SoTA модели на 135M, 360M и 1.7B параметров непосредственно от HF. Для экспериментов выложили обучающие данные и, по-моему, это самое интересное.
Сделали синтетический сет Cosmopedia v2 и дополнительно пофильтровали 220B токенов из уже почищенного-перечищенного датасета FineWeb Edu.
Модельки маленькие, можно запускать локально, выложили ONNX версии и демку для запуска прямо в браузере (загружается 172Mb весов).
HF | пост | SmolLM-Corpus | Веб-демо
За последний месяц как из рога изобилия вышло много полезных и не очень языковых моделей. Соберем в один пост.
🔸 Llama 3.1
Линейка из трех моделей 405B, 70B и 8B параметров. Есть детальный отчет об обучении, модель нативно учили под 8 языков (русского среди них нет, поэтому может ошибаться в грамматике) и использование внешних тулов.
Кроме основных моделей выпустили Llama Guard 3 и Prompt Guard для классификации вредоносных промптов и генераций.
HF | пост | тех. репорт | чат с моделью
🔸 Mistral Large 2
123B параметров и много языков, включая русский. Опять же, есть способности по вызову внешних функций. Заявляют качество на уровне GPT-4o и Claude 3 Opus. Веса также выложили на HF.
А еще в честь 2311-й годовщины Архимеда выпустили MathΣtral, 7B модель с улучшенными способностями в математике; и Codestral Mamba для анализа кода. Новая архитектура позволяет работать с увеличенным контекстом, пишут, что тестили на 256k токенов.
HF | Пост | чат с моделью
🔸 Mistral NeMo
Снова Мистраль, но на этот раз 12B и в сотрудничестве с NVIDIA. Мультиязычная (есть русский), по замерам авторов бьет недавно вышедшую Gemma 2 9B и Llama 3 8B. Контекст 128k + обновили токенизатор, теперь он гораздо лучше сжимает тексты на 100+ языках.
HF | пост
🔸 Minitron
Модели на 4B и 8B от NVIDIA. Модели получили путем дистилляции и прунинга 15B. Затраченный компьют оценили как в 40 раз меньше, чем обучать такие модели с нуля, сравнимом или лучшем значении MLLU чем у соответствующих по размеру Gemma и Llama.
Про то, как делали, рассказывают в статье.
HF | GitHub | arxiv
🔸 T-lite
Коллеги из Тинькова также поделились моделью. Особых деталей нет, кроме того, что компьют был небольшой, а качество на бенчах как у chatgpt-3.5.
На русском генерирует действительно неплохо для модели такого размера. На вопрос "кто тебя сделал?" отвечает "разработчики их OpenAI", что намекает на необходимость чистки SFT сета.
HF
🔸 Apple DCLM-7B
Да, действительно это модель от Apple. Из интересного, рассказывают про подготовку датасета (DataComp for Language Models), чистку, удаление MMLU из обучения и т.д. Пишут, что пробовали обучаться на 270 подсетах из CC, чтобы найти наиболее "правильное" распределение.
HF | arxiv
🔸 SmolLM
SoTA модели на 135M, 360M и 1.7B параметров непосредственно от HF. Для экспериментов выложили обучающие данные и, по-моему, это самое интересное.
Сделали синтетический сет Cosmopedia v2 и дополнительно пофильтровали 220B токенов из уже почищенного-перечищенного датасета FineWeb Edu.
Модельки маленькие, можно запускать локально, выложили ONNX версии и демку для запуска прямо в браузере (загружается 172Mb весов).
HF | пост | SmolLM-Corpus | Веб-демо
👍5🔥1
Forwarded from Заметки инженера - исследователя
Честно говоря, плохо понимаю зачем люди так глубоко влазят в тонкости устройства конкретных космических аппаратов, с которыми сами они заведомо работать не будут. Но делают они это качественно и с полной отдачей делу.
Коллеги сообщают:
https://news.1rj.ru/str/raketenmannn/873
По уплотнениям — в фильтре на магистрали азотного тетраоксида в двигательной установке нашли покрошившиеся куски тефлонового уплотнения клапана подачи тетраоксида. В тарельчатом обратном клапане инжектора [через который АТ и подаётся в двигатели] тоже проблемы с тефлоновым уплотнением. <...> Некачественные уплотнения, на данном этапе, можно назвать главным виновником всех проблем старлайнера.
Если проблемы с тефлоном в клапанах - то это одно из двух. Или гигантские кадровые проблемы. И люди, которых смогли найти, ставят тефлон туда, куда его ставить нельзя. Или проблемы с "материаловедением" - разучились делать нормальный тефлон.
Последняя версия - по сути вариация на тему инженерной байки о том, как вывести из строя новейший американский бомбардировщик. Но только вариация байки, воплотившаяся в жизнь.
А вообще - печально всё это. Можно сделать космический корабль для перевозки людей. Но нельзя найти нормальное уплотнение для клапанов.
Не было гвоздя —
Подкова
Пропала.
Не было подковы —
Лошадь
Захромала.
Лошадь захромала —
Командир
Убит.
Конница разбита —
Армия
Бежит.
Враг вступает в город,
Пленных не щадя,
Оттого, что в кузнице
Не было гвоздя.
Если нет гвоздя для командирской лошади перед решающей битвой - значит что-то не было в этом городе устроено.
Коллеги сообщают:
https://news.1rj.ru/str/raketenmannn/873
По уплотнениям — в фильтре на магистрали азотного тетраоксида в двигательной установке нашли покрошившиеся куски тефлонового уплотнения клапана подачи тетраоксида. В тарельчатом обратном клапане инжектора [через который АТ и подаётся в двигатели] тоже проблемы с тефлоновым уплотнением. <...> Некачественные уплотнения, на данном этапе, можно назвать главным виновником всех проблем старлайнера.
Если проблемы с тефлоном в клапанах - то это одно из двух. Или гигантские кадровые проблемы. И люди, которых смогли найти, ставят тефлон туда, куда его ставить нельзя. Или проблемы с "материаловедением" - разучились делать нормальный тефлон.
Последняя версия - по сути вариация на тему инженерной байки о том, как вывести из строя новейший американский бомбардировщик. Но только вариация байки, воплотившаяся в жизнь.
А вообще - печально всё это. Можно сделать космический корабль для перевозки людей. Но нельзя найти нормальное уплотнение для клапанов.
Не было гвоздя —
Подкова
Пропала.
Не было подковы —
Лошадь
Захромала.
Лошадь захромала —
Командир
Убит.
Конница разбита —
Армия
Бежит.
Враг вступает в город,
Пленных не щадя,
Оттого, что в кузнице
Не было гвоздя.
Если нет гвоздя для командирской лошади перед решающей битвой - значит что-то не было в этом городе устроено.
🤔4👍1
Forwarded from Космическая Изолента
Холдинг «Российские космические системы» организовал серийное производство усилителей мощности на лампе бегущей волны (ЛБВ) собственной разработки. Новая аппаратура будет использоваться при создании перспективных космических аппаратов геостационарных спутниковых группировок.
Функция усилителя – усиление сигнала, принятого космическим аппаратом от передающих наземных станций, и его трансляция другим станциям, входящим в одну космическую систему. Прибор планируется устанавливать на перспективных космических аппаратах систем «Ямал», «Экспресс» и «Луч» для обеспечения услугами цифрового телевещания, доступа в Интернет, фиксированной и мобильной связи.
Основной элемент – лампа бегущей волны – разработана партнером РКС – Научно-производственным предприятием «Алмаз» (входит в холдинг «Росэлектроника» Госкорпорации Ростех).
#разработки
Функция усилителя – усиление сигнала, принятого космическим аппаратом от передающих наземных станций, и его трансляция другим станциям, входящим в одну космическую систему. Прибор планируется устанавливать на перспективных космических аппаратах систем «Ямал», «Экспресс» и «Луч» для обеспечения услугами цифрового телевещания, доступа в Интернет, фиксированной и мобильной связи.
Основной элемент – лампа бегущей волны – разработана партнером РКС – Научно-производственным предприятием «Алмаз» (входит в холдинг «Росэлектроника» Госкорпорации Ростех).
«Сегодня РКС становятся единственным поставщиком усилителей мощности на ЛБВ для космических аппаратов, полностью удовлетворяя потребности ракетно-космической отрасли», – подчеркнул директор проектов по созданию бортовой аппаратуры систем связи, ретрансляции, поиска и спасания – заместитель генерального конструктора РКС Александр Кондрашов.
#разработки
👍4🔥1
#space
Следует заметить, что работы в рамках ОКР Млечный путь являются реальным и действительным примером государственно-частного партнерства.
Большой блок работ например выполняет компания Астрономический научный центр.
Которая создала свою сеть наземных станций контроля космического пространства и использовав ее чисто коммерческих целях.
Теперь коллегам из коммерции поручено участие в реализации крупного государственного проекта.
И это хороший пример на самом деле…
https://news.1rj.ru/str/roscosmos_gk/14380
Следует заметить, что работы в рамках ОКР Млечный путь являются реальным и действительным примером государственно-частного партнерства.
Большой блок работ например выполняет компания Астрономический научный центр.
Которая создала свою сеть наземных станций контроля космического пространства и использовав ее чисто коммерческих целях.
Теперь коллегам из коммерции поручено участие в реализации крупного государственного проекта.
И это хороший пример на самом деле…
https://news.1rj.ru/str/roscosmos_gk/14380
Telegram
Госкорпорация «Роскосмос»
🛰Замглавы ЦНИИмаш: в проекте «Млечный путь» возможно участие частников
В России создается система информационно-аналитического обеспечения безопасности космической деятельности «Млечный путь». Она строится как открытая, поэтому предложения об участии в проекте…
В России создается система информационно-аналитического обеспечения безопасности космической деятельности «Млечный путь». Она строится как открытая, поэтому предложения об участии в проекте…
👍3🔥1
#тожепрокосмос
Пропустил вчера (((
Ровно ПЯТЬДЕСЯТ лет со дня подписания в печать легендарного сборника "Девочка с Земли"!
С выходом в свет этой книги и началась, по сути, настоящая "самостоятельная" жизнь Алисы Игоревны Селезнёвой, любимой несколькими поколениями и советских, и российских читателей "девочки, с которой ничего не случится". Это первое собрание под одной обложкой нескольких историй из её жизни было украшено замечательными рисунками Евгения Мигунова. Книгу ждал грандиозный успех ещё и потому, что художник уловил дух булычёвского мира, ему удалось попасть в тон автору.
Утащил тут 👉
https://vk.com/wall-205854839_78166
Пропустил вчера (((
Ровно ПЯТЬДЕСЯТ лет со дня подписания в печать легендарного сборника "Девочка с Земли"!
С выходом в свет этой книги и началась, по сути, настоящая "самостоятельная" жизнь Алисы Игоревны Селезнёвой, любимой несколькими поколениями и советских, и российских читателей "девочки, с которой ничего не случится". Это первое собрание под одной обложкой нескольких историй из её жизни было украшено замечательными рисунками Евгения Мигунова. Книгу ждал грандиозный успех ещё и потому, что художник уловил дух булычёвского мира, ему удалось попасть в тон автору.
Утащил тут 👉
https://vk.com/wall-205854839_78166
👍4🔥1
#mil
«Чудеса ламповой электроники» до сих пор вызывают уважение
https://news.1rj.ru/str/uav_tech/28170
«Чудеса ламповой электроники» до сих пор вызывают уважение
https://news.1rj.ru/str/uav_tech/28170
Telegram
Беспилотники (дроны, БПЛА, UAV)
🔥4👍1
Forwarded from Open Space
Хорошая статья, очень ёмко и на мой взгляд верно обобщает тенденции спутникостроения.
1. Использование ИИ на борту и edge computing. В будущем всё больше обработки данных будет производиться на борту аппарата. Например спутники ДЗЗ должны будут отбраковывать снимки, где объект интереса скрыт облаками. Для телекома - это создание регенеративных полезных нагрузок для 5G/6G non-terrestrial networks (об этом я подробно писал ранее).
2. Со спутниками должно стать легче работать. Про это вскользь сказал СТО Endurosat, но мне кажется что это очень важно для роста рынка. Именно поэтому сюда заходят Амазон и Майкрософт со своими облачными решениями и ground segment as a service - делают работу со спутниками удобнее и убирают головную боль с наземной инфраструктурой.
3. Вместе с ростом количества данных растёт потребность в оптической межспутниковой связи. Радиоспектр не резиновый, а объём данных из космоса растёт. Соответственно растёт важность оптической связи, которая может передавать данные со скоростями порядка 10 Gbps. Вероятно возможно появление спутниковых группировок с разным функционалом - например спутники ДЗЗ передают собранную информацию на орбитальную ноду, где происходит первичная обработка данных и потом они сбрасываются на Землю.
4. Императив предотвращения загрязнения космоса. Для того, чтобы соответствовать регуляторным требованиям например FCC или будущим правилам ЕС, компаниям придётся внедрять практики, обеспечивающие сведение КА с орбиты в течение 5 лета после завершения срока активного существования. Интересно, что этот срок уже уменьшился с 25 лет в IADC Space Debris Mitigation Guidelines, выпущенных в 2002 до 5 лет по правилам FCC, которые были сформулированы в 2022-2023, которым придётся следовать вероятно всем, кто запускается на SpaceX. Интересно, будет ли происходить дальнейшее снижение сроков?
5. Рост размеров и большая надёжность малых спутников. Например Nanoavionics убирает из портфолио продуктов 3U платформы, считая, что их функционал не отвечает потребностям рынка. Аппаратам нужны больше места для полезных нагрузок, больше мощности, лучшая стабильность. Плюс, стоимость запусков падает и упадёт ещё с приходом Старшипа. Так зачем же пытаться всё запихнуть в малый форм-фактор, когда можно сделать спутник побольше, но и более интересным для потребителя? Вероятно спутники массой от 100 до 300 кг вероятно будут в моде в предстоящие годы.
6. Новые применения и новые орбиты для малых спутников. Лично мне очень интересно, как малые спутники становятся способными к радарной съёмке. Помимо этого можно говорить о малых спутниках как о пути построения окололунной инфраструктуры для будущего освоения.
1. Использование ИИ на борту и edge computing. В будущем всё больше обработки данных будет производиться на борту аппарата. Например спутники ДЗЗ должны будут отбраковывать снимки, где объект интереса скрыт облаками. Для телекома - это создание регенеративных полезных нагрузок для 5G/6G non-terrestrial networks (об этом я подробно писал ранее).
2. Со спутниками должно стать легче работать. Про это вскользь сказал СТО Endurosat, но мне кажется что это очень важно для роста рынка. Именно поэтому сюда заходят Амазон и Майкрософт со своими облачными решениями и ground segment as a service - делают работу со спутниками удобнее и убирают головную боль с наземной инфраструктурой.
3. Вместе с ростом количества данных растёт потребность в оптической межспутниковой связи. Радиоспектр не резиновый, а объём данных из космоса растёт. Соответственно растёт важность оптической связи, которая может передавать данные со скоростями порядка 10 Gbps. Вероятно возможно появление спутниковых группировок с разным функционалом - например спутники ДЗЗ передают собранную информацию на орбитальную ноду, где происходит первичная обработка данных и потом они сбрасываются на Землю.
4. Императив предотвращения загрязнения космоса. Для того, чтобы соответствовать регуляторным требованиям например FCC или будущим правилам ЕС, компаниям придётся внедрять практики, обеспечивающие сведение КА с орбиты в течение 5 лета после завершения срока активного существования. Интересно, что этот срок уже уменьшился с 25 лет в IADC Space Debris Mitigation Guidelines, выпущенных в 2002 до 5 лет по правилам FCC, которые были сформулированы в 2022-2023, которым придётся следовать вероятно всем, кто запускается на SpaceX. Интересно, будет ли происходить дальнейшее снижение сроков?
5. Рост размеров и большая надёжность малых спутников. Например Nanoavionics убирает из портфолио продуктов 3U платформы, считая, что их функционал не отвечает потребностям рынка. Аппаратам нужны больше места для полезных нагрузок, больше мощности, лучшая стабильность. Плюс, стоимость запусков падает и упадёт ещё с приходом Старшипа. Так зачем же пытаться всё запихнуть в малый форм-фактор, когда можно сделать спутник побольше, но и более интересным для потребителя? Вероятно спутники массой от 100 до 300 кг вероятно будут в моде в предстоящие годы.
6. Новые применения и новые орбиты для малых спутников. Лично мне очень интересно, как малые спутники становятся способными к радарной съёмке. Помимо этого можно говорить о малых спутниках как о пути построения окололунной инфраструктуры для будущего освоения.
👍3🔥1