Forwarded from DL in NLP (Vlad Lialin)
Llama 3
llama.meta.com/llama3/
Немного странный анонс моделей с приговоркой "статья будет чуть позже", meta раньше так не делали, но всё равно модели очень крутые и уже доступны
Детали:
1. 16K GPU 🤯
1. 15T токенов 🤯🤯
1. Веса моделей на 8B и 70B параметров уже доступны 🎉
1. Тренируют модель на 405B параметров (без MoE) 🤯
1. 8K длина контекста
1. Архиткетурно самые большие отличия: Grouped Query Attention и 128K vocab size
1. Для тренировки оценивали scaling laws на разных доменах датасета (и на downstream задачах) после чего из них высчитывали оптимальное взвешивание
1. Никаких отклонений от scaling laws даже на 15T токенах для 8B модели
Бенчмарки:
1. На MMLU, Llama 3 8B работает на уровне PALM-540B и Chinchilla 70B
1. Там же Llama 70B обходит Claude 3 Sonnet и Mistral Large
llama.meta.com/llama3/
Немного странный анонс моделей с приговоркой "статья будет чуть позже", meta раньше так не делали, но всё равно модели очень крутые и уже доступны
Детали:
1. 16K GPU 🤯
1. 15T токенов 🤯🤯
1. Веса моделей на 8B и 70B параметров уже доступны 🎉
1. Тренируют модель на 405B параметров (без MoE) 🤯
1. 8K длина контекста
1. Архиткетурно самые большие отличия: Grouped Query Attention и 128K vocab size
1. Для тренировки оценивали scaling laws на разных доменах датасета (и на downstream задачах) после чего из них высчитывали оптимальное взвешивание
1. Никаких отклонений от scaling laws даже на 15T токенах для 8B модели
Бенчмарки:
1. На MMLU, Llama 3 8B работает на уровне PALM-540B и Chinchilla 70B
1. Там же Llama 70B обходит Claude 3 Sonnet и Mistral Large
👍3😁1
Сначала Planet с планами покупки skybox
Теперь SpaceX “будет ДЗЗить»
А ты продолжай дальше верить что Маск это про колонизацию Марса и общественное благо…
Хотя Рейтерс веры нет конечно…
Теперь SpaceX “будет ДЗЗить»
А ты продолжай дальше верить что Маск это про колонизацию Марса и общественное благо…
Хотя Рейтерс веры нет конечно…
🤔3👏1
Forwarded from ВЕДОМОСТИ
SpaceX и Northrop Grumman работают над спутниковой системой-шпионом
Военно-промышленная компания Northrop Grumman совместно со SpaceX создают секретный проект новой американской спутниковой системы-шпиона, пишет Reuters со ссылкой на источники, знакомые с программой. По их словам, разработка уже делает снимки Земли в высоком разрешении.
Технология призвана расширить возможности правительства США по отслеживанию военных и разведывательных целей с низких околоземных орбит, предоставляя изображения высокого качества. Сейчас они снимаются в основном беспилотными летательными аппаратами и самолетами-разведчиками, отмечает издание.
🔜 В середина марта Reuters уже сообщало, что над проектом работает американский производитель космической техники SpaceX миллиардера Илона Маска.
🔜 Теперь стало известно об участии Northrop Grumman. Привлечение этой компании отражает желание правительственных чиновников не передавать слишком большой контроль над разведывательной программой в руки одного подрядчика, сообщили агентству четыре человека, знакомые с проектом.
📷 Cheney Orr / Reuters
@vedomosti
Военно-промышленная компания Northrop Grumman совместно со SpaceX создают секретный проект новой американской спутниковой системы-шпиона, пишет Reuters со ссылкой на источники, знакомые с программой. По их словам, разработка уже делает снимки Земли в высоком разрешении.
Технология призвана расширить возможности правительства США по отслеживанию военных и разведывательных целей с низких околоземных орбит, предоставляя изображения высокого качества. Сейчас они снимаются в основном беспилотными летательными аппаратами и самолетами-разведчиками, отмечает издание.
@vedomosti
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔3👏1
Forwarded from Судоплатов
19 апреля 1943 года по приказу И.В. Сталина был создан «СМЕРШ».
Всех сопричастных с праздником⭐️
Судоплатов. Подписаться
Всех сопричастных с праздником
Судоплатов. Подписаться
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3👏1
Forwarded from Заметки инженера - исследователя
DARPA привлекло компанию Pioneer Phase Four для разработки и создания двигателя, использующего разреженный воздух в качестве топлива для спутников на сверхнизких орбитах (от 90 до 450 км).
Стоимость контракта составляет $14,9 млн на четырехлетний период.
В рамках контракта будет проведена "длительная демонстрация" системы на орбите.
В Phase Four работает 34 штатных сотрудника и сотрудника по контракту (см. фото ниже). К концу года планируется привлечь еще как минимум 16 человек.
Состав совета консультантов Phase Fou:
- генерал в отставке Уильям Шелтон, бывший командующий космическим командованием ВВС;
- Кевин О'Коннелл, бывший директор Управления космической торговли;
- Эд Перлмуттер, бывший представитель Демократической партии в Палате представителей штата Колорадо (ярый сторонник миссии с экипажем на Марс);
- Джефф Грант, президент Космического фонда и член попечительского совета Аэрокосмической корпорации.
Ранее Phase Four разработало, испытало и начало производить электроракетные двигатели, использующие в качестве топлива компоненты, производимые на территории США.
В США над созданием двигателей для сверхнизких орбит работает не только Phase Four. В частности, аналогичные работы ведет и #Redwire
#VLEO
Стоимость контракта составляет $14,9 млн на четырехлетний период.
В рамках контракта будет проведена "длительная демонстрация" системы на орбите.
В Phase Four работает 34 штатных сотрудника и сотрудника по контракту (см. фото ниже). К концу года планируется привлечь еще как минимум 16 человек.
Состав совета консультантов Phase Fou:
- генерал в отставке Уильям Шелтон, бывший командующий космическим командованием ВВС;
- Кевин О'Коннелл, бывший директор Управления космической торговли;
- Эд Перлмуттер, бывший представитель Демократической партии в Палате представителей штата Колорадо (ярый сторонник миссии с экипажем на Марс);
- Джефф Грант, президент Космического фонда и член попечительского совета Аэрокосмической корпорации.
Ранее Phase Four разработало, испытало и начало производить электроракетные двигатели, использующие в качестве топлива компоненты, производимые на территории США.
В США над созданием двигателей для сверхнизких орбит работает не только Phase Four. В частности, аналогичные работы ведет и #Redwire
#VLEO
👍3👏1
Forwarded from Оператор С-500
В американском управлении перспективных исследовательских проектов Министерства обороны США (DARPA) впервые испытали искусственный интеллект против настоящего лётчика в ближнем воздушном бою.
Интеллектом управлял глубоко модифицированным истребителем F-16D, который получил название X-62A VISTA, а сами лётчики управляли рядовыми F-16.
Интеллектом управлял глубоко модифицированным истребителем F-16D, который получил название X-62A VISTA, а сами лётчики управляли рядовыми F-16.
🤔3
Forwarded from Спутник ДЗЗ
CoastSat
CoastSat (http://coastsat.wrl.unsw.edu.au) — это набор программных средств с открытым исходным кодом на языке Python (https://github.com/kvos/CoastSat), который позволяет пользователям получать временные ряды положения береговой линии на любом побережье по всему миру за 39 лет (и далее) на основе общедоступных спутниковых снимков.
#python
CoastSat (http://coastsat.wrl.unsw.edu.au) — это набор программных средств с открытым исходным кодом на языке Python (https://github.com/kvos/CoastSat), который позволяет пользователям получать временные ряды положения береговой линии на любом побережье по всему миру за 39 лет (и далее) на основе общедоступных спутниковых снимков.
#python
👍2🤔1
Forwarded from Спутник ДЗЗ
Даунскейлинг приповерхностной температуры воздуха в восточном Средиземноморье
📖 Blizer A, Glickman O, Lensky I.M. Comparing ML Methods for Downscaling Near-Surface Air Temperature over the Eastern Mediterranean. _Remote Sensing_. 2024; 16(8):1314. https://doi.org/10.3390/rs16081314
В работе занимались повышением пространственного разрешения (даунскейлингом) приповерхностной температуры воздуха (Ta) из данных ERA5 (9 км) и CMIP6 (27 км) до 1 км при помощи машинного обучения (XGBoost и нейронная сеть).
Модели машинного обучения использовали данные со спутников (MODIS: температура земной поверхности и нормализованный разностный вегетационный индекс NDVI), данные климатических моделей ERA5 и CMIP6 (солнечную и тепловую радиацию, скорость ветра и др.), а также цифровую модель рельефа.
Модели проверялись на данных 98 метеостанций, расположенных в Израиле. Авторы стремились избежать попадания наблюдений с одной и той же станции одновременно в обучающий и в тестовый наборы данных (хотя и в разные дни и/или время), применив для кросс-валидации метод “leaving-one-group-out”.
В итоге, лучшие результаты были показаны нейронной сети: среднеквадратичная ошибка равнялась 0,98 °C (ERA5) и 1,86 °C (CMIP6) для суточной Ta и 2,20 °C (ERA5) — для часовой Ta.
Код и данные находятся в общем доступе.
Дайнскейлинг — одна их тех вещей, на которые можно смотреть бесконечно. Все заранее сомневаются, но хотят, чтобы это сработало. Недостатки: нейросеть из четырех полносвязных слоёв названа глубокой, а выбор довольно очевидной кросс-валидации преподносится как один из результатов. Сомнения: исследована небольшая территория с большим перепадом высот (> 3 км). Большой плюс работы — доступность кода и данных, так что желающие могут попробовать. А вообще, гораздо интересней, на наш взгляд, было бы провести такие исследования для разных ландшафтов, чтобы понять, где мы можем рассчитывать на повышение разрешения, а где нет.
#погода
📖 Blizer A, Glickman O, Lensky I.M. Comparing ML Methods for Downscaling Near-Surface Air Temperature over the Eastern Mediterranean. _Remote Sensing_. 2024; 16(8):1314. https://doi.org/10.3390/rs16081314
В работе занимались повышением пространственного разрешения (даунскейлингом) приповерхностной температуры воздуха (Ta) из данных ERA5 (9 км) и CMIP6 (27 км) до 1 км при помощи машинного обучения (XGBoost и нейронная сеть).
Модели машинного обучения использовали данные со спутников (MODIS: температура земной поверхности и нормализованный разностный вегетационный индекс NDVI), данные климатических моделей ERA5 и CMIP6 (солнечную и тепловую радиацию, скорость ветра и др.), а также цифровую модель рельефа.
Модели проверялись на данных 98 метеостанций, расположенных в Израиле. Авторы стремились избежать попадания наблюдений с одной и той же станции одновременно в обучающий и в тестовый наборы данных (хотя и в разные дни и/или время), применив для кросс-валидации метод “leaving-one-group-out”.
В итоге, лучшие результаты были показаны нейронной сети: среднеквадратичная ошибка равнялась 0,98 °C (ERA5) и 1,86 °C (CMIP6) для суточной Ta и 2,20 °C (ERA5) — для часовой Ta.
Код и данные находятся в общем доступе.
Дайнскейлинг — одна их тех вещей, на которые можно смотреть бесконечно. Все заранее сомневаются, но хотят, чтобы это сработало. Недостатки: нейросеть из четырех полносвязных слоёв названа глубокой, а выбор довольно очевидной кросс-валидации преподносится как один из результатов. Сомнения: исследована небольшая территория с большим перепадом высот (> 3 км). Большой плюс работы — доступность кода и данных, так что желающие могут попробовать. А вообще, гораздо интересней, на наш взгляд, было бы провести такие исследования для разных ландшафтов, чтобы понять, где мы можем рассчитывать на повышение разрешения, а где нет.
#погода
👍3
Нечто подобное (см. ниже) мы тоже делали. Правда у нас был диапазон поуже и разрешение получше https://cyberleninka.ru/article/n/algoritm-monitoringa-ekologicheskogo-sostoyaniya-pribrezhnyh-akvatoriy-v-rayone-ih-intensivnogo-hozyaystvennogo-ispolzovaniya/pdf 👩🚀
Не все мы прос..ли пока, не все…
Не все мы прос..ли пока, не все…
👍3
Forwarded from Спутник ДЗЗ
NASA опубликовало первые данные научной миссии PACE [ссылка]
На прошлой неделе NASA опубликовало первые научные данные со спутника Plankton, Aerosol, Cloud, ocean Ecosystem (PACE), запущенного в начале февраля.
PACE оснащён гиперспектрометром Ocean Color Instrument (OCI), который позволит учёным изучать микроскопическую жизнь в океане и, в частности, дифференцировать различные сообщества фитопланктона, что раньше было невозможно. Кроме того, аппарат снабжён поляриметрами для измерения атмосферных аэрозолей. Таким образом, с помощью PACE можно будет исследовать взаимодействие океана и атмосферы.
📸 На первом снимке OCI, полученном 28 февраля 2024 года в океане у побережья Южной Африки, можно увидеть два сообщества фитопланктона. В центре розовым цветом показаны синехококки, а зеленым — пикоэукариоты. Слева показан океан в комбинации “естественные цвета”, а справа — концентрация хлорофилла-а, фотосинтетического пигмента, используемого для определения присутствия фитопланктона.
🛢 Данные PACE
🖥 Запись вебинара “Keeping PACE: Introduction to PACE Mission, Products, and Data Discovery”
#океан #вода #гиперспектр
На прошлой неделе NASA опубликовало первые научные данные со спутника Plankton, Aerosol, Cloud, ocean Ecosystem (PACE), запущенного в начале февраля.
PACE оснащён гиперспектрометром Ocean Color Instrument (OCI), который позволит учёным изучать микроскопическую жизнь в океане и, в частности, дифференцировать различные сообщества фитопланктона, что раньше было невозможно. Кроме того, аппарат снабжён поляриметрами для измерения атмосферных аэрозолей. Таким образом, с помощью PACE можно будет исследовать взаимодействие океана и атмосферы.
📸 На первом снимке OCI, полученном 28 февраля 2024 года в океане у побережья Южной Африки, можно увидеть два сообщества фитопланктона. В центре розовым цветом показаны синехококки, а зеленым — пикоэукариоты. Слева показан океан в комбинации “естественные цвета”, а справа — концентрация хлорофилла-а, фотосинтетического пигмента, используемого для определения присутствия фитопланктона.
🛢 Данные PACE
🖥 Запись вебинара “Keeping PACE: Introduction to PACE Mission, Products, and Data Discovery”
#океан #вода #гиперспектр
👍3
#BSD
Раньше считалось, что тот кто может установить на свой ноутбук OpenBSD с первого раза (тогда у меня была 3.5) может укрываться своей бородой.
А я полысел 🤪
Раньше считалось, что тот кто может установить на свой ноутбук OpenBSD с первого раза (тогда у меня была 3.5) может укрываться своей бородой.
А я полысел 🤪
🤔2👏1
Forwarded from Белый хакер
Представлен релиз операционной системы OpenBSD 7.5, основанной на UNIX, которая известна своей безопасностью и качеством. Проект OpenBSD был создан в 1995 году Тэо де Раадтом после разногласий с NetBSD. Он ориентирован на переносимость, стандартизацию и безопасность, а также предоставляет широкий набор компонентов, таких как LibreSSL, OpenSSH и демон PF.
Основные улучшения:
P. S OpenBSD продолжает развиваться, улучшая свою безопасность и функциональность, и остается одной из наиболее надежных операционных систем.
#OpenBSD #Безопасность
Белый хакер
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3
Forwarded from Спутник ДЗЗ
Reuters сообщает, что Northrop Grumman совместно со SpaceX работает над секретной спутниковой программой [ссылка]
Компания Northrop Grumman поставляет датчики для разведывательных спутников SpaceX Starshield. По сведениям источников Reuters, спутники SpaceX уже ведут съёмку Земли с высоким пространственным разрешением. Включение Northrop Grumman, о котором ранее не сообщалось, отражает желание правительственных чиновников избежать передачи слишком большого контроля над высокочувствительной разведывательной программой в руки одного подрядчика. Northrop и SpaceX от комментариев отказались.
#война #США #spacex
Компания Northrop Grumman поставляет датчики для разведывательных спутников SpaceX Starshield. По сведениям источников Reuters, спутники SpaceX уже ведут съёмку Земли с высоким пространственным разрешением. Включение Northrop Grumman, о котором ранее не сообщалось, отражает желание правительственных чиновников избежать передачи слишком большого контроля над высокочувствительной разведывательной программой в руки одного подрядчика. Northrop и SpaceX от комментариев отказались.
#война #США #spacex
🤔3
Forwarded from Контакт подъема
This media is not supported in your browser
VIEW IN TELEGRAM
В фотоловушку космофотографа Натальи Бережной попал редкий космический зверь. Тот самый легендарный Уаз-695, смело ворвавшийся в трансляцию запуска ракеты "Ангара-А5". В дикой природе Амурской области этот зверь обитает на космодроме Восточный. Вот он, спугнул улетающую "Ангару", ловко выскочил "на ноль" и высадил четверых специалистов боевого расчета. Присмотритесь, ещё чуть чуть и он скроется в лесочке...
"Уаз-695, на выход!"
"Уаз-695, на выход!"
😁4
Forwarded from Оперативная линия
В отличие от Роскосмоса с упорством Свидетелей Иеговы демонстрирующего свои достижения в вопросах спутникового фотографирования стадионов, пирамид майя и картофельных полей и даже не думающего, чтобы сделать нечто подобное тому, что уже существует в других землях на тему пусть и не очень широкого доступа заинтересованных лиц к базам данных спутникового зондирования Земли, КитайКосмос не стесняется показать, зачем именно летают его спутники и их эффективность работы.
На картинке - снимок части базы Норфолк в радиолокационном диапазоне радиоволн, сделанный с китайского мини спутника Taijing-4-03, запущенного в небесные дали в январе этого года.
На картинке - снимок части базы Норфолк в радиолокационном диапазоне радиоволн, сделанный с китайского мини спутника Taijing-4-03, запущенного в небесные дали в январе этого года.
👍5
#AI
#вихривремени
#небеснаясеть
#skynet
#Лаванда
Добро пожаловать в новое время …
Век XXI, середина 20-х
https://news.1rj.ru/str/rogozin_alexey/2072
#вихривремени
#небеснаясеть
#skynet
#Лаванда
Добро пожаловать в новое время …
Век XXI, середина 20-х
https://news.1rj.ru/str/rogozin_alexey/2072
Telegram
Алексей Рогозин ✈️🚀🏗️
Вышло очень интересное расследование об израильском военном искусственном интеллекте "Лаванда", применяемом при планировании ударов по Газе. По словам авторов материала, его влияние на операции было таково, что военные, по сути, относились к результатам работы…
😱5🤔2
#space
#mil
Когда что-то комментировать- только портить …
https://news.1rj.ru/str/nuclear_stormbringer/6238
#mil
Когда что-то комментировать- только портить …
https://news.1rj.ru/str/nuclear_stormbringer/6238
Telegram
Ядерный буревестник
🇷🇺🛰️ Завтра в Лондоне шикарное событие, расскажут что вытворяет Россия на низкой околоземной орбите. Оппонентов не приглашают, так что можно безбоязненно толкать партнёрам тему о российской СОИ 2.0. Без риска встречных острых вопросов.
P.S. По Китаю собирать…
P.S. По Китаю собирать…
🤔3
#мнесверхувидновсе
#space
Сладко дремлют в Норфолке
Огоньки по бережку
Спят усталые игрушки
Негры тихо спят …
Из народного
https://news.1rj.ru/str/cosmodivers/2755
#space
Сладко дремлют в Норфолке
Огоньки по бережку
Спят усталые игрушки
Негры тихо спят …
Из народного
https://news.1rj.ru/str/cosmodivers/2755
Telegram
Космодайвер
Гавань ВМС США, сфотографированная первым китайским коммерческим спутником радаром с фазированной решеткой Ku-диапазона "Тайцзин 4-03"
Спутник «Тайцзин 4-03» представляет собой плоский спутник массой 230 кг и разрешением субметра.
Спутник «Тайцзин 4-03» представляет собой плоский спутник массой 230 кг и разрешением субметра.
👍4