​​🎤«Чем хуже дела у процессора, тем лучше — у профилировщика»: разбираемся, как устроены анализаторы производительности программ

Гость нового выпуска подкаста «Битовые маски» разрабатывал Intel VTune — инструмент, который помогает инженерам повышать производительность программ для компьютеров на базе x86-процессоров. Дмитрий Рябцев присоединился к команде Intel на последнем курсе университета, после чего разрабатывал и развивал профилировщик два десятка лет. Он рассказал, как такие инструменты устроены изнутри, а также подсказал, с чего стоит начинать профилирование различных сложных систем.

Из нового эпизода вы узнаете:

▪Почему разработка профилировщика может занимать десятки лет;
▪Как методология Top-down Microarchitecture Analysis помогает найти узкие места в конвейере процессора;
▪Почему вендоры держат в секрете названия некоторых событий;
▪В чём состоит фундаментальная проблема профилировщиков;
▪Почему сложно сделать универсальный профилировщик для всех микроархитектур;
▪Что из особенностей микроархитектуры сильнее всего влияет на производительность приложений.

Подписывайтесь на YouTube-канал «Истовый инженер» или на обновления подкаста «Битовые маски» на любимой стриминговой платформе, чтобы не пропустить новые выпуски!

Смотреть 📺 | Слушать 🎤

#программы #подкасты #битовыемаски

​​❓«Мышиный» искусственный интеллект: как создают микросхемы с живыми нервными клетками

Для тренировки GPT-4 потребовалось двадцать пять тысяч видеокарт Nvidia A100 и около ста дней, а один день её работы стоит миллионы долларов. «Прожорливость» современных нейросетей постоянно растёт. Им требуется всё больше ресурсов: данных для обучения и людей-репетиторов, вычислительной мощности и электричества. А с ростом применимости практически во всех сферах нашей жизни высокая во всех смыслах стоимость AI-решений заставляет искать альтернативные платформы — и новые, в том числе биоматериалы — для реализации таких вычислений.

Некоторые исследователи полагают, что решение проблемы стоит искать в области биологии. По их мнению, интеграция живых нейронов в аппаратные решения поможет драматически снизить энергопотребление при сложных вычислениях и обеспечить недостижимую для существующих архитектур производительность.

Пока это скорее концепция, чем реальность, но отдельные компании добились первых успехов. О том, как электроды подсказывали нейронам, где мяч, кому удалось создать работающую «гибридную» систему и стоит ли в ближайшее время ждать «мышиный» искусственный интеллект, читайте в новом посте.

Читать ➡

#приборы #AI

📄Кто на новенького: как избежать провалов при адаптации в новой компании и команде

Вспомните, что вы чувствовали, когда меняли работу, вливались в новую команду или становились руководителем? Такая смена контекста и окружения вызывает не только позитивные эмоции, но и стресс: стабильность сменяется картой с белыми пятнами, заполнять которые предстоит именно вам. И в ваших интересах сделать это в первые месяцы на новом месте или в новой роли.

Оксана Нечитайлова руководит отделом сервисного дизайна в YADRO и за 16 лет работы в разных IT-компаниях на своём опыте и из наблюдений за коллегами поняла: большинство людей склонны к определённым паттернам поведения в непростой период смены должности или компании. И не всегда это поведение бывает конструктивным. В статье Оксана перечислила наиболее часто встречающиеся ошибки «новичков» и дала рекомендации, с чего лучше начать прокладывать свой путь в новой компании или роли.

Из статьи вы узнаете:

▪как подготовить себя к периоду адаптации в эмоциональном плане;
▪почему не стоит бросаться решать все обнаруженные в команде проблемы;
▪с чего лучше начать, если вы оказались в новой компании или новой для себя роли руководителя;
▪какие инструменты и практики можно использовать;.
▪что такое «отказной список» и зачем его составлять.

В качестве бонуса вас ждёт список литературы, который даст пищу для размышлений. Текст будет особенно полезен начинающим тимлидам и руководителям, но некоторые практики актуальны и для линейных сотрудников.

Читать текст ➡

#складума #обучение #практикиуправления

🔖Успеть за 34 миллисекунды: оптимизируем код на С

Ресурсы любого процессора ограничены, поэтому важно нагружать его максимально эффективно. Ведущий инженер-программист YADRO Андрей Бакшаев разрабатывает и оптимизирует математические библиотеки под разные архитектуры больше 15 лет. А в новой статье он делится опытом оптимизации низкоуровневого кода на С для x86-процессоров: рассказывает об особенностях подсистемы кэша и памяти, а также применении инструкций AVX-512.

Из статьи вы узнаете:

▪как ускорить копирование байтового массива данных;
▪чем полезны масочные регистры, которые появились в инструкциях AVX-512;
▪как с помощью векторизованного кода сократить время работы алгоритма замены байтов по таблице в 18 раз.

Всё это — на примерах разных версий кода со сравнением их производительности.

Читать статью ➡

#программы #языкипрограммирования

​​🎤5G-вышки, магические антенны и исчезнувший роуминг — в новом выпуске подкаста Yellow Elephant

Для пользователя мобильная связь работает очень просто: мы открываем телефонную книгу в смартфоне, выбираем нужный контакт и нажимаем на кнопку вызова. Вне зависимости от дальности собеседника мы отчетливо слышим его, будто он находится в метре от нас. За этим комфортом стоят годы развития сотовых технологий и сложные алгоритмы. В настройках базовых станций, обеспечивающих сотовую связь, более 6 000 параметров, от которых зависит качество сигнала. А время переключения между ними, согласно стандартам, не должно превышать 120 миллисекунд, иначе голос будет передаваться с помехами.

Новый выпуск подкаста Yellow Elephant посвящен телекоммуникационным технологиям. Его гость — Алексей Анисимов, который руководит департаментом в дивизионе разработки телеком-оборудования, объясняет незримую магию сотовой связи и интернета, показывая её «железный» фундамент. Алексей работает в сфере телекома почти 20 лет, часть опыта он получил в глобальных компаниях Motorola и Nokia. Вместе с ведущим они обсуждают развитие мобильных сетей от 1G до 5G и те преимущества и вызовы, которые создает быстрая передача данных. Из этого выпуска вы узнаете:

▪Правда ли, что сотовая связь и Wi-Fi работают по единым радиопринципам;
▪Что такое handover и почему современная мобильная связь работает без перебоев даже там, где 10 лет назад её не было;
▪Как проводят интернет и сотовую связь в вестибюлях и вагонах метро, если все вышки находятся на поверхности;
▪Можно ли отследить геолокацию человека по сотовому телефону, как это показывают в фильмах;
▪Существует ли на самом деле роуминг и почему пользователи платят больше за звонок в другой город;
▪Что такое консорциум 3GPP и как он влияет на развитие технологий.

Чтобы не пропустить новые эпизоды подкаста, подписывайтесь на Yellow elephant на любом стриминге или следите за выходом видеоверсий на YouTube-канал «Истовый инженер».

Смотреть 📺| Слушать 🎤

#телеком #подкасты #yellowelephant

📄Десять к одному: что делать, если FPGA-стендов значительно меньше, чем инженеров

Для прототипирования процессоров и ряда других задач инженерные команды используют FPGA-стенды. Но такое оборудование стоит дорого, каждому на рабочий стол его не поставишь, да и не все сотрудники работают из офиса. Поэтому стенды «живут» в лабораториях, а пользователи подключаются к ним удаленно. Пока команда небольшая, доступ к аппаратным ресурсам можно «разделить» в чатах, но с ростом количества стендов и числа разработчиков этот вариант перестаёт работать.

И здесь на помощь приходит автоматизация процессов. Опытом создания системы для управления FPGA-стендами поделился Игорь Большевиков, инженер по системному программированию систем на кристалле в YADRO. Он рассказал, как можно организовать удалённую перезагрузку устройств и бронирование аппаратных ресурсов для распределённой команды, а также значительно сократить количество ручных манипуляций при загрузке операционной системы на прототипе.

Из статьи вы узнаете:
▪Какие устройства входят в состав стендов, помимо платы с FPGA;
▪Какие типовые шаги работы со стендом поддаются автоматизации;
▪Почему команда отказалась от библиотеки Labgrid и реализовала свою систему;
▪Почему важно изолировать не только программные, но и аппаратные ресурсы.

Читать статью ➡

#приборы #инструменты

❓Правильные ответы и больше информации о героинях викторины

Первый вопрос
Кэтлин Бут — одна из первопроходцев в информатике. Больше всего известна тем, что создала первый язык ассемблера для ранних вычислительных машин ARC2 (автоматический калькулятор на реле) и SEC (простой электронный компьютер). Сольно и в соавторстве она написала значимые статьи и книги, среди которых, например, «Автоматические цифровые калькуляторы» (1953 г.). Это одна из первых книг, которая демонстрировала стиль программирования «планирование и кодирование».

Второй вопрос
Британский марсоход назвали в честь Розалинд Франклин — первооткрывательницы ДНК. Название выбрали в результате публичного опроса. Шестиколесный марсоход Rosalind должен отправиться на Марс для поиска свидетельств существования жизни на красной планете, однако на данный момент официальный запуск перенесен на неопределенный срок.

Третий вопрос
По существующей информации следующее поколение видеокарт NVIDIA после Blackwell получит название Rubin. В честь Веры Рубин — астронома, которая изучала скорость вращения галактик и открыла понятие тёмной материи. Другие предложенные в вопросе варианты, впрочем, тоже полностью достойны стать той самой R в названии поколения:

▪Ида Родес разработала язык С-10 для компьютерной системы UNIVAC I, использовавшейся при подсчёте результатов переписи населения.
▪Ана Мария Рей — квантовый физик-теоретик, которая изучает новые методы управления квантовыми системами и их применениями.
▪Радья Джой Перлман создала протокол STP (Spanning Tree Protocol), который сделал возможным появление массовых сетей с использованием технологии Ethernet.

Четвёртый вопрос
С помощью нехитрых эмодзи мы показали Эдит Кларк — первую женщину, профессионально работавшую инженером-электриком в США, и первую женщину, которая преподавала электротехнику. Профессор Кларк специализировалась на анализе электроэнергетических систем и написала книгу «Анализ цепей систем переменного тока».

Ну что, ответили на все вопросы?
Ставьте 🤔 под постом, если было сложно, и 🤓, если было легко. И делитесь в комментариях, про кого ещё можно было вспомнить в этой викторине!

​​🔖Второй мозг: как организовать хранение заметок и удобную навигацию по ним

Шерлок Холмс был прав, когда говорил, что мозг похож на чердак, который мы заполняем полезными или бесполезными вещами. Продолжая эту метафору, любой «чердак» требует периодической ревизии: если не упорядочивать вещи и не выбрасывать старые, в какой-то момент он перестанет вмещать новые или вы потеряетесь в этом бардаке.

Действительно, попытки удержать много данных в голове снижают эффективность работы мозга, поэтому ученые советуют «выгружать» их в бумажные или электронные системы хранения и выстраивать базы знаний.

Способов упорядочивания информации — десятки, и вы можете выбрать тот, что поможет удобно систематизировать знания и легко в них ориентироваться. Одним из таких способов стали пользоваться еще в прошлом веке, а сейчас этот метод — Цеттелькастен — лег в основу сервисов для управления знаниями.

В новом тексте рассказываем, как устроен Цеттелькастен, и делимся опытом инженера, который применяет софт, основанный на методе, для изучения новых языков программирования.

Читать ➡

#мышлениеиподходы #обучение

​​🔖MIT и Berkeley, МИЭТ и МФТИ: 8 открытых курсов по разработке процессоров и компьютерным архитектурам для начинающих

В сети есть отличные курсы для обучения инженерному делу, но их непросто найти даже при большом желании. Таких образовательных материалов нет в топе поисковой выдачи и на привычных ресурсах для самообразования.

Инженер по разработке аппаратного обеспечения Николай Терновой сделал подборку с лучшими бесплатными курсами ведущих российских и иностранных университетов. Например, в неё вошли материалы МФТИ, МИЭТ, MIT и Цюрихского университета. Лекции и практические задания помогут получить базовые знания и навыки, необходимые для разработки современных микропроцессоров, а также разобраться в устройстве архитектуры компьютера.

Из описания к каждому курсу вы узнаете:
▪какие знания понадобятся на старте;
▪что вы почерпнёте из лекций и практических работ;
▪к какому результату вы придёте после обучения.

Читать подборку ➡

А отдельная заметка расскажет, какие инженерные специальности есть в разработке микропроцессоров, какие инструменты в ней применяются и каким компаниям нужны такие специалисты. Если вы никогда раньше не слышали об аппаратной разработке, рекомендуем начать чтение с этого подготовительного материала.

Читать заметку ➡

#складума #приборы #junior #какстать #обучение

​​📄Не тонуть в горутине: особенности реализации одной и той же задачи на С и Go

Задачу всегда можно решить разными способами, особенно если дело касается разработки программного обеспечения. Цели можно достичь, используя разную логику кода, разные фреймворки и даже разные языки программирования.

Алексей Буреев, старший инженер по разработке ПО в YADRO, решил провести эксперимент. Он попробовал организовать пул потоков и event driven-архитектуру в рамках межпроцессного взаимодействия на разных языках. На Go, своем «рабочем» языке, и чистом С — низкоуровневом языке программирования. Для этого он заглянул «под капот» стандартных типов данных, которые уже были заботливо созданы разработчиками языка. В результате получился «сравнительный анализ» синтаксиса и возможностей двух языков в рамках одной задачи, которые привели инженера к интересным выводам.

Из статьи вы узнаете:

▪Как реализовать event driven-парадигму на С;
▪Как «нестандартно» использовать мьютексы;
▪Какие потенциальные проблемы с организацией пула потоков уже решены в Go «из коробки».

Читать статью ➡

#языкипрограммирования

​​📄Не Python единым: нейросеть на С++ для распознавания лиц на фото

Машинное обучение традиционно ассоциируется с Python. Этот язык программирования буквально захватил направление, его используют повсюду — от обучающих курсов до серьёзных ML-проектов. Однако Python — не единственный язык, применимый для реализации задач машинного обучения. Альтернативой может стать С++.

Ведущий инженер-программист в YADRO Кирилл Колодяжный, помимо рабочих задач по исследованию проблем производительности СХД, увлекается машинным обучением. Он участвовал в коммерческих проектах, связанных с техническим зрением, 3D-сканерами и обработкой фотографий, и часто использовал в задачах С++. В статье Кирилл делится опытом, как написать простую нейронную сеть на C++ и применить её для поиска лица конкретного человека на фотографии — например, актёра Арнольда Шварценеггера. Вы узнаете:

▪как организовать работу с данными и загрузку обучающего датасета,
▪как описать структуру нейронной сети,
▪как использовать уже готовые алгоритмы машинного обучения из доступных библиотек и фреймворков,
▪как организовать конвейер обучения сети,
▪как использовать предобученные глубокие сети для решения задач.

Читать статью ➡

#программы #AI #ML #языкипрограммирования

​​📺Полчаса на код и два дня — на его проверку: как работают инженеры-верификаторы

Если на одном из этапов проектирования ракеты-носителя была допущена ошибка, то в космос она вряд ли полетит. С микросхемами и другими аппаратными блоками ситуация схожая. И это касается не только космически огромных затрат на их R&D. Ошибка, допущенная в процессе проектирования микросхемы, может привести к тому, что готовое устройство не будет работать так, как запланировано, или вовсе откажет. Минимизировать подобные риски позволяет этап верификации, когда инженерная команда убеждается, что результаты разработки соответствуют всем заложенным требованиям.

Деталям этого процесса посвящен новый выпуск подкаста «Битовые маски». В гостях у ведущих — Алексей Ковалов, который сейчас руководит группой модульной верификации в YADRO, в раньше тестировал аппаратные решения для Wi-Fi-сетей в международной компании Quantenna. Он рассказал, как и почему пришёл в профессию, и обсудил с ведущими языки и методологии, которые используют инженеры-верификаторы.

Из выпуска вы узнаете:
▪По каким критериям инженеры принимают решение о том, что блок верифицирован;
▪Что такое Universal Verification Methodology и зачем она нужна;
▪Какие особенности есть у языка SystemVerilog и какие другие технологии могут применяться для верификации;
▪Может ли у бита быть не два значения, а четыре;
▪Каких навыков ожидают от начинающих верификаторов и с чем нужно будет разобраться в первые месяцы работы.

Также Алексей поделится практическим опытом работы с проектами, где много legacy-кода, и приведет примеры «токсичных» интерфейсов для верификаторов.

Смотреть 📺 | Слушать 🎤

#программы #подкасты #битовыемаски

​​📄Процессор RAD750: стойкое «сердце» марсоходов, космических телескопов и спутников

15 лет назад телескоп «Кеплер» покинул Землю и отправился на поиски планет, пригодных для жизни. По плану его миссия должна была занять 3,5 года, на практике же она продлилась больше 9 лет. Управление «Кеплером» обеспечивал процессор RAD750 компании BAE Systems, которая специализируется на производстве авиационной и космической электроники.

RAD750 спроектирован специально для стабильной и долгой работы в агрессивных средах. Высокая надёжность и радиационная стойкость сделала этот процессор «любимчиком» NASA: именно его использовали для создания телескопа «Джеймс Уэбб», марсоходов «Кьюриосити» и «Пресеверанс» и других знаменитых космических аппаратов. В этом посте рубрики #dieshots мы расскажем, что делает RAD750 особенным.

Отличия от «земного» аналога

RAD750 — это, по сути, процессор совместной разработки IBM и Motorola PowerPC 750, на базе которого в то время собирались персональные компьютеры Apple iMac G3 — знаменитая серия Macintosh — за несколькими важными отличиями. RAD750 сохраняет работоспособность при температурах от −55 до 125 °C и поглощённой доле радиации до 1000 крад. Для сравнения, обычная «пользовательская» микросхема может перестать нормально функционировать уже после 5 крад. Ещё одна особенность RAD750 — это развитая схема динамического контроля производительности и энергопотребления. Она позволяет эффективно управлять работой бортовых вычислителей в условиях дефицита электроэнергии.

Если процессор PowerPC 750 стоил порядка 500 долларов, то цена его космического аналога превышала 200 тысяч долларов. Микросхемы для космоса в целом значительно дороже коммерческих. Причин высокого ценника множество, основные из них — расширенный температурный диапазон работы, вибро- и радиационная стойкость, мелкосерийное производство и очень тщательное тестирование. За пределами Земли надёжность оборудования особенно важна: если что-то пойдёт не так, заменить микросхему на расстоянии в миллионы километров просто не получится.

Особенности радиационной защиты

Когда атмосфера нашей планеты перестаёт сохранять электронику от постепенного накопления облучения и тяжёлых заряженных частиц, защиту приходится продумывать инженерам. Например, использовать аппаратно троированные регистры: там, где у обычного процессора будет стоять один триггер, в устойчивом к радиации будут три, что позволяет снизить вероятность ошибок.

Если площадь кристалла коммерческого PowerPC составляет 67 квадратных миллиметров, то у RAD750 она почти в два раза больше — 120 квадратных миллиметров. В одной из своих статей Валерий Шунков, который занимается разработкой радиационно стойких микросхем для космоса, говорит, что «различия в размерах блоков памяти заставляют предположить использование многотранзисторых радстойких ячеек памяти с встроенным резервированием». Обычно это 10 транзисторов вместо 6.

На борту именитых космических аппаратов

Первый RAD750 появился в 2001 году, и с тех пор он собрал обширный послужной список. Кроме космических аппаратов, которые мы уже называли, этот процессор использовали для создания гамма-телескопа «Ферми», межпланетарной станции «Джуно», миссии STEREO по изучению солнечной активности и искусственного спутника Луны Lunar Reconnaissance Orbiter. Сколько точно CPU от BAE Systems бороздят космический вакуум, неизвестно. Джим ЛаРоса, один из директоров компании, озвучивал, что спутников на базе RAD750 на одной только околоземной орбите больше сотни, и ни один из процессоров не вышел из строя за время эксплуатации.

Из-за дороговизны микросхемы и окружающей её секретности фото кристалла RAD750 в высоком разрешении в сети нет, но мы отыскали небольшой снимок в одной из лекций университета Berkeley. А узнать больше о том, как разрабатывается микроэлектроника для космоса вы сможете из интервью и лекции Романа Жарких, проектировщика бортовой электроники и космических платформ, а также из источников в комментариях к посту.

#приборы #космос