Всем привет! Последние недели в основном занят работой.
За это время:
- завершил 3 задачи по настройке обмена данными с поставщиком;
- научился формировать документы xml на стороне ms sql server и на стороне python и отправлять их по ftp;
- лучше осваиваю airflow;
- принимаю проект от другого разработчика по загрузке данных от клиентов;
Подробнее о проекте.
Клиенты высылают свои данные в различных форматах на почту. Задача настроить автоматическую загрузку в нашу базу. За это время научился работать с почтой с помощью модуля imap, считывать данные из почты, преобразовывать их в нужный датафрейм и загружать данные в базу.
Получаю большое удовольствие от автоматизации. Один раз подключаешь клиента и данные ежедневно загружаются в нашу базу без какого-либо участия. =)
За это время:
- завершил 3 задачи по настройке обмена данными с поставщиком;
- научился формировать документы xml на стороне ms sql server и на стороне python и отправлять их по ftp;
- лучше осваиваю airflow;
- принимаю проект от другого разработчика по загрузке данных от клиентов;
Подробнее о проекте.
Клиенты высылают свои данные в различных форматах на почту. Задача настроить автоматическую загрузку в нашу базу. За это время научился работать с почтой с помощью модуля imap, считывать данные из почты, преобразовывать их в нужный датафрейм и загружать данные в базу.
Получаю большое удовольствие от автоматизации. Один раз подключаешь клиента и данные ежедневно загружаются в нашу базу без какого-либо участия. =)
👍5
Также,
- завершается обучение в Яндекс.Практикум. Начал писать дипломный проект;
- поправил профили в linkidIn, hh - указал актуальное место работы;
- звонили рекрутеры из Армении) Предлагали работу с релокацией. Говорили, что у них тепло и вкусно)
Важно! Кажется я определился с направлением в разработке.
Это работа с данными - ETL Development / Data Engineering.
За время работы понял, что это увлекательное и востребованное направление.
- завершается обучение в Яндекс.Практикум. Начал писать дипломный проект;
- поправил профили в linkidIn, hh - указал актуальное место работы;
- звонили рекрутеры из Армении) Предлагали работу с релокацией. Говорили, что у них тепло и вкусно)
Важно! Кажется я определился с направлением в разработке.
Это работа с данными - ETL Development / Data Engineering.
За время работы понял, что это увлекательное и востребованное направление.
👍6
"Задача, стоящая перед программистом, - это интеллектуальный вызов высочайшего ранга."
Эдсгер Дейкстра🔥5
🔥🔥🔥Завершил курс "Python-разработчик" на ЯП.🔥🔥🔥
*Ознакомиться с кодом дипломной работы можно по ссылке: https://github.com/avagners/foodgram-project-react
Итого был пройден путь в 10 месяцев. Очень рад завершению обучения.
На нем я научился:
- писать довольно чистый код, который соответствует стандарту PEP8;
- оформлять README файлы в репозиториях проектов;
- создавать API и работать с ним;
- писать тесты;
- создавать бэкенд на Django;
- работать с Docker;
- делать деплой проектов на сервер;
- настраивать CI/CD;
- настраивать сервер на Яндекс.Облако;
- хорошо развил навык работы с git (за это время сделал около 700 коммитов);
*Ознакомиться с кодом дипломной работы можно по ссылке: https://github.com/avagners/foodgram-project-react
Итого был пройден путь в 10 месяцев. Очень рад завершению обучения.
На нем я научился:
- писать довольно чистый код, который соответствует стандарту PEP8;
- оформлять README файлы в репозиториях проектов;
- создавать API и работать с ним;
- писать тесты;
- создавать бэкенд на Django;
- работать с Docker;
- делать деплой проектов на сервер;
- настраивать CI/CD;
- настраивать сервер на Яндекс.Облако;
- хорошо развил навык работы с git (за это время сделал около 700 коммитов);
GitHub
GitHub - avagners/foodgram-project-react: Foodgram project
Foodgram project. Contribute to avagners/foodgram-project-react development by creating an account on GitHub.
🔥6👏2
Как дела на работе?
За эти 2 месяца прокачался:
- в MS SQL Server: научился работать с индексами, анализировать планы запросов, на основании анализа оптимизировать запросы, немного познакомился с созданием архитектуры БД, создавать job'ы для робота;
- в airflow: научился пользоваться хуками, переменными, некоторыми операторами, группировать таски, использовать ветвления, создавать довольно интересные графы; научился устанавливать и настраивать airflow локально, так и с помощью docker;
P.s. если вы не знаете как нагрузить все 16гигов оперативы, то просто запустите airflow в докер на wsl =)
За эти 2 месяца прокачался:
- в MS SQL Server: научился работать с индексами, анализировать планы запросов, на основании анализа оптимизировать запросы, немного познакомился с созданием архитектуры БД, создавать job'ы для робота;
- в airflow: научился пользоваться хуками, переменными, некоторыми операторами, группировать таски, использовать ветвления, создавать довольно интересные графы; научился устанавливать и настраивать airflow локально, так и с помощью docker;
P.s. если вы не знаете как нагрузить все 16гигов оперативы, то просто запустите airflow в докер на wsl =)
👍6
Кстати, каналу сегодня ровно год. :)
15 августа прошлого года создал канал в телеге и аккаунт на GitHub.
Быстро время летит.
15 августа прошлого года создал канал в телеге и аккаунт на GitHub.
Быстро время летит.
👏6
Последние 2 недели изучаю структуры данных.
На сегодня изучил след. структуры:
1) Связанный список;
2) Двунаправленный связный (связанный) список;
3) Динамический массив;
4) Стек;
5) Очередь;
6) Двусторонняя очередь (deque).
К каждой структуре данных:
- написал тесты. Итого написано тестов на 1700 строк кода;
- сделал оценку мер сложности для методов каждой структуры;
Важно! С написанием тестов находишь все ошибки, которые ты допустил во время написания методов структуры данных.
Для меня это открытие последних 2-х недель.
На сегодня изучил след. структуры:
1) Связанный список;
2) Двунаправленный связный (связанный) список;
3) Динамический массив;
4) Стек;
5) Очередь;
6) Двусторонняя очередь (deque).
К каждой структуре данных:
- написал тесты. Итого написано тестов на 1700 строк кода;
- сделал оценку мер сложности для методов каждой структуры;
Важно! С написанием тестов находишь все ошибки, которые ты допустил во время написания методов структуры данных.
Для меня это открытие последних 2-х недель.
🔥5❤1
Всем привет! 👨💻
За последние 7 дней прошёл 2 структуры данных:
- упорядоченный список;
- хэш-таблицы.
Написал тестов на 693 строки.
Не перестаю восхищаться покрытию кода тестами.
Пишу код без ошибок)
А как у вас прошла неделя?) 😊
За последние 7 дней прошёл 2 структуры данных:
- упорядоченный список;
- хэш-таблицы.
Написал тестов на 693 строки.
Не перестаю восхищаться покрытию кода тестами.
Пишу код без ошибок)
А как у вас прошла неделя?) 😊
🔥6
Всем привет!
Забыл в субботу отписаться о том, что успел сделать за 7 дней помимо работы.
Исправляюсь)
Изучил следующие структуры данных:
9) ассоциативный массив (словарь) ;
10) множества;
11) фильтр Блюма;
Написал тестов на 480 строк.
Все эти структуры данных в своей реализации используют хэш-функции и хэш-таблицы. Это позволяет получить сложность операций поиска до О(1).
Очень интересной показалась структура "фильтр Блюма".
Фильтр даёт возможность проверки элементов со скоростью O(1). Но фильтр даёт вероятностный ответ. То есть фильтр может вернуть ложноположительный ответ. Это ситуация, когда мы не включали в фильтр строку, но фильтр нам пишет, что данная строка в фильтре есть.
Такое возникает, когда хэш-функции, используемые в фильтре, расчитывают один и тот же хэш для разных строк.
Вероятность срабатывания ложноположительного ответа находится в обратной зависимости от количества бит выделяемых под сам фильтр. Чем больше битовый массив, тем меньше вероятность ложноположительного ответа.
Забыл в субботу отписаться о том, что успел сделать за 7 дней помимо работы.
Исправляюсь)
Изучил следующие структуры данных:
9) ассоциативный массив (словарь) ;
10) множества;
11) фильтр Блюма;
Написал тестов на 480 строк.
Все эти структуры данных в своей реализации используют хэш-функции и хэш-таблицы. Это позволяет получить сложность операций поиска до О(1).
Очень интересной показалась структура "фильтр Блюма".
Фильтр даёт возможность проверки элементов со скоростью O(1). Но фильтр даёт вероятностный ответ. То есть фильтр может вернуть ложноположительный ответ. Это ситуация, когда мы не включали в фильтр строку, но фильтр нам пишет, что данная строка в фильтре есть.
Такое возникает, когда хэш-функции, используемые в фильтре, расчитывают один и тот же хэш для разных строк.
Вероятность срабатывания ложноположительного ответа находится в обратной зависимости от количества бит выделяемых под сам фильтр. Чем больше битовый массив, тем меньше вероятность ложноположительного ответа.
🔥5👍1
Всем привет! ✋
На прошлой неделе изучил одну структуру данных:
12) Кэш
Также написал тесты.
Итого за месяц изучил 12 структур данных. Написал тестов на 3000 строк.
А как у вас прошла неделя?
На прошлой неделе изучил одну структуру данных:
12) Кэш
Также написал тесты.
Итого за месяц изучил 12 структур данных. Написал тестов на 3000 строк.
А как у вас прошла неделя?
👍3🔥1
▓▓▓▓▓▓▓▓▓▓▓░░░░░ 71%
👆👆👆
Это 2022 год.
Кто-то ставил цели на год?
Что у вас? Что выполнили? Что осталось?
У меня этот год довольно продуктивный. Все основые цели достиг.
Есть еще одна задача, которую я хочу сделать - создать свой сайт и написать на нём несколько статей.
У меня есть хостинг, домен. Даже накатывал уже движок и была одна заметка. Но зимой я всё снёс.
Давайте сделаем ставки))) Выкачу ли я до конца года блог с минимум 2-мя статьями? 😁
Судя по моей статистике, я бы поставил на отрицательный ответ. 😄
👆👆👆
Это 2022 год.
Кто-то ставил цели на год?
Что у вас? Что выполнили? Что осталось?
У меня этот год довольно продуктивный. Все основые цели достиг.
Есть еще одна задача, которую я хочу сделать - создать свой сайт и написать на нём несколько статей.
У меня есть хостинг, домен. Даже накатывал уже движок и была одна заметка. Но зимой я всё снёс.
Давайте сделаем ставки))) Выкачу ли я до конца года блог с минимум 2-мя статьями? 😁
Судя по моей статистике, я бы поставил на отрицательный ответ. 😄
👍3👏1