Как платить за OpenAI в два раза меньше. Batching API, расскажите друзьям-программистам
https://youtu.be/oHbuiJ7-c54?si=JEx4tc_FsMu59n2f
- для моего пет проекта оказалось прямо то что нужно
https://youtu.be/oHbuiJ7-c54?si=JEx4tc_FsMu59n2f
- для моего пет проекта оказалось прямо то что нужно
YouTube
Как платить за OpenAI в два раза меньше. Batching API, расскажите друзьям-программистам
Всем здравствуйте! Это Силиконовая правда. Меня зовут Иван. Я предприниматель. Живу в Кремниевой Долине. Этот блог про долину, бизнес, предпринимательство, запуск бизнеса в США и всё такое.
Как сэкономить на OpenAI в два раза — и почему почти никто этого…
Как сэкономить на OpenAI в два раза — и почему почти никто этого…
== Кост-модель LLM: иллюзия простоты / Михаил Чебаков
https://youtu.be/I7VQXdkwTf0?si=PG4qdMLePb264Ly-
https://youtu.be/I7VQXdkwTf0?si=PG4qdMLePb264Ly-
YouTube
Кост-модель LLM: иллюзия простоты / Михаил Чебаков
На конференции «Я про бэкенд» Михаил Чебаков, руководитель разработки инструментальных ML-платформ Т-Банка, рассказал, какие инженерные сложности и компромиссы стоят за тем, чтобы спрятать всю сложность инференса LLM за простыми числами, и показал, как сделать…
== Как работают большие языковые модели (LLM)
https://youtu.be/XsqkYGHKVao?si=gsHukywu1P3N4djO
https://youtu.be/XsqkYGHKVao?si=gsHukywu1P3N4djO
Forwarded from Anna Lazitskaya of Embraceme
А тем временем OpenAI выпустили браузер: теперь выбираем Chrome vs Comet vs OpenAI
*а Dia (ex Arc) купил Atlassian: вот это интересно)
https://every.to/vibe-check/vibe-check-openai-s-new-ai-browser-atlas/?via=anna
*а Dia (ex Arc) купил Atlassian: вот это интересно)
https://every.to/vibe-check/vibe-check-openai-s-new-ai-browser-atlas/?via=anna
Every
Vibe Check: OpenAI’s New AI Browser, Atlas
It feels less like learning something new than a browser that has caught up to how we already want to work with AI
== Как создать свой MCP сервер с НУЛЯ на Python за 5 минут и интегрировать его в LM Studio и Cursor AI
https://youtu.be/AI19bVHL9f8?si=mpcaWRUHcuuGQfRZ
взял себе на вооружение FastMCP накой черт я это все сам велосипедил ?! лана. тогда этого не видел и не было
https://youtu.be/AI19bVHL9f8?si=mpcaWRUHcuuGQfRZ
взял себе на вооружение FastMCP накой черт я это все сам велосипедил ?! лана. тогда этого не видел и не было
YouTube
Как создать свой MCP сервер с НУЛЯ на Python за 5 минут и интегрировать его в LM Studio и Cursor AI
#mcp #mcpserver #mcpjson
00:00 - Что изучим
00:27 - Что такое MCP
01:33 - Что такое MCP Client
02:47 - Что такое MCP Server
04:08 - Как всё это работает вместе
08:19 - Как LM Studio работает без MCP Server
09:27 - Создание MCP Server на Python
12:35 - Интеграция…
00:00 - Что изучим
00:27 - Что такое MCP
01:33 - Что такое MCP Client
02:47 - Что такое MCP Server
04:08 - Как всё это работает вместе
08:19 - Как LM Studio работает без MCP Server
09:27 - Создание MCP Server на Python
12:35 - Интеграция…
== ПОЛНОСТЬЮ БЕСПЛАТНЫЙ УБИЙЦА CURSOR И CLAUDE CODE ОТ ГУГЛ ВЫШЕЛ | GEMINI CLI ОБЗОР
https://youtu.be/SRasGkyiLFk?si=JUeUBJ7G9kRIVNao
ну в целом я в последнее время очень много юзаю именно gemini
оно бесплатно умеет в поиск реально лучше, а так же и минимальный тулинг для работы пашет почти сразу. наверное поюзаю еще и Gemini CLI сравню с Claude-code
https://youtu.be/SRasGkyiLFk?si=JUeUBJ7G9kRIVNao
ну в целом я в последнее время очень много юзаю именно gemini
оно бесплатно умеет в поиск реально лучше, а так же и минимальный тулинг для работы пашет почти сразу. наверное поюзаю еще и Gemini CLI сравню с Claude-code
YouTube
ПОЛНОСТЬЮ БЕСПЛАТНЫЙ УБИЙЦА CURSOR И CLAUDE CODE ОТ ГУГЛ ВЫШЕЛ | GEMINI CLI ОБЗОР
Рассказал и показал, как установить, настроить и использовать Gemini CLI — новый мощный инструмент от Google для кодирования прямо в терминале. Прошли весь путь от установки Node.js до создания полноценного веб-приложения для обрезки изображений с нуля. Также…
только сейчас понял,
появился новый вид поздравлений.
скоро родственники поздравления будут в вайбер генерировать с помощью LLM
АААААА😄
появился новый вид поздравлений.
скоро родственники поздравления будут в вайбер генерировать с помощью LLM
АААААА
Please open Telegram to view this post
VIEW IN TELEGRAM
😁3
искал себе файлохранилку. кажется нашел. просто случайно посоветовали
== introducing copyparty, the FOSS file server
https://youtu.be/15_-hgsX2V0?si=DoZGiBazBRfrgczc
copyparty. как будто бы все в ней есть== introducing copyparty, the FOSS file server
https://youtu.be/15_-hgsX2V0?si=DoZGiBazBRfrgczc
YouTube
introducing copyparty, the FOSS file server
something I've been making for the past 5 years
the project: https://github.com/9001/copyparty/
watch this video on the demoserver: https://a.ocv.me/pub/demo/ (try showcase-lq.mp4 if your device cannot play the hq.webm)
the project: https://github.com/9001/copyparty/
watch this video on the demoserver: https://a.ocv.me/pub/demo/ (try showcase-lq.mp4 if your device cannot play the hq.webm)
🔥2
== FastAPI (Python) vs Axum (Rust) шокирующий тест скорости веб-сервисов!
https://youtu.be/aUough6jwVE?si=SPsLlyyQ6dhk2JNa
все настолько очевидно, что даже видео смотреть не обязательно чтобы знать концовку (с)
== Python VS Rust VS Go! Я заменил FastAPI на LiteStar и это ужасающе быстро!
https://youtu.be/ZSqKTYgaV-4?si=5A6A1PgWoBwNSBeP
Тимлид про раст: ужасно быстро, ужасающе быстро
Тимлид про питон: ужасно, ужасающе(с)
https://youtu.be/aUough6jwVE?si=SPsLlyyQ6dhk2JNa
== Python VS Rust VS Go! Я заменил FastAPI на LiteStar и это ужасающе быстро!
https://youtu.be/ZSqKTYgaV-4?si=5A6A1PgWoBwNSBeP
Тимлид про питон: ужасно, ужасающе(с)
YouTube
FastAPI (Python) vs Axum (Rust) шокирующий тест скорости веб-сервисов!
Канал в Telegram: https://news.1rj.ru/str/mrteamlead
Поддержать развитие канала: https://boosty.to/mrteamlead
Подпишись или не blazing!
В этом видео я проверяю, правда ли «скорость языка не важна» и что веб-сервис на Python якобы работает так же, как на Rust, потому…
Поддержать развитие канала: https://boosty.to/mrteamlead
Подпишись или не blazing!
В этом видео я проверяю, правда ли «скорость языка не важна» и что веб-сервис на Python якобы работает так же, как на Rust, потому…
🔥1
== Granian: a Rust HTTP server for Python applications - Giovanni Barillari
https://www.youtube.com/watch?v=VshGh5KLuOk
== GRANIAN
https://github.com/emmett-framework/granian
пито-раст на моем проекте. заметно улучшение. просто дропин замена gunicorn или uvicorn.
видос выше просто заставил меня еще раз посмотреть на этот пакет. сейчас он просто шикарен. 1 день на проде. полет нормальный
https://www.youtube.com/watch?v=VshGh5KLuOk
== GRANIAN
https://github.com/emmett-framework/granian
пито-раст на моем проекте. заметно улучшение. просто дропин замена gunicorn или uvicorn.
видос выше просто заставил меня еще раз посмотреть на этот пакет. сейчас он просто шикарен. 1 день на проде. полет нормальный
GitHub
GitHub - emmett-framework/granian: A Rust HTTP server for Python applications
A Rust HTTP server for Python applications. Contribute to emmett-framework/granian development by creating an account on GitHub.
больше всего из granian зацепил пакет https://docs.rs/pyo3-asyncio/latest/pyo3_asyncio/
даже не думал что это может быть так просто. взял и ждешь корутину из питона. или наоборот из питона ждешь фьюч из раста. изи
даже не думал что это может быть так просто. взял и ждешь корутину из питона. или наоборот из питона ждешь фьюч из раста. изи
docs.rs
pyo3_asyncio - Rust
Rust Bindings to the Python Asyncio Event Loop
🔥1
спасибо тебе добрый человек, кто бы ты, како бы ты рассы, сексуальной ориентации не был бы, за такое пре-интереснейшее приключение и бессонные ночи и 3 месяца дебага.
Дорогой дневник, мне не подобрать слов, чтобы описать боль и унижение, которое я испытал из-за всего 6 строк кода
вы видите сдесь дедлок ? а он есть !
функции больше чем я в компании... она переезжала раз наверное 40 и в итоге попала в общую либу, и юзалась прям везде в скриптах и streamlit (ну и пусть себе юзалась бы там... там оно работает хорошо)
а дедлок прямо в последней строке
1. Async function вызывает
2.
3.
4. **DEADLOCK**: loop ждёт завершения
100% попадания в дедлок каждый раз когда попадает в эту функцию
а даже asyncio.new_event_loop() без set_event_loop() - loop не становится текущим
asyncio.ensure_future(coro) создает еще больший дедлок. серьезней все висит
а суть вообще вопрос а прикола в том что эта функция СЛУЧАЙНО вызывалась из кода в одной из корутин, и конечно же это же не асинхронная функция - никто даже в мыслях не допускал что оно берет и СТАКАЕТ до конца жизни воркера...
так как заметить это ЗВЗДЦ невозможно - кто откуда и через какую неявную функцию вызывает - то казалось что оно просто тяжелое, медленное и вообщепитон не самый лучший язык (нет он хороший, иногда просто какая то ошибка в либе просто руинит ночи)
вот так и жило. 16 реплик ради того что бы поддерживать этот дедлок. сами себе злобные буратино
а вот как оно должно работать было. хотя-бы
ну хотя бы так. тут по-хорошему еще мьютекса не хватает, что бы оно меняло трэды дожидаясь... и что бы чистило треды за собой... но это другая история.
тут работает по-другому -
Нет deadlock потому что:
Loop A (running) → блокирует Thread A на future.result()
Loop B (new) → создаётся в Thread B, независимый от Loop A
Thread A ждёт Thread B синхронно (не через event loop)
в целом если хочется что бы корутина отработала внутри другой можно заюзать пакет nest-asyncio. но это лишняя зависимость. но она удобная.
Дорогой дневник, мне не подобрать слов, чтобы описать боль и унижение, которое я испытал из-за всего 6 строк кода
def run_on_loop(some: Coroutine):
try:
loop = asyncio.get_event_loop()
except Exception:
loop = asyncio.new_event_loop()
return loop.run_until_complete(some)
вы видите сдесь дедлок ? а он есть !
функции больше чем я в компании... она переезжала раз наверное 40 и в итоге попала в общую либу, и юзалась прям везде в скриптах и streamlit (ну и пусть себе юзалась бы там... там оно работает хорошо)
а дедлок прямо в последней строке
1. Async function вызывает
run_on_loop()2.
get_event_loop() возвращает текущий running loop3.
run_until_complete() пытается запустить coroutine на уже running loop4. **DEADLOCK**: loop ждёт завершения
some, но some ждёт свободный loop
Thread 1:
Event Loop (RUNNING)
├── async def main():
│ └── run_on_loop(coro) ← tries to call run_until_complete()
│ └── DEADLOCK: loop already busy executing main()
└── [blocked forever]
100% попадания в дедлок каждый раз когда попадает в эту функцию
а даже asyncio.new_event_loop() без set_event_loop() - loop не становится текущим
asyncio.ensure_future(coro) создает еще больший дедлок. серьезней все висит
а суть вообще вопрос а прикола в том что эта функция СЛУЧАЙНО вызывалась из кода в одной из корутин, и конечно же это же не асинхронная функция - никто даже в мыслях не допускал что оно берет и СТАКАЕТ до конца жизни воркера...
так как заметить это ЗВЗДЦ невозможно - кто откуда и через какую неявную функцию вызывает - то казалось что оно просто тяжелое, медленное и вообще
вот так и жило. 16 реплик ради того что бы поддерживать этот дедлок. сами себе злобные буратино
а вот как оно должно работать было. хотя-бы
_thread_local = threading.local()
def run_on_loop(coro: Coroutine[Any, Any, _TR], /) -> _TR:
try:
new_loop_id = id(asyncio.get_event_loop())
if not hasattr(_thread_local, "pool"):
_thread_local.pool = ThreadPoolExecutor(max_workers=5, thread_name_prefix="async_runner")
_thread_local.loop_id = new_loop_id
elif _thread_local.loop_id != new_loop_id:
_thread_local.pool.shutdown(wait=False)
_thread_local.pool = ThreadPoolExecutor(max_workers=5, thread_name_prefix="async_runner")
_thread_local.loop_id = new_loop_id
future = _thread_local.pool.submit(asyncio.run, coro)
return future.result()
except RuntimeError:
raise
asyncio.run(coro)
ну хотя бы так. тут по-хорошему еще мьютекса не хватает, что бы оно меняло трэды дожидаясь... и что бы чистило треды за собой... но это другая история.
тут работает по-другому -
asyncio.run(coro) создаёт НОВЫЙ loop в ДРУГОМ threadНет deadlock потому что:
Loop A (running) → блокирует Thread A на future.result()
Loop B (new) → создаётся в Thread B, независимый от Loop A
Thread A ждёт Thread B синхронно (не через event loop)
в целом если хочется что бы корутина отработала внутри другой можно заюзать пакет nest-asyncio. но это лишняя зависимость. но она удобная.
👍3👏1
простой спидран
- api gateway
- health-check api endpoint
- jwt
- idempotentic consumer
== https://youtu.be/6AVxBxcU2NQ?si=DHYXtT3wxQ-as-dL
сохраню что бы ученику скинуть. ему как раз проходить собес)
- api gateway
- health-check api endpoint
- jwt
- idempotentic consumer
== https://youtu.be/6AVxBxcU2NQ?si=DHYXtT3wxQ-as-dL
сохраню что бы ученику скинуть. ему как раз проходить собес)
YouTube
Популярные шаблоны микросервисной архитектуры за 20 минут | Паттерны MCA | Microservices
Какие популярные шаблоны проектирования применяются в микросервисной архитектуре?
С чего начать изучение микровервисов?
Что рассказать на собеседовании о микросервисах?
Какие Шаблоны МСА стоит учить в первую очередь?
В этом видео Макс Добрынин расскажет…
С чего начать изучение микровервисов?
Что рассказать на собеседовании о микросервисах?
Какие Шаблоны МСА стоит учить в первую очередь?
В этом видео Макс Добрынин расскажет…
🔥2
как приятно что Климов в строю!
== Feature Flags
https://youtu.be/8QtLIAfqkTQ?si=om42mpxtXB0foKlf
- достаточно базовая вещь. недавно был спор с продуктовиком про это
== Feature Flags
https://youtu.be/8QtLIAfqkTQ?si=om42mpxtXB0foKlf
- достаточно базовая вещь. недавно был спор с продуктовиком про это
YouTube
Feature flags от А до Я
Разбираемся с feature flags
---
Видео создано благодаря подписчикам проекта на нашем Patreon.
Хотите получать контент на 3 месяца раньше остальных? Присоединяйтесь! https://patreon.com/javanoscriptninja
---
Видео создано благодаря подписчикам проекта на нашем Patreon.
Хотите получать контент на 3 месяца раньше остальных? Присоединяйтесь! https://patreon.com/javanoscriptninja
❤3
== Самый крутой Промпт для программистов?
https://youtu.be/HqXZHs6E-TU?si=rIaCWPTGxnIkf6xX
https://youtu.be/HqXZHs6E-TU?si=rIaCWPTGxnIkf6xX
YouTube
Самый крутой Промпт для программистов?
Guide DAO — образовательное сообщество в сфере Web3 и AI с 1400+ активными участниками: от новичков без опыта до разработчиков и фаундеров собственных проектов. Сайт - https://www.guidedao.xyz/ru Промокод - LARCHANKA
Промпты для нейросетей – это не так просто…
Промпты для нейросетей – это не так просто…
== Firebase MCP + Antigravity
https://youtu.be/DUw5xbxui6U?si=IGpfBJSGTBNsWzsd
к слову, сколько же щит-аватаров будет впереди. а у меня на них уже аллергия
https://youtu.be/DUw5xbxui6U?si=IGpfBJSGTBNsWzsd
к слову, сколько же щит-аватаров будет впереди. а у меня на них уже аллергия
YouTube
Goolge Antigravity + Firebase MCP is WILD!
Want to make money and save time with AI? Join here: https://juliangoldieai.com/BJUvIn
== Первый массовый взлом систем с помощью нейросети Claude от Anthropic
https://youtu.be/LIR4LD1VRbA?si=K5MKGRZ4j7Wnz-GP
https://youtu.be/LIR4LD1VRbA?si=K5MKGRZ4j7Wnz-GP
YouTube
Первый массовый взлом систем с помощью нейросети Claude от Anthropic
🔥 Станьте востребованным бизнес-аналитиком на курсе от Академии Eduson — https://www.eduson.tv/~gYD01g
По промокоду ЛАРЧЕНКО получите скидку 65% и второй курс в подарок!
Недавно компания Anthropic, разработчик ИИ-модели Claude, опубликовала шокирующий отчет:…
По промокоду ЛАРЧЕНКО получите скидку 65% и второй курс в подарок!
Недавно компания Anthropic, разработчик ИИ-модели Claude, опубликовала шокирующий отчет:…