Можете запускать свои локальные lmstudio / ollama / vllm и так же использовать в проекте
Проект обзавелся раннером и теперь у нас дистрибутивы на любой вкус
https://gitverse.ru/chernov/todeskai-releases/releases
https://gitverse.ru/chernov/todeskai-releases/releases
