GPT-4 Turbo, со стихами на русском языке справляется чуть лучше, но приходится рифмы подбирать вручную пошагово, каждую строчку. Зато хорошо следует инструкциям.

Как бы это всё упаковать в один промт?

Сравнил новую модель от Сбера gigaChat pro (цитата: самый мощный ИИ, сделанный в России) с ламой 70B в задачах факт чека на русских текстах. Лама в этом плане намного умнее, Гигачат в половине случаев не замечал ошибки, там где лама их находила, хотя и периодически скатывалась в своих ответах на английский язык.

Надо будет сделать свой топ LLM для задач факт чека на русском.

Скоро ИИ будет проверять дз школьников и дипломы студентов 😁

Hands free voice call to your LLM!
I guess there are easier ways to route speech and audio from SillyTavern to phone, but used this:

- 2 telegram accounts (one for your phone and one for your PC), you can try with 2 Whatsapp accounts.
- VB-Audio Additional Virtual Cables. It's a paid app, but there are always options, https://vb-audio.com/Cable/
- OBS studio
- official XTTSv2 extension for silly tavern
- modified streaming speech recognition extension for silly tavern with faster-whisper. Guide: https://github.com/Mozer/wav2lip_extension/blob/main/README_voice_call.md

At home it works flawlessly with TWS headphones, but at the street all the ambient noises reduce speech recognition quality. Short questions work fine, but longer things can turn your call into a disaster (bad TWS microphone, poor Bluetooth, bad 4G signal, other people voices, street sounds). Anyway it's winter and having the ability to chat with your LLM outside without use of hands is great.