По приколу сделал чат https://news.1rj.ru/str/econexai в котором боту показываются посты по экономическим событиям из https://news.1rj.ru/str/markettwits , а затем языковая модель Qwen 1.5-72B пытается ответить на ваш вопрос. Бот не видит другие сообщения и видит только один текущий вопрос и 160 последних постов. На момент написания этого поста идет синхронизация и обработка находиться в начале 2021 года.
Как один из вариантов улучшения это фильтровать посты и показывать боту только связанные с вопросом посты. Например на вопрос про биткоин фильтровать только те новости, которые хоть как то связанные с криптовалютой. А еще можно было бы боту показывать цены каких то инструментов. Не знаю буду ли я что то улучшать и будет ли это работать вообще.
Если есть предложения или бот не работает, то пишите🫢