Собрать RAG-приложение на AWS проще, чем кажется.

Разберём, как это сделать на сервисах, которые и так всем знакомы.

В основе RAG всегда два этапа: ingestion и querying.

Вот как каждый из них можно реализовать в AWS.

1. Ingestion: превращаем сырые данные в доступные для поиска знания

Документы лежат в S3

При появлении новых данных срабатывает Lambda

Она чистит текст, режет его на чанки и строит эмбеддинги через Bedrock Titan Embeddings

Эмбеддинги сохраняются в векторное хранилище, например OpenSearch Serverless

В итоге получается база знаний, по которой можно искать.

Важный момент: переиндексация.
Если в документе поменялся один символ, нет смысла прогонять его целиком заново. Умный diff и инкрементальные апдейты сильно экономят и время, и деньги.

2. Querying: поиск и генерация ответа

Пользователь задаёт вопрос в приложении

Запрос проходит через API Gateway в Lambda

Вопрос превращается в эмбеддинг и матчится с векторной БД

Самые релевантные чанки передаются в LLM из Bedrock, например Claude

Готовый ответ возвращается пользователю

Так LLM отвечает не «из головы», а опираясь на реальные данные.

Это самый базовый вариант RAG на AWS, но сам паттерн не меняется при масштабировании.

Можно добавлять более умный чанкинг, улучшенный retrieval, кэширование, оркестрацию, eval-пайплайны — архитектура остаётся той же.

👉 @DataSciencegx