💡LIME (Local Interpretable Model-agnostic Explanations) — метод для понимания логики принятия решений моделей машинного обучения. Он берёт одно предсказание (например, диагноз пациента по медицинским данным) и строит из него простую линейную модель. Она приближённо объясняет, какие признаки (возраст, пол, анализы) повлияли на это предсказание.

⚙️ Как работает:

LIME фокусируется только на небольшом участке вокруг выбранного примера. Он как бы «зумит» сложную нелинейную модель. Это как если бы вы увеличили извилистую линию настолько, что в итоге увидели бы в окне зума, как эта линия становится прямой.

За степень такого «зума» отвечает ширина ядра, которая определяет, сколько ближайших предсказаний использовать для построения объясняющей модели. Маленькая ширина ядра «видит» только самые близкие точки, а большая — учитывает более отдаленные. Если ядро слишком маленькое — есть риск построить неверный тренд, а если слишком большое — упустить линейность.

❕Преимущества LIME:
- Прост в реализации и подходит для любых ML-моделей в разных сферах.
- Позволяет объяснить решения модели на конкретных примерах.

Посмотреть версии LIME для работы с разными типами данных, в том числе с временными рядами и графами, можно по ссылке.
На картинке ширина ядра при работе LIME.

Использовано изображение Giorgio Visani