🖥 Почему нелинейная функция Softmax часто бывает последней операцией в сложной нейронной сети? (Тема: Нейронные сети)

Ответ

Потому, что она принимает вектор действительных чисел и возвращает распределение вероятностей. Какой бы вектор x ни подали на ее вход (неважно, положительных или отрицательных), на выходе будет набор чисел, пригодный в качестве распределения вероятностей: каждый элемент выходного значения будет неотрицательным, и их сумма будет равна 1.

@machinelearning_interview

🖥 Какие вы знаете метрики для регрессии?
Вкратце расскажите о каждой (как она считается, какой смысл несет).

Ответ
1. mse, rmse, mae, mape, smape, wape, r^2

mse - (среднеквадратическая ошибка) — необходимо посчитать разницу между прогнозом и реальным значением для каждого объекта, а затем возвести каждую в квадрат, сложить результаты и разделить на число объектов.

rmse - (корень из среднеквадратической ошибки) — необходимо посчитать разницу между прогнозом и реальным значением для каждого объекта, возвести каждую в квадрат, сложить результаты, поделить на число объектов, а затем взять корень из получившегося среднего значения.

mae - средняя абсолютная ошибка, хорошо интерпретируется, имеет проблемы с производной, поэтому не используется в качестве функции потерь

mape - средняя абсолютная ошибка в процентах, отлично интерпретируется

smape - симметричная средняя абсолютная ошибка в процентах, преимущество данной метрики в том, что одинаково штрафует за отклонения в большую, и в меньшую сторону

wape - взвешенная абсолютная ошибка, сталкивался с метрикой во временных ряда в задачах прогнозирования спроса, может кто знает в чем ее преимущества?

r^2 - показывает как хорошо модель объясняет дисперсию целевой переменной

@machinelearning_interview