фактически ты думаешь что процессор делает:
читаем инструкцию
Декодируем
Выполняем

и так повторить пока есть что выполнять

Это кстати классические RISC (RISC-V например)

А затем мы начинаем добавлять фичи

например добавляем конвеер (pipeline)

пока мы читаем инструкцию

мы можем что-нибудь посчитать

и в разных стадиях несколько вещей могут выполняться параллельно

но это все еще in-order

in-order более эффективны с точки зрения потребляемой энергии (обычно), меньше по площади и проще делать

но

они медленее

например мы встретили загрузку из памяти - она долгая

и пока она не закончится мы ничего выполнять не можем, конвеер загружен

тут приходит out of order

Это совсем не то что думают программисты

это параллельные задачи

фактические последние лет 20 индустрия пыталась сделать более умный процессор который сможет оптимизировать код на лету

например у нас есть код делающий:
R1 = Load A
R2 = Load B
R3 = R1 + R2

и потом идет другое:
R1 = 1
R2 = 1
R3 = R1 + R2

in-order сделает все последовательно

но out-of-order на это посмотрит и скажет что "а ваще давайте переназначим регистры и сделаем все параллельно)